15. Последние замечания
Империи будущего будут империями разума.
Уинстон Черчилль
Если мы и дальше будем развивать технику без оглядки на мудрость или осторожность, то слуга может оказаться нашим палачом.
Генерал Омар Брэдли
В 2000 г. в научном сообществе разразилась настоящая буря. Один из основателей Sun Computers Билл Джой написал зажигательную статью, в которой объявил о смертельной опасности, которая угрожает человечеству со стороны передовых технологий. Статья с провокационным названием «Будущему мы не нужны» в журнале Wired гласила: «Самые мощные наши технологии XXI века — робототехника, генная инженерия и нанотехнологии — грозят сделать человечество вымирающим видом». В статье подвергался сомнению моральный облик сотен преданных делу ученых, раздвигающих в своих лабораториях пределы человеческих знаний. Джой подверг сомнению самую суть научных исследований и заявил, что польза от развития техники намного меньше тех громадных угроз, которые эта самая техника создает для человечества.
Он развернул перед глазами читателей жуткую антиутопию, в которой все наши технологии сговорились уничтожить цивилизацию. Против нас когда-нибудь обернутся три ключевых наших создания, предупреждал он:
• когда-нибудь микробы, полученные биоинженерными методами, выскользнут за стены лабораторий и учинят на Земле настоящий хаос. Поскольку собрать их обратно невозможно по очевидным причинам, они, скорее всего, бешено размножатся и породят на планете смертельную чуму хуже, чем в Средние века. Не исключено, что биотехнологии даже изменят ход эволюции человека, положив начало «нескольким отдельным и неравноценным видам… что поставит под угрозу концепцию равенства — краеугольный камень нашей демократии»;
• когда-нибудь наноботы могут взбеситься и выплеснуть в мир неограниченное количество «серой слизи», которая покроет Землю целиком и задушит на ней всякую жизнь. Поскольку наноботы «переваривают» обычные вещества и преобразуют их в другие формы, то испортившиеся наноботы могут выйти из-под контроля и пожрать значительную часть планеты. «Серая слизь станет, безусловно, грустным финалом человеческих приключений на Земле; это намного хуже простого огня или льда, к тому же начаться может с обычной лабораторной случайности»;
• когда-нибудь роботы захватят власть и сменят человечество. Они станут настолько разумными, что просто оттолкнут человечество на обочину. Мы останемся лишь примечанием в книге эволюции. «Роботы ни в каком смысле не будут нашими детьми… На этом пути наше человечество вполне может погибнуть».
Джой утверждал, что по сравнению с опасностью, которую представляют для нас эти три чуда техники, опасность атомной бомбы периода 1940-х гг. может показаться пустяком. Тогда Эйнштейн предупреждал о том, что ядерным технологиям под силу разрушить цивилизацию: «Ясно с поразительной очевидностью, что наши технологии превзошли нашу человечность». Но атомная бомба была создана в результате масштабной правительственной программы, которую можно было жестко регулировать, тогда как эти технологии развиваются частными компаниями, где регулирование сильно ослаблено, если вообще присутствует, указывает Джой.
Конечно, соглашается он, в краткосрочной перспективе эти технологии, возможно, облегчат страдания. Но в долгосрочной перспективе все преимущества померкнут перед тем фактом, что результатом развития этих технологий может стать научный армагеддон, способный положить конец роду человеческому.
Джой даже обвинил ученых в эгоизме и наивности в их попытках создать лучшее общество. Он писал: «Традиционная утопия — это хорошее общество и хорошая жизнь. Хорошая жизнь невозможна без других людей. Эта техноутопия сводится только к заявлениям типа: «Я не буду болеть; я не умру; я буду лучше видеть и поумнею» и т. п. Если бы вы рассказали об этом Сократу или Платону, они посмеялись бы над вами».
Завершается статья следующим заявлением: «Я думаю, не будет преувеличением сказать, что мы стоим на пороге дальнейшего совершенствования абсолютного зла, возможности которого простираются гораздо дальше, чем возможности оружия массового уничтожения по отношению к отдельным государствам…»
Какой же из этого может следовать вывод? «Что-то вроде вымирания», — предупреждает Джой.
Как и ожидалось, статья вызвала целую бурю возражений.
После выхода этой статьи прошло уже больше десяти лет — для высоких технологий это целая жизнь. Сегодня уже можно посмотреть на некоторые из предсказаний автора с позиций нового знания. Оглядываясь назад и рассматривая предупреждения в перспективе, мы без труда заметим, что Билл Джой преувеличил угрозу высоких технологий, но одновременно вынудил ученых взглянуть в лицо этическим, моральным и социальным последствиям их работы, а это всегда хорошо.
Кроме того, его статья положила начало дискуссии о том, что такое человек. Разгадывая молекулярные, генетические и нейронные загадки мозга, не дегуманизируем ли мы в какой-то степени человека, не упрощаем ли, сводя человеческую сущность к набору атомов и нейронов? Если нам удастся нанести на карту все нейроны мозга до единого, а также отследить все нервные пути, не лишит ли это человечество покрова тайны и магии?
Ответ Биллу Джою
Задним числом понятно, что угроза со стороны роботов и нанотехнологий далеко не так близка, как считал Билл Джой, и я сказал бы, что предупрежденное человечество успеет предпринять самые разные контрмеры (к примеру, запретить некоторые направления исследований, если они ведут к созданию неуправляемых роботов, или вставить в них специальные чипы для выключения в критических ситуациях, или разработать надежные устройства для иммобилизации в случае необходимости вообще всех роботов).
Более близкую угрозу несут биотехнологии, где опасность со стороны биомикробов, «улизнувших» из лаборатории, может оказаться вполне реальной. Более того, Рэй Курцвайль и Билл Джой совместно написали статью, где раскритиковали публикацию в открытой печати полного генома вируса испанки 1918 г. — одного из самых опасных убийц современности, погубившего больше людей, чем Первая мировая война. Исследовав тела и кровь жертв эпидемии, ученые восстановили давно погибший вирус, секвенировали его гены и опубликовали результаты в Интернете.
Меры предосторожности против случайного распространения таких опасных вирусов уже принимаются, но необходимо и дальше усиливать их и добавлять новые уровни безопасности. В частности, если новый вирус внезапно проявит себя в каком-нибудь отдаленном уголке мира, у ученых должны быть готовы команды быстрого реагирования, способные изолировать вирус в природе, секвенировать его гены, а затем быстро приготовить вакцину, которая поможет остановить его распространение.
Как это повлияет на будущее сознания
Этот спор, помимо всего, окажет непосредственное влияние на будущее разума. В настоящее время нейробиология находится на достаточно примитивном уровне. Ученые могут прочитать и даже записать на видео простые мысли живого мозга, зафиксировать кое-какие воспоминания, связать мозг с механическими руками (а значит, дать возможность пациентам, лишенным связи с внешним миром, управлять машинами), могут заставить замолчать какие-то конкретные области мозга при помощи магнитного поля, а также определить, нарушение работы каких конкретно участков мозга вызывает болезнь, но не могут сделать еще очень и очень многого.
Однако в ближайшие десятилетия нейробиологию, возможно, ждет взрывной рост. Мы сегодня на пороге новых поразительных научных открытий. Когда-нибудь человек научится без всякого труда силой мысли управлять объектами вокруг себя, записывать воспоминания, лечить болезни психики, повышать интеллект, понимать мозг до последнего нейрона, создавать резервные копии мозга и телепатически общаться друг с другом. Мир будущего будет миром разума.
Но Джой и не оспаривал потенциальные возможности наших технологий в деле облегчения боли и страданий людей. Ужас у него вызывало другое. Он думал о том, что расширение возможностей человека может расколоть род человеческий. В статье он нарисовал грустную антиутопию, в которой крохотная часть человечества — элита — получит усиленный интеллект и разовьет другие ментальные процессы, а основная масса людей будет жить в бедности и невежестве. Его тревожит, что человеческая раса расколется надвое, и может быть, часть ее вовсе перестанет быть людьми.
Но, как мы уже говорили, большая часть технологий появляется сначала как дорогая и эксклюзивная услуга для богатых. Затем, однако, массовое производство, снижение цен, конкуренция и недорогой транспорт неизбежно ведут к тому, что технологии и становятся доступны и бедным. Так было с фонографами, радиоприемниками, телевизорами, персональными компьютерами, ноутбуками и сотовыми телефонами.
Наука не делит мир на имущих и неимущих; напротив, она — двигатель общего процветания. Из всех инструментов, которыми человек овладел с начала времен, самым мощным и продуктивным оказалась наука. Невероятными богатствами мира человечество обязано именно науке. Чтобы понять, что технический прогресс снижает социальное неравенство, а не усиливает его, достаточно вспомнить, как жили наши прадеды в 1900 г. Тогда ожидаемая продолжительность жизни в США составляла 49 лет. Многие дети умирали в младенчестве. Чтобы связаться с соседом, нужно было кричать в окно. Почту доставляли на лошадях, если вообще доставляли. Среди лекарств было множество шарлатанских средств. Единственное, что по-настоящему работало, — это ампутации (без анестезии) и морфин для обезболивания. Пища портилась за несколько дней. Канализации не было. Болезни были постоянной угрозой. А экономика могла поддерживать лишь горсточку богатых и крохотный средний класс.
Технический прогресс изменил все. Нам больше не нужно охотиться ради пищи: мы просто идем в супермаркет. Нам не нужно таскать все на себе: для этого есть автомобили. (Откровенно говоря, самая значительная угроза, которая на данный момент исходит от техники и убивает людей миллионами, — это вовсе не роботы-убийцы или взбесившиеся наноботы, а наш образ жизни, при котором диабет, ожирение, сердечно-сосудистые заболевания, рак и пр. подошли, по существу, к эпидемиологическому порогу. И в этой проблеме виноваты мы сами.)
То же мы видим и на общемировом уровне. За последние несколько десятилетий сотни миллионов людей по всему миру впервые в истории были избавлены от тяжелой нужды. Посмотрев на картину в целом, мы увидим, что значительная часть рода человеческого уже отказалась от неблагодарной жизни земледельца, в поте лица добывающего свой хлеб, и вступила в ряды среднего класса.
Западным странам на индустриализацию понадобилось несколько сотен лет, но Китай и Индия сегодня проделывают тот же путь за несколько десятилетий благодаря высоким технологиям. Беспроводная связь и Интернет позволяют этим странам одним скачком обогнать другие, более развитые, многие годы старательно опутывавшие проводами свои города. Пока Запад сражается со стареющей и разрушающейся городской инфраструктурой, развивающиеся страны строят огромные современные города.
(Когда я работал над диссертацией, мои коллеги в Китае и Индии вынуждены были ждать от нескольких месяцев до года, пока почта доставит им свежие научные журналы. Плюс к тому у них не было практически никаких контактов с учеными и инженерами Запада, поскольку почти никто из них не мог себе позволить приехать сюда. Это очень мешало распространению новых технологий, которые расползались по миру медленно, как ледники. Сегодня ученые могут читать работы друг друга сразу же, как автор выложит их в Интернет, и могут дистанционно сотрудничать с коллегами по всему миру. Потоки информации невероятно ускорились. А вместе с технологиями приходят прогресс и процветание.)
Более того, не факт, что появление каких-то возможностей по повышению интеллекта вызовет катастрофический раскол рода человеческого, даже если многие не смогут позволить себе эту процедуру. По большей части способность решать сложные математические уравнения или абсолютная память не гарантируют ни хорошего дохода, ни уважения сверстников, ни успеха у представителей противоположного пола, а ведь именно эти стимулы создают мотивацию у большинства. Принцип пещерного человека перевешивает повышение интеллекта.
Доктор Майкл Газзанига отмечает: «Идея возни с собственными внутренностями состоит в том, чтобы дать новые возможности многим. И что же мы будем делать с расширенным интеллектом? Собираемся ли мы использовать его для решения проблем, или он просто позволит нам составлять более длинные списки рождественских открыток?..»
Но, как мы говорили в главе 5, безработные тоже могут получить пользу от новых технологий: ведь время, необходимое на освоение новых умений и навыков, резко уменьшится. Это может не только снять остроту проблемы безработицы, но и оказать влияние на мировую экономику, сделав ее более эффективной и чувствительной к переменам.
Мудрость и демократические дебаты
Отвечая на рассуждения Джоя, некоторые критики указывали, что вопрос на самом деле не в борьбе между учеными и природой, как изображено в статье. Вопрос в противоречиях между тремя сторонами: учеными, природой и обществом.
Ученые-компьютерщики, доктора Джон Браун и Пол Дугид, отозвались на статью заявлением: «Технологии, такие как порох, книгопечатание, железные дороги, телеграф и Интернет, могут вызвать в обществе глубочайшие изменения. Но социальные системы в форме правительств, судов, формальных и неформальных организаций, общественных движений, профессиональных сетей, местных сообществ, рыночных институтов и пр. смиряют, придают форму и перенаправляют грубую силу техники».
Главное — анализировать технологии через призму общества; в конце концов, именно мы должны принять новое представление о будущем, которое вберет в себя все самые лучшие мысли.
На мой взгляд, главным источником мудрости в этом отношении служат энергичные демократические дебаты. В ближайшие десятилетия публику, вероятно, попросят высказать свое мнение и проголосовать по множеству принципиальных научных вопросов. Технологии невозможно обсуждать в вакууме.
Философские вопросы
Наконец, некоторые критики утверждали, что наука зашла слишком далеко в раскрытии тайн разума и что полученные учеными разгадки дегуманизируют и унижают человека. Какой смысл стараться открывать что-то новое, учиться чему-то новому или наслаждаться отдыхом, если все это можно свести к нейромедиаторам, активирующим несколько нервных контуров?
Иными словами, как астрономия сводит человечество к незначительным пылинкам по сравнению с величием космоса и Вселенной, так нейробиология сводит человеческую сущность к электрическим сигналам, циркулирующим по нейронным путям. Но так ли это?
Мы начали дискуссию с того, что назвали две величайшие загадки всей науки: это разум и Вселенная. Эти две сущности связаны не только общей историей и сюжетом; у них схожая философия, а возможно, и общая судьба. Наука, которой под силу заглянуть в сердце черной дыры и приземлиться на далекой планете, породила две всеобъемлющие философские концепции, имеющие отношение к разуму и Вселенной: принцип Коперника и антропный принцип. Тот и другой согласуются со всеми известными данными, но по существу они диаметрально противоположны.
Первая концепция — принцип Коперника — родилась с изобретением телескопа более 400 лет назад. Этот принцип говорит о том, что человечество не занимает во Вселенной привилегированного положения. Эта обманчиво простая идея низвергла культивировавшиеся тысячами лет мифы и укоренившиеся философские концепции.
Впервые после изгнания Адама и Евы из райского сада за приобщение к плоду познания человечеству довелось пережить несколько унизительных разоблачений подряд. Во-первых, телескоп Галилея ясно показал, что Земля не является центром Солнечной системы; этот центр — Солнце. Но и эту картину пришлось пересматривать, когда ученые поняли, что Солнечная система — всего лишь пылинка в нашей Галактике и находится примерно в 30 000 световых лет от ее центра. Затем, в 1920-е гг., Эдвин Хаббл открыл множественность галактик. Вселенная неожиданно увеличилась в миллиарды раз. Теперь космический телескоп Хаббла сообщает о том, что в видимой Вселенной имеется до 100 млрд галактик. Наша Галактика сжалась в точку на громадной космической арене.
Более свежие космологические теории еще принизили положение человечества во Вселенной. Теория инфляционной Вселенной утверждает, что видимая ее часть с сотней миллиардов галактик — всего лишь точка в гораздо более масштабной расширяющейся Вселенной, которая настолько велика, что большая часть света из отдаленных ее областей до нас попросту еще не успела дойти. Существуют громадные пространства, которые мы не можем увидеть в наши телескопы и где никогда не сможем побывать, поскольку передвигаться быстрее света невозможно. А если теория струн (моя специализация) верна, то вся наша Вселенная сосуществует с другими вселенными в одиннадцатимерном гиперпространстве. Так что даже трехмерное пространство — не последнее слово. Истинная арена физических явлений — это мультивселенная, в которой плавает множество пузырей-вселенных.
Фантаст Дуглас Адамс попытался отразить ощущение непрерывного ниспровержения основ, придумав в книге «Автостопом по Галактике» устройство под названием Полный Перспективный Вихрь. Он был разработан для того, чтобы превратить любого здравомыслящего человека в душевнобольного. Вы входите в комнатку, и все, что видите вокруг, — это гигантскую карту Вселенной. А на карте крохотной, почти невидимой стрелочкой обозначено: «Вы здесь».
Так что, с одной стороны, принцип Коперника указывает на то, что мы — всего лишь незначительный космический мусор, бесцельно дрейфующий среди звезд. Но, с другой стороны, все последние космологические данные хорошо согласуются с еще одной теорией, отражающей иную философию: с антропным принципом.
Эта теория утверждает, что Вселенная совместима с жизнью. Из этого обманчиво простого утверждения следуют очень глубокие вещи. Оспорить факт существования жизни во Вселенной невозможно. Однако ясно также, что силы природы должны быть откалиброваны очень точно, чтобы эта жизнь стала реальностью. Физик Фримен Дайсон однажды сказал: «Кажется, Вселенная знала, что мы появимся».
Так, если бы ядерное взаимодействие было чуть сильнее, Солнце выгорело бы миллиарды лет назад — слишком быстро, чтобы ДНК успела «встать на ноги». А если бы это взаимодействие было чуть слабее, то Солнце вообще никогда бы не вспыхнуло и нас бы здесь тоже не было.
Аналогично, если бы гравитация была сильнее, Вселенная коллапсировала бы в Большом сжатии миллиарды лет назад и мы все изжарились бы. Если бы она была немного слабее, Вселенная расширялась бы так быстро, что дошла бы до стадии Большого замерзания, а мы все замерзли бы.
Такая тонкая настройка распространяется на каждый атом нашего тела. Физика подсказывает, что все мы сделаны из звездной пыли, что все атомы рождены в гигантской звездной печи. Мы в буквальном смысле дети звезд.
Но ядерные реакции, которые выжгли водород и образовали более тяжелые элементы нашего тела, очень сложны; их цепочка могла прерваться в любой момент. Тогда возникновение тяжелых элементов было бы невозможно, и атомы ДНК, а также жизнь не возникли бы.
Иными словами, жизнь драгоценна — это настоящее чудо.
Тонкой настройки требует такое количество параметров, что кое-кто считает, что это не может быть случайностью. Слабый антропный принцип предполагает, что существование жизни вынуждает физические параметры Вселенной лежать в очень узком и точно определенном диапазоне. Сильный антропный принцип заходит еще дальше и утверждает, что Бог или какой-то другой дизайнер создал Вселенную именно такой намеренно, чтобы жизнь в ней была возможна.
Философия и нейробиология
Спор между принципом Коперника и антропным принципом отражается и в нейробиологии. К примеру, некоторые ученые утверждают, что человека можно свести к совокупности атомов, молекул и нейронов и потому во Вселенной нет для человечества достойного места.
Доктор Дэвид Иглмен пишет: «Тот вы, которого ваши друзья знают и любят, не может существовать, если все транзисторы, болтики и винтики в вашем мозгу на месте. Если вы в это не верите, зайдите в неврологическое отделение любой больницы. Повреждение даже небольших участков мозга может привести к ужасу утраты нужных навыков: способности называть животных, или слышать музыку, или рисковать, или различать цвета, или принимать простые решения».
Представляется, что мозг не может функционировать без всех своих «винтиков и болтиков». Иглмен делает вывод: «Наша реальность зависит от того, на что способна наша биология».
Итак, с одной стороны, наше место во Вселенной умаляется, если нас можно, как роботов, свести к совокупности (биологических) винтиков и болтиков. Мы — всего лишь плоть, в которой действует программа под названием сознание — ни больше ни меньше. Наши мысли, желания, надежды и стремления можно свести к электрическим импульсам, циркулирующим в некоторой области префронтальной коры. Это принцип Коперника в применении к сознанию.
Но к сознанию можно применить и антропный принцип, и тогда мы придем к противоположному выводу. Он гласит, что условия во Вселенной делают сознание возможным, хотя получить разум в результате случайных событий очень сложно. Великий биолог Викторианской эпохи Томас Гексли говорил: «Как получается, что нечто столь замечательное, как состояние сознания, возникает в результате раздражения нервной ткани, столь же непостижимо, как появление джинна в результате того, что Аладдин потер лампу».
Более того, большинство астрономов считает, что когда-нибудь нам, возможно, удастся обнаружить жизнь на других планетах, но это, скорее всего, будет микрожизнь, властвовавшая в наших океанах миллиарды лет. Вместо великих городов и империй мы, возможно, увидим лишь океаны дрейфующих микроорганизмов.
Когда я во время интервью спросил об этом у ныне покойного гарвардского биолога Стивена Джея Гулда, он объяснил мне, что думает так: если бы мы могли каким-то образом получить копию Земли такой, какой она была 4,5 млрд лет назад, то что стало бы с ней через 4,5 млрд лет? Стала бы она точной копией Земли сегодняшней? Скорее всего, нет. Существует значительная вероятность, что ДНК и жизнь никогда не стали бы на ноги, и еще бóльшая вероятность того, что разумная жизнь и сознание никогда не поднялись бы из трясины.
Гулд писал: «Homo sapiens — всего лишь небольшая веточка [на древе жизни]… Тем не менее наша веточка, к добру или к худу, развила в себе самое необычное новое качество в истории многоклеточной жизни, начиная с кембрийского взрыва 500 млн лет назад. Мы изобрели сознание со всеми его следствиями от Гамлета до Хиросимы».
Вообще-то в истории Земли было множество моментов, когда разумная жизнь легко могла исчезнуть. Помимо массового вымирания, стершего с лица планеты динозавров и бóльшую часть других видов, человечество переживало и собственные катастрофические периоды. Так, все люди на Земле генетически довольно близко связаны между собой — намного ближе, чем типичные животные одного вида. Люди могут выглядеть по-разному, но наши гены и внутренняя биохимия говорят о другом. Любые два человека на планете так близкородственны друг другу генетически, что можно даже подсчитать, когда именно «генетическая Ева» или «генетический Адам» дали жизнь всему роду человеческому. Более того, можно вычислить, сколько всего людей жило на Земле в прошлом.
Числа, кстати, получаются замечательные. Генетика показывает, что 70 000–100 000 лет назад на Земле жило от нескольких сотен до нескольких тысяч человек, от которых и пошел весь род человеческий. (Одна из теорий утверждает, что титанический взрыв вулкана Тоба в Индонезии около 70 000 лет назад вызвал такое похолодание, что большая часть людей вымерла, а горстка оставшихся вновь заселила Землю.) Из этой небольшой группы людей вышли искатели приключений и исследователи, которым со временем удалось колонизировать всю планету.
Раз за разом в ходе истории Земли разумная жизнь на ней оказывалась в тупике. Чудо, что мы все же уцелели. Можно заключить также, что, хотя жизнь может существовать на многих планетах, сознательная жизнь, по всей видимости, развивается лишь на крохотной их части. Поэтому мы должны ценить земной разум. Это высшая форма сложности, известная во Вселенной, и, вероятно, самая редкая.
Иногда, размышляя о будущей судьбе рода человеческого, я думаю и о вероятности нашего самоуничтожения. Конечно, вулканы и землетрясения опасны для человека и могут погубить его, но думается, что самую большую опасность для нас представляют рукотворные катастрофы, такие как ядерная война или микробы, созданные в лабораториях биоинженерии. Если так, то единственная, возможно, разумная жизнь в этой части Галактики может погибнуть. Мне кажется, это было бы трагедией не только для нас, но и для Вселенной. Сознание кажется нам естественным состоянием, но мы не задумываемся о длинной и непростой цепочке биологических событий, которая привела к его возникновению. Психолог Стивен Пинкер пишет: «Я сказал бы, что ничто не придает жизни большей целеустремленности, чем понимание того, что каждый момент осознания себя есть драгоценный и хрупкий дар».
Чудо сознания
Наконец, есть критики науки, утверждающие, что понять что-то означает сорвать с этого чего-то покров тайны и волшебства. Наука, срывая с сознания покровы, делает его более обычным и будничным. Однако, чем больше я узнаю о сложности мозга, тем сильнее поражаюсь тому, что на плечах у нас находится самый сложный известный нам объект во Вселенной. Доктор Дэвид Иглмен говорит: «Какой все же мозг загадочный шедевр, и как же нам повезло, что мы принадлежим к поколению, у которого есть технологии и воля обратить на него свое внимание! Это самая чудесная вещь, которую мы до сих пор обнаружили во Вселенной, — и это мы». Вместо того чтобы умалять наше восхищение, новые знания о мозге лишь усиливают его.
Более двух тысяч лет назад Сократ сказал: «Познай самого себя — это начало мудрости». Нам предстоит долгий путь, прежде чем мы сможем выполнить его пожелание.
