Нанотехнологии

Основные риски в сфере биотехнологий связаны со способностью к размножению. Одиночная проблемная клетка не представляет большой угрозы. То же самое справедливо и для нанотехнологий: каким бы разрушительным ни был один наноробот, для того чтобы вызвать масштабный кризис, он должен много раз самовоспроизвестись. Нанотехнологии открывают возможности для создания самых различных видов оружия, в том числе чрезвычайно мощных. Кроме того, при достаточно высоком уровне развития нанотехнологий производство такого оружия может быть очень дешевым, в отличие от ядерного арсенала, создание которого требует значительных ресурсов. Чтобы понять, насколько дорого отдельной группе людей может обойтись создание ядерного оружия, можно рассмотреть пример Северной Кореи, которая в настоящее время фактически стала государством-изгоем, не имеющим доступа к мировым ресурсам. По оценкам правительства Южной Кореи, ядерная программа КНДР в 2016 году, когда страна получила ядерные ракеты, обошлась ей в сумму от 1,1 до 3,2 миллиарда долларов³⁹.

Биологическое оружие, напротив, может быть очень доступным. Согласно отчету НАТО, опубликованному в 1996 году, такие вооружения могут быть созданы за 100 000 долларов (около 190 000 в ценах 2023 года) силами команды из пяти биологов в течение нескольких недель, причем без какой-либо сложной аппаратуры⁴⁰. Что касается эффективности применения, то еще в 1969 году группа экспертов, готовя доклад для ООН, пришла к выводу, что биологическое оружие примерно в 800 раз более эффективно (с точки зрения затрат) в плане уничтожения гражданского населения, чем ядерное. За прошедшие полвека биотехнологии, безусловно, значительно продвинулись вперед, и эта разница наверняка стала еще более заметной⁴¹. Пока сложно сказать, сколько будут стоить вещи, созданные с помощью нанотехнологий, поскольку они будут работать на принципах самовоспроизводства, заимствованных из биологии. Однако в качестве ориентира можно рассмотреть стоимость биологического оружия. Нанотехнологии будут в полной мере использовать ИИ для оптимизации процесса производства, что, вероятно, еще больше снизит затраты.

Можно предположить, что среди высокотехнологичного оружия окажутся миниатюрные дроны, способные отравить цель, оставаясь незамеченными, или нанороботы, которые смогут попасть в организм с глотком воды или в виде аэрозоля и разрушить его изнутри; или системы, умеющие избирательно атаковать представителей определенных групп людей, ориентируясь на их описание⁴². Эрик Дрекслер, один из теоретиков нанотехнологий, еще в 1986 году писал: «Псевдорастения с листьями, сравнимыми по эффективности с современными солнечными панелями, смогут победить настоящие растения в конкурентной борьбе, наводнив биосферу несъедобными побегами. Выносливые и всеядные искусственные бактерии могут уничтожить обычные: ветер разнесет их, словно пыльцу, и с их скоростью размножения они превратят биосферу в пыль за считаные дни. Опасные репликаторы могут оказаться слишком живучими, мелкими и быстро размножающимися, чтобы с ними можно было справиться, по крайней мере, без должной подготовки. Вирусы и плодовые мушки и те доставляют нам немало проблем»⁴³.

Одним из наиболее часто обсуждаемых сценариев катастрофы является образование так называемой «серой слизи» – массы из самовоспроизводящихся наномашин, которые поглощают углеродсодержащие вещества и преобразуют их в себе подобных роботов⁴⁴. В этом случае цепная реакция может превратить всю биомассу планеты в слизь из нанороботов.

Можно рассчитать, сколько времени потребуется, чтобы уничтожить все живое на Земле. Биосфера планеты содержит примерно 10⁴⁰ атомов углерода⁴⁵. Один экземпляр наноробота состоит приблизительно из 10⁷ атомов углерода⁴⁶. Таким образом, первичному нанороботу нужно будет создать порядка 10³³ копий самого себя – не в одиночку, я подчеркиваю, а опосредованно. Каждый представитель нового поколения нанороботов должен будет произвести в среднем два новых экземпляра или какое-то другое малое количество. Этот итерационный процесс, когда копии создают новые копии, породит невероятное количество нанороботов всего за 110 поколений (поскольку 2¹¹⁰ = 10³³) или за 109 поколений, если нанороботы после репликации остаются действующими⁴⁷. Эксперт по нанотехнологиям Роберт Фрайтас оценивает время самовоспроизводства одного наноробота примерно в 100 секунд. Таким образом, в идеальных условиях превращение всей материи в «серую слизь» заняло бы около трех часов⁴⁸.

Конечно, на самом деле скорость уничтожения всего живого на Земле была бы гораздо ниже, ведь биомасса не свалена в одну кучу. Главным ограничивающим фактором станет скорость распространения фронта разрушения. Из-за своего микроскопического размера нанороботы не могут передвигаться быстро, так что, вероятно, им потребуется несколько недель на то, чтобы обойти земной шар.

Тщательно спланированная двухэтапная атака способна преодолеть это ограничение. В течение определенного времени небольшие порции материи по всему миру могут быть незаметно преобразованы таким образом, чтобы один из тысячи триллионов (10¹⁵) атомов стал частью «дремлющей» армии нанороботов. В такой малой концентрации их будет невозможно обнаружить. Однако когда начнется атака, им не придется далеко продвигаться, поскольку они и так уже будут везде. По условному сигналу (возможно, отправленному небольшой группой нанороботов, которые после самосборки образуют антенны, достаточно длинные, чтобы посылать радиоволны на большие расстояния) заранее рассредоточенные нанороботы начнут процесс самовоспроизводства. Чтобы каждый робот превратился в тысячу триллионов своих копий, потребуется всего 50 итераций удвоения, то есть меньше 90 минут⁴⁹. Скорость распространения фронта волны уничтожения больше не будет сдерживающим фактором.

Иногда звучат мнения, что нанороботы могут представлять опасность, если их умышленно использовать как оружие для уничтожения жизни на Земле, то есть в руках террористов. Однако такие события не обязательно должны быть организованы злоумышленниками. Несложно представить ситуацию, при которой нанороботы случайно окажутся вовлечены в цепную реакцию самовоспроизводства, скажем, из-за ошибок в программировании. Например, неправильно спроектированные роботы, предназначенные для работы только с заданным типом веществ или на определенной территории, могут выйти из-под контроля и вызвать глобальную катастрофу. Поэтому вместо того, чтобы изобретать сложные схемы защиты от потенциально опасных систем, нам следует сосредоточиться на разработке таких нанороботов, которые изначально не представляют никакой угрозы для окружающей среды и людей.

Хорошей защитой от неконтролируемого самовоспроизводства станет проектирование любых самовоспроизводящихся систем по принципу «распределенной архитектуры»⁵⁰. Это означает, что у роботов не будет заранее записанной программы действий. Вместо этого они будут полагаться на инструкции, передаваемые, например, по радиоканалу. В случае возникновения непредвиденных ситуаций сигнал можно будет отключить или изменить, предотвратив цепную реакцию.

Даже если ответственные производители будут проектировать защищенных нанороботов, нельзя исключать вероятность того, что недобросовестные создадут опасных. Поэтому нам необходимо разработать «иммунную систему» для нанотехнологий еще до того, как катастрофические сценарии станут возможными. Такой наноиммунитет должен работать не только в обстоятельствах, когда угроза крупномасштабных разрушений очевидна, но и в любых ситуациях, когда наблюдается неконтролируемое размножение нанороботов, даже в небольших концентрациях.

Вселяет надежду, что специалисты в области нанотехнологий уже серьезно озабочены вопросами безопасности. Протоколы ответственного использования нанотехнологий были разработаны два десятилетия назад на Семинаре по основным принципам исследований в области нанотехнологий 1999 года, на котором присутствовал и я⁵¹. С тех пор эти протоколы постоянно обновляются и дополняются. По-видимому, наилучшим видом «иммунной системы» против «серой слизи» станет «голубая слизь» – масса из нанороботов, которые смогут нейтрализовать своих «серых» собратьев⁵².

Согласно расчетам Фрайтаса, для полной очистки атмосферы Земли в течение 24 часов хватит 88 000 тонн «голубой слизи», если ее оптимально распределить по всему земному шару⁵³. Это количество меньше объема воды, вытесняемого крупным авианосцем, то есть не так и велико по сравнению с массой нашей планеты. Однако эти цифры справедливы лишь в условиях максимальной эффективности и идеального размещения, чего на практике добиться вряд ли удастся. В 2023 году нанотехнологии еще не достигли такого уровня развития, чтобы мы могли точно сказать, насколько требуемый объем «голубой слизи» будет больше или меньше теоретических оценок.

Ясно одно: «голубую слизь» нельзя создавать из веществ, в изобилии встречающихся в природе, потому что из них будет состоять «серая слизь». Нам придется собирать ее из специальных материалов, которые «серая слизь» не сможет поглотить. Прежде чем этот метод будет надежно реализован, нам предстоит решить ряд непростых задач. Также для создания безопасных нанороботов, на которых можно будет положиться, нам нужно найти ответы на множество теоретических вопросов. Однако я убежден, что этот подход сработает. Нет никаких причин, по которым у вредоносных нанороботов должно быть какое-то особое преимущество перед хорошо продуманными защитными системами. Главное – успеть разместить «хороших» роботов по всему миру раньше, чем распространятся «плохие», чтобы цепная реакция самовоспроизводства была вовремя обнаружена и нейтрализована.

В своей статье «Почему будущее в нас не нуждается», опубликованной в 2000 году, мой друг Билл Джой подробно описал потенциальные риски, связанные с развитием нанотехнологий, в том числе гипотетический сценарий появления «серой слизи»⁵⁴. Большинство экспертов, включая меня, считают такой сценарий маловероятным. Все же, поскольку он грозит нам полным вымиранием, очень важно иметь этот риск в виду в процессе развития нанотехнологий в ближайшие десятилетия. Я надеюсь, что при должной осторожности и поддержке ИИ в разработке систем защиты мы сможем оставить подобные сценарии исключительно на страницах научно-фантастических романов.