Глава 7. Предстоящие трудности

«Защитникам окружающей среды следует сосредоточиться на идее мира, в котором достаточно благ и технических возможностей, и большего не требуется» ¹.

Билл Маккиббен, экоактивист, журналист, автор книг и статей о проблеме глобального потепления

«Мне просто кажется, что их бегство от техники и ненависть к ней – саморазрушительны. Верховное Божество, Будда, чувствует себя так же уютно в цепях цифровой ЭВМ и в шестернях коробки передач мотоцикла, как и на вершине горы или в лепестках цветка. Думать иначе – значит принижать Будду, то есть принижать самого себя» ².

Роберт М. Пёрсиг, «Дзен и искусство ухода за мотоциклом»

Надежды и тревоги

На протяжении всей этой книги мы рассуждали о том, как последние годы перед наступлением Сингулярности станут для человечества временем успеха и процветания. Однако прогресс, который значительно улучшит жизнь миллиардов человек, также принесет и беспрецедентные опасности. Новые виды ядерного оружия, достижения синтетической биологии и продукты нанотехнологий – все это таит в себе угрозы, с которыми нам предстоит разобраться. В скором времени искусственный интеллект обретет сверхчеловеческие способности, и наша задача – сделать так, чтобы его деятельность преследовала благие цели, а сам он был защищен от злоупотреблений. Есть все основания полагать, что наша цивилизация сможет преодолеть все трудности. И не потому, что угрозы недостаточно серьезны, а потому, что ставки слишком высоки. Сложные времена всегда рождали лучшие умы, а кроме того, технические достижения, несущие в себе опасности, также помогут нам создать эффективные средства для их предотвращения.

Ядерное оружие

Примерно когда я родился, человечество впервые в своей истории создало технологию, способную разом уничтожить всю цивилизацию. Помню, как в школе на учениях по гражданской обороне нас заставляли залезать под парты и закрывать голову руками, чтобы защититься от ударной волны термоядерного взрыва. Видимо, это действенная мера, раз мы до сих пор живы.

В настоящее время у человечества есть примерно 12 700 ядерных боеголовок. Из них примерно 9440 развернуты и могут быть использованы в случае ядерного конфликта³. США и Россия располагают арсеналом приблизительно в 1000 крупных атомных боеголовок каждая и могут пустить их в бой в течение получаса⁴. Обмен ядерными ударами почти моментально убьет несколько сот миллионов человек⁵, однако последствия такого конфликта унесут жизни миллиардов людей.

Поскольку население планеты сильно рассредоточено, даже масштабная ядерная война не закончится полным истреблением всего человечества в короткий срок⁶. Однако радиоактивные осадки постепенно заразят обширные пространства на земном шаре, а пожары в крупных городах приведут к выбросу в атмосферу гигантских объемов сажи, вызвав глобальное похолодание и голод. Учитывая неизбежный коллапс служб здравоохранения, все это значительно увеличит число жертв. В будущем ядерный арсенал может быть пополнен за счет «грязных» бомб, содержащих кобальт-60 или другие опасные элементы, заражение которыми будет иметь чудовищные последствия для затронутых территорий. В 2008 году Андерс Сандберг и Ник Бостром провели опрос среди участников конференции «Риски глобальных катастроф», проходившей в Институте будущего человечества Оксфордского университета. В среднем эксперты оценили шансы, что к 2100 году в ядерных конфликтах погибнет по крайней мере миллион человек, в 30 %, миллиард человек – в 10 %, а вероятность гибели всей нашей цивилизации в результате применения ядерного оружия составила по данным опроса один процент⁷.

По состоянию на 2023 год пять государств обладают так называемой «ядерной триадой», состоящей из межконтинентальных баллистических ракет, авиабомб и баллистических ракет подводного базирования. Это США с 5244 боеголовками, Россия с 5889, Китай с 410, Пакистан с 170 и Индия с 164⁸. Еще три страны располагают более скромными средствами для нанесения ядерного удара: Франция с 290 боеголовками, Великобритания с 225 и Северная Корея с примерно 30. Израиль официально не подтвердил наличия у него ядерного оружия, но, по-видимому, обладает всеми компонентами триады и 90 боеголовками.

Мировое сообщество заключило ряд международных договоров⁹ об ограничении стратегических ядерных вооружений, благодаря чему количество стоящих на дежурстве боеголовок в мире сократилось с максимума в 64 449 штук в 1986 году до менее чем 9500¹⁰. Кроме того, были прекращены наземные испытания¹¹, а космос объявлен безъядерной зоной¹². Однако даже такого небольшого количества активных боеголовок все равно достаточно для уничтожения нашей цивилизации¹³. Даже при том что риск начала ядерной войны в каждом отдельном году невелик, им ни в коем случае нельзя пренебрегать на отрезке в несколько десятилетий или целого века. До тех пор пока ядерное оружие стоит на боевом дежурстве, его применение в какой-либо точке мира – по приказу правительства, по инициативе террористов или мятежных военных или же просто по стечению обстоятельств – остается лишь вопросом времени.

Наиболее известной стратегией снижения риска ядерной войны, которая использовалась как Соединенными Штатами, так и Советским Союзом на протяжении большей части холодной войны, является гарантированное взаимное уничтожение (mutually assured destruction – MAD)¹⁴. В ее основе лежит угроза немедленного и мощного ответного удара всеми имеющимися ядерными средствами в случае применения ядерного оружия противоборствующей стороной. Такой подход основывается на теории игр. Если каждая из сторон понимает, что попытка нанести даже один ядерный удар неминуемо приведет к ее уничтожению ответным огнем, никто не осмелится первым начать агрессию. Для обеспечения ядерного паритета необходимо, чтобы каждая из сторон обладала возможностью быстрой доставки ядерных ракет к цели в обход защитных систем противника¹⁵. Если у страны появятся средства обороны от входящего ядерного удара, принцип взаимного сдерживания перестанет работать. Хотя некоторые ученые считают, что начало конфликта, так или иначе, было бы самоубийственным решением для атакующей стороны из-за его глобальных последствий, что нашло отражение в термине «гарантированное самоуничтожение» (self-assured destruction – SAD)¹⁶.

Отчасти из опасения нарушить хрупкое равновесие мировые державы не слишком активно разрабатывали системы противоракетной обороны. В результате к 2023 году ни у одной из стран нет надежного средства защиты от массированного удара. Однако в последнее время появились новые носители ядерного оружия, что может дестабилизировать ситуацию. Россия разрабатывает подводные дроны, способные нести на борту ядерное оружие, а также крылатые ракеты с ядерной силовой установкой. Эти ракеты могут долго кружить над территорией противника и поражать цели, используя неожиданные траектории подлета¹⁷. Кроме того, Россия, Китай и США работают над созданием гиперзвуковых ракет, способных совершать маневры уклонения на пути к цели¹⁸. Поскольку все эти системы являются абсолютно новыми, существует дополнительный риск, что противоборствующие стороны неверно оценят их военный потенциал и предпримут неадекватные действия.

Даже в условиях ядерного паритета остается вероятность наступления катастрофических последствий из-за ошибок или недопонимания¹⁹. Мы настолько привыкли к такому положению дел, что даже не считаем нужным обсуждать эту тему.

При всем при этом у нас есть повод с оптимизмом смотреть в будущее в плане ядерной угрозы. Силы ядерного сдерживания оберегают нас от конфликта на протяжении 70 лет, а ядерные арсеналы понемногу сокращаются. Хотя есть серьезные опасения по поводу терроризма или возможности применения «грязной» бомбы, достижения в области ИИ обещают помочь с обнаружением и устранением этих угроз²⁰. Хотя ИИ не способен полностью избавить нас от риска ядерной войны, продвинутые системы анализа и управления могут существенно снизить вероятность того, что неисправность какого-либо датчика повлечет за собой применение самого смертоносного оружия, доступного человеку²¹.