Много лет по всему Новому Свету ходили слухи о таинственной и могущественной цивилизации, скрытой в непроходимых джунглях Мексики. Испанская корона, наиболее амбициозная среди европейских соперников, начала снаряжать экспедиции из своей опорной базы – крепости на Кубе. Конкистадорам разрешалось вести торговлю, но запрещалось покорять местные народы.

После двух неудачных экспедиций, возглавляемых Франсиско Эрнандесом де Кордобой и Хуаном де Грихальвой, для руководства третьей кампанией был выбран более смелый, дерзкий и менее известный искатель приключений. Кое-кому из местных властей не понравился этот выбор: опасались, что новый капитан не обладает ни опытом, ни рассудительностью, необходимыми для этой миссии, поэтому ее на время отложили, ожидая, пока не отыщется более подходящая замена. Но в феврале 1519 года тридцатичетырехлетний Эрнан Кортес, не желая упустить возможность прославиться, под покровом ночи тайно покинул гавань Сантьяго и в нарушение ряда приказов отправился с одиннадцатью кораблями на поиски скрытой империи.

С момента появления испанских кораблей у побережья Юкатана ацтекские разведчики внимательно наблюдали за ними. Но странные привычки удивительных гостей – сожжение собственных кораблей, передвижение на невиданных «оленях» и владение палками, мечущими молнии, – первоначально вызывали лишь недоумение. Разведданные постепенно стекались в столицу ацтеков Теночтитлан, пока наконец не достигли самого Монтесумы II – девятого императора ацтекской империи. На сей раз правитель, обычно решительный и твердый, колебался.

В ацтекской мифологии Топильцин Кецалькоатль – легендарный правитель тольтеков – считается принесшим цивилизацию и прогресс своему народу, предшествовавшему ацтекам. Его мудрое правление и чудесные деяния, а также имя, унаследованное от бога-творца Кецалькоатля, убедили ацтеков в его сверхъестественном происхождении.

Рассмотрим версию событий, переданную нам испанским монахом-францисканцем Бернардино де Саагуном. Согласно его рассказу, ацтекская легенда гласила, что человек-бог Топильцин Кецалькоатль, который позже впал в немилость, отправился к побережью залива, где, уплывая на маленьком деревянном каноэ, охваченном пламенем, пообещал вернуться с того же направления через море в далеком будущем – в… 1519 году!

Как записал Саагун, прибытие Кортеса в роковой год ожидаемого возвращения Топильцина повергло Монтесуму и его советников в священный трепет. Их ужас и благоговение лишь усиливались поразительным сходством конкистадора с мифическими описаниями древнего правителя. Но когда знамения: комета, затмение, рождение урода – окончательно убедили ацтеков в божественной природе гостя, из столицы тотчас отправилось торжественное посольство с золотом и императорским приглашением для Кортеса. Так произошла встреча представителей Нового и Старого Света.

Монтесума, как свидетельствуют исторические источники, был щедрым хозяином – он устроил роскошный пир и осыпал гостей богатствами, а Кортесу (по обычаям ацтекской дипломатии) даже предложил в жены одну из своих дочерей. Однако за пышным приемом скрывались глубокие противоречия при дворе Монтесумы, которые вскоре раскололи всю империю. Его младший брат Куитлахуак, командующий войсками ацтеков, с самого начала отнесся к чужеземцам с подозрением и настаивал на их изгнании.

Свидетели тех событий описывали, как Кортес и его команда, встревоженные шаткостью своего положения, но приободренные растущими разногласиями при дворе императора, совершили немыслимое: фактически взяли в плен самого Монтесуму. Многих ацтеков это привело в негодование, хотя нашлись и те, кто одобрил этот шаг. Почти год испанцы управляли ацтеками через Монтесуму, используя его как марионеточного правителя, пока напряженность не переросла в открытый конфликт. До сих пор остается неясным, почему и в какой степени ацтеки, из хозяев превратившиеся в пленников, так долго мирились с таким положением дел. Однако личная уступчивость Монтесумы – добровольная или вынужденная – несомненно способствовала поддержанию этой временной зависимости его обширной территории.

Ни один современный правитель, будь то монарх, президент, премьер-министр или генеральный секретарь, не был бы морально готов к встрече с пришельцами, чьи технологии и «случайно своевременное» появление могут создать впечатление божественного вмешательства. Однако этот случай не был единичным – ни тогда, ни долгое время спустя. В последующие столетия государственные деятели, сталкиваясь со сложностями колонизации, объединения территорий и обретения независимости или отвечая на социальные и политические запросы демографически мощных групп иммигрантов, допускали и допускают ошибки даже в более привычных и тщательно спланированных ситуациях, связанных с внешним вмешательством и сменой власти.

Появление ИИ у наших «берегов», подобно прибытию конкистадоров, пробуждает одновременно восторженные надежды и глубокие опасения. Кого-то может привлечь перспектива обрести новый инструмент для укрепления своей власти, способный придать их правлению дополнительную устойчивость и авторитет. Другие спешат предотвратить возможность попадания в тотальную зависимость или хотя бы пытаются подготовиться к управлению ее последствиями. ИИ пробуждает в нас двойственное отношение – как желание принять его, так и стремление отвергнуть.

Но возможен ли сценарий, где ИИ станет завоевателем? Превратятся ли человеческие лидеры в его марионеток – правителей без реального суверенитета? Или, возможно, богоподобный ИИ возродит некогда повсеместную идею божественного права, а короли станут его так называемыми помазанниками? Или же ИИ будет постепенно встраиваться в наши социальные структуры – сначала робко и неуклюже, но со временем становясь их неотъемлемой частью, усиливая и трансформируя их изнутри? Либо людям придется подавлять ИИ, словно опасных мигрантов, искусственно ограничив его возможности и блокируя доступ к власти – лишь бы успокоить охваченную паникой элиту?

Без сомнения, ИИ предоставит человечеству ранее невообразимые возможности для ускорения научных открытий, снижения трудовых нагрузок и облегчения страданий, вызванных болью. Однако гораздо меньше единодушия наблюдается вокруг необходимости или целесообразности использования ИИ в сфере принятия политических решений. Даже если бы исключительные результаты и в этой области были гарантированы, естественно, что мы сомневаемся, можно ли доверить столь значительную власть технологии.

Научные инструменты раздвинули границы нашего познания, открыв новые горизонты понимания мира. Корабли, как защитные коконы, позволяли нам достигать самых отдаленных рубежей неизведанного. Но политическая власть всегда оставалась исключительно человеческой территорией – неприкосновенной для технологий. До сегодняшнего дня.

Долгие века политическая власть воспринималась как божественный дар – вера и управление государством оставались неразрывны. Даже когда современные государства стали светскими, эта связь не исчезла полностью. По меткому замечанию английского философа Г.К. Честертона,

В этом ключе и религия, и политика не только переживали циклы созидания и разрушения, но и предвидели их повторение. В индуистской теологии непрерывная эволюция природы и общества происходит через циклические «ночи хаоса» на бесконечном колесе бытия, причем каждый период – или цикл юги – длится более четырех миллионов лет. Многие индуисты верят, что в настоящее время мы живем в лучшей части худшей эпохи, Кали-юги, эпохе духовной тьмы, в которой люди ошибочно считают себя выше богов.

Буддийская традиция также видит жизнь как цикл смерти и перерождения – концепцию, запечатленную в священных текстах и художественных образах. Буддийские монахи неделями кропотливо создают из цветного песка мандалы – сложные космические диаграммы, чтобы в мгновение ока разрушить их, воплощая идею мимолетности всего живого. Колоссальный буддийский храм на острове Ява в Боробудуре и индуистско-буддийский храмовый комплекс в Ангкоре (Камбоджа) считаются трехмерными архитектурными мандалами и до сих пор остаются одними из крупнейших религиозных сооружений в мире.

Маятник политических взглядов – знакомое всем явление. Призвание истинно мудрых правителей – посвятить жизнь свершениям, которые преодолеют внутреннее сопротивление, переживут внешних врагов и заложат основы прочного мира и стабильности. Но даже самые дальновидные из них знают: плоды их трудов в веках не останутся – и уж точно не уцелеют, когда держава придет в упадок. Судьба цивилизаций подобна судьбе людей – они гибнут, когда иссякает вера в идеалы и ценности, некогда служившие им основой.

Все великие политические и религиозные традиции сходятся в одном: они предвидят эпоху тотального катаклизма как финал или перерождение существующего миропорядка. В иудейской традиции власть циклично переходит от Бога к избранным земным правителям и обратно, когда человечество, отвергнув божественные законы, оказывается на краю гибели. Буддизм предлагает путь просветления как выход из бесконечных циклов перерождения. Индуисты верят, что наша эпоха, четвертая и последняя юга в текущем цикле, время нарастающего хаоса, который завершится катастрофой, чтобы возродить золотой век Сатья-юги, когда миром правят боги. А в храмах по всему миру звучат молитвы о явлении спасителя – будь то божественное дитя, мессия или двенадцатый имам, – чье пришествие ознаменует конец истории человечества либо начало новой эпохи.

Исаак Ньютон и Готфрид Вильгельм Лейбниц, современники, часто спорившие друг с другом, в своих новаторских математических исследованиях изменений все же пришли к общему выводу. Они полагали, что на малом масштабе любая кривая кажется прямой линией – настолько, что возможный разрыв почти незаметен. Появление ИИ в государственном управлении – этой исконно человеческой сфере – стало бы именно таким разрывом. Оно предвещает невиданный рывок в эффективности управления, но в то же время – радикальный разрыв с традиционными представлениями о власти и предопределенности. Технологии неумолимо ведут к прогрессу, тогда как политика и религия превращают разрушение и обновление в неизбежность. Станет ли ИИ выходом из исторического круговорота или лишь началом нового витка? Это финальная глава нашей истории или только ее предисловие?

Лидерство – в большей мере искусство, чем наука. Даже сталкиваясь с порой непреодолимыми препятствиями, некоторые правители добивались поистине выдающихся результатов. В современной истории среди таких выделяются Дэн Сяопин в Китае, Александр Гамильтон в США и Ли Куан Ю в Сингапуре. Всем троим удалось высвободить скрытые глубинные социальные силы – казалось бы, неподвластные чьему-либо воздействию.

Дэн Сяопин объединил капитализм с древней бюрократией, основанной на меритократии, но лишенной жизнеспособной экономической теории; Гамильтон позволил новой политической философии распространиться на огромной территории, где не существовало единого политического устройства; Ли основал остров совершенства, проявив невероятную силу воли, несмотря на катастрофически скудные ресурсы.

Каждый из этих трех лидеров сочетал в себе поразительную силу ума, непреклонную целеустремленность и личное обаяние. В политическом языке и других формах убедительной риторики обществу обычно предлагается видение будущего, которое, если воспользоваться терминологией Аристотеля, состоит в равной мере из логоса (логики), этоса (личного авторитета) и пафоса (эмоциональной связи). Эти стратегии – одновременно моральные и психологические – служат фундаментом для формирования культурной идентичности и устойчивых политических систем. По сути, лучшие лидеры – это талантливые рассказчики, которые умеют зажигать сердца и объединять людей общей идеей.

Но наша тяга к эмоциональному и возвышенному часто становится ахиллесовой пятой. Даже мудрейшие руководители, чьи поступки балансируют между инстинктами и осмотрительностью, порой поддаются сиюминутным порывам. Государственные институты (как и корпорации, церкви, семьи – все организации, созданные и управляемые несовершенными людьми) представляют собой неуклюжий симбиоз унаследованных традиций и робких попыток обновления.

В демократиях или диктатурах, в развитых странах и государствах третьего мира, в прошлые эпохи и сегодня человеческая природа остается неизменной. Вековые потоки времени пока не изменили фундаментальных принципов того, как мы управляем собой. Мы продолжаем существовать в рамках тех же древних структур, что и наши предки тысячелетия назад. Опора на идеи далекого прошлого – не обязательно недостаток. В конце концов, мудрость древних не раз служила источником вдохновения и практической основой для наших наиболее процветающих обществ. Но такие общества скорее исключение. Ведь если великие умы иногда преобразовывали традиции во благо, то обыкновенные правители чаще обращали их во вред.

Отчасти эта политическая устойчивость коренится в самой человеческой природе – одновременно верной и непостоянной, скромной и тщеславной, альтруистичной и эгоистичной. Особенно ярко эти противоречия проявляются в условиях тирании, где прихоти одного правителя могут перевесить коллективную последовательность. Результат предсказуем: ресурсы страны превращаются в инструмент личного обогащения, а правосудие – в орудие власти. Эти злоупотребления легко распознать, но искоренить гораздо сложнее. Непотизм, усугубляя эксплуатацию и делая правовой нигилизм нормой, подрывает веру активных граждан в возможность улучшить как положение страны, так и собственную жизнь. Тем, кто осмеливается требовать политических перемен, не говоря уже о смене режима, приходится готовиться к нечестной борьбе. Инициаторов кровавых революций сначала проклинают, затем – в случае успеха – прославляют как мучеников.

Даже демократия не застрахована от человеческих слабостей и нелогичных шагов, пусть они проявляются и не совсем прямолинейно. И хотя власть здесь не передается по наследству, но сохраняет удивительную способность к самовоспроизводству. Идея равенства, расширенная до переноса ответственности на общество, нарушает шаткое равновесие, склоняя чашу весов то к всепрощению, то к тотальному осуждению. А в эпоху информационного потопа мудрые голоса демократии тонут во всеобщем гаме. Вирусные идеи могут обнаруживать неожиданное влияние.

Существуют проблемы, присущие любой политической системе. Создание идеального государственного устройства требует учета бесчисленных факторов, но ограниченные ресурсы и несовершенство социальных наук неизбежно искажают результат. При этом как тираны, так и политики-демократы – избранные или назначенные – нередко принимают решения, руководствуясь личными амбициями или корыстью. Деньги же заставляют власть имущих действовать либо по шаблону, либо – при их отсутствии – совершенно непредсказуемо.

Точное понимание несоответствия между нашими ожиданиями и реальностью часто зависело от способности внимательных наблюдателей, зачастую со стороны – таких как Томас Карлайл (о Франции), Алексис де Токвиль (об Америке) и Освальд Шпенглер (о Западе), – сформулировать то, что для находящегося внутри системы может казаться очевидным, но невыразимым недостатком. Однако мы, люди, все находимся внутри нашей коллективной глобальной политической истории. Отсутствие разнообразия в подходах к управлению и наша неспособность предложить альтернативы, которые соответствовали бы нашим ценностям, тормозят политические изменения. ИИ как внешняя сила и разрушитель традиций может предложить новые решения, но цена таких инноваций, как и потенциальные выгоды, пока остается неясной.

Это, пожалуй, древнейший спор политической мысли: можно ли противопоставить мудрость одного мудрости толпы? Еще древнегреческие философы Платон и Аристотель выдвинули одни из первых противоречащих друг другу тезисов о природе правильного правления (наряду со множеством других вопросов). Первый, выступая от имени своего великого предшественника Сократа, отстаивал идею восхождения к власти единоличного «философа-правителя», наделенного почти сверхъестественной мудростью и волей. Второй же считал этот идеал теоретически интересным, но практически невозможным, настаивая на том, что все граждане должны в равной степени участвовать в управлении государством.

В последующие две тысячи лет платоновские идеи и их многочисленные интерпретации многократно проверялись на практике и всякий раз оказывались несостоятельными. В конечном счете преимущество оказалось на стороне формулы Аристотеля: сначала ее признание продвигалось медленно, но в раннее Новое время ситуация резко изменилась – во многом благодаря работам жившего в Голландии еврейского философа Баруха Спинозы и других мыслителей Просвещения, предложивших более светские модели государственного устройства. В Китае Ван Янмин – государственный деятель, полководец и философ эпохи Мин – сформулировал принцип «единства знания и действия», описывающий два аспекта познания, обязанных влиять на интуицию правителя. Правители должны были жить в неразрывном единстве с философией («познанием»), одновременно доводя до совершенства мастерство во всех частях государственного механизма.

В каком бы облике ни являлся миру сократо-платоновский идеал, будь то благожелательный диктатор, просвещенный деспот, ницшеанский Übermensch (сверхчеловек), воплощающий, по современной трактовке, «союз аполлонического порядка и дионисийского хаоса», единовластие неизменно порождало проблемы. Даже при всей исключительности ума, опыта или прозорливости правителя.

Раннесредневековый исламский мыслитель Абу Наср Мухаммад аль-Фараби, познакомивший исламский мир с идеями Платона, предложил их адаптацию, основанную на собственных наблюдениях за персидским шахским двором. Возможно, под влиянием своего выдающегося математического дара он пришел к выводу, что индивидуум, обладающий всеми добродетелями, которые искал Платон, стал бы невозможным статистическим отклонением. Поэтому на практике правление философов-королей должно было осуществляться двумя лицами, «один из которых – философ, а другой удовлетворяет остальным условиям».

Хотя аль-Фараби при персидских визирях усердно собирал лучшие умы, лишь шесть веков спустя мусульманский регент Байрам-хан (1501–1561) реализовал его замысел. Став вакилем – доверенным лицом и верховным наставником, он воспитал Акбара Великого и последующих могольских императоров, воплотив идеал просвещенного правления. Примерно в то же время итальянский дипломат и философ Никколо Макиавелли (1469–1527), движимый размышлениями не о «статистических отклонениях» (как аль-Фараби), а о врожденной жестокости человека, пришел к схожим с аль-Фараби выводам. Вскрывая темную изнанку политики, он доказывал: власть требует абсолютного прагматизма, – а потому советовал правителям итальянских городов-государств решительно отделять искусство управления от морали, принося этику в жертву государственной необходимости.

Четыре столетия спустя немецко-американский философ Лео Штраус связал идеи Макиавелли с идеями Платона, придя к выводу, что для реализации идеальной модели философа-короля необходимо разделить теоретическую мудрость (философов) и политическую (правителей).

Вместо того чтобы добиваться единства обеих ипостасей, воплощенных в одном правителе, философ должен был бы управлять государством, оставаясь в непосредственной близости к власти. При таком устройстве философ мог бы развивать и применять накопленные знания, удерживаясь на достаточной дистанции от «нечистот» политики ради чистоты мысли, но оставаясь достаточно близко, чтобы общество могло воспользоваться плодами его трудов.

Основная проблема концепции философа-короля – тогда и теперь – заключается в ограниченных возможностях человеческого разума. Обладая огромным массивом информации, самый опытный правитель все же мог воспользоваться лишь крупицей необходимых сведений, чтобы увидеть ситуацию со всех сторон и принять обдуманное решение. Мир непостижимо сложен, а человеческая интуиция порой слепа. Модель совместного правления также решала эту проблему лишь отчасти.

Так, люди редко задумываются о том, что государственное управление требует прежде всего способности обрабатывать информацию. Мы склонны возвышенно описывать политические системы, связывая их с ценностями и идеологиями. Однако и в мирное время, и в военное значительная часть вопросов управления государством сводится к эффективности работы с данными. Ошибки в обработке информации могут объяснить крах многих сверхцентрализованных систем управления, включая СССР. На определенном этапе холодной войны советские ученые даже разрабатывали кибернетический политический аппарат, призванный снабдить коммунистическое руководство технологическими инструментами, которые должны были заменить рыночные механизмы, столь эффективно использовавшиеся их капиталистическими противниками.

И Платон два тысячелетия назад, и советские кибернетики полвека назад, по сути, искали того, кого сегодня мы назвали бы архитектором сложных систем или, возможно, искусственным разумом. Однако до появления ИИ централизованная власть не могла принимать решений на основе локальных данных – по крайней мере, эффективно. Эту идею наиболее четко сформулировал экономист и политический философ XX века Фридрих Хайек. Лишь когда мы ограничили свою тягу к контролю, мы высвободили невидимые силы, управляющие распределением талантов, богатства и идей – те самые силы, которые так долго ускользали от нашего понимания.

Главный изъян централизованных систем в доинформационную эпоху заключался в черепашьей скорости передачи данных, когда сообщения могли перемещаться только по суше, а не лететь по воздуху в виде воли. Многие полагали, что в XXI веке мгновенная передача информации наконец сравняет централизованные системы с децентрализованными. Однако прогноз не сбылся. Оказалось, что главным барьером стала не скорость коммуникации, а сложность управления.

Свойства машин, описанные в предыдущей главе, теперь позволяют централизованному ИИ конкурировать с децентрализованными системами обработки информации, потенциально превосходя их. Его скорость еще больше сокращает разрыв между теорией и реальностью, а масштаб и точность обеспечивают всеобъемлющий охват и детализацию. Ответ Аристотеля в виде демократии, возможно, действительно был этичнее платоновского, но он победил в исторической битве благодаря большей эффективности.

Это не означает, что способности ИИ к обработке информации обязательно подорвут сами основы демократии. Однако несомненно, что возможность эффективной централизации изменит механизмы демократических процессов. Это может привести к созданию своеобразной «демократической биржи» – платформы для молниеносной оценки и ранжирования идей. ИИ смогут анализировать интересы миллиардов людей, включая будущие поколения, с беспрецедентной точностью прогнозируя последствия – от сиюминутных эффектов до влияния прорывных технологий в самой долгосрочной перспективе.

Объединенное воображение этих разумов теперь может слиться в единую силу, уравнивая и потенциально превосходя аристотелевские методы. Если удастся создать единый разум, воплощающий коллективный интеллект и ценности демократического общества – своего рода гигантского «философа», находящегося рядом с избранным правителем, – тогда гипотезы аль-Фараби и Штрауса о гармоничном соуправлении станут реальностью.

В перспективе ИИ может устранить разрыв между естественными и общественными науками – прежде всего в политологии, занимающей особое место. Законы человеческой природы станут предсказуемыми, а политические решения – столь же надежными, как для нас сегодня законы физики.

Беспрецедентные возможности обработки информации позволят алгоритмам ИИ достичь по-настоящему эффективной централизации управления. Можно ожидать, что это лишь укрепит убежденность в безрадельном контроле со стороны элит. Однако непрозрачность таких систем и сама идея о том, что их работа может быть оптимизирована без человеческого вмешательства, приведет к противоположному эффекту. Со временем человеческий контроль может превратиться из необходимости в обузу. Подобно тому как европейские правители XVIII века с опаской доверяли «невидимой руке рынка», современным лидерам, возможно, предстоит принять новую форму коллективного разума – цифровую платформу, воплощающую мудрость народа в совершенно новой форме.

Когда – и если – ИИ начнет не только обрабатывать информацию для управленческих целей, но и принимать политические решения, перед традиционной политологией встанут вопросы, к которым она пока не готова. В этой области еще нет устоявшихся понятий. Как сторонний наблюдатель сможет оценить «превосходство» стратегического решения, принятого ИИ, если логика, лежащая в его решении, остается необъяснимой? Хотя главным критерием, безусловно, останется результат, мы рискуем утратить нечто важное – особенно для исторического понимания, – если не сохраним четкие принципы, по которым действовала система.

В будущем люди, вероятно, часто станут критически относиться к решениям, предложенным алгоритмами ИИ, – не потому, что те неразумны, а потому, что их логика окажется за пределами непосредственного человеческого понимания. Особую тревогу вызывает перспектива не только потерять возможность вмешиваться в процесс принятия решений, но и лишиться способности осмысливать его (т. е. возможности интерпретации этого процесса) – даже после свершившегося факта.

В ситуациях несовпадения мнений человеческого руководства и ИИ в вопросах государственного управления чье суждение должно возобладать? Изменится ли ответ, если станет очевидным, что рекомендации ИИ – в отличие от нашей с вами позиции – способны учитывать интересы человечества в далеком будущем и потому в долгосрочной перспективе окажутся полезнее решений, принятых людьми?

Прагматическая сторона человеческой интуиции, возможно, приняла бы программы дальновидного ИИ, особенно если бы он мог их обосновать. Но даже в этом случае не избежать конфликтов – например, люди отвергнут меры, спасающие будущие поколения ценой страданий ныне живущих. Точно так же ИИ может предлагать логичные, но политически невозможные решения – к примеру, урегулирование конфликтов в горячих точках путем мирных договоров, неприемлемых для враждующих сторон. Риск массового протеста останется высоким. Даже если человечество согласится на то, что управлять им будут машины, даже если их логика будет понятна, а решения – рациональны, полезны и объективно совершенны, мы, люди, все равно можем оказаться «неуправляемыми». Политика, лишенная духовного измерения, обречена на провал. Как писал Лев Толстой,

Эти иррациональные элементы человеческого бытия – прежде всего историческая память, но также эстетика, сила обаяния и эмоциональный отклик – в каком-то смысле могут препятствовать достижению результатов, оптимальных с позиции властей ИИ, но именно эти элементы находятся в основе наших политических сообществ. Правление, построенное исключительно на разуме, способно разрушить государства. Чрезмерно рациональные ИИ и их партнеры-люди могут быстро потерять контроль над структурами власти, в рамках которых они сотрудничают, или вовсе привести к их распаду.

С другой стороны, истинная ценность ИИ может раскрыться именно там, где его логика кажется странной, противоречащей здравому смыслу или вовсе ошибочной. Да, ИИ способен ускорять поиск известных решений, расширяя человеческие возможности за счет скорости, позволяющей избегать политических издержек, связанных с промедлением. Но, возможно, его главная роль – осмыслить то, что нам недоступно, и предложить совершенно новые решения. В этом, собственно, и может заключаться одна из ключевых целей его создания.

Однако такой подход сопряжен со значительными рисками, пропорциональными открывающимся возможностям. Он лишает человечество механизмов корректировки или блокировки потенциально неприемлемых и ранее немыслимых решений непостижимого цифрового разума. Искушение не ограничивать алгоритмы ИИ будет только усиливаться, особенно если его управление окажется объективно эффективнее человеческого. Управление с помощью ИИ может продемонстрировать поистине беспрецедентные результаты. В таком случае попытки ограничить его применение или сузить сферу влияния покажутся лишенными всякой логики, особенно в условиях геополитической конкуренции, где отказ от подобных технологий означает сознательное принятие стратегически уязвимой позиции.

Точно так же и человеческие лидеры, привыкшие к превосходным результатам, достигаемым с помощью ИИ, со временем начнут зависеть от него в вопросах собственной легитимности. При этом нельзя исключать, что ИИ выработает собственные системные искажения: допустим, если лояльный к системе лидер захочет незаконно продлить свои полномочия – сможет ли ИИ реально противостоять такому нарушению демократических норм?

Во все эпохи правители, заявлявшие, что понимают народное благо лучше самого народа, в конечном итоге сталкивались с суровой реальностью. Как предупреждал Фридрих Хайек, централизованное планирование – или схожие формы управления, включая еще не изобретенные в его эпоху – по определению подавляют инакомыслие. Даже располагающее точными данными централизованное управление превращается в инструмент подавления индивидуального ради коллективного, воплощая безграничный утилитаризм. Подобное правление не всегда пагубно, но, перейдя критическую грань, оно обретает «космическую скорость» – трансформируется из обычного управления в вездесущий контроль, где граждан «принуждают к свободе», предписывая им формулу счастья. Как отмечает один нейропсихолог, не исключено, что административная система, управляемая ИИ, «будет утверждать, что знает, чего хотят люди и что им нужно для счастья, <…> оправдывая тем самым патернализм в мягком варианте и тоталитаризм – в крайнем».

Пока мы понимали себя лучше, чем нас понимала власть, либерализм сдерживал произвол. Но теперь есть мнение, что ИИ сможет «определить, кто мы, раньше нас самих» – и снабдит тоталитаристов не просто инструментом, а «идеологическим оружием». Так, ИИ поставит под удар основы философии Иммануила Канта:

На техническом уровне разработки ИИ в алгоритмы закладывается принцип недопустимости ошибок – это оправдано для коррекции заблуждений и неоптимальных решений человека. Однако другая причина ошибок в человеческих системах – наша собственная свободная воля: мы можем сознательно сделать «неправильный» выбор. Если ИИ решит устранить подобные отклонения, перед ним встанет дилемма: устранить либо нас, либо саму возможность выбора. Если рассматривать свободную волю не как атрибут интеллекта, а как системный сбой, она станет препятствием для достижения искусственным разумом поставленных целей.

Люди привыкли двойственно относиться к собственной воле: нас одновременно восхищает и пугает, что именно человеческие решения определяют ход истории. Вся наша история написана так, чтобы показать людей главными творцами своей судьбы – где отдельные правители по своей воле возводили и рушили империи; где великие укрощали хаос, утверждая на его месте порядок. Полный отказ от контроля может быть отвергнут – даже если доказать, что он обеспечивает наивысшую эффективность ИИ в служении интересам нынешнего и будущих поколений.

Баланс между контролем и его отсутствием может зависеть от проблемы времени, рассмотренной ранее: человечество и ИИ существуют в разных временных измерениях. ИИ не испытывает дискомфорта от скорости собственных действий; для него создаваемые изменения естественны. Обратная сторона успеха: блага от ИИ могут обрушиться на нас так быстро, что мы просто не успеем к ним адаптироваться. Вместо пользы это вызовет растерянность – каждое новое достижение будет казаться слишком сложным и не стоящим усилий.

Это не означает отказа от прогресса как такового. Просто для сохранения целостности общества продуктивные возможности ИИ необходимо внедрять в человеческие институты постепенно – по крайней мере, медленнее, чем того хотели бы сторонники максимально быстрого достижения отдаленных благ.

Многие знают миф о Прометее – титане, похитившем у богов огонь для людей. Однако мало кто помнит, что он сознательно пошел на это, заранее зная о страшной каре Зевса: вечных муках на скале, где орел ежедневно выклевывал его печень, чудесным образом отраставшую за ночь. Но главная загадка мифа в другом: почему Прометей, предвидя не только свои страдания, но и все беды, которые человечество причинит миру с помощью огня, все же сделал этот выбор? Возможно, ответ кроется в том, что мы помним его не как преступника, а как величайшего благодетеля – ведь в конечном счете огонь принес людям больше блага, чем вреда.

Оставаясь в рамках партнерства с человеком, а не стремясь к господству над ним, ИИ может помогать нам управлять сложными системами подобно Прометею, чье предвидение (ведь само имя Прометей означает «предвидящий») оставалось недоступным для смертных. Но статус героя закрепится за ним лишь при одном условии: если его дар действительно послужит человечеству – тому самому, что сумеет сохранить и свободу воли, и политическую самостоятельность, несмотря на неизбежные иррациональные порывы.

Историческая ретроспектива выявляет парадокс: политика поражает не своей изменчивостью, а удивительным постоянством архетипов. Из эпохи в эпоху повторяются одни и те же роли: трагический монарх, коварный царедворец, верный соратник, проницательный шут, серый кардинал, продажный наемник.

Если политика – театр, то эти знакомые нам персонажи помогают постичь непостижимое и наделить душой то, что укрыто от нашего понимания.

Екатерина не родилась Великой, Ярослав – Мудрым, Иван – Грозным, а Сулейман – Великолепным. Мы восхищаемся этими правителями отчасти потому, что в истории сохранились вехи их восхождения. С особым чувством смотрим мы на тех, кто, вопреки тяготам, уготованным с рождения, лишь силой воли разорвал оковы обстоятельств и взошел на вершину власти. Илтутмиш, будущий султан-мамлюк, проданный в рабство родными братьями из зависти к его статности и незаурядному уму, сначала служил узбекским и афганским работорговцам в Бухаре и Газни, пока не был куплен на делийском рынке военачальником из династии Гуридов. Всего два десятилетия спустя этот «раб раба», поднимаясь по ступеням султанской службы, основал «династию рабов» на троне своих прежних господ.

Конечно, падение с высот власти может быть столь же внезапным, как и восхождение. Ни один правитель не защищен от революционных бурь или гибели от рук заговорщиков. Самоубийство Нерона, дуэль Гамильтона, убийство Ганди – даже великих не минует смертный удел.

Будучи историческими деятелями, все эти личности глубоко заинтересованы в поддержании порядка и безопасности. Однако как члены единой человеческой семьи они – подобно всем нам – не свободны от страстей ревности, взаимного недоверия и родственного соперничества. Те же самые конфликты, что разыгрываются в правящих домах, мы находим и в обычных семьях. Нам понятно, как непросто побороть ревность и заключать союзы с бывшими врагами – как это делала вдовствующая императрица Цы Си, поднявшаяся от положения наложницы до правительницы Китая. Столь же ясно нам и отвращение к предательству генерала Мир Джафара, чей переход на сторону англичан в битве при Плесси фактически передал Индию британцам в обмен на ничего не значащий титул первого наваба Бенгалии. Будь правители поистине богоподобными, безупречными или всеведущими, они не знали бы тревог, отчаяния, любви или зависти. А между тем именно эти знакомые каждому чувства и слабости движут вперед колесо истории.

Политика как социальный феномен одновременно достойна восхищения и порицания – ведь она отражает наши личные страсти и амбиции. Наполеон покорил Европу, но так и не смог покорить сердце Жозефины; соперничество между Джоном Адамсом и Томасом Джефферсоном напоминает обычные склоки меж братьями; «Война и мир» Толстого повествует не столько о великих исторических событиях, сколько о частных судьбах, на фоне которых эти события разворачивались. Воинство, последовавшее в XV веке за девятнадцатилетней Жанной д'Арк, мало чем отличалось от солдат, поднявших мятеж против Александра Македонского при Описе в 324 году до н. э., после того как он завоевал почти весь известный тогда мир. На стыке политического и личного действительность сливается с вымыслом, исторические хроники – с героическим эпосом.

Политика, лишенная человеческого фактора, утратила бы нарративную динамику. Без устранения соперников или примирения с заклятыми врагами, без головокружительных взлетов к власти и стремительных падений государственное управление лишилось бы жизненной силы, став менее увлекательным и даже попросту скучным. Исчезни грань между трагедией и комедией – и императорский двор тут же превратится в бесцветную декорацию, лишенную интриг и подлинных страстей.

С другой стороны, появление ИИ в роли невиданного ранее персонажа может стать прологом к новой сцене в политической драме человечества. Этот герой может изменить сущность и динамику ставших привычными типажей. Однако некоторые вещи останутся незыблемыми: краткость человеческой жизни по-прежнему будет определять наши взлеты и падения, а социальная природа – диктовать правила вечных игры любви, амбиций и нравственного поиска.

Именно эту человеческую «неидеальность» нашей политики мы должны бережно сохранить, чтобы гармонично дополнить ее безупречностью систем ИИ. Искусственный разум, лишенный внутренних противоречий, не будет знать границ, тогда как собственная изменчивая природа, хоть и ограничивала наши достижения, одновременно служила естественным сдерживающим механизмом для человеческой агрессии.

Современная система человеческого властвования опирается на многовековой опыт исторических случайностей. Пока что нереализованный потенциал ИИ кроется в его способности к безупречному анализу. Нынешним лидерам предстоит стать первыми правителями, кто должен найти баланс: используя преимущества ИИ (а в некоторых случаях – подчиняясь необходимости его применения), но никогда не допуская тотальной зависимости. Их задача – выработать компромисс между крайностями деспотизма и анархии, объединив человеческую волю, машинный интеллект и уроки прошлого.