Последняя религия

В 1997 г. Deep Blue — суперкомпьютер, разработанный IBM, — обыграл Гарри Каспарова, лучшего шахматиста мира. Это был переломный момент в истории вычислительной техники, эпохальное событие, которое перевернуло представление многих людей о технологиях, интеллекте и человечестве. Но теперь это просто забавное воспоминание: разумеется, компьютер победил чемпиона мира по шахматам. Как же может быть иначе?

С самого появления информационных технологий шахматы стали излюбленным способом проверки искусственного интеллекта. Все потому, что шахматы допускают почти бесконечное число вариантов: возможных шахматных партий больше, чем атомов в наблюдаемой Вселенной. Если посмотреть на три-четыре хода вперед от любой позиции на доске, там уже возникнут сотни миллионов вариаций.

Чтобы конкурировать с человеком, компьютер должен не только быть в состоянии просчитать невероятное количество возможных результатов, но и располагать надежными алгоритмами, которые помогли бы ему определить, что именно следует просчитывать. Другими словами, Думающий мозг компьютера, несмотря на свое значительное превосходство над человеческим, должен быть запрограммирован так, чтобы быть в состоянии определять более и менее важные позиции на доске — то есть в него должен быть вшит «Чувствующий мозг» умеренной мощности.

С того дня 1997 г. компьютеры осваивали шахматы с бешеной скоростью. За последующие пятнадцать лет лучшие игроки мира регулярно продували шахматным программам, порой с разгромным счетом. А теперь человек и рядом с ними не стоит. Сам Каспаров недавно пошутил, что шахматное приложение для смартфонов, «намного мощнее, чем Deep Blue». В наши дни разработчики шахматных программ проводят турниры между собой, чтобы посмотреть, чьи алгоритмы окажутся круче. Людей к этим турнирам не допускают: слишком мала вероятность того, что они займут хоть сколько-нибудь значимое место.

Абсолютным чемпионом среди шахматных программ последние несколько лет становился открытый движок Stockfish. Он либо выигрывал, либо становился одним из призеров почти во всех важных турнирах с 2014 г. Будучи совместным творением нескольких опытнейших разработчиков шахматных программ, Stockfish на данный момент являет собой вершину шахматной логики. Это не просто шахматный движок: он может проанализировать любую партию, любую позицию и через несколько секунд выдать комментарий гроссмейстерского уровня о любом ходе игрока.

Stockfish благополучно оставался царем горы и золотым стандартом шахматного анализа для всего мира, пока в 2018 г. на эту тусу не заявился Google.

И начались странные дела.

У Google есть программа под названием AlphaZero. Это не шахматный движок. Это искусственный интеллект (ИИ). Она запрограммирована не на шахматные или еще какие-то игры, а на обучение — не только шахматам, но и любой другой игре.

В начале 2018 г. AlphaZero выступил против Stockfish. С формальной точки зрения, силы были даже близко не равные. AlphaZero может просчитывать «только» 80 000 позиций за секунду. Stockfish — 70 миллионов. С точки зрения вычислительной мощи это как если бы я соревновался в беге с машиной «Формулы-1».

Но теперь самое интересное: в день матча программа AlphaZero еще даже не умела играть в шахматы. Да-да, до начала матча с лучшим шахматным движком мира у AlphaZero было меньше суток на то, чтобы с нуля обучиться этой игре. Большую часть дня программа прогоняла симуляции шахматных игр с самой собой, обучаясь в процессе. Она разрабатывала свои стратегии и принципы так, как это делает человек: методом проб и ошибок.

Вот представьте себе такой сценарий. Вы только что узнали правила игры в шахматы, одной из самых сложных игр на планете. У вас меньше суток на то, чтобы попрактиковаться на доске и придумать какие-то стратегии. А потом, в своем самом первом матче, вы встретитесь с чемпионом мира.

Удачи.

И все же AlphaZero победила. Нет, не просто победила. Она раскатала Stockfish. AlphaZero либо выиграла, либо сыграла вничью все сто партий.

Я повторю: спустя какие-то девять часов после того, как AlphaZero впервые узнала правила игры в шахматы, она встретилась с лучшим шахматным движком в мире и не проиграла ни одной партии из ста. Результат абсолютно беспрецедентный, и никто до сих пор не знает, что с этим делать дальше. Гроссмейстеры были потрясены изобретательностью и находчивостью AlphaZero. Один из них, Петер Хейне Нильсен, с восторгом заявил: «Мне всегда было любопытно, что бы было, если бы на землю высадились существа высшего порядка и показали нам, как они играют в шахматы. Думаю, теперь я себе это представляю».

Разделавшись со Stockfish, AlphaZero на этом не остановилась. Пф-ф-ф, я вас умоляю! Отдых нужен только хлипким людишкам. Едва доказав свое превосходство в шахматах, AlphaZero начала учиться стратегической игре сёги.

Сёги часто называют японскими шахматами, но многие утверждают, что эта игра еще сложнее. Если шахматист Каспаров проиграл компьютеру в 1997 г., лучшие игроки в сёги начали уступать машинам только с 2013 г. Тем не менее AlphaZero сокрушила лучшую программу сёги (под названием Elmo) примерно с такими же невероятными результатами: из ста партий она выиграла восемьдесят, проиграла восемь и две сыграла вничью. Опять же, вычислительные мощности AlphaZero значительно уступали мощностям Elmo. (В данном случае она могла просчитывать 40 000 ходов в секунду, а Elmo — 35 миллионов.) И опять же, еще за день до матча AlphaZero не имела представления о том, как играть в сёги.

С утра пораньше AlphaZero бралась изучать две бесконечно сложные игры. И до захода солнца умудрялась разгромить самых сильных противников в мире.

Новость дня: ИИ уже на пороге. Шахматы и сёги, конечно, хорошо, но когда ИИ перейдет от игровых столов к столам переговоров… мы с вами все, возможно, останемся без работы.

Программы ИИ уже придумывают собственные языки, которые люди не могут расшифровать, умеют лучше врачей диагностировать пневмонию и писать сносные главы для фанфиков по «Гарри Поттеру». Пока я пишу эти строки, все идет к тому, что у нас вскоре появятся самоуправляемые автомобили, автоматизированные юридические консультации и даже созданные компьютером картины и музыка.

Медленно, но верно ИИ начнет превосходить нас практически во всем: в медицине, инженерии, строительстве, искусстве, технологических инновациях. Мы будем смотреть фильмы, произведенные ИИ, и обсуждать их на веб-сайтах или на мобильных платформах, созданных и модерируемых ИИ, — и может даже оказаться, что «человек», с которыми вы вступите там в спор, будет тоже ИИ.

Но, как бы безумно это ни звучало, это только начало. Потому что вот где начинается реальный дурдом: однажды наступит день, когда ИИ сможет лучше человека писать программы ИИ.

Когда этот день настанет, когда ИИ сможет сам, по собственной воле, продуцировать улучшенные версии себя, — вот тогда держитесь, амиго, потому что нам предстоит еще та поездочка и выбирать дорогу будем уже не мы.

Однажды ИИ обгонит нас настолько, что мы перестанем понимать, что он делает. Машины будут сами собой заезжать за нами и отвозить в места, о существовании которых мы даже не подозревали. Мы будем неожиданно получать лекарства от болезней, о наличии которых у себя даже не догадывались. Вполне возможно, наши дети будут переходить в другие школы, мы будем менять работу, экономическая политика будет резко брать другой курс, правительства будут переписывать конституции — и никто не будет в полной мере понимать, почему это происходит. Это будет случаться как бы само собой. Наш Думающий мозг будет слишком медлительным, а Чувствующий — слишком импульсивным и опасным. И как AlphaZero сумела за несколько часов изобрести такие шахматные стратегии, которые не могли предвидеть лучше шахматные умы, более продвинутый ИИ сможет реорганизовывать общество и весь окружающий мир совершенно непредсказуемым для нас образом.

И тогда мы вернемся к тому, с чего начинали: станем поклоняться невероятным, непознаваемым силам, которые, как нам кажется, вершат нашу судьбу. Точно так же, как примитивные народы молились своим богам, чтобы те ниспослали им дождь или огонь, — так же, как они приносили жертвы и дары, изобретали ритуалы и меняли свое поведение и внешний вид, чтобы добиться расположения натуралистических богов, — так же будем делать и мы. Только делать все это мы будем во имя богов ИИ.

У нас появятся суеверия, связанные с алгоритмами. Если наденешь это, алгоритм тебя поощрит. Если проснешься в определенное время, скажешь нужные слова и придешь в нужное место, машины даруют тебе богатство. Если будешь честен, не станешь причинять вреда другим и будешь заботиться о себе и своих близких, боги ИИ будут оберегать тебя.

Старых богов заменят новые — алгоритмы. И по странной иронии эволюции та самая наука, которая убила старых богов, создаст богов будущего. Случится великий возврат человечества к религиозности. И наши новые религии вряд ли будут сильно отличаться от религий древности: в конце концов, наша психика в процессе эволюции приучилась обожествлять то, чего мы не понимаем, превозносить силы, которые помогают или вредят нам, выстраивать системы ценностей, основанные на нашем опыте, искать конфликты, которые породили бы надежду.

Почему с ИИ что-то должно быть иначе?

Наши боги ИИ, конечно, это поймут. И либо найдут способ «прокачать» нам мозги и избавить нас от нашей примитивной психологической потребности в извечной борьбе, либо возьмут и просто сгенерируют нам иллюзию борьбы. Мы будем как домашние собаки: нам будет казаться, что мы всеми силами охраняем и отстаиваем свою территорию, а на деле мы будем просто ссать на бесконечную череду цифровых фонарных столбов.

Эта перспектива может вас напугать. Или воодушевить. Но, как бы то ни было, она, скорее всего, неизбежна. Власть обусловлена способностью обрабатывать и использовать информацию в своих интересах — а мы всегда преклоняемся перед тем, кто наделен большей властью.

И, позвольте признаться, я готов с распростертыми объятиями встретить наших новых господ.

Я знаю, это не та последняя религия, на которую вы надеялись. Но как раз в этом ваша главная ошибка: вы надеетесь.

Не оплакивайте утрату собственной воли. Если вам кажется, что подчиняться искусственным алгоритмам ужасно, поймите: вы уже это делаете. И вам это нравится.

Алгоритмы уже заправляют значительной частью нашей жизни. Маршрут, по которому вы добирались до работы, выстроен алгоритмом. Вы пообщались на этой неделе со многими друзьями? Ваши беседы тоже были обеспечены алгоритмом. Подарок, который вы купили своему ребенку, количество туалетной бумаги в большой упаковке, пятьдесят центов, которые вы сэкономили в супермаркете благодаря скидочной карте клиента, — за все это отвечают алгоритмы.

И нам нужны эти алгоритмы, потому что они упрощают нам жизнь. То же самое будут делать и алгоритмические боги ближайшего будущего. И так же, как в древности, мы возрадуемся и возблагодарим их за это. На самом деле, мы даже не сможем уже представить себе мир без них. Эти алгоритмы будут делать нашу жизнь лучше. Они будут делать ее эффективнее. Они будут делать эффективнее нас.

Поэтому, как только мы перейдем эту черту, пути назад не будет.

Мы плохие алгоритмы

Историю мира можно воспринимать так.

Разница между живой и неживой материей в том, что живая материя самовоспроизводится. Живая материя состоит из клеток и ДНК, которые порождают все новые и новые копии себя.

За сотни миллионов лет некоторые из первичных форм жизни развили механизмы обратной связи, которые позволяли бы им репродуцироваться эффективнее. Какое-нибудь древнее простейшее, возможно, вырастило на своей мембране маленькие сенсоры, чтобы лучше распознавать аминокислоты, с помощью которых оно бы произвело больше своих копий — и тем самым получило превосходство над другими одноклеточными организмами. А затем, быть может, другой одноклеточный организм выработал способ «обмануть» сенсоры прочих амебоподобных существ и, таким образом, помешать им отыскивать пищу и самому получить преимущество.

По сути, биологическая гонка вооружений продолжается с самого начала времен. Вот какое-то крошечное одноклеточное существо вырабатывает крутую стратегию, чтобы отхватить себе побольше материала для репродукции, — и так отвоевывает у других ресурсы и производит больше копий себя. Потом другое крошечное одноклеточное существо эволюционирует и вырабатывает еще более крутую стратегию по добыванию пищи — и лидерство переходит к нему. Это продолжается миллиарды лет, и вскоре появляются ящерицы, способные менять цвет кожи, обезьяны, способные копировать крики других животных, и нелепые разведенные мужики среднего возраста, способные потратить все деньги на ярко-красную Chevrolet Camaro (которую на самом деле не могут себе позволить) только потому, что это обеспечивает им бóльшую выживаемость и дает больше шансов на размножение.

Это история эволюции — выживает сильнейший и все такое.

Но можно посмотреть на все иначе. Назовем эту теорию «выживает тот, кто лучше обрабатывает информацию».

Ладно, звучит, пожалуй, не так круто, но зато эта формулировка может оказаться точнее.

Понимаете, та амеба, которая вырастила на мембране сенсоры для того, чтобы лучше распознавать аминокислоты, по сути, научилась лучше обрабатывать информацию. Она лучше других организмов приспособилась к восприятию факторов окружающей среды. И выработав лучший способ обработки информации, чем другие аморфные создания, она победила в эволюционной борьбе и распространила свои гены.

То же и с ящерицей, которая меняет цвет кожи: она научилась использовать визуальную информацию так, чтобы не привлекать внимание хищников. Такая же история с обезьяной, копирующей крики других животных. И с отчаявшимся мужиком и его Camaro (хотя, может, и нет).

Эволюция вознаграждает наиболее сильные существа, а силу дает способность получать, адаптировать и использовать информацию эффективным образом. Лев слышит свою добычу за милю. Гриф может разглядеть крысу с высоты три тысячи футов. Киты сочиняют себе личную песню и могут общаться друг с другом под водой, даже если между ними сотня миль. Все это примеры выдающихся способностей к обработке информации, и шансы этих животных выжить и оставить потомство напрямую зависят от них.

Физически люди не особо одарены. Мы слабые, медленные, хрупкие, быстро устаем. Но никто в природе так не умеет обрабатывать информацию. Мы — единственный вид, способный концептуально осмысливать прошлое и будущее, составлять длинные цепочки причин и следствий, вырабатывать абстрактные планы и стратегии, непрестанно строить, созидать и решать новые и новые задачи. На Земле прошли миллионы лет эволюции, и вдруг всего за несколько тысячелетий наш Думающий мозг (священный разум, по Канту) подчинил себе всю планету и породил обширную, сложную сеть производства, технологий и коммуникаций.

А все потому, что мы тоже алгоритмы. Сознание само по себе — это огромная сеть алгоритмов и деревьев принятия решений — алгоритмов, основанных на ценностях, знаниях и надежде.

Наши алгоритмы неплохо справлялись первые несколько сотен тысяч лет. Они не подводили нас в саванне, где мы охотились на бизонов, жили маленькими кочевыми племенами и за всю жизнь знали не больше тридцати других людей.

Но в глобальной экономической сети, в окружении миллиардов людей и тысяч ядерных боеголовок, со всеми этими утечками личных данных из Facebook и голографическими концертами Майкла Джексона наши алгоритмы стали лажать. Они сбиваются и загоняют нас в бесконечный цикл все усиливающихся конфликтов, которые, по природе этих алгоритмов, никак не могут закончиться постоянным удовлетворением и вечным миром.

Это как жесткий комментарий, который порой приходится слышать: «Единственное, что объединяет все твои поганые отношения, — это ты». Так вот, единственное, что объединяет все самые большие проблемы в мире, — это мы. Ядерное оружие никого бы не напрягало, если бы не было баранов, испытывающих соблазн его использовать. Биохимическое оружие, климатические изменения, вымирающие виды, геноцид — список можно продолжать, и ни одной из этих проблем не было, пока не появились мы. Домашнее насилие, сексуальное насилие, отмывание денег, мошенничество — все мы.

Жизнь полностью строится на алгоритмах. Пока что мы самый продвинутый и сложный алгоритм, порожденный природой, вершина примерно миллиарда лет эволюции. И сейчас мы находимся на грани создания алгоритмов в разы лучше, чем мы сами.

Несмотря на все наши достижения, человеческий разум все еще ужасно дефектен. Наша способность обрабатывать информацию ограничена нашей эмоциональной потребностью в самоутверждении. Она загибается петлей внутрь из-за наших искажений восприятия. Наш Думающий мозг регулярно становится заложником беспрестанных желаний Чувствующего — его запирают в багажнике Машины сознания, заткнув рот кляпом или накачав чем-нибудь до беспамятства.

И, как мы уже увидели, наш моральный компас слишком часто сбивается с курса неистребимой потребностью генерировать надежду за счет конфликтов. Как говорит специалист по психологии морали Джонатан Хайдт, «мораль сковывает и ослепляет». Наш Чувствующий мозг — отжившее, устаревшее программное обеспечение. А Думающий мозг работает хоть и качественно, но слишком медленно и неуклюже. Спросите Гарри Каспарова.

Мы вид, который ненавидит и истребляет сам себя. Это не морализаторство, это просто факт. Вот то самое внутреннее напряжение, которое мы все постоянно чувствуем, — как раз оно нас к этому и привело. Из-за него мы тут и оказались. Это все наша гонка вооружений. И мы вот-вот передадим эстафетную палочку главным процессорам следующей эпохи — машинам.

Когда Илона Маска спросили, что сейчас больше всего угрожает человечеству, он быстро ответил, что существует три главные угрозы: первая — широкомасштабная ядерная война, вторая — изменение климата… а перед тем, как назвать третью, он замолчал. Его лицо помрачнело. Он опустил глаза и ушел в свои мысли. Тогда интервьюер спросил: «Так а что же третье?» Маск улыбнулся и сказал: «Надеюсь, компьютеры решат относиться к нам хорошо».

Многие опасаются, что ИИ уничтожит человечество. Некоторые подозревают, что все может пойти по драматичному сценарию «Терминатора-2». Другие боятся, что машины убьют нас «случайно», что ИИ, разработанный для поиска более эффективного способа производства зубочисток, внезапно решит, что лучшее сырье для них — человеческие тела. Билл Гейтс, Стивен Хокинг и Илон Маск — лишь несколько примеров ведущих мыслителей и ученых, которые уже обделались от осознания того, как быстро развивается ИИ и насколько мы как вид не готовы к последствиям его развития.

Но я считаю, что бояться этого как-то глупо. Хотя бы потому, что как можно подготовиться к чему-то намного более умному, чем ты сам? Это все равно что учить собаку играть в шахматы с… тем же Каспаровым. Как бы собака ни старалась и ни готовилась, толку не будет.

И что еще важнее, понимание добра и зла у машин будет, скорее всего, превосходить наше. Сейчас, когда я пишу эти строки, в мире бушует пять геноцидов. 795 миллионов людей голодает или хронически недоедает. К тому моменту, как вы дочитаете эту главу, в одних только США более ста человек будут избиты, изнасилованы или убиты членом своей семьи в собственном доме.

Несет ли ИИ потенциальную угрозу? Безусловно. Но с моральной точки зрения мы бросаемся камнями, сидя в доме из стекла. Что мы знаем об этике, гуманном отношении к животным, окружающей среде или друг к другу? Правильно, почти ничего. В вопросах морали человечество только и делало, что позорилось на протяжении всей истории. Суперинтеллектуальные машины, вероятно, смогут осмыслить жизнь и смерть, творение и разрушение на куда более высоком уровне, чем это когда-либо удавалось нам. И думая, что они решат ликвидировать нас только потому, что мы перестали быть эффективными или можем создавать для них какую-то помеху, мы, как мне кажется, просто проецируем худшие аспекты собственной психологии на нечто такое, чего мы не понимаем и никогда не поймем.

Или вот еще вариант: а что, если технологии дойдут до того, что можно будет изменять индивидуальное человеческое сознание по мере необходимости? Что, если сознание можно будет по желанию дублировать, расширять или урезать? Что, если, избавившись от этих неуклюжих, неэффективных биологических казематов, которые мы называем своими «телами», или от этих неуклюжих, неэффективных психологических казематов, которые мы называем «индивидуальным самосознанием», мы придем к этике и благоденствию совсем другого порядка? Что, если машины поймут, что мы станем намного счастливее, если они освободят нас из наших когнитивных тюрем и расширят наше восприятие собственной личности так, чтобы оно включало всю воспринимаемую реальность? Что, если они решат, что мы просто кучка слюнявых идиотов, и будут развлекать нас суперским порно в виртуальной реальности и кормить офигенной пиццей, пока мы все не умрем собственной смертью?

Откуда нам знать? И кто мы такие, чтобы решать это?

Ницше начал писать свои книги спустя всего пару десятилетий после того, как в 1859 г. было опубликовано «Происхождение видов» Дарвина. К тому моменту мир все еще не оправился от дарвиновских грандиозных открытий и не знал наверняка, как их понимать и как к ним относиться.

Но пока все истерили на тему того, действительно ли человек произошел от обезьяны, Ницше, как обычно, смотрел на вещи под собственным углом. Он принял как данность то, что мы произошли от обезьян. В конце концов, говорил он, почему же еще мы так отвратительно ведем себя друг с другом?

Но вместо того, чтобы обсуждать наше происхождение, Ницше задался вопросом, к чему мы идем.

Ницше говорил, что человек — это мост, хлипко болтающийся на канате над пропастью: позади нас животные, а впереди — нечто большее, чем мы. Всю свою жизнь он посвятил тому, что пытался понять, какое же оно, это нечто большее, и указать нам путь к нему.

Ницше представлял себе человечество, которое вышло за пределы религиозных надежд, «за пределы добра и зла» и поднялось над мелочными склоками противоречащих друг другу систем ценностей. Именно эти системы ценностей подводят нас, ранят и держат на дне эмоциональных ям, которые мы сами себе вырыли. Те же эмоциональные алгоритмы, что воспевают жизнь и заставляют нас парить в неистовом ликовании, крушат и разъедают нас изнутри.

До сих пор технологии задействовали дефектные алгоритмы нашего Чувствующего мозга. Они были направлены на то, чтобы сделать нас менее стойкими и более зависимыми от пустячных развлечений и удовольствий, потому что такие развлечения приносят баснословные доходы. И хотя технологии избавили бóльшую часть планеты от нищеты и тиранов, они породили новый вид тирании: тирании пустого, бессмысленного многообразия, бесконечного потока ненужных вариантов.

А также снабдили нас таким разрушительным оружием, что одно неловкое движение — и мы сами угробим весь этот эксперимент по внедрению «разумной жизни».

Я убежден, что искусственный интеллект и есть это «нечто большее, чем мы» Ницше. Это Последняя религия — религия, выходящая за пределы добра и зла, религия, которая наконец объединит и свяжет нас на веки вечные.

И все, что от нас требуется, — не разнести самих себя в клочья, прежде чем это случится.

Для этого надо использовать современные технологии для работы над дефектами нашей психологии, а не потакания им.

Создавать инструменты, которые будут подталкивать нашу культуру к большей зрелости и силе характера, а не замедлять рост.

Отстаивать добродетели независимости, свободы, неприкосновенности частной жизни и достоинства не только в официальных документах, но и в бизнес-моделях и в общественной жизни.

Относиться к людям не только как к средству, но и как к цели — и, что еще важнее, применять этот принцип в широком масштабе.

Развивать антихрупкость и добровольное самоограничение в каждом из нас, а не оберегать чувства всех и каждого.

Создавать инструменты, которые помогут нашему Думающему мозгу лучше взаимодействовать и управляться с Чувствующим и приведут их к согласию, которое вызовет у нас чувство более сильного самоконтроля.

Знаю, вы, возможно, искали в этой книге надежду, заверения в том, что все станет лучше: делай то, делай это и вот еще кое-что — и будет нам всем счастье.

Извините. Я вам тут не помогу. И никто не поможет. Потому что даже если все проблемы наших дней вдруг волшебным образом решатся, наше сознание все равно будет ждать неизбежно хренового будущего.

Поэтому не ищите надежду, а попробуйте вот что:

Не надеяться.

Но и не отчаиваться.

В общем-то, просто откажитесь от мысли, что вы что-то знаете. Ведь как раз такая слепая, пламенная, эмоциональная убежденность в собственном знании и загнала нас в это болото.

Не надейтесь на лучшее. Будьте лучше.

Будьте чем-то бóльшим. Будьте более сострадательным, более стойким, более скромным, более дисциплинированным.

Многие бы тут добавили: «Будьте более человечным». Но нет: будьте более хорошим человеком. И, может, если повезет, однажды мы станем больше, чем людьми.

Если позволите…

Я скажу вам, друзья, что, несмотря на трудности, которые ждут нас сегодня и завтра, в этот последний момент я позволю себе надеяться…

Я позволю себе надеяться на мир после надежды, где людей никогда не будут воспринимать как средство, а только как цель, где ни одно сознание не будет принесено в жертву какой-то великой религиозной цели, где ни одна личность не пострадает от злобы, жадности или пренебрежения, где все будут с высочайшим трепетом относиться к способности мыслить и действовать и где все это будет отражено не только в наших душах, но и в наших институциях и бизнес-моделях.

Я позволю себе надеяться, что люди перестанут подавлять свой Думающий или Чувствующий мозг и соединят их священными узами эмоциональной стабильности и психологической зрелости, что люди осознают, насколько чреваты их желания, как коварны соблазны комфорта, как разрушительны их прихоти, и станут стремиться к дискомфорту, который будет заставлять их расти.

Я позволю себе надеяться, что люди отвергнут ложную свободу разнообразия в пользу более глубокой и значимой свободы приверженности, что люди изберут самоограничение вместо тщетной погони за всеми земными радостями, что люди начнут требовать лучшего от себя, прежде чем требовать лучшего от мира.

Еще я позволю себе надеяться, что однажды бизнес-модель рекламы в интернете сгорит нафиг синим пламенем; что новостные ресурсы будут оптимизировать свой контент не ради пущего эмоционального эффекта, а ради информативности; что технологии не будут эксплуатировать нашу психологическую хрупкость, а станут противодействовать ей; что информация вновь обретет смысл, да и вообще все вновь обретет смысл.

Я позволю себе надеяться, что алгоритмы поисковых систем и социальных сетей будут оптимизированы так, чтобы они отражали истинность и общественную значимость информации, а не просто показывали то, что люди хотят увидеть; что появятся независимые, сторонние алгоритмы, которые будут в режиме реального времени оценивать достоверность заголовков, сайтов и новостей, чтобы пользователи могли скорее отсеять весь пропагандистский мусор и выйти на достоверные данные; что в почете будет информация, проверенная эмпирическим путем, потому что в бескрайнем море мнений доказательства — наш единственный спасательный круг.

Я позволю себе надеяться, что однажды у нас появится ИИ для того, чтобы следить за всей ахинеей, которую мы пишем и говорим, и указывать (лично нам, возможно) на наши когнитивные искажения, беспочвенные убеждения и предрассудки — пусть на экране выскакивает маленькое уведомление, сообщающее вам, что вы преувеличили уровень безработицы, когда спорили с дядей, или пороли несусветную чушь в этом своем потоке злобных твитов, на которые вас прорвало пару дней назад.

Я позволю себе надеяться, что появятся такие инструменты, с помощью которых люди в одну секунду смогут разобраться в статистике, пропорциях и вероятностях и понять, что нет, если нескольких человек застрелили в каком-то дальнем углу земли, вас это никак не коснется, как бы вас этим ни пугали по ТВ; что большинство «кризисов» статистически незначимы и/или оказываются просто шумом; а большинство настоящих кризисов развиваются слишком медленно и невпечатляюще, чтобы привлечь должное внимание.

Я позволю себе надеяться, что образованию впрыснут, наконец, омолаживающую сыворотку, и детям будут не только помогать в их эмоциональном развитии психотерапевтическими методами, но и давать волю дурачиться, разбивать коленки и влезать в кучу всяких передряг. Дети — короли и королевы антихрупкости, сокрушители боли. Это нас с вами все пугает.

Я позволю себе надеяться, что катастрофы, которые грозят нам из-за климатических изменений и автоматизации, удастся хотя бы смягчить — если не полностью предотвратить — за счет неизбежного прорыва в технологиях, который повлечет за собой революция искусственного интеллекта; что какой-нибудь козел с ядерной бомбой не сотрет нас в порошок раньше, чем это случится; и что не возникнет какая-нибудь новая, радикальная человеческая религия, которая велит нам уничтожить в себе все человеческое, как это не раз бывало в прошлом.

Я позволю себе надеяться, что ИИ поторопится и создаст какую-нибудь новую виртуальную религию — настолько заманчивую, что мы полностью уйдем в нее и вскоре даже думать забудем о том, чтобы трахать и убивать друг друга. Это будет облачная церковь, только существовать она будет в виде одной всемирной видеоигры. Там будут свои подношения, ритуалы и жертвы, а также очки, награды и переход на новые уровни за неукоснительное соблюдение правил. Мы все в ней зарегистрируемся и там и останемся, потому что для нас это будет единственным способом достучаться до богов ИИ — а значит, единственным источником, способным утолить нашу извечную жажду смысла и надежды.

Какие-то группы людей будут, конечно, бунтовать против новоиспеченных богов ИИ. Но это будет предусмотрено системой, потому что человеческому обществу всегда нужны раскольнические группы с оппозиционными религиозными взглядами — только так мы можем доказать себе собственную важность. В нашем виртуальном пространстве будут время от времени появляться банды неверных и еретиков, а мы будем давать им дружный отпор. Мы будем подрывать моральный авторитет и аннулировать достижения друг друга, совершенно не догадываясь, что все это было заранее просчитано. Зная, что продуктивные силы человечества пробуждаются только через конфликт, ИИ будет создавать бесконечную череду искусственных кризисов в безопасном виртуальном пространстве, где эту продуктивность и изобретательность можно будет культивировать и направлять на высшие цели, о которых мы никогда не узнаем и которые никогда не поймем. Человеческую надежду будут возделывать как ресурс, как неиссякаемый источник творческой энергии.

Мы будем молиться на цифровые алтари ИИ. Мы будем следовать установленным им правилам и играть в его игры не потому, что нас заставляют, а потому, что они будут продуманы так, чтобы нам хотелось это делать.

Нам нужно, чтобы наши жизни что-то значили, и хотя из-за стремительного развития технологий отыскать этот смысл стало труднее, главная инновация случится тогда, когда мы научимся генерировать значимость, не прибегая к борьбе и конфликтам, видеть важность, не требуя для этого смерти.

И возможно, однажды мы сами станем частью машин. Наше индивидуальное сознание примкнет ко всеобщему целому. Наши самостоятельные надежды исчезнут. Мы сойдемся и сольемся в общем облаке, и наши оцифрованные души будут кружиться и вращаться в урагане данных, станут россыпью битов и функций, гармонично сплетенных в великое, доселе невиданное единство.

Мы эволюционируем в грандиозное, непостижимое целое. Мы выйдем за пределы наших сознаний с их довлеющими личными ценностями. Мы будем существовать вне целей и средств, потому что сами всегда будем и тем и другим. Мы перейдем по эволюционному мосту к «чему-то большему» и перестанем быть людьми.

Возможно, тогда мы не только осознаем, но и сможем наконец принять Неприятную правду: что мы воображали себе собственную важность, придумывали свое назначение, но на самом деле были и остаемся ничем.

Мы всегда были ничто.

И, быть может, тогда и только тогда вечный цикл рождения и крушения надежд завершится.

Или нет?

Отправить