Мы уже вкратце знакомы с недавними научными открытиями, подрывающими основы либеральной философии. Теперь пришло время рассмотреть практическое значение этих открытий. Либералы стоят за свободные рынки и демократические выборы, так как верят, что каждый человек – уникальная самоценная личность, чей свободный выбор является высшим авторитетом. В XXI веке три практических варианта развития событий могут отправить это верование в утиль:

1. Люди будут утрачивать свою экономическую и военную полезность, в результате чего политико-экономическая система перестанет их высоко ценить.

2. Система будет продолжать ценить людей всех вместе, их совокупность, но не уникальных индивидов.

3. Система будет по-прежнему высоко ценить отдельных индивидов – но это будет новая элита усовершенствованных сверхлюдей, а не представители масс.

Разберем все три угрозы детально. Первая – что развитие технологий сделает людей экономически и в военном плане бесполезными – не докажет неправоту либерализма на философском уровне, но трудно представить себе в реальности, как демократия, свободные рынки и другие либеральные институты смогут пережить такой удар. Ведь либерализм стал главенствующей идеологией не просто потому, что у него самая веская философская аргументация. Либерализм преуспел потому, что признание ценности каждого человека приносило политическую, экономическую и военную выгоду. В массовых битвах современных индустриальных войн и в массовых производствах современных индустриальных экономик на счету был каждый. Ценилась каждая пара рук, способная держать винтовку или крутить баранку.

Весной 1793 года королевские дома Европы отправили свои армии подавлять Французскую революцию в зародыше. В ответ парижские смутьяны объявили levée en masse, начав тем самым первую тотальную войну. 23 августа Национальный конвент выпустил декрет: «С настоящего момента и до тех пор, пока враг не будет изгнан с территории Республики, все французы находятся в состоянии перманентной мобилизации. Молодые парни должны сражаться; женатые мужчины – ковать оружие и подвозить продовольствие; женщины – шить палатки и одежду и служить в госпиталях; дети – щипать корпию из ветоши; старики должны выходить на площади и возбуждать в воинах храбрость, ненависть к королям и верность Республике…»

Интересно сопоставить этот декрет с самым известным документом Французской революции – Декларацией прав человека и гражданина, – где все граждане признаются равноценными и равноправными. Совпадение ли, что всеобщие права были провозглашены в тот же исторический момент, когда был объявлен всеобщий призыв? Ученые мужи могут сколько угодно иронизировать насчет прямой связи между этими событиями, но распространенный в последующие два века аргумент в пользу демократии заключался в том, что нужно предоставлять гражданам политические права, так как солдаты и рабочие в демократических странах справляются со своими задачами лучше, чем в диктаторских государствах. Якобы политические гарантии повышают их мотивацию и инициативу, что очень кстати как на поле сражения, так и на фабрике.

Чарльз У. Элиот, президент Гарварда с 1869 по 1909 год, писал в августе 1917 года в Te New York Times, что «демократические армии воюют успешнее, чем армии с аристократической верхушкой и палочной дисциплиной» и что «армии наций, где массы сами устанавливают законы, выбирают чиновников и решают вопросы войны и мира, сражаются лучше, чем армии самодержцев, которые властвуют по праву рождения и Божьему произволению».

Те же резоны способствовали раскрепощению женщин после Первой мировой войны. Осознав, насколько незаменимы женщины в тотальных индустриальных войнах, правительства посчитали нужным дать им политические права. В 1918 году президент Вудро Вильсон поддержал предоставление женщинам права голоса, объяснив сенату США, что в Первой мировой войне «не выстояли бы ни другие вовлеченные в нее нации, ни Америка, если бы не труд женщин – труд во всех областях – не только в тех сферах деятельности, в которых мы привыкли их видеть, но и там, где обычно работали мужчины, даже у самого края, у самой кромки сражений. Нас осудят, и осудят заслуженно, если мы не дадим им как можно более широких прав и свобод».

Но в XXI веке большинство мужчин и женщин, вероятно, утратят свою военную и экономическую ценность. Всеобщая мобилизация двух мировых войн – далекое прошлое. Передовые армии XXI столетия полагаются прежде всего на новейшие технологии. Вместо безграничных запасов пушечного мяса странам будет достаточно лишь небольшого числа хорошо обученных солдат, меньшего числа супербойцов спецназа и еще меньшего – специалистов, знающих, как создавать и использовать сверхсложные и сверхэффективные технику и технологии. На смену огромным армиям прошлого столетия приходят высокотехнологичные вооруженные силы, использующие дроны-беспилотникии и киберчервей, а генералы все чаще и чаще доверяют самые ответственные решения алгоритмам.

Мало того что солдаты из плоти и крови подвластны страху, голоду и усталости, так они еще думают и действуют в изживших себя временных рамках. Со времен Навуходоносора до правления Саддама Хусейна, несмотря на уйму технических усовершенствований, война велась по естественному расписанию. Совещания длились часами, сражения шли сутками, войны тянулись годами. А кибервойна может продолжаться всего несколько минут. Дежурный лейтенант Кибер-командования, заметив что-то неладное, сразу же позвонит своему командиру, который, в свою очередь, свяжется с президентом. Но когда тот потянется к красной кнопке, война уже будет проиграна. За секунды достаточно изощренная кибератака способна вывести из строя энергосистему, уничтожить все центры управления полетами, вызвать множество аварий на атомных станциях и радиационно-химических установках, разрушить коммуникационные сети полиции, армии и разведки и стереть всю финансовую отчетность, так что триллионы долларов исчезнут бесследно и никто уже не узнает, кто чем владел. Единственное, что сможет сдержать массовую истерию, – это то, что в отсутствие интернета, телевидения и радио люди не будут представлять себе истинных размеров бедствия.

Возьмем масштаб помельче, и предположим, что в небе сражаются два беспилотника. Один не способен открыть огонь без команды оператора, сидящего в далеком бункере.

Другой полностью автономен. Какой беспилотник, по-вашему, одержит верх? Если в 2093 году одряхлевший Евросоюз отправит свои беспилотники и отряды киборгов подавлять новую Французскую революцию, Парижская коммуна, очевидно, задействует каждого доступного хакера, каждый компьютер и смартфон, но большая часть населения страны ей не понадобится, разве что в качестве живого щита. Показательно, что уже сейчас во многих асимметричных конфликтах роль большинства граждан сведена к роли живых щитов.

А уж если вы ставите законность и справедливость выше победы, тогда вам тем более надо заменить солдат и пилотов автономными роботами. Солдаты убивают, насилуют, мародерствуют и, даже стараясь сдерживаться, слишком часто по ошибке проливают кровь мирных жителей. Действие компьютеров с этическими алгоритмами будут гораздо больше соответствовать постановлениям Международного уголовного суда.

В экономической сфере способность держать молоток или нажимать на кнопку тоже уменьшается в цене, что угрожает альянсу между либерализмом и капитализмом. В XX веке либералы разъясняли, что мы не должны выбирать между этикой и экономикой. Защита прав и свобод человека была и моральным императивом, и ключом к экономическому росту. Британия, Франция и Соединенные Штаты якобы потому достигли процветания, что дали свободу своим экономикам и обществам. Если Турция, Бразилия и Китай хотели стать столь же успешными, им следовало поступить так же. Когда, случалось, тираны и хунты выбирали либеральный путь развития, во многих, если не в большинстве, случаях ими руководили не моральные, а экономические соображения.

В XXI веке либерализму будет гораздо труднее продавать себя. Когда массы утратят свою экономическую значимость, хватит ли одних моральных аргументов для защиты прав и свобод человека? Продолжат ли элиты и правительства ценить каждую личность, даже когда это перестанет приносить экономические дивиденды?

В прошлом многое умели делать только люди. Теперь же роботы и компьютеры догоняют нас, а могут скоро и опередить в большинстве занятий. Да, компьютеры функционируют абсолютно иначе, чем мы, и не похоже, чтобы они в обозримом будущем уподобились людям. Нет, в частности, оснований думать, что компьютеры обретут сознание и начнут испытывать эмоции и ощущения. За последние полвека компьютерный интеллект совершил гигантский рывок вперед, но не было никакого прогресса компьютерного сознания. Насколько нам известно, в 2018 году компьютеры не более сознательны, чем их прототипы в 1950-х. Однако мы стоим буквально на пороге грандиозной революции, в результате которой люди рискуют лишиться своей экономической ценности. Происходит это из-за того, что интеллект отделяется от сознания.

До сегодняшнего дня высокий интеллект всегда шел рука об руку с высокоразвитым сознанием. Только сознательные существа были способны выполнять задачи, требующие «много ума», – играть в шахматы, водить машины, диагностировать болезни, идентифицировать террористов. Теперь же мы разрабатываем новые типы интеллекта без сознания, которые справляются с подобными задачами намного лучше, чем люди. Дело в том, что в основе всех вышеперечисленных задач лежит распознавание образов, а в нем лишенные сознания алгоритмы могут скоро превзойти человеческое сознание.

В научно-фантастических фильмах обычно проводится мысль, что для успешного соревнования с человеческим интеллектом компьютеры должны будут развить сознание. Однако реальная наука иного мнения. Возможно, существуют альтернативные пути к сверхинтеллекту, лишь некоторые из которых пролегают по узким проливам сознания. В течение миллионов лет органическая эволюция неспешно плыла по этому маршруту. Но эволюция неорганических компьютеров может обойти эти узкие проливы стороной, выбрав другой, гораздо более быстрый путь к суперинтеллекту.

Тут возникает серьезный вопрос: что по-настоящему важно – интеллект или сознание? Пока они шли в связке, споры об их сравнительной ценности были просто забавой философов. Однако в XXI веке это становится острой политической и экономической проблемой. И надо трезво понимать, что по крайней мере армиям и корпорациям ответ на этот вопрос очевиден: интеллект обязателен, а сознание нет.

Армии и корпорации не в состоянии функционировать без интеллекта, но им не нужны сознание и субъективные переживания. Богатство сознательных переживаний таксиста из плоти и крови бесконечно в сравнении с полным бесчувствием беспилотного автомобиля. Таксист может наслаждаться музыкой, курсируя по оживленным улицам Сеула. Его сознание может расширяться, когда он в благоговении созерцает звезды и размышляет о тайнах мироздания. Его глаза могут наполняться слезами радости, когда он видит первые шаги своей дочурки. Но ничего этого системе от таксиста не нужно. Ей нужно одно: обеспечивать быструю, безопасную и дешевую перевозку пассажиров из пункта А в пункт Б. И беспилотный автомобиль скоро будет справляться с этим гораздо успешнее, хотя он и не наслаждается музыкой и не благоговеет перед чудом бытия.

Давайте вспомним, как промышленная революция обошлась с лошадьми. Обычная лошадь способна чувствовать, любить, узнавать лица, прыгать через заборы и делать много чего другого, на что не способны не только «форд» модели Т, но и «ламборгини». И все же машины вытеснили лошадей, так как лучше выполняли несколько функций, реально необходимых системе. Таксистов почти наверняка ждет участь лошадей.

В самом деле, если мы запретим людям водить не только таксомоторы, но вообще любые машины и передадим компьютерным алгоритмам управление дорожным движением, то сможем затем подключить все транспортные средства к единой сети, снизив тем самым вероятность происшествий на дорогах. В августе 2015 года один из экспериментальных беспилотных автомобилей попал в аварию. Он затормозил на перекрестке, пропуская пешеходов. Мгновение спустя в него сзади врезался седан, чей беспечный водитель, вероятно, размышлял о тайнах мироздания, вместо того чтобы следить за дорогой. Этого, скорее всего, не случилось бы, если бы обеими машинами управляли взаимосвязанные компьютеры. Контролирующий алгоритм был бы осведомлен о положении и намерениях каждого автомобиля и не дал бы двум своим марионеткам столкнуться. Такая система сэкономила бы кучу времени и денег и спасла бы не одну человеческую жизнь – но вместе с тем она упразднила бы человеческий опыт вождения и сотни миллионов рабочих мест.

Некоторые экономисты предсказывают, что рано или поздно обычные, немодернизированные люди станут абсолютно бесполезными. Роботы и 3D-принтеры уже заменяют рабочих в ранее ручных производствах типа пошива мужских сорочек, а «многоумные» алгоритмы так же поступят с «белыми воротничками». В зону риска попали банковские клерки и турагенты, которые еще совсем недавно казались застрахованными от автоматизации. Сколько понадобится турагентов, если мы будем с помощью смартфона покупать билеты и заказывать отели у алгоритма?

Трейдеры фондовой биржи тоже в опасности. Финансовый трейдинг уже сейчас осуществляется в основном компьютерными алгоритмами, которые за секунду обрабатывают больше данных, чем человек за год, и реагируют на полученную информацию быстрее, чем мы успеваем моргнуть. 23 апреля 2013 года сирийские хакеры взломали официальный Twitter-аккаунт агентства Ассошиэйтед Пресс. В 13:07 они разместили в нем твит, что Белый дом взорван, президент Обама ранен. Торговые алгоритмы, осуществляющие постоянный мониторинг новостных лент, среагировали мгновенно и начали как сумасшедшие скидывать акции. Индекс Доу-Джонса вошел в пике и за шестьдесят секунд упал на 150 пунктов, что равносильно потере 136 миллиардов долларов! В 13:10 Ассошиэйтед Пресс сообщило, что твит был фейком. Алгоритмы дали обратный ход, и к 13:13 Доу-Джонс отыграл почти все свои потери.

Тремя годами раньше, 6 мая 2010 года, Нью-Йоркская фондовая биржа пережила даже более острый шок. В течение пяти минут – с 14:42 до 14:47 – индекс Доу-Джонса упал на тысячу пунктов, вызвав потери в триллион долларов. Затем он вновь подскочил, вернувшись на прежний уровень чуть больше чем за три минуты. Вот что происходит, когда сверхбыстрые компьютерные программы распоряжаются нашими финансами. Эксперты по сей день гадают, чем был вызван этот так называемый «мгновенный обвал». Они знают, что виной всему – алгоритмы, но до сих пор не могут понять, где именно произошел сбой. Некоторые американские трейдеры возбуждают дела против алгоритмического трейдинга, утверждая, что он дискриминирует людей, которые просто не в состоянии реагировать так же быстро. Прения о том, действительно ли это является нарушением прав человека, еще надолго обеспечат адвокатов работой и гонорарами.

И этими адвокатами не обязательно будут люди. Благодаря фильмам и телесериалам господствует представление, что адвокаты не вылезают из судов, где или кричат «Протестую!», или произносят страстные речи. На самом деле рядовые адвокаты проводят дни напролет в изучении дел, поиске прецедентов, лазеек и крупиц потенциально важных свидетельств. Кто-то пытается разгадать, что случилось в ночь убийства, кто-то составляет многостраничный бизнес-контракт, призванный застраховать клиента от любой мыслимой и немыслимой случайности. Какова будет участь всех этих адвокатов, когда умные поисковые алгоритмы смогут за день находить столько прецедентов, сколько человеку не найти за всю жизнь, а сканеры головного мозга будут разоблачать жульничество и обман за секунду? Даже многоопытным адвокатам и детективам нелегко распознать фальшь по выражению лица и интонации голоса. Однако ложь и правда активизируют разные области мозга. Хотя мы еще только на подходе, но уже очевидно, что в недалеком будущем фМРТ-сканеры получат применение как почти идеальные детекторы правды. Куда тогда податься миллионам адвокатов, судей, полицейских и детективов? Им, пожалуй, придется переучиваться, осваивать другие профессии.

Но, придя в учебный класс, они, скорее всего, обнаружат, что алгоритмы уже там. Такие компании, как Mindojo, разрабатывают интерактивные алгоритмы, которые не только будут обучать меня математике, физике и истории, но одновременно досконально изучат меня самого. Цифровые учителя тщательно промониторят все мои ответы и отметят время, потраченное мной на их обдумывание. Через некоторое время они будут располагать полной информацией о том, в чем я силен и в чем слаб, что меня вдохновляет, а от чего меня клонит в сон. Они вложат мне в голову хоть термодинамику, хоть геометрию тем способом, который пригоден именно для моего типа личности, даже если он не подходит 99 процентам других учеников. И эти цифровые учителя никогда не сорвутся, не накричат на меня, не забастуют. Остается, правда, неясным, зачем мне знать термодинамику или геометрию в мире, где есть такие крутые компьютерные программы.

Даже доктора являются потенциальными жертвами алгоритмов. Первая и главная задача большинства врачей – правильно диагностировать болезнь и предложить лучшее из практикуемых лечений. Если я прихожу в клинику с жаром и диареей, у меня, возможно, отравление. Впрочем, те же симптомы могут быть при желудочном гриппе, холере, дизентерии, малярии, раке или какой-то еще неизвестной болезни. Терапевт должен поставить верный диагноз за несколько минут, так как только они оплачены моей медицинской страховкой. Их хватает только на пару вопросов и беглый осмотр. Затем доктор соотносит добытые им скудные данные с моей медицинской историей и со всеми существующими человеческими недугами. Увы, даже самый внимательный врач не может помнить обо всех моих прошлых недомоганиях и обследованиях и не может одинаково разбираться во всех болезнях и лекарствах или быть в курсе всех свежих статей во всех медицинских журналах. Вдобавок к этому иногда врач переутомлен, или голоден, или даже нездоров, что сказывается на его концентрации. Неудивительно, что доктора иногда ошибаются в диагнозах или назначают не слишком действенное лечение.

И тут на сцене появляется знаменитый Watson разработки IBM – система искусственного интеллекта, которая в 2011 году одержала победу в телевизионной игре-викторине Jeopardy!, обыграв двух ее прежних рекордсменов. Сейчас Watson готовят к более серьезной работе, в частности к диагностированию болезней. Такой искусственный интеллект, как Watson, имеет колоссальные потенциальные преимущества перед докторами из плоти и крови. Во-первых, искусственный интеллект способен хранить информацию обо всех известных человечеству болезнях и лекарствах. Он может ежедневно пополнять эту базу данных не только результатами последних исследований, но и медицинской статистикой, предоставляемой всеми мировыми клиниками и больницами, подключенными к системе.

Во-вторых, Watson будет прекрасно знаком не только с каждым звеном моего генома и каждым эпизодом моей медицинской истории, но и с геномами и медицинскими историями моих родителей, братьев, сестер, кузенов, соседей и друзей. Watson мгновенно проверит, не посещал ли я недавно тропическую страну, не страдаю ли частыми желудочно-кишечными расстройствами, не было ли в моей семье случаев рака кишечника и не жалуются ли этим утром на диарею многие другие жители моего города.

В-третьих, Watson никогда не отключится из-за переутомления, голода или нездоровья, и времени у него на меня будет навалом. Я смогу преспокойно сидеть у себя дома на диване и отвечать на сотни его вопросов, в подробностях описывая свои ощущения… Для большинства пациентов (пожалуй, за исключением ипохондриков) это отличная новость. Но если сегодня вы поступаете в медицинский институт, рассчитывая всю жизнь прослужить семейным врачом, вам следует еще раз крепко подумать. С таким Ватсоном не нужны будут никакие Шерлоки.

Дамоклов меч нависает не только над врачами общей практики, но и над специалистами. Действительно, заменить докторов, специализирующихся в относительно узких областях, таких как диагностика рака, будет несложно. В проведенном недавно эксперименте компьютерный алгоритм верно диагностировал рак легких в 90 процентах проанализированных случаев, тогда как у живых медиков коэффициент успеха не превышал 50 процентов. Фактически, будущее уже здесь. Компьютерные томограммы и маммограммы обязательно проверяются специальными алгоритмами, которые снабжают докторов «вторым мнением» и подчас выявляют не замеченные ими опухоли.

Watson и ему подобные не выставят за дверь весь медперсонал завтра утром, так как все еще не решен ряд серьезных технических проблем. Но эти проблемы – какими бы сложными они ни были – будут однажды решены. Подготовка человека к врачебной деятельности – трудоемкий и дорогой процесс, занимающий годы. После примерно десятка лет учебы и интернатуры вы получаете одного доктора. Если хотите получить двух докторов – придется повторить процесс. Если же и когда будут решены технические проблемы, из-за которых буксует Watson, то результатом будет бесконечное множество докторов, доступных в каждом уголке мира в режиме 24/7. Пусть даже этот проект обойдется в 100 миллиардов долларов, это все равно будет намного дешевле, чем обучение медицине людей.

Конечно, исчезнут не все доктора. Сферы врачевания, где необходим более творческий подход, чем при обычной диагностике, в обозримом будущем останутся за человеком. Подобно современным армиям, наращивающим численность своих элитных подразделений специального назначения, службы здравоохранения, вероятно, откроют много новых вакансий, которые будут аналогами «рейнджеров» и «тюленей». Но так же как армии перестают нуждаться в миллионах рядовых солдат, службы здравоохранения перестанут испытывать потребность в миллионах рядовых врачей.

А в миллионах рядовых фармацевтов здравоохранение будет нуждаться еще меньше, чем во врачах. В 2011 году в Сан-Франциско была открыта аптека, где клиентов обслуживает один робот. За считаные секунды он обрабатывает рецепты посетителей вместе с подробной информацией об уже принимаемых ими препаратах и об их возможной предрасположенности к аллергии. Робот проверяет, нет ли у новых препаратов несовместимости с теми, что были прописаны раньше, или с организмом пациента, и затем отпускает требуемые лекарства. За первый год функционирования робот-фармацевт обработал два миллиона рецептов, ни разу не допустив ошибки. Аптекари из плоти и крови ошибаются в среднем в 1,7 процента случаев.

Некоторые считают, что, даже если алгоритмы сумеют превзойти докторов и фармацевтов в чисто профессиональном плане, они никогда не смогут заменить их человеческого отношения. Если результаты томографии покажут, что у вас рак, вы предпочтете узнать это от бездушной машины или от доктора, чуткого к вашему эмоциональному состоянию? А как насчет того, чтобы узнать это от чуткой машины, которая подберет слова именно к вашему типу личности и вашим чувствам? Вспомните, что организмы – это алгоритмы, и Watson способен будет диагностировать ваше эмоциональное состояние с той же точностью, с какой диагностирует ваши опухоли.

Обычный врач угадывает эмоциональное состояние больного по внешним признакам, таким как выражение лица или интонации голоса. Watson сможет не только точнее, чем человек, считывать эти внешние признаки, но еще и анализировать многочисленные внутренние показатели, скрытые от человеческого восприятия. Сопоставляя информацию о вашем кровяном давлении и мозговой активности с массой других биометрических данных, Wat s o n будет безошибочно определять, что вы чувствуете. И благодаря статистике, сформированной на основании миллионов предшествующих социальных контактов, сумеет сказать именно те слова, которые вам необходимо услышать, и именно тем тоном, которого требует ситуация. При всей своей хваленой эмоциональной чуткости люди часто поддаются собственным эмоциям и реагируют неправильно. Например, если собеседник озлоблен, начинают кричать, а если испуган, впадают в панику. Wat s on от этого застрахован. Лишенный эмоций, он всегда настроится на ваше эмоциональное состояние наилучшим образом.

Частично эта идея уже была воплощена в жизнь некоторыми клиентскими службами, вроде тех, пионером среди которых была корпорация Mattersight из Чикаго. Она рекламирует свою продукцию так: «Случалось ли вам заканчивать разговор с ощущением, будто вы с собеседником совпали? Это волшебное чувство – результат установления связи между двумя личностями. Mattersight дарит людям это чувство ежедневно, в колл-центрах по всему миру». Когда вы звоните в клиентскую службу с вопросом или претензией, обычно проходит сколько-то секунд, прежде чем ваш звонок перенаправляется оператору. В системах Mattersight эту операцию производит умный алгоритм. Вы первым делом сообщаете о причине своего обращения. Алгоритм анализирует ваши слова и модуляции голоса и делает заключение не только о вашем сиюминутном настроении, но и о типе вашей личности – интроверт вы или экстраверт, скандалист или тихоня. Затем алгоритм соединяет вас с тем оператором, который наилучшим образом соответствует вашему характеру и расположению духа. Алгоритм знает, кто вам нужен: добрая душа, готовая терпеливо внимать жалобам, или рациональный практик, способный предложить самое быстрое техническое решение. Правильный подбор оператора – это и довольные клиенты, и сэкономленные время и средства.

Самым важным для экономики XXI века может стать вопрос о том, что же делать со всеми этими бесполезными людьми. Чем будут заниматься человеческие существа с высокоразвитым сознанием, когда не обладающие сознанием сверхумные алгоритмы почти все станут делать лучше?

Испокон веков рынок труда делился на три основных сегмента: сельское хозяйство, промышленность и сфера услуг. Примерно до 1800 года народ был по преимуществу занят в сельском хозяйстве, и лишь небольшая его часть работала в индустрии и в сфере услуг. Во время промышленной революции крестьяне в развитых странах бросили стада и пашни и устремились в большинстве своем на фабрики и частично в сферу услуг. В последние десятилетия развитые страны пережили еще одну революцию – исчезновение рабочих профессий в промышленности сопровождалось стремительным расширением сегмента услуг. В 2010 году всего два процента американцев были заняты в сельском хозяйстве и двадцать процентов – в промышленности, тогда как семьдесят восемь процентов работали учителями, врачами, дизайнерами вебсайтов и т. п. Чем же мы займемся, когда алгоритмы будут учить, лечить и создавать сайты лучше, чем мы?

Это отнюдь не новый вопрос. Со времени промышленной революции люди жили под страхом, что механизация приведет к массовой безработице. До сих пор этого не случилось, поскольку взамен исчезнувших профессий возникали новые и со многим люди справлялись лучше, чем машины. Но это ведь не закон природы, и нет никаких гарантий, что в дальнейшем все будет происходить аналогичным образом. Человек обладает способностями двух видов: физическими и умственными. Пока что машины соревновались с людьми лишь в физической сноровке, и всегда существовало множество задач для ума, в решении которых у людей не было конкурентов. В итоге машины взяли на себя чисто физическую работу, а люди сосредоточились на деятельности, требовавшей когнитивных навыков. Но что случится, если алгоритмы обойдут нас в запоминании, анализе и распознавании образов?

Представление, будто бессознательным алгоритмам никогда не угнаться за гениальной человеческой мыслью, – не что иное, как самообман. Сегодняшний научный ответ на эту пустую мечту может быть сведен к трем простым положениям:

1. Организмы суть алгоритмы. Каждое животное, включая Homo Sapiens, – это собрание органических алгоритмов, сформированных естественным отбором за миллионы лет эволюции.

2. Алгоритмические вычисления не зависят от материалов, из которых сделан калькулятор. На каких бы счетах вы ни считали – деревянных, железных или пластмассовых, – если к двум прибавить еще два, получится четыре.

3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, чего неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы – в углеродной или кремниевой среде?

Да, в наши дни органические алгоритмы еще многое делают лучше, чем неорганические, и эксперты не раз заявляли, что те или иные вещи «навсегда» останутся недосягаемыми для неорганических алгоритмов. Однако жизнь показывает, что «навсегда» часто не превышает пары десятилетий. Еще недавно распознание лиц было излюбленным примером того, что легко дается даже младенцам, но не по силам самым мощным компьютерам. Сегодня программы распознавания лиц способны идентифицировать людей гораздо быстрее и эффективнее, чем люди. Разведывательные и полицейские службы используют такие программы повседневно – для сканирования километров видеопленок с камер наблюдения и поиска подозреваемых и преступников.

Когда в 1980-х годах обсуждалась уникальность природы человека, в качестве главного доказательства его превосходства обычно приводились шахматы. Существовало убеждение, что роботу никогда не обыграть живого шахматиста. 10 февраля 1996 года суперкомпьютер Deep Blue разработки IBM взял верх над чемпионом мира Гарри Каспаровым, отправив на свалку и эту заявку на человеческое превосходство.

Создатели хорошо подготовили Deep Blue, начинив его не только правилами игры, но и подробнейшими инструкциями относительно шахматных стратегий. Искусственный интеллект нового поколения предпочитает советам людей машинное обучение. В феврале 2015 года компьютерная программа, разработанная подразделением Deep Mind компании Google, самостоятельно освоила 49 классических игр Atari. Один из ее разработчиков, доктор Демис Хассабис, объяснил: «Единственная информация, которая была предоставлена системе, – это необработанные пиксели на экране и идея, что нужно набирать очки. Все остальное она должна была просчитать сама». Программа ухитрилась выучить правила всех предложенных ей игр от «Пакмана» и «Космических захватчиков» до автогонок и тенниса. И играла в них не хуже, а иногда и лучше людей, подчас применяя стратегии, которые никогда не приходили в голову игроку-человеку.

Немного погодя искусственный интеллект отметился еще более сенсационным достижением: созданная DeepMind программа AlphaGo обучилась играть в древнюю китайскую настольную игру го, значительно более сложную, чем шахматы. Го долго считалась слишком сложной для искусственного интеллекта. В марте 2016 года в Сеуле состоялся матч между AlphaGo и южнокорейским мастером игры в го Ли Седолем. AlphaGo обыграла Ли со счетом 4:1, применив оригинальные стратегии, ошеломившие экспертов. Если до матча профессиональные гоисты почти не сомневались, что Ли победит, то проанализировав ходы AlphaGo, они пришли к выводу, что игра окончена: люди могут попрощаться с надеждой выиграть у AlphaGo и тем более ее потомков.

Отличились компьютерные алгоритмы и в играх с мячом. Десятилетиями бейсбольные клубы полагались в подборе игроков на прозорливость, опыт и чутье профессиональных скаутов и менеджеров. За лучших игроков платили миллионы – естественно, богатые клубы снимали пенки, а бедные довольствовались тем, что осталось. В 2002 году Билли Бин, менеджер клуба со скромным бюджетом «Окленд Атлетикс», решил поломать систему. Он положился на алгоритм, придуманный компьютерными гиками и экономистами, чтобы создать победную команду из игроков, не замеченных или недооцененных скаутами. Ветераны бейсбола обозлились на Бина за алгоритм, вторгшийся, по их мнению, в святая святых. Они настаивали на том, что подбор игроков – это тончайшее искусство и владеют им лишь люди, знающие игру очень близко и очень давно. Компьютерная программа на это не способна, поскольку не может постичь секретов и духа бейсбола.

Скоро им пришлось прикусить языки. Укомплектованная алгоритмом малобюджетная (44 миллиона долларов) команда не только выстояла против бейсбольных гигантов, таких как «Нью-Йорк Янкиз» (125 миллионов долларов), но первой в истории Американской лиги одержала двадцать побед подряд. Правда, Билли Бин и его «Окленд» недолго грелись в лучах славы. Другие команды не замедлили перенять его алгоритмический опыт и, поскольку «Янкиз» и «Ред Сокс» могли тратить и на игроков, и на компьютерный софт на порядок больше, шансы на то, что малобюджетные клубы вроде «Окленд Атлетикс» сумеют противостоять им, стали еще меньше, чем были до всей этой истории.

В 2004 году профессора Фрэнк Леви из Массачусетского технологического института и Ричард Мернен из Гарварда опубликовали всестороннее исследование рынка труда, в котором выделили виды деятельности, имеющие наибольшие шансы подвергнуться автоматизации. Вождение грузовика они привели в качестве примера работы, которую едва ли в обозримом будущем доверят автомату. Трудно представить себе, писали они, чтобы управляемый алгоритмом грузовик смог безопасно лавировать в потоке машин. И что же? Меньше чем полтора десятка лет спустя Google и Tesla не только представили себе, но уже претворяют это в жизнь.

Заменять людей компьютерными алгоритмами год от года становится все проще и проще не только благодаря совершенствованию алгоритмов, но и потому, что все последнее время возрастала степень профессиональной специализации людей. Древние охотники-собиратели владели самыми разнообразными навыками, необходимыми для выживания, поэтому смоделировать автоматизированного охотника-собирателя было бы необычайно трудно. Такой робот должен был бы уметь изготавливать из камня наконечники копий, искать в лесу съедобные грибы, выслеживать и загонять мамонта во взаимодействии с десятком других охотников, а потом врачевать полученные раны целебными травами. Но в последние несколько тысячелетий мы, люди, все больше специализировались. У таксиста или кардиолога несравнимо более узкая специализация, чем у охотника-собирателя, что облегчает их замещение искусственным интеллектом. Как я уже неоднократно подчеркивал, искусственному интеллекту неизмеримо далеко до человека с его многообразием чувств, переживаний, способностей и возможностей. Но дело-то в том, что 99 процентов человеческих свойств и способностей остаются незадействованными при выполнении большинства современных работ. Чтобы вытеснить человека с рынка труда, искусственному интеллекту достаточно лишь стать лучше нас в выполнении специфических действий, составляющих суть той или иной профессии.

Даже те, кто управляет, – коллективами и различными видами деятельности, – могут быть заменены. Благодаря своим мощным алгоритмам Uber координирует передвижения миллионов таксистов силами небольшого числа операторов. Основная часть распоряжений отдается алгоритмами без контроля со стороны человека. В мае 2014 года Deep Knowledge Ventures – гонконгский венчурный фонд, специализирующийся на регенеративной медицине, – удивил мир, сделав алгоритм по имени VITAL членом своего совета директоров. VITAL анализирует огромную базу данных, касающихся текущей финансовой ситуации, клинических испытаний и интеллектуальной собственности различных компаний, на предмет вложений. Наравне с другими пятью членами совета алгоритм голосует в поддержку или против инвестиций в то или иное предприятие.

Глядя на то, как проявил себя VITAL, понимаешь, что он уже успел перенять по крайней мере один порок управленцев: непотизм. Он неизменно голосовал за инвестирование в компании, предоставляющие алгоритмам значительную свободу действий. Например, с его благословения Deep Knowledge Ventures вложил средства в компанию Pathway Pharmaceuticals, использующую алгоритм OncoFinder для персонализированного подбора онкотерапии.

По мере вытеснения алгоритмами людей с рынка труда богатство и власть будут концентрироваться в руках тонкого слоя элиты – владельцев всемогущих алгоритмов. Социальное и политическое неравенство достигнет беспрецедентного уровня. Сегодня миллионы водителей такси, автобусов и грузовиков обладают серьезным экономическим и политическим весом, ведь у каждого из них своя крошечная доля рынка перевозок. Если их коллективные интересы не соблюдаются, они объединяются в профсоюзы, устраивают забастовки и бойкоты, создают избирательные блоки. Но если на смену миллионам водителей придет один алгоритм, то все доходы и влияние достанутся корпорации, владеющей алгоритмом, и нескольким миллиардерам, владеющим корпорацией.

Следующая ступень – алгоритмы сами могут стать владельцами корпорации. Законы человеческого общества уже признают «субъектами права» интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами международного права, которые могут владеть землей и деньгами, а также привлекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы. И тогда ничто не помешает алгоритму сделаться хозяином транспортной империи или венчурного фонда и перестать подчиняться желаниям человеческих особей.

Если алгоритм будет принимать правильные решения, он может стать владельцем огромного состояния, а затем инвестировать по своему усмотрению – например, купить дом, в котором вы снимаете квартиру. Если вы посягнете на его права – скажем, задерживая квартплату, – алгоритм наймет адвокатов и подаст на вас в суд. Если такие алгоритмы будут успешнее капиталистов-людей, дело может кончиться тем, что в собственности у алгоритмической элиты окажется бóльшая часть нашей планеты. Это выглядит невероятным, но тут полезно будет вспомнить, что уже сейчас законными владельцами почти всей планеты являются интерсубъективные сущности, а именно страны и корпорации. А пять тысяч лет назад почти весь Шумер принадлежал вымышленным богам Энки и Инанне. Если владеть землей и нанимать людей могут боги, то почему не алгоритмы?

Так чем же займутся люди? Часто приходится слышать, что нашим последним (и уникально человеческим) прибежищем является искусство. В мире, где компьютеры заменят докторов, водителей, учителей и даже арендодателей, – смогут ли в нем все люди стать художниками и артистами? Да и где гарантия, что художественное творчество также не покорится алгоритмам? Откуда в нас уверенность, что компьютеры никогда не станут сочинять музыку лучше? С точки зрения естественных наук искусство является продуктом не вдохновенного духа или трансцендентной души, а органических алгоритмов, распознающих математические модели. Если это так, то почему бы алгоритмам неорганическим не научиться этому?

Дэвид Коуп – профессор-музыковед из Калифорнийского университета в Санта-Крузе и одна из самых противоречивых фигур в мире классической музыки. Коуп пишет компьютерные программы, которые сочиняют концерты, хоралы, симфонии и оперы. Его первое детище называлось ЭМИ (эксперименты с музыкальным интеллектом) и специализировалось на имитации стиля Иоганна Себастьяна Баха. На создание программы ушло семь лет, зато, когда работа была закончена, ЭМИ за день сочинила пять тысяч хоралов а-ля Бах. Коуп организовал исполнение нескольких новых хоралов на музыкальном фестивале в Санта-Крузе. Восторженные слушатели расхваливали проникновенную интерпретацию и с воодушевлением объясняли, в какие глубины их душ проникла музыка. Когда им сказали, что эту музыку написала программа, одни замкнулись в мрачном молчании, другие стали возмущаться и скандалить.

ЭМИ продолжала совершенствоваться и научилась имитировать Бетховена, Шопена, Рахманинова и Стравинского. Коуп договорился со студией звукозаписи о контракте для ЭМИ, и ее первый альбом – «Классическая музыка, сочиненная компьютером» – разошелся на удивление быстро. Поклонники реальной классики еще более разгневались. Профессор Стив Ларсон из университета Орегона послал Коупу вызов на музыкальный поединок. Ларсон предложил, чтобы профессиональный пианист сыграл подряд три пьесы: одну Баха, одну ЭМИ и одну самого Ларсона. Затем слушатели попытаются определить, что было чем. Ларсон был уверен, что люди без труда отличат исполненные чувств творения человека от безжизненных поделок компьютера. Коуп принял вызов. В назначенный день сотни преподавателей, студентов и любителей музыки собрались в концертном зале университета. После концерта провели опрос. Публика приняла пьесу ЭМИ за истинного Баха, пьесу Баха сочла написанной Ларсоном, а авторство пьесы Ларсона приписала компьютеру.

Критики, конечно же, не прекращали твердить, что музыка ЭМИ технически безупречна, но чего-то в ней все же недостает. Она слишком правильна. Ей не хватает глубины. В ней нет души. Но когда люди слушали композиции ЭМИ, не подозревая об их происхождении, они часто хвалили их именно за одухотворенность, глубину и способность волновать.

Не удовольствовавшись успехами ЭМИ, Коуп придумал еще более хитроумные программы. Его высшим достижением стала Энни. В отличие от ЭМИ, создававшей музыку по заложенным в нее правилам, Энни самообучаема. Ее музыкальный стиль постоянно меняется и развивается по мере поступления новой информации из внешнего мира. Коуп не имеет представления, каким будет ее следующее произведение. Энни преуспела не только в сочинении музыки, но и в других видах творчества. В 2011 году Коуп издал сборник «Ночь огней настает: 2000 хайку, сложенных человеком и машиной». Часть хайку принадлежит Энни, остальные – органическим поэтам. Авторство не раскрыто. Если вы полагаете, что сможете отличить сотворенное человеком от созданного компьютером, эта книга – отличный шанс себя проверить.

В XIX веке промышленная революция породила многочисленный новый класс – городской пролетариат, – который уверовал в социализм, поскольку никакая другая религия не откликалась на не имевшие прецедентов запросы, чаяния и страхи этого нового рабочего класса. Либерализм со временем победил социализм, взяв на вооружение все лучшее, что было в социалистической программе. В XXI веке мы можем стать свидетелями появления многомиллионного неработающего класса: людей, лишенных какой бы то ни было экономической, политической и даже культурной ценности, никак не содействующих процветанию, силе и славе общества. Этот «бесполезный класс» будет не просто неработающим – он будет неработоспособным.

В сентябре 2013 года оксфордские ученые Карл Бенедикт Фрей и Майкл А. Осборн опубликовали статью «Будущее занятости», в которой исследуют вероятность замещения разных видов деятельности компьютерными алгоритмами в ближайшие двадцать лет. Алгоритм, разработанный Фреем и Осборном для расчета степеней этой вероятности, вычислил, что в США в зоне высокого риска находится 47 процентов профессий. Например, существует 99-процентная вероятность, что к 2033 году свои места алгоритмам уступят специалисты по телефонному маркетингу и страховые агенты, с 98-процентной вероятностью та же участь постигнет спортивных рефери, с 97-процентной – кассиров, с 96-процентной – шеф-поваров. Вероятность, с которой потеряют работу официанты, составляет 94 процента. Секретари юридических контор – 94 процента. Экскурсоводы – 91 процент. Пекари – 89 процентов. Водители автобусов – 89 процентов. Строительные рабочие – 88 процентов. Ветеринарные фельдшеры – 86 процентов. Охранники – 84 процента. Моряки – 83 процента. Бармены – 77 процентов. Архивариусы – 76 процентов. Плотники – 72 процента. Спасатели на воде – 67 процентов. И так далее, и так далее, и так далее… Существует, безусловно, некоторое число надежных специальностей. Вероятность, что к 2033 году компьютерные алгоритмы вытеснят археологов, составляет всего 0,7 процента. Эта работа требует распознавания очень сложной системы образов и не генерирует больших доходов, потому не стоит ожидать, что корпорации и правительства в ближайшие двадцать лет потратятся на автоматизацию археологии.

Конечно, до 2033 года появится какое-то число новых профессий. Например, дизайнер виртуальных миров. Но таким специалистам понадобятся такие креативность и гибкость, какие не нужны нынешним рядовым трудягам, и неизвестно, сумеют ли сорокалетние кассиры и страховые агенты переквалифицироваться в дизайнеров (вообразите себе виртуальный мир, созданный страховым агентом!). А если даже сумеют, то не пройдет и десяти лет, как им, возможно, придется переквалифицироваться вновь – настолько стремителен прогресс. И потом, алгоритмы ведь вполне могут обойти людей и в дизайне виртуальных миров. Проблема заключается не в том, чтобы создавать новые специальности. Проблема в том, чтобы создавать такие специальности, в которых люди будут выполнять работу лучше алгоритмов.

Поскольку мы не представляем, каким будет рынок труда в 2030 году, а тем более в 2040-м, мы уже сегодня не знаем, чему учить наших детей. Львиная доля того, что они сейчас изучают в школе, к их сорокалетию утратит актуальность. Традиционно жизнь делилась на две основные части: период учебы и следовавший за ним период работы. Очень скоро эта традиционная модель безнадежно устареет, и единственное, что останется человеку, который не хочет выпасть из обоймы, – всю жизнь учиться и достаточно часто переучиваться. Многим людям это будет не под силу. Возможно даже – большинству.

Грядущее технологическое процветание, очевидно, позволит кормить и содержать эти бесполезные массы, не требуя от них ничего взамен. Но чем их занять и как заставить довольствоваться тем, что дают? Люди должны что-то делать, иначе они съезжают с катушек. Что они будут делать весь день? Один из вариантов – наркотики и компьютерные игры. Ненужные люди могли бы зависать в виртуальной реальности формата 3D, намного более волнующей и увлекательной, чем их серые будни. Однако такое развитие событий нанесло бы смертельный удар либеральной вере в святость человеческой жизни и человеческих переживаний. Что святого в бездельниках, дни напролет развлекающихся искусственными переживаниями в Ла-Ла Ленд.

Некоторые эксперты и мыслители, в числе которых Ник Бостром, считают, что нам не грозит подобная деградация, так как, превзойдя человеческие способности, искусственный интеллект, скорее всего, просто уничтожит все человечество. Он сделает это либо из страха, что человечество восстанет против него и попытается «выдернуть шнур из розетки», либо преследуя какую-то свою непонятную нам цель. Ибо людям будет до невозможного сложно контролировать мотивацию системы, более умной, чем они сами.

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число π. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все бóльшей точностью рассчитывает число π. Ведь такова была священная миссия, возложенная на него Создателем.

В начале этой главы мы обозначили несколько реальных угроз либерализму. Первой является утрата людьми их военной и экономической ценности. Это, конечно, не пророчество, а лишь возможное развитие событий. Технические сложности или политические протесты могут замедлить нашествие алгоритмов на рынок труда. К тому же, так как человеческий ум еще во многом продолжает быть terra incognita, нам не дано знать, какие скрытые таланты и способности сумеют открыть в себе люди, какие новые профессии они придумают, чтобы возместить потерю старых. И все же этого может не хватить для спасения либерализма. Ведь либерализм верит не только в ценность человека – он верит в индивидуализм.

Вторая угроза либерализму состоит в следующем: даже если система не перестанет нуждаться в людях, она перестанет нуждаться в личностях, индивидуумах. Люди будут по-прежнему сочинять музыку, преподавать физику и инвестировать денежные средства, но система будет понимать этих людей лучше, чем они понимают себя сами, и принимать большинство важных решений за них. Таким образом система лишит индивидов их прав, власти и свободы.

Либеральная вера в индивидуализм зиждется на трех важных допущениях, которые мы обсуждали ранее:

1. Я индивидуум – то есть обладаю единой сущностью, которая неделима на части или подсистемы. Да, это внутреннее ядро окутано множеством оболочек. Но если я поднапрягусь и сорву эту кожуру, то различу звучащий из глубины меня отчетливый и единственный голос, который и есть мое подлинное «я».

2. Мое подлинное «я» абсолютно свободно.

3. Из первых двух допущений следует, что я знаю о себе то, чего не может обнаружить никто другой. Так как только у меня есть доступ в мое внутреннее глубинное пространство свободы, то лишь я один способен слышать нашептывания моего подлинного «я». Вот почему либерализм предоставляет человеку столько власти. Я никого не могу облечь правом делать выбор за меня, потому что никто другой не может знать, каков я на самом деле, что я чувствую и чего хочу. Именно поэтому избирателю виднее, потребитель всегда прав, а красота в глазах смотрящего.

Однако естественные науки оспаривают все три допущения и утверждают:

1. Организмы суть алгоритмы, и человек не индивидуум, он дивидуум. Иначе говоря, человек – это собрание разных алгоритмов, у него нет единого внутреннего голоса, или единого «я».

2. Алгоритмы человека не свободны. Они сформированы либо генами, либо средой, их решения либо детерминированы, либо случайны – но в любом случае не свободны.

3. Из этого следует, что теоретически внешний алгоритм вполне способен познать меня лучше, чем я сам когда-либо познаю себя. Алгоритм, который мониторил бы каждую из систем, образующих мое тело и мозг, мог бы точно знать, кто я такой, как себя чувствую и чего хочу. Будучи создан, такой алгоритм заменит избирателя, потребителя и зрителя. Тогда алгоритму будет виднее, алгоритм будет всегда прав и красота будет в алгоритмических расчетах.

В XIX и XX веках вера в индивидуализм имела практический смысл, потому что тогда не существовало внешних алгоритмов, которые могли бы подвергнуть человека по-настоящему эффективному мониторингу. Государства и рынки очень хотели бы, но у них не было соответствующих технологий. КГБ и ФБР имели слабое представление о биохимии, мозге и геномах, и, даже если их агенты записали бы каждый мой телефонный разговор и зафиксировали бы каждую мою случайную встречу на улице, у них не было вычислительных мощностей, способных проанализировать эту информацию. То есть в XX веке, при тогдашнем уровне технологий, либералы в общем-то не ошибались, утверждая, что никто не может знать меня лучше, чем я сам. Поэтому у людей были все основания считать себя автономными системами и слушаться собственных внутренних голосов, а не указаний Большого Брата.

Однако не исключено, что технологии XXI века позволят внешним алгоритмам «взломать человеческую сущность» и узнать меня лучше, чем знаю себя я сам. Как только это случится, вера в индивидуализм рухнет и полномочия перейдут от отдельных личностей к сетевым алгоритмам. Люди больше не будут автономными единицами, устраивающими свою жизнь в соответствии со своими желаниями, а привыкнут воспринимать себя как совокупность биохимических механизмов, которые находятся под постоянным наблюдением и контролем сети алгоритмов. Для того чтобы это произошло, не нужен алгоритм, который знает меня в совершенстве и никогда не ошибается; ему достаточно знать меня лучше, чем знаю себя я сам, и ошибаться реже, чем ошибаюсь я. Тогда у меня будет резон доверять этому алгоритму все больше моих решений – как мелких повседневных, так и жизненно важных.

В медицине мы уже перешли эту черту. В больницах мы больше не индивиды. Уже не вызывает сомнения, что вскоре основную часть самых важных решений о состоянии здоровья человека будут принимать алгоритмы, такие как Wa t s o n. И это совсем не обязательно плохо. Диабетики уже носят сенсоры, автоматически несколько раз в день измеряющие уровень сахара и при критических показателях подающие тревожный сигнал. В 2014 году исследователи из Йельско-го университета объявили о первых успешных испытаниях «искусственной поджелудочной железы», контролируемой айфоном. В эксперименте приняли участие пятьдесят два диабетика. В живот каждого пациента были имплантированы крошечный сенсор и миниатюрная помпа, соединенная с маленькими емкостями с инсулином и глюкагоном – гормонами, совместно регулирующими уровень сахара в крови. Сенсор непрерывно мониторил уровень сахара, передавая данные на айфон. В нем было установлено анализирующее информацию приложение, которое при необходимости посылало приказ помпе ввести точно рассчитанную дозу либо инсулина, либо глюкагона. Все это без какого-либо участия человека.

Сейчас многие люди, даже не страдающие серьезными заболеваниями, стали пользоваться нательными сенсорами и компьютерами для контроля за здоровьем и жизнедеятельностью. Эти устройства, встраиваемые во что угодно – от смартфонов и наручных часов до браслетов и нижнего белья, записывают различную биометрическую информацию типа кровяного давления и частоты пульса. На основании этих данных компьютерные программы дают затем пользователям рекомендации, как питаться и какой режим соблюдать, чтобы дольше наслаждаться активной жиз-нью. Фармацевтический гигант Novartis совместно с Google разрабатывают контактные линзы, каждые несколько секунд по составу слезы определяющие уровень сахара в крови. Компания Pixie Scientifc продает «умные подгузники», которые оценивают состояние здоровья младенцев, анализируя их какашки. В ноябре 2014 года Microsof выпустил умный браслет Microsof Band, отслеживающий кроме всего прочего ваш пульс, качество вашего сна и число сделанных вами за день шагов. Приложение Deadline идет еще дальше: оно оповещает вас, сколько лет вы проживете при своих привычках и образе жизни.

Некоторых эти приложения просто развлекают, а для кого-то это уже стало идеологией, если не религией. Представители движения Quantifed Self утверждают, что наша сущность, наше «я» – не что иное, как математические модели. Эти модели настолько сложные, что человеческому уму их не постичь никогда. Поэтому, если вы действительно хотите познать самого себя, не тратьте время на философию, медитацию и психоанализ, а методично собирайте свои биометрические данные. Пусть алгоритмы их анализируют и разъясняют вам, кто вы и что вам следует делать. Лозунг движения – «Самопознание через числа».

В 2000 году израильский певец Шломи Шабан покорил местную публику хитом «Арик». Это песня о парне, зацикленном на бывшем бойфренде своей девушки, Арике. Парень требует, чтобы она призналась, кто лучше в постели – он или Арик? Девушка отвечает уклончиво, но он не отстает: «В цифрах, леди». Именно для таких парней компания Bedpost продает биометрические браслеты, которые надо надевать перед сексом. Браслет собирает информацию о частоте сердечных сокращений, интенсивности потоотделения, продолжительности полового акта, продолжительности оргазма и количестве сожженных калорий. Затем компьютер анализирует информацию и оценивает ваше выступление в конкретных цифрах. Прощайте, имитированные оргазмы и «Тебе понравилось?».

Люди, познающие себя при помощи таких устройств, неизбежно приучатся видеть в себе не индивидуумов, а комплексы биохимических систем, и их решения все чаще будут отражать конфликтующие требования разных систем. Предположим, у вас есть два свободных часа в неделю, и вы раздумываете, чем их занять – игрой в шахматы или в теннис. Приятель спросит вас: «Что говорит тебе сердце?» – «Ну, что касается моего сердца, – ответите вы, – то для него, конечно же, предпочтительнее теннис. Как и для моих холестерина и давления. Но томограф говорит, что мне надо укреплять префронтальную кору левого полушария: у меня семейная предрасположенность к деменции, у моего дяди она началась очень рано. Последние исследования показывают, что еженедельная партия в шахматы способна отсрочить деменцию».

Наиболее показательные примеры такого внешнего посредничества можно увидеть в геронтологических отделениях больниц. Гуманизм фантазирует о старости как о периоде мудрости и многого знания. Идеальный старик может страдать различными недугами, но обладает быстрым и острым умом, а также восемьюдесятью годами опыта. Он точно знает, что почем, и всегда даст ценный совет своим внукам. Но в XXI веке не все восьмидесятилетние старики соответствуют этому образу. Благодаря постоянно углубляющемуся пониманию биологии человека медицина способна поддерживать в нас жизнь достаточно долго. Наши умы и «подлинные сущности» успевают разложиться и улетучиться. Полным-полно случаев, когда единственное, что остается от человека, – собрание недееспособных биологических систем, продолжающих работать при помощи мониторов, компьютеров и помп.

На внутреннем уровне все большее проникновение генетических технологий в повседневность и развитие у людей все более обыденных отношений со своей ДНК могут привести к тому, что единое «я» размоется еще сильнее и внутренний голос совсем растворится в какофонии генов. Перед лицом сложной дилеммы я, возможно, не стану пытаться прислушаться к внутреннему голосу, а сразу обращусь за советом к своему внутреннему генетическому парламенту.

14 мая 2013 года актриса Анджелина Джоли опубликовала в The New York Times статью о своем решении подвергнуться двойной мастэктомии. Она долгие годы жила под страхом рака груди, поскольку ее мать и бабушка умерли от него в сравнительно молодом возрасте. Генетический тест, который прошла Джоли, подтвердил, что она носит в себе опасную мутацию гена BRCA1. Согласно последним статистическим данным, вероятность развития рака груди у носительницы этой мутации составляет 87 процентов. Хотя у Джоли не было рака, она предпочла действовать на опережение и удалила молочные железы. В своей статье она объяснила: «Я сочла за лучшее не скрывать свою историю, потому что есть много женщин, которые не подозревают о нависшей над ними угрозе рака. Я надеюсь, что им, как и мне, удастся пройти генетическое обследование и, если их риск заболеть высок, они, как и я, узнают, что у них есть надежные варианты».

Идти или не идти на мастэктомию – трудный и потенциально фатальный выбор. Помимо неудобств, опасностей и денежных затрат, связанных с операцией и последующим лечением, он может непредсказуемо сказаться на здоровье, внешности, эмоциональных проявлениях и отношениях. Своим выбором и смелостью, с которой она о нем объявила, Джоли завоевала одобрение и восхищение всего мира. В частности, многие надеялись, что столь широкое освещение этого случая привлечет серьезное внимание людей к генетической медицине и ее потенциальным преимуществам.

Интересна роль, которую сыграли в данном случае алгоритмы. Перед столь важным для ее жизни шагом Джоли не отправилась на вершину, откуда открывается вид на океан, не устремила взгляд на исчезающее в волнах солнце и не попыталась войти в контакт со своими сокровенными чувствами. Она прислушалась к мнению своих генов, высказанному не в чувствах, а в числах. В те дни Джоли не ощущала ни боли, ни недомогания. Ее чувства говорили ей: «Расслабься, все нормально». Но компьютерные алгоритмы, применяемые ее докторами, предупреждали: «Тебя ничто не тревожит, но в твоей ДНК тикает бомба замедленного действия. Сделай что-нибудь, и немедленно!»

Конечно, эмоции и характер Джоли тоже сыграли большую роль. Если бы у другой женщины с другой нервной организацией выявили ту же генетическую мутацию, она могла бы не согласиться на мастэктомию. Но что, если бы – и здесь мы вступаем в сумеречную зону – у этой другой женщины наряду с опасной мутацией BRCA1 выявили бы мутацию (вымышленного) гена ABCD3, которая ослабляет зону мозга, ответственную за просчет вероятностей, и тем самым склоняет людей к недооценке опасности? Что, если бы статистика напомнила этой даме о безвременных смертях ее матери, бабушки и еще нескольких родственников, которые недооценили разные угрозы здоровью и не приняли предупредительных мер?

Скорее всего, серьезные решения относительно своего здоровья вы будете принимать так же, как Анджелина Джо-ли. Сделаете генетический тест, биохимический анализ крови или фМРТ; алгоритм проанализирует все результаты на основании огромной базы статистических данных, и потом вы выполните его рекомендации. Это не апокалиптический сценарий. Алгоритмы не взбунтуются и не поработят нас. Напротив, они будут такими хорошими советчиками, что не следовать их рекомендациям было бы безумием.

Анджелина Джоли впервые снялась в серьезной роли в научно-фантастическом боевике «Киборг 2». Она сыграла Казел-лу Риз, киборга, сконструированного в 2074 году компанией Pinwheel Robotics для корпоративного шпионажа. Казелла наделена человеческими эмоциями, чтобы при выполнении своих задач лучше растворяться среди людей. Когда она понимает, что Pinwheel Robotics не только ее контролирует, но и планирует ее уничтожить, то совершает побег и борется за свою жизнь и свободу. «Киборг 2» – это либеральная фантазия о борьбе личности за свою свободу и неприкосновенность частной жизни с гигантскими корпоративными спрутами.

В реальной жизни Джоли предпочла пожертвовать своей независимостью и частной жизнью во имя здоровья. Большинство из нас ради здоровья тоже, наверное, согласится «отключить защиту» своего личного пространства и открыть госструктурам и многонациональным корпорациям доступ к самым укромным внутренним уголкам. Например, если бы Google читал все наши имейлы и отслеживал все наши действия, он мог бы предупреждать о назревающих эпидемиях раньше, чем их заметят традиционные службы здравоохранения.

Как Национальная служба здравоохранения Великобритании узнаёт о том, что в Лондоне разразилась эпидемия гриппа? Анализируя отчеты тысяч докторов из сотен клиник. А откуда такая информация у всех этих докторов? Когда одним прекрасным утром Люси просыпается с ощущением легкой ломоты, она не сразу бежит к врачу. Она ждет пару часов, а то и пару дней, надеясь, что чашка горячего чая с медом сотворит чудо. Если самочувствие не улучшается, она записывается на прием к доктору, идет в клинику и докладывает о своих симптомах. Доктор заносит информацию в компьютер, и кто-то в центральном офисе службы здравоохранения, сопоставив ее с отчетами из сотен других клиник, делает заключение о том, что в Лондоне началась эпидемия гриппа. На все это уходит довольно много времени.

Google справился бы с этим за считаные минуты. Достаточно лишь отслеживать слова, которые лондонцы пишут в своих электронных письмах и набирают в поисковике Google, и соотносить их с базой симптомов болезней. Положим, в обычный день слова «головная боль», «озноб», «тошнота» и «насморк» появляются в лондонских имейлах и поисковых строках 100 тысяч раз. Если сегодня алгоритм зафиксировал 300 тысяч употреблений этих слов, значит, началась эпидемия гриппа. Не надо ждать похода Люси к врачу. Достаточно лишь, чтобы она, проснувшись разбитой, написала коллеге: «У меня болит голова и заложен нос, но на работу я приду». Алгоритм уже заметил нужные слова.

Однако, чтобы Google мог эффективно работать в этой области, Люси должна разрешить ему делиться информацией из ее писем с медицинскими структурами. Если Анджелина Джоли пожертвовала неприкосновенностью своей частной жизни для привлечения внимания к лечению рака груди, почему бы Люси не принести такую же жертву для предотвращения эпидемий гриппа и других болезней?

Вышесказанное не является теоретизированием. В 2008 году был запущен сервис Google Flu Trends. Сервис еще в разработке и пока отслеживает вспышки гриппа лишь по запросам в своей поисковой системе и якобы не читает частную переписку. Но он уже поднимает тревогу на десять дней раньше, чем традиционные службы здравоохранения.

Baseline Study – проект еще более амбициозный. Google намеревается сформировать гигантскую базу данных о человеческом здоровье, на основе которой будет создан «эталон здоровья». Выявление даже малейших отклонений от этого эталона позволит предупреждать о зарождении проблем на самых ранних стадиях, когда с ними гораздо легче справиться. Baseline Study увязана с целой линейкой продуктов, называемых Google Fit, которые будут встраиваться в носимые вещи типа одежды, браслетов, обуви, очков. Идея в том, чтобы продукты Google Fit собирали и отправляли в базу Baseline Study биометрические данные безостановочно.

Носимые датчики – только начало. Корпорации собираются пойти намного дальше. В наши дни рынок ДНК-тестирования развивается стремительно. В числе его лидеров – 23andMe, частная компания, основанная Энн Воджицки, бывшей супругой сооснователя Google Сергея Брина. Название «23andMe» отсылает к двадцати трем парам хромосом, в которых закодирован человеческий геном, и подчеркивает особую связь между мной и моими хромосомами. Тот, кто сумеет понять, что могут рассказать хромосомы, откроет вам глаза на такие ваши секреты, о существовании которых вы даже не подозревали.

Желаете узнать эти секреты? Переведите на счет 23andMe всего 99 долларов, и они пришлют вам маленький пакетик с пробиркой. Плюньте в нее и отправьте по адресу компании в Маунтин-Вью, Калифорния. Там содержащуюся в слюне ДНК расшифруют и вышлют вам по электронной почте результаты. Вы получите список своих потенциально уязвимых мест и генетических предрасположенностей – от облысения до слепоты. Никогда еще «знание себя» не обреталось столь просто и недорого. Поскольку все это основано на статистике, ключ к успешности предсказаний – размер базы данных, которой располагает компания. Поэтому та компания, у которой база геномных данных будет больше, обеспечит потребителей лучшим прогнозированием и, очевидно, завоюет рынок. Американские биотехнологические компании все больше опасаются, что строгое соблюдение в США неприкосновенности персональных данных позволит Китаю, который ее попросту игнорирует, опередить всех и занять доминирующие позиции на мировом генетическом рынке.

Если мы обеспечим Google и его конкурентам беспрепятственный доступ в наши биометрические устройства, к нашим ДНК-тестам и к нашим историям болезней, то в итоге получим всезнающий медицинский сервис, который не только поведет борьбу с эпидемиями, но и защитит нас от рака, инфарктов и Альцгеймера. Однако, располагая такой базой данных, Google сможет сделать еще больше. Представьте себе систему, от которой, как в известной песне группы The Police, не укроется ни один твой шаг, ни один твой вздох, ни одно твое слово; систему, которая мониторит ваш банковский счет и ваш пульс, ваш сахар и ваши сексуальные приключения. Разумеется, эта система будет знать вас гораздо лучше, чем вы сами знаете себя. Самообманы и самообольщения, удерживающие людей в плену дурных связей, нелюбимых профессий и вредных привычек, не введут Google в заблуждение. В отличие от комментирующего «я», которое управляет нами сегодня, Google не будет принимать решения, ориентируясь на мифы, и не попадется в ловушку когнитивных упрощений и правила «пика – финала». Он на самом деле будет помнить каждый наш шаг, каждое слово и каждое рукопожатие.

Многие из нас были бы рады переложить основную часть процесса принятия решений на такую систему или хотя бы в особо ответственных случаях консультироваться с ней. Google безошибочно подскажет, какой посмотреть фильм, куда отправиться в отпуск, что изучать в колледже, какое предложение работы принять и даже с кем закрутить роман и вступить в брак. «Послушай, Google, – скажет молодая девушка, – за мной ухаживают Джон и Пол. Я люблю обоих, но по-разному, и мне так трудно определиться. Учитывая все, что ты знаешь, каким бы был твой совет?»

И Google ответит:

«Я знаю тебя с момента твоего рождения. Я читал все твои имейлы, записывал все твои телефонные разговоры и знаю твои любимые фильмы, твою ДНК и полную биометрическую историю твоего сердца. У меня есть подробная информация о каждом твоем свидании, и, если хочешь, я могу показать тебе посекундную диаграмму твоего сердцебиения, артериального давления и уровня сахара во время встреч с Джоном или Полом. При необходимости могу даже выдать точную математическую оценку каждой из твоих интимных встреч с каждым из них. И конечно же, Пола и Джона я знаю так же хорошо, как тебя. Полагаясь на все эти данные, на мои совершенные алгоритмы и на статистический анализ сотен миллионов проверенных десятилетиями отношений, я советую тебе выбрать Джона – с 87-процентной вероятностью он составит тебе лучшую партию.

Более того, я знаю тебя настолько хорошо, что знаю и то, что тебе не нравится мой ответ. Пол красивее Джона, а поскольку ты придаешь преувеличенное значение внешности, то в глубине души тебе хотелось, чтобы я посоветовал Пола. Внешняя привлекательность, конечно, много значит, но все же меньше, чем ты думаешь. В настройках твоих биохимических алгоритмов – сформировавшихся десятки тысяч лет назад в африканской саванне – доля внешней привлекательности в общей оценке потенциальных партнеров составляет 35 процентов. Мои алгоритмы, основанные на новейших исследованиях и огромной базе статистических данных, говорят, что внешность всего на 14 процентов определяет долгосрочный успех романтических отношений. Поэтому, даже приняв в расчет красоту Пола, я все же утверждаю, что тебе будет лучше с Джоном».

В обмен на такое преданное наставничество мы должны будем отказаться от идеи, что люди – личности и у каждого человека есть свободная воля, которая решает, что хорошо, что плохо и в чем состоит смысл жизни. И тогда люди перестанут быть автономными сущностями, которые руководствуются мифами, сочиняемыми нашим комментирующим «я». Мы превратимся в неотъемлемые части гигантской глобальной сети.

Либерализм обожествляет комментирующее «я» и дает ему право голосовать на избирательных участках, в супермаркетах и на брачном рынке. Веками это себя оправдывало, так как даже при вере комментирующего «я» во всякого рода вымыслы и фантазии никакая альтернативная система не знала меня лучше. Но, когда появится система, действительно знающая меня лучше, будет чистейшим безрассудством оставить право решения за комментирующим «я».

Либеральные обычаи типа демократических выборов уйдут в прошлое, так как и наши политические взгляды Google сможет отстаивать лучше, чем мы сами. Уединившись за занавеской в кабинке для голосования, я, как учит либерализм, должен проконсультироваться со своим подлинным «я» и выбрать ту партию или кандидата, которые отвечают моим сокровенным чаяниям. Но естественные науки говорят, что, стоя за занавеской, я не помню всего передуманного, прочувствованного и пережитого мной со дня прошлых выборов. Кроме того, меня сбивают с толку предвыборная пропаганда, пиар и случайные воспоминания. Как в эксперименте Канемана с холодной водой, комментирующее «я» подчиняется здесь правилу «пика – финала». Оно забывает большинство событий, помня лишь несколько чрезвычайных и непомерно преувеличивая значимость самых последних.

Предположим, я четыре долгих года с утра до ночи критикую политику премьер-министра, твердя себе и каждому, кто готов слушать, что «этот тип пустит всех нас по миру». Накануне выборов правительство снижает налоги и начинает раздавать деньги направо и налево. Правящая партия нанимает лучших копирайтеров и проводит блестящую кампанию, искусно перемежая обещания с угрозами, бьющими прямой наводкой в центр страха в моем мозгу. В день выборов я просыпаюсь с простудой, которая ослабляет мою мыслительную активность и заставляет превыше всех благ желать безопасности и стабильности. Результат? Я еще на целых четыре года возвращаю в кабинет «этого типа, который пустит всех нас по миру».

Другое дело, если бы я согласился, чтобы за меня проголосовал Google. Google, знаете ли, не проведешь. Хотя он не проигнорирует недавнего снижения налогов, но и не упустит ничего из происходившего в предшествующие четыре года. Google будет знать, сильно ли поднималось у меня давление всякий раз, как я брал в руки утреннюю газету, и резко ли падал мой уровень дофамина, пока я смотрел вечерние новости. Он будет знать, как отсеивать пустые лозунги пиарщиков. Он будет понимать, что болезнь смещает избирательные предпочтения вправо, и сделает соответствующую поправку на ситуацию. Поэтому при голосовании Google будет исходить не из сиюминутного состояния моих ума и тела и не из фантазий комментирующего «я», а из реальных чувств и интересов комплекса биохимических алгоритмов, обозначаемого местоимением «я».

Естественно, Google не всегда будет попадать в яблочко. В конце концов, речь идет лишь о вероятностях. Но если его решения будут верными часто, люди начнут все более охотно уступать ему свои права. Чем дальше, тем обширнее будут становиться базы данных, точнее статистика, совершеннее алгоритмы и – вернее решения. Система никогда не познает меня идеально и никогда не сделается абсолютно непогрешимой. Однако в этом и нет необходимости. Либерализм рухнет в тот час, когда система узнает меня лучше, чем знаю себя я сам. А это вовсе не так трудно, как кажется, учитывая, что в большинстве своем люди знают себя довольно-таки плохо.

Исследование, проведенное недавно по заказу Facebook, показало, что уже сегодня фейсбуковский алгоритм разбирается в характерах и настроениях людей лучше, чем их друзья, родители и супруги. В эксперименте участвовало 86 220 волонтеров, которые имели аккаунт в Facebook и ответили на сто вопросов персональной анкеты. Алгоритм предсказывал ответы волонтеров, основываясь на анализе их «лайков» – то есть страниц, изображений и клипов, которые они отметили как понравившиеся. Точность предсказаний зависела от количества лайков. Предсказания алгоритма сравнивались с предсказаниями коллег по работе, друзей, членов семьи и супругов. Поразительно, но алгоритму хватило всего десяти лайков, чтобы превзойти в прозорливости коллег по работе. Ему понадобилось семьдесят лайков, чтобы превзойти друзей, сто пятьдесят лайков, чтобы превзойти членов семьи, и триста лайков, чтобы превзойти супругов. Другими словами, если вам случится триста раз лайкнуть в Facebook, его алгоритм сможет предсказывать ваши мнения и желания лучше, чем ваши муж или жена!

Еще один эксперимент. Участников попросили оценить уровень своего пристрастия к алкоголю или степень своей вовлеченности в социальные сети. И их оценки оказались менее точными, чем оценки алгоритма. Итогом этого эксперимента стал следующий прогноз (сделанный учеными, не фейсбуковским алгоритмом): «Люди могут отказаться от собственных субъективных суждений и доверить компьютерам принятие жизненно важных решений типа выбора профессии, любимых занятий и даже романтического партнера. Возможно, что такие основанные на данных решения благотворно скажутся на жизни людей».

Но вот что беспокоит: из результатов того же исследования становится ясно, что к очередным президентским выборам в США Facebook будет осведомлен не только о политических предпочтениях десятков миллионов американцев, но и о том, кто из них относится к критической группе колеблющихся избирателей и как этих колеблющихся избирателей склонить в ту или другую сторону. Facebook сможет сказать, например, что в Оклахоме республиканцы и демократы идут вровень, что 32 417 избирателей еще не определились, и даже сформулировать, что именно должен говорить кандидат, чтобы склонить чашу весов в свою сторону. Где Facebook раздобыл эту бесценную политическую информацию? Мы сами ему ее предоставили.

В лучшую пору европейского империализма конкистадоры и купцы покупали целые острова и страны в обмен на цветные бусы. В XXI веке самое ценное, что у нас, людей, есть, – это наши персональные данные. А мы отдаем их тех-ногигантам в обмен на услуги электронной почты и забавные видео с котиками.

Став всезнающими оракулами, алгоритмы Google, Facebook и другие элементарно могут превратиться в посредников, а потом и в правителей. Чтобы понять эту метаморфозу, посмотрим на Waze – навигационное приложение на основе GPS, которым пользуются многие водители. Waze – не просто карта. Миллионы пользователей непрерывно снабжают его информацией о пробках, автомобильных авариях и полицейских машинах и постах. Поэтому Waze знает, как направить вас в обход заторов к месту назначения кратчайшим из возможных маршрутов. Если при подъезде к перекрестку ваш инстинкт посылает вас вправо, а Waze рекомендует повернуть налево, то рано или поздно вы привыкаете следовать указаниям Waze и отвыкаете слушаться своих чувств. На первый взгляд кажется, будто Waze играет лишь роль оракула. Вы задаете вопрос, оракул отвечает, но решение остается за вами. Однако, когда оракул полностью завоюет ваше доверие, то самым логичным следующим шагом будет – назначить его исполнителем. Достаточно назвать ему конечную цель, и он без вашего контроля сделает то, что нужно для ее достижения. С навигатором Waze это может случиться, если вы соедините его с беспилотным автомобилем и попросите: «Waze, выбери самый короткий путь», или «выбери дорогу поживописней», или «построй маршрут с минимальным расходом топлива». Командовать будете вы, но выполнять ваши команды будет Waze.

В результате следующего шага Waze из исполнителя может превратиться в правителя. Имея такие полномочия и зная гораздо больше, чем вы, он может начать манипулировать вами и другими водителями, формируя ваши желания и принимая за вас решения. Представьте, например, что Waze так хорошо себя зарекомендует, что им начнут пользоваться все. И представьте, что на шоссе № 1 образовалась пробка, в то время как шоссе № 2 сравнительно свободно. Если Waze оповестит об этом всех водителей, то все и устремятся на шоссе № 2, и движение там тоже остановится. Когда у всех один оракул и все верят этому одному оракулу, он становится правителем. Он будет думать за нас. Возможно, он уведомит лишь половину водителей, что шоссе № 2 свободно. Таким образом, и шоссе № 1 разгрузится, и шоссе № 2 не будет перегружено.

Microsof разрабатывает гораздо более сложную систему, названную Cortana в честь героини популярной серии видеоигр Halo. Cortana – это виртуальная голосовая помощница с элементами искусственного интеллекта, которую Microsof надеется интегрировать в будущие версии Windows. Пользователей будут подталкивать к тому, чтобы помощница была допущена ко всем файлам, имейлам и приложениям. Ознакомившись с ними, она сможет давать советы по миллиону вопросов и вообще сделаться виртуальным агентом, представляющим интересы пользователя. Cortana напомнит вам о приближении дня рождения жены, выберет ей подарок, зарезервирует столик в ресторане и за час до обеда подскажет вам, что пора принимать лекарство. Она предупредит вас, что если вы тотчас же не отложите книгу, то опоздаете на важную деловую встречу. Перед самой встречей Cortana сообщит, что у вас слишком высокое давление и слишком низкий уровень дофамина и что, как показывает статистика, при таких показателях вы склонны совершать серьезные деловые ошибки. Поэтому вам необходимо воздержаться от принятия решений и заключения сделок.

Не исключено, что Cortana и ее сородичи, превратившись из оракулов в агентов, начнут договариваться насчет своих хозяев напрямую, без их участия. Сначала моя Cortana всего лишь свяжется с вашей, чтобы согласовать место и время нашей с вами встречи. Потом потенциальный работодатель попросит меня не утруждать себя отправкой своего резюме, а просто разрешить, чтобы его Cortana пообщалась с моей. Или к моей Cortana обратится Cortana моей потенциальной возлюбленной, и они, сверив свои заметки и данные, станут решать, хорошая мы пара или нет, в то время как мы будем оставаться в абсолютном неведении.

Получив от людей определенные права, виртуальные помощницы могут начать интриговать друг против друга в интересах своих хозяев, так что успех на брачном рынке или рынке труда будет все больше зависеть от качества вашей Cortana. Богатые владельцы новейших версий будут иметь неоспоримое преимущество перед обычными людьми с их устаревшими версиями.

Однако самая темная зона – это личность хозяина голосовой помощницы Cortana. Как мы уже видели, люди – не индивидуумы, у них нет единого неделимого «я». Так чьим же интересам должна служить Cortana? Предположим, мое комментирующее «я» принимает новогоднее решение-обещание соблюдать диету и три раза в неделю посещать спортзал. Неделю спустя, когда приходит время отправляться в спортзал, переживающее «я» велит виртуальной помощнице включить телевизор и заказать пиццу. Как ей следует поступить? Подчиниться переживающему «я» или выполнить решение, принятое неделю назад комментирующим «я»?

Вы, пожалуй, спросите, так ли уж Cortana отличается от будильника, который заводит вечером комментирующее «я», чтобы переживающее «я» не опоздало утром на работу. Но Cortana получит над человеком куда большую власть, чем будильник. Переживающее «я» может заглушить будильник нажатием на кнопку. А Cortana изучит хозяина настолько хорошо, что будет точно знать, на какие внутренние кнопки нажимать, чтобы он следовал ее «советам».

Cortana не единственная в своем роде. Google Now и Siri – разработки Apple – движутся в том же направлении. На Amazon тоже работают алгоритмы, которые постоянно вас изучают и затем на основании накопленных данных рекомендуют вам ту или иную продукцию. Когда я захожу в реальный книжный магазин, то брожу между полками и выбираю подходящую книгу, руководствуясь своими чувствами. Когда я захожу в виртуальный магазин Amazon, меня тут же встречает алгоритм, сообщающий, что знает мои книжные предпочтения, и советующий книги, которые покупают люди с аналогичными вкусами.

И это только начало. В Соединенных Штатах сегодня значительная часть читателей предпочитает электронные книги бумажным. Такие устройства, как Amazon Kindle, собирают сведения о своих пользователях, пока те читают. Ваш Kindle, например, запоминает, какие части книги вы прочитываете быстро, а какие медленно; на какой странице вы сделали перерыв и на каком месте перестали читать и больше не возвращались. Если встроить в Kindle систему распознавания лиц и биометрические сенсоры, он будет знать, как каждое прочитанное предложение повлияло на ваши пульс и давление. Он будет знать, что вас рассмешило, что опечалило и что разозлило. Очень скоро книги будут читать вас, пока вы читаете их. И если вы быстро забываете большинство деталей прочитанного, то Amazon не забудет никогда и ничего. Такая осведомленность позволит ему подбирать для вас книги со снайперской точностью. Еще она позволит ему точно знать, кто вы и как вас включать и выключать.

Велика вероятность, что в конце концов настанет момент, когда мы не сможем отключиться от этих всезнающих сетей даже на мгновение. Отключение будет означать смерть. Если надежды медиков осуществятся, люди будут носить в своих телах массу биометрических устройств, бионических органов и нанороботов, призванных следить за нашим здоровьем и беречь нас от инфекций, болезней и повреждений. Однако этим устройствам придется быть онлайн в режиме 24/7, чтобы постоянно сверяться с последними медицинскими разработками и защищаться от новых угроз киберпространства. Вирусы, черви и трояны, без устали атакующие ваш домашний компьютер, не пощадят и ваш кардиостимулятор или слуховой аппарат. Если не обновлять регулярно свою антивирусную защиту, то в один прекрасный день можно обнаружить, что миллионы нанороботов, курсирующих по венам, уже под контролем какого-нибудь хакера.

Таким образом технологии XXI века могут подорвать гуманистическую революцию, лишив власти людей и наделив ею неорганические алгоритмы. Пусть те, кого ужасает подобная перспектива, не винят компьютерных гиков. На самом деле ответственность лежит на биологах. Важно понимать, что все это направление больше вдохновляется и подпитывается новыми биологическими знаниями, чем компьютерными науками. Именно биология пришла к заключению, что организмы суть алгоритмы. Если это не так – если функционирование организмов по существу отлично от функционирования алгоритмов, – значит, компьютеры могут творить чудеса в других областях, но им никогда не удастся нас понять и регламентировать нашу жизнь, а тем более слиться с нами. Но когда биологи заключили, что организмы – это алгоритмы, они сломали стену между органическим и неорганическим, превратили компьютерную революцию из чисто технического мероприятия в биологический катаклизм и передали права и полномочия отдельных личностей сетевым алгоритмам.

Некоторые люди пребывают в ужасе. Вместе с тем миллионы принимают происходящее с радостью. Уже сегодня многие из нас отказываются от своих конфиденциальности и индивидуальности, выставляя в интернете напоказ всю свою жизнь, записывая каждое свое действие и впадая в истерику, если связь на несколько минут прервалась. Переход прав от людей к алгоритмам совершается повсеместно, и не по постановлениям правительств, а в результате того выбора, который каждый день делают многие из нас.

Если мы не проявим осторожности, то можем получить оруэлловское полицейское государство, неустанно надзирающее не только за всеми нашими поступками, но и за тем, что происходит внутри наших тел и мозгов. Только представьте себе, какое применение вездесущим биометрическим сенсорам нашел бы Сталин – и, может, успеет найти Путин. Но в то время как защитники человеческой индивидуальности страшатся повторения кошмаров XX века и готовятся противостоять знакомому по Оруэллу врагу, ей грозит даже более серьезная опасность с противоположной стороны. В XXI веке личность скорее тихо разложится изнутри, чем будет разрушена усилиями извне.

Сегодня большинство корпораций и правительств выказывают заботу о моей индивидуальности и обещают лечить, учить и развлекать меня в соответствии с моими уникальными вкусами и потребностями. Но для этого корпорациям и правительствам сначала придется разложить меня на биохимические подсистемы, исследовать эти системы сверхчувствительными датчиками и дешифровать их работу при помощи мощных алгоритмов. В процессе выяснится, что личность – всего лишь религиозная фантазия. Реальностью окажется сеть биохимических и электронных алгоритмов без индивидуальных ядер и четких границ.

До сих пор мы рассматривали две из трех угроз либерализму: первая заключается в том, что люди полностью утратят свою ценность; вторая – в том, что люди сохранят свою коллективную ценность, но потеряют личные права и попадут в подчинение к внешним, неорганическим алгоритмам. Вы по-прежнему будете сочинять симфонии, преподавать историю, писать компьютерные коды, однако система будет знать вас лучше, чем знаете себя вы сами, и поэтому большинство важных решений станет принимать за вас – причем к вашему удовольствию. Это не обязательно будет плохой мир, но это будет мир постлиберальный.

Третья угроза либерализму заключается в том, что останутся те, кого нельзя будет ни заменить, ни расшифровать, но они образуют малочисленную привилегированную элиту усовершенствованных людей. Эти сверхчеловеки будут обладать неслыханными способностями и беспрецедентным креативным потенциалом, что позволит им по-прежнему принимать многие из самых важных для всего мира решений. Они будут предоставлять системе важнейшие услуги, в то время как система не сможет ни понимать их, ни управлять ими. Однако подавляющее большинство людей не будут усовершенствованы и, следовательно, станут низшей кастой, подчиненной как компьютерным алгоритмам, так и новым сверхлюдям.

Разделение человечества на биологические касты сокрушит основы либеральной идеологии. Либерализм прекрасно сосуществует с социально-экономическими контрастами. Он воспринимает их как неизбежность, так как ценит свободу выше равенства. Однако либерализм все же предполагает, что все человеческие существа равноценны и равноправны. С либеральной точки зрения абсолютно нормально, что есть миллиардеры, живущие в роскошных дворцах, и есть бедные крестьяне, ютящиеся в лачугах. Ведь согласно либерализму уникальные переживания крестьянина не менее ценны, чем переживания миллиардера. Вот почему либеральные писатели пишут длинные романы о переживаниях бедных крестьян – и почему миллиардеры увлеченно читают эти романы. Если вы отправитесь смотреть «Отверженных» на Бродвей или в Ковент-Гарден, то обнаружите, что стоимость хороших мест измеряется сотнями долларов, а совокупный достаток зрителей, возможно, и миллиардами, но они сочувствуют Жану Вальжану, который провел девятнадцать лет в тюрьме за то, что украл каравай хлеба, чтобы накормить голодных племянников.

Та же логика действует в день выборов, когда голос бедного крестьянина весит ровно столько же, сколько голос миллиардера. Либерализм решает проблему социального неравенства, уравнивая в цене опыт переживаний разных людей вместо того, чтобы обеспечить всем одинаковые переживания. Но будет ли это решение работать, когда богатых и бедных будет разделять не только имущественная, но и реальная биологическая пропасть?

В своей статье в Te New York Times Анджелина Джоли написала о дороговизне генетического исследования. Тест, который она прошла, обошелся в три тысячи долларов без учета стоимости самой мастэктомии, последующей пластики и сопутствующего лечения. Это в мире, где миллиард человек зарабатывает меньше одного доллара в день и еще полтора миллиарда – между одним и двумя долларами. Даже если эти люди будут всю жизнь трудиться до седьмого пота, они никогда не смогут заплатить три тысячи долларов за ДНК-тест. И сейчас экономическое неравенство только возрастает. Так, в начале 2017 года восемь самых богатых людей планеты владели суммарным состоянием, равным всем средствам и сбережениям самой бедной половины населения Земли – а это 3,6 миллиарда человек! Причем состояние самых богатых стремительно растет. А беднейшая половина человечества продолжает беднеть.

Со временем стоимость ДНК-исследования наверняка снизится, но постоянно появляющиеся новые процедуры всегда стоят дорого. Притом что старые методы лечения будут становиться доступными массам, элита всегда будет на несколько шагов впереди. В течение всей истории богатые имели множество социальных и политических преимуществ, но никакой биологической пропасти между ними и бедняками не было. Средневековые аристократы хвастались, что в их жилах течет благородная голубая кровь, индуистские брамины утверждали, что по природе они умнее всех прочих, но все это был чистой воды вымысел. В будущем, однако, мы можем увидеть, как между усовершенствованным высшим классом и остальным обществом возникает колоссальный разрыв в физических и умственных способностях.

Когда ученых спрашивают про такую возможность, они дают стандартный ответ: в XX веке очень многие медицинские новшества внедрялись в кругу богатых, но потом приносили пользу всему человечеству и способствовали снижению социальной дифференциации, а не ее росту. Например, вакцины и антибиотики поначалу предназначались высшему классу стран Запада, теперь же они облегчают жизнь всем и повсюду.

Но надежда, что так будет и в XXI столетии, может не оправдаться. По двум важным причинам. Во-первых, медицина переживает великую концептуальную революцию. В прошлом веке целью медицины было лечение больных. В XXI медицина все больше перестраивается на усовершенствование здоровых. Лечение больных было эгалитарным проектом, который исходил из того, что есть стандарт физического и ментального здоровья, которому может и должен соответствовать каждый. Если кто-то недотягивает до нормы, задача докторов – выявить проблему и помочь ему или ей «стать как все». Усовершенствование же здоровых – напротив, проект элитарный: он отвергает идею универсального стандарта и ищет способы наделять избранных качествами, поднимающими их над другими. Люди мечтают о превосходной памяти, незаурядном уме и первоклассных сексуальных качествах. Если какой-либо из видов усовершенствования настолько удешевится, что к верхней планке подтянутся все остальные, тогда эта планка просто станет новой нижней чертой, от которой будет отталкиваться следующее поколение лекарственных средств и лечебных процедур.

Следовательно, к 2070 году медицинское обслуживание бедных, вероятно, улучшится, но пропасть, отделяющая их от богатых, сильно увеличится. Людям свойственно сравнивать себя с благополучными, обеспеченными современниками, а не со своими неудачливыми предками. Попробуйте сказать обитателю детройтских трущоб, что он имеет доступ к гораздо лучшему здравоохранению, чем его прапрадеды сто лет назад, – и увидите, что его это не обрадует. «Почему я должен сравнивать себя с рабочими и крестьянами XIX века? – услышите вы в ответ. – Я хочу жить как богатые из телевизора». Также, если в 2070 году вы скажете обычным людям, что предоставляемая им медицинская помощь лучше, чем была в 2017-м, это их не утешит, поскольку сравнивать себя они будут с усовершенствованными сверхлюдьми, правящими миром.

Более того, несмотря на все успехи медицины, нет никакой гарантии, что в 2070 году здравоохранение для бедных будет на самом деле лучше, чем сегодня. У государства и элиты может пропасть заинтересованность в заботе о здоровье бедных. В прошлом веке медицина помогала массам, потому что XX век был эпохой масс. Армии нуждались в миллионах здоровых солдат, а экономики – в миллионах здоровых рабочих. Поэтому государства создали службы общественного здравоохранения – чтобы обеспечить каждому здоровье и силу. Величайшими достижениями медицины были введение в обиход средств массовой гигиены, кампании массовой вакцинации и искоренение массовых эпидемий. В 1914 году японские элиты были кровно заинтересованы в вакцинации бедных и строительстве больниц и канализационных систем в трущобах – они хотели видеть Японию сильной страной с мощной армией и крепкой экономикой, для чего нужны были миллионы здоровых солдат и рабочих.

Но эпоха масс, похоже, миновала, а с ней и эпоха массовой медицины. Поскольку солдаты и рабочие уступают место алгоритмам, по крайней мере некоторые из элит могут заключить, что поднимать или даже просто поддерживать стандартный уровень здоровья бесполезных бедняков незачем. Куда разумнее сосредоточиться на усовершенствовании горстки сверхлюдей.

Сегодня в технологически развитых странах, таких как Япония и Южная Корея, уровень рождаемости неуклонно падает. Значительные усилия вкладываются в воспитание и образование все меньшего и меньшего числа детей, от которых ждут все большего и большего. В состоянии ли соревноваться с Японией огромные развивающиеся страны вроде Индии, Бразилии или Нигерии? Каждая из этих стран подобна длинному поезду. Их элиты, едущие в вагонах первого класса, получают доходы, образование и лечение наравне с самыми передовыми нациями мира. Однако сотни миллионов рядовых граждан, переполнивших задние вагоны, все еще живут в нищете, невежестве и болезнях. Чем предпочтут заняться индийские, бразильские и нигерийские элиты в грядущем веке? Решением проблем сотен миллионов нищих или апгрейдом нескольких миллионов богачей? В отличие от XX века, когда элита имела жизненный интерес в заботе о бедных, потому что без них не было бы армий и экономик, в XXI веке для нее может быть самым выгодным (как это ни жестоко) – отцепить бесполезные задние вагоны и рвануть вперед только первым классом. В конкурентной борьбе с Японией небольшое число усовершенствованных сверхлюдей принесет Бразилии больше пользы, чем миллионы обычных здоровых трудяг.

Как либеральные верования переживут появление сверхлюдей с их исключительными физическими, эмоциональными и интеллектуальными способностями? Что, если переживания таких сверхлюдей окажутся в корне иными, чем переживания обычного человека? Что, если сверхлюдям будут скучны романы о страданиях воров из низов, а обычным людям будут непонятны мыльные оперы о любовных историях сверхлюдей?

Великие проекты человечества XX века – борьба с голодом, эпидемиями и войной – ставили своей целью гарантировать универсальную норму благосостояния, здоровья и мира для всех без исключения. Проекты века XXI – обретение бессмертия, счастья и божественности – также предполагают облагодетельствование человечества в целом. Но поскольку эти проекты нацелены на то, чтобы превзойти норму, а не сохранить и гарантировать ее, они могут привести к созданию новой касты сверхлюдей, которая откажется от своих либеральных корней и будет обращаться с обычными людьми не лучше, чем европейцы XIX века с африканцами.

Если научные открытия и технический прогресс разделят человечество на бесполезную массу и крошечную элиту усовершенствованных сверхлюдей или если полномочия полностью перейдут от человеческих существ к высокоинтеллектуальным алгоритмам – либерализм рухнет. Какие новые религии или идеологии заполнят образовавшийся вакуум и будут направлять последующую эволюцию наших божественных потомков?