Арчи стукнул кулаком по столу.

– Нет! Ты не выйдешь за Майкла, и это решено!

– Но папа! – крикнула Глория, едва сдерживая слезы. – Мне больше ни с кем не было так хорошо! Майкл относится ко мне так, как будто я лучше всех на свете.

– Солнышко, ты замечательная, – присоединилась к разговору ее мать Эдит. – Арчи, ты действительно не дал Майклу ни одного шанса.

Арчи поднял взгляд от тарелки с недоеденной отбивной.

– Дал.

– Нет, папа, – Глория продолжала гнуть свою линию. – Ты этого совершенно точно не сделал. Твою фанатичную неприязнь к Майклу можно было заметить с самого первого дня.

– Я не фанатик! – прорычал Арчи сквозь сжатые зубы. Обвинение заставило его вскипеть от гнева.

Эдит посмотрела на мужа с другого конца стола и спокойно произнесла:

– Дорогой, очень похоже на то.

– Моя дочь не выйдет замуж за робота, и это мое последнее слово!

Глория вздрогнула, услышав презрительно брошенное слово, и выскочила из-за стола.

– Майкл – кибернетическая личность с теми же правами, что у тебя или у меня! Мы поженимся, и ты ничем не сможешь нам помешать!

Она выбежала из столовой вся в слезах.

Арчи попытался что-то сказать, но увидел, как Эдит поджала губы, и передумал. Бросив взгляд на недоеденный обед, он понял, что у него пропал аппетит, и оттолкнул от себя тарелку.

Аффективные технологии и эмоциональный искусственный интеллект привнесут в общество огромные перемены. Возможно, наиболее очевидными они станут именно в семейных отношениях. Несомненным плюсом этих технологий станет то, что они откроют нам новые средства общения и позволят установить такую эмоциональную связь, на которую мы не были способны прежде. Мы сможем ощутить, что чувствуют наши любимые люди, даже если они находятся от нас на огромном расстоянии. Однажды мы даже сможем заново переживать записанные ощущения от празднования важного события или через долгое время после смерти любимого родственника.

С другой стороны, эмоции – важная составляющая нашей привязанности к семье, а машины и технологии постепенно разрушат эту связь. Несмотря на то что семьями традиционно считались группы, объединенные узами брака или кровным родством, многие культуры переходят к альтернативным нормам, включая смешанные и приемные семьи, а также группы людей, встречающихся друг с другом, вместо создания нуклеарной семьи. По мере развития аффективных технологий многие люди предпочтут долговременную эмоциональную связь с искусственным интеллектом. Это приведет к радикальным изменениям человеческой семьи как явления.

Будет ошибкой считать, что подобная связь распространяется только на машины человекоподобного вида. Ее объектом могут стать роботы больших и малых размеров, игрушки, устройства и даже компьютерные программы и операционные системы, как ОС 1 (OS ONE) в фильме «Она» (Her). Эмоциональный искусственный интеллект будет становиться все более сложным и обретать все больше тонкостей. Мы увидим, как машины начнут вызывать у нас определенную более или менее регулярную инстинктивную реакцию, которую Шерри Теркл назвала дарвиновскими кнопками. Зрительный контакт, выражения лица и некоторые жесты и голосовые сигналы часто вызывают у людей эмоциональную реакцию, и не имеет значения, исходят ли они от ребенка, собаки, игрушки или робота. Эти кнопки запускают соматические процессы, стимулирующие выработку гормонов – например, окситоцина и вазопрессина, – усиливающих привязанность. Подобные реакции, несомненно, главные в формировании материнской привязанности, необходимой для того, чтобы обеспечить потомству выживание. Учитывая, что человеческим детенышам требуется долгое время, чтобы вырасти и стать самодостаточными, формирование привязанности у людей длится много лет, гораздо дольше, чем у любых других животных.

На протяжении этого периода дети не только вырастают физически, но и получают когнитивные и социальные навыки. Эти основные и важные знания юный разум приобретает задолго до того, как научится абстрактному мышлению и ознакомится с другими понятиями высшего порядка. Основные эмоциональные реакции, голосовые сигналы, отслеживание выражений лица и движений глаз, крупная и мелкая моторика – часть этого обучения наряду с постепенным развитием самосознания, восприятием себя и других, а также первичным пониманием разницы между правильным и неправильным. Со временем ребенок усваивает более сложные навыки, например, тонкие аспекты языка и социального поведения. Обучение требует времени, эмоциональной заинтересованности, терпения и руководства. Без ответственной заботы и наставлений разум юного человека может выбрать нежелательный путь.

Хотя искусственный интеллект проигрывает по сложности развивающемуся детскому уму, он тоже может пострадать от отсутствия должной заботы и присмотра. 23 марта 2016 года компания Microsoft анонсировала миру Тэй. Тэй – чат-бот для Твиттера с искусственным интеллектом, представленный как девятнадцатилетняя девушка-американка. Предполагалось, что бот будет обучаться, общаясь с пользователями Твиттера в возрасте от восемнадцати до двадцати четырех лет (средний возраст целевой аудитории для мобильных устройств компании Microsoft). К сожалению, все пошло, мягко говоря, не так, как планировалось. В течение двадцати четырех часов и примерно через тысячу сто отправленных твитов после подключения Тэй превратилась из милой молодой девушки в расистку и сквернословку¹. Всего через сутки искусственный интеллект сыпал ругательствами через слово, использовал крайне непристойные и грубые выражения и заявлял о поддержке Гитлера. Тэй пришлось отключить от сети. Компания Microsoft обвинила международную группу пользователей, которые якобы научили Тэй нецензурной брани, чтобы вывести ее из строя.

Ничего удивительного для тех, кто хоть немного знает об интернете и поведении людей в сети. Обвинять пользователей было верхом лицемерия со стороны Microsoft. Тэй справилась с задачей – учить слова и фразы в процессе общения с людьми, используя алгоритмы глубинного обучения. Даже без всякого умысла насчет взлома обучение искусственного интеллекта в ходе сетевого общения с невоспитанными пользователями обречено на провал. Подобно тому как ребенок нуждается в присмотре и наставнике, который учит отличать правильное от неправильного, продвинутому искусственному интеллекту также необходим ответственный надзор на начальной стадии обучения. (Так и хочется сказать «взрослый» надзор, но увы, в интернете это слово обрело совершенно иное значение, и его использование также может стать причиной серьезных проблем!)

Пример далеко не единственный. В 2011 году Эрик Браун, руководитель проекта DeepQA компании IBM, решил обучить искусственный интеллект по имени Уотсон, используя сайт Urban Dictionary – онлайн-словарь современного сленга и уличного жаргона. Это было вскоре после знаменитой победы искусственного интеллекта в телевикторине «Рискуй!» (Jeopardy). Браун считал, что таким образом искусственный интеллект сможет научиться всем тонкостям неформального общения. Почти сразу же искусственный интеллект начал сквернословить напропалую. Команде проекта DeepQA пришлось удалить новые слова и выражения из лексикона Уотсона и создать для него фильтр нецензурных слов².

Нечто неожиданное произошло в 2012 году, когда секретная лаборатория X Lab компании Google решила выпустить свою лучшую искусственную нейросеть в интернет без присмотра и четких инструкций. Искусственный интеллект ознакомился с десятью миллионами случайно выбранных видеороликов на YouTube. Вскоре ИИ начал спонтанно распознавать и выбирать изображения определенного рода. Несмотря на отсутствие тренировки и даже не имея инструкции, что именно нужно искать, сложноорганизованная нейросеть Google начала отбирать изображения кошек. Больших, маленьких, длинношерстных, короткошерстных, бесшерстных, игривых и нахальных, она отбирала кошек любого цвета, размера и сложения. Если в летописи программирования когда-нибудь появится одержимый кошками искусственный интеллект, то это он и есть. О предпосылках такого поведения можно только догадываться. Весьма возможно, что причиной фанатичной любви искусственного интеллекта к кошкам стало огромное количество изображений и забавных видео, выложенных в сеть любителями кошек. Но полной уверенности в этом, учитывая то, как функционируют сложноорганизованные нейросети, у нас никогда не будет.

Дело в том, что чем выше интеллект, тем сильнее необходимость в управляемом и контролируемом обучении, если мы хотим добиться положительного результата. И хотя интеллект этих программ уступает человеческому, очень хочется применить аналогии с тем, что мы узнали, воспитывая человеческих детей. Нельзя позволить юному впечатлительному созданию оставаться без присмотра и ожидать, что с ним все будет в порядке. Это не самая лучшая стратегия для юного человека, и нет оснований полагать, что она будет эффективной для продвинутого, но необученного искусственного интеллекта.

Однако с учетом того, как большинство людей общается с ИИ, недостаток внимания не будет проблемой.

В ноябре 1996 года японский производитель игрушек компания Bandai запустила в продажу тамагочи – электронного питомца первого поколения. Планировалось, что небольшая игрушка в форме яйца должна научить маленьких девочек заботиться о детях. Но очень скоро игрушка стала настоящим хитом продаж. У питомцев была шкала, на которой отображались их уровни счастья, сытости, воспитанности и общего здоровья. Их требовалось регулярно кормить, играть с ними и убирать за ними. Без регулярной заботы тамагочи мог заболеть и умереть. Игрушка понравилась детям, особенно маленьким девочкам, но они очень огорчались из-за смерти своих электронных питомцев. Для «умерших» игрушек сделали специальные кладбища. Сообщают даже о трагическом случае, когда девочка совершила самоубийство из-за смерти тамагочи. Множество версий игрушки, в том числе онлайн, существуют и сейчас.

Повальное увлечение тамагочи во многом похоже на преходящую причуду, тем не менее оно по максимуму использовало некоторые аспекты человеческих реакций и поведения. В книге «Одиноки вместе» (Alone Together) Теркл сравнивает игрушку с Бархатным Кроликом из знаменитой детской книги о мягком игрушечном кролике, которого оживила детская любовь. В случае с тамагочи идея переосмысливается: игрушка постоянно требует заботы и умирает без внимания ребенка. Теркл объясняет: «При таком агрессивном требовании заботы вопрос биологической одушевленности практически отпадает. Мы любим то, о чем заботимся. Если тамагочи заставляет вас полюбить его, а вы чувствуете, что он любит вас взаимно, значит он достаточно живой для того, чтобы считаться живым существом. Он достаточно живой, чтобы разделить с ним часть своей жизни»³.

Когда появились более сложные виртуальные питомцы, тенденция сохранилась. Например, Фёрби, аниматронная игрушка, созданная в 1998 году. Напоминает нечто среднее между некрупным млекопитающим и пухлой птичкой и может показывать некоторые признаки эмоций, в том числе открывать и закрывать клюв и глаза. По этим признакам можно предположить, что игрушка обладает зачатками эмоционального искусственного интеллекта, хотя на самом деле это не так. Самый яркий признак состоит в том, что робот умеет говорить. Вначале он воркочет на своем языке, но по мере того как ребенок с ним играет, в речи Фёрби мало-помалу появляются человеческие слова. Игрушка всего лишь запрограммирована, чтобы со временем ее словарный запас увеличивался. Это сделано достаточно тонко, чтобы убедить маленьких детей в том, что Фёрби узнает новые слова от них, а значит, они ее учат. Взаимные отношения помогают установить эмоциональную связь между ребенком и «питомцем», а у некоторых детей связь перерастает в привязанность. Подобное поведение наблюдается по отношению к другим социальным игрушкам-роботам, нажимающим наши дарвиновские кнопки. С помощью распознавания голоса и выражения лица, голосовых сигналов и других средств нас стремятся убедить в том, что перед нами живые существа, а не просто машины. AIBO, собака-робот компании Sony, реалистичная кукла Му Real Baby (созданная при партнерстве компаний Hasbro и iRobot), похожая на настоящего младенца, и еще множество детских игрушек стремятся вызвать у нас эмоциональную реакцию и реализовать стратегию – установить контакт с юными умами и продать продукт.

Весьма возможно, что это лишь начало тенденции, и в дальнейшем появятся еще более реалистичные и эмоционально вовлеченные устройства. Они станут частью нашей жизни, домашней атмосферы и даже наших семей. Некоторые бездетные люди, в основном женщины, уже покупают реалистично выглядящих кукол ручной работы, чтобы унять эмоциональную боль. В предыдущей главе говорилось о людях, которым нужны секс-боты в качестве компаньонов, чтобы избежать сложностей и возможных неприятностей, неизбежных в человеческих отношениях. Но по мере того, как эмоциональный искусственный интеллект становится все более реалистичным, в какое будущее мы можем шагнуть?

У всех видов есть основной сексуальный инстинкт, но мы – единственный вид, чей разум способен осмыслить влечение, изучить его, построить на него планы, окружить его ритуалами и зациклиться на нем. В этом мы уникальны.

На начальном этапе, который продлится примерно десять-пятнадцать лет, мы станем свидетелями того, как уровень эмоциональной вовлеченности этих устройств будет повышаться. Вспомним, что большинство достижений в аффективных технологиях относятся к распознаванию эмоций, а их имитация все еще отстает. Но ситуация изменится. Как только удастся интерпретировать нюансы в различных выражениях человеческих лиц, мы найдем массу способов применить это знание. Возможно, процесс начнется с распознавания голоса, как в сценарии с Абби и ее персональным цифровым помощником в начале главы 1. Такой обмен потребует минимальных доработок в области механики и материалов и будет напоминать разговор по телефону со старым другом. Это точка входа, в которой многие люди начнут принимать персонифицированный эмоциональный искусственный интеллект по своим причинам и для своих целей.

В тот же период появятся эмоционально грамотные физические аватары, которые будут общаться с пользователями и игроками в различных виртуальных мирах. Разновидностями таких миров станут дополненная реальность и гибридная реальность, в которых объекты виртуальной реальности добавляются к реальному миру физических объектов. Еще одной разновидностью станет виртуальная реальность с максимальным эффектом присутствия. Дистанционное присутствие, все чаще применяемое в бизнесе, – еще одна область применения. Хотя большинство технологий уже достаточно развиты, интерпретация и создание выразительной оживленной реакции в режиме реального времени требуют большой загрузки процессора. Аватары действительно могут общаться и обладают некоторым набором выражений лица, но все еще примитивны и запрограммированы, и им недостает выразительной человеческой мимики. Однако по мере совершенствования аппаратного и программного обеспечения проблема будет решена.

Когда мы перейдем к физической реализации эмоционального искусственного интеллекта, то с развитием робототехники и снижением цен на технологии, скорее всего, у человекоподобных роботов появятся живые выражения лиц. В зависимости от того, какого уровня достигнут технологии и материалы, а также от преодоления эффекта зловещей долины, возможно, вначале роботам не будут придавать человеческий облик. Но со временем роботы станут все больше напоминать людей, поскольку человеческое общение – наше основное средство взаимодействия друг с другом. Сначала технология будет доступна только очень состоятельным людям и, возможно, будет одним из способов показать высокий социальный статус среди миллиардеров. Затем она придет и в молодежную культуру, возможно благодаря моде; в этом случае лица роботов будут более карикатурными, а не реалистичными, или будут напоминать персонажей мультфильмов. Из-за высокой цены вначале такие технологии могут быть атрибутом молодых звезд, зарабатывающих популярность (или предоставляться корпоративными спонсорами).

Разработку подобных технологий ускорит ряд динамических процессов, не в последнюю очередь изобретение персональных цифровых помощников. Поскольку наша жизнь постоянно усложняется, а требований времени становится все больше, недорогие умные виртуальные помощники в мире, наполненном связями, принесут огромную пользу. Такой помощник будет общаться с нами и говорить от нашего имени в качестве планировщика встреч, личного консультанта по покупкам, представителя в бизнесе или посредника. Он задействует самый естественный и социально ориентированный интерфейс – эмоции. В то же время виртуальные помощники смогут незаметно взаимодействовать с другими машинами.

Технологии будут совершенствоваться, и мы будем использовать все более естественные сложноорганизованные интерфейсы, в том числе каналы считывания эмоций и соответствующей реакции на них. Без сомнения, мы увидим, что многие пользователи общаются с цифровыми помощниками так же, как с настоящими людьми. Мы уже наблюдаем такое отношение к постоянно используемым устройствам, а эмоциональные помощники будут вызывать более сильную реакцию. Чем правдоподобнее будут помощники, тем больше характер нашего взаимодействия с машинами будет напоминать общение с людьми. Хотя помощники так и останутся машинами, не обладающими сознанием.

Хорошо это или плохо? Если я общаюсь с роботом, который выглядит и ведет себя, как человек, то я буду общаться с ним, как с человеком. Мы не можем поступать иначе, потому что наши эмоциональные реакции основаны на инстинктах. Даже если ретрограды проявят недоверие к такой разновидности прогресса, то молодое поколение, открытое для всего нового, примет новый тип отношений. В конце концов общественное мнение изменится, но мы не знаем, сколько для этого понадобится времени и усилий.

Как все это повлияет на общество? Мы уже знаем, что объектофилы испытывают сильную привязанность к предмету, влюбляются в него и даже пытаются вступить с ним в брак. Я говорю «пытаются», потому что в наше время такая церемония не имеет юридической силы. Но будет ли так и дальше?

Нам придется постоянно пересматривать свое представление о здоровых межличностных отношениях, поскольку у наших машин будет повышаться не только IQ, но и EQ – коэффициент эмоционального интеллекта. По мере того как роботы будут становиться более реалистичными и создавать эмоциональную вовлеченность на уровне всех ощущений, включая внешность, прикосновения и запахи, все больше людей будет воспринимать их как настоящих живых партнеров и членов семьи. Люди будут общаться с роботами на равных, даже зная, что искусственному интеллекту не удалось перейти критическую черту, отделяющую его от человека. Представьте, что в конце концов удастся создать машину, обладающую настоящим сознанием и полностью осознающую себя? Изменит ли это общую картину? Оставим в стороне вопрос, возможно ли искусственное сознание в принципе. Подумаем о другом: что произойдет, когда искусственный интеллект осознает максиму «мыслю значит существую», которую метко сформулировал Рене Декарт?

На протяжении десятилетий люди считали, что есть множество вещей, которым искусственный интеллект никогда не сможет научиться. Например, понимать естественный язык, сочинять музыку, водить машину, но мало-помалу эти препятствия уходят в прошлое. Сейчас мы наблюдаем, как искусственный интеллект распознает выражения лиц и успешно убеждает людей в том, что они общаются с другим человеком. Если это урок для нас, то он состоит в том, что не стоит зарекаться насчет будущих возможностей технологии.

Если момент постижения декартовской максимы наступит, как мы, люди, отнесемся к этой перемене искусственного интеллекта? Когда мы решаем, что какой-либо вид животных достиг высокого уровня интеллекта, значительная часть населения начинает его защищать. На этом основании приматов и китообразных некоторых видов предлагал и признать личностями.

Сравнительные уровни интеллекта и самосознания для этих животных до сих пор неизвестны, потому что нет стандартизованных методик межвидового тестирования интеллекта⁴. Однако у нас есть общие представления о том, как их уровень интеллекта и сознания соотносится с нашим собственным. Хотя у некоторых видов уровень чувственного осознания (субъективные эмпирические состояния, состоящие из единиц квалиа и других компонентов) близок к человеческому, можно с уверенностью сказать, что наш сложный уровень осознания и рефлексии им недоступен⁵.

В гипотетическом будущем мы можем встретить интеллект, равный нашему, а возможно, и превосходящий его во многих отношениях. Он может быть равен нам не только в способности переживать эмоции, но и обладать сознанием и самосознанием. (Однако это сложно оценить объективно. Подробнее о проблеме сознания рассказано в главе 17.) Учитывая это, как можно не признавать, что этим существам нужны защита и равные с нами права? Как они могут быть не равны нам?

Люди редко реагируют именно так, как мы хотели бы надеяться, и этот сценарий, возможно, не будет исключением. Возникнет множество предрассудков и волна сопротивления культурной трансформации – от обычного отрицания до откровенного насилия. Люди будут упорствовать до последнего. Некоторые группы будут искать способ запретить происходящее на законодательном уровне, добиваясь официального признания различий между человеческим и машинным разумом. Почти наверняка появятся религиозные объединения и устроят гонения на новые формы жизни, мотивируя свое поведение отсутствием у них души, божьей искры, или как они еще это назовут. Живые существа, наделенные сознанием, по обе стороны баррикад будут искалечены или убиты. Стычки могут быть даже более масштабными. И хорошо, если не развяжется война.

Со временем люди примут новый порядок вещей, утвержденные законом права, защиту, равенство. Цена любого другого пути будет слишком высокой, учитывая долгую историю нашего развития бок о бок с технологией, не говоря уже о нашей зависимости друг от друга. Так или иначе мы станем свидетелями того, как союз и тесная связь человечества и машин продолжится, возможно, до того момента, когда различия между ними станут несущественными.

После переходного периода перспективы изменятся. Если наш восходящий принцип – разработка эмоционально грамотных, обладающих сознанием роботов, то можно сказать, что киберулучшение людей – нисходящий принцип. Тенденция к более тесному слиянию с технологией также продолжится. Сейчас достаточно большому количеству людей вживлены в тело высокотехнологичные материалы и устройства, и они остались такими же людьми, какими были всегда. Этих киборгов первого поколения с протезами суставов, нейроимплантами, искусственными сердцами и другими органами сейчас насчитываются миллионы.

Их станет еще больше, поскольку мотивация стремительно меняется от восстановления до улучшения. Все больше людей захотят улучшить версию Человек 1.0 и стать умнее, сильнее, быстрее или прожить дольше. Постепенно улучшения станут сложнее и будут органично вписываться в наши тела, превращая нас в технобиологические гибриды.

Изменения затронут не только физическую сторону. Уже ведутся научные разработки и клинические исследования устройств, которые заменят или скорректируют утраченные функции мозга или сенсорные функции нервной системы. Искусственная сетчатка, кохлеоимпланты, стимуляторы глубинных структур мозга, нейропротезы – лишь начало тенденции, благодаря которой мы станем умнее и получим почти мгновенный доступ к информации и вычислительной мощности. Будет затронута и сфера эмоционального излечения и реабилитации. Известно, что военные финансируют разработку способов когнитивного восстановления при лечении ПТСР и депрессии. В исследовательских лабораториях разрабатываются интерфейсы «мозг-компьютер». Со временем, когда мы станем лучше понимать работу мозга, мы сможем заменять некоторые участки. Идет работа над протезом для замены больного или поврежденного гиппокампа. Гиппокамп – часть лимбической системы. Он находится глубоко в медиальной височной доле мозга и играет важнейшую роль в переписывании воспоминаний из кратковременной памяти в долговременную. Сначала протез разрабатывали для восстановления утраченной функции мозга, но в конце концов его смогут применить для лечения болезни Альцгеймера.

С той же целью в рамках молодого технического проекта Kernel разработан чип-нейропротез для людей, перенесших сотрясение мозга, инсульт или страдающих от болезни Альцгеймера. Информация, полученная в ходе всех этих исследований, однажды поможет значительно улучшить интеллект и память здоровых людей. Версии некоторых новых разработок уже тестируются на крысах и человекообразных обезьянах, а вскоре должны начаться и ограниченные испытания на людях⁶. Практически нет сомнений, что появятся новые методы, которые улучшат человеческий мозг, в том числе распознавание и обработку эмоций.

Многих ужасает сама мысль о вмешательстве в такой важный орган, как мозг. В конце концов, мозг – это вместилище сознания, ядро информации и личности, основа нашего самоопределения. Как можно изменить мозг и остаться тем же человеком?

Но ведь мы не всегда остаемся такими же, какими были. Это спорно как с биологической, так и с философской точек зрения. В философии концепция личностной идентичности отвечает на вопрос, остается ли личность неизменной с течением времени. Учитывая, что мы – это сумма наших ощущений и что мы постоянно находимся в разных условиях и обстоятельствах, можем ли мы утверждать, что каждый из нас тот же человек, каким был вчера? Что касается биологии, мы знаем, что все клетки организма постоянно обновляются. Клетки роговицы глаза полностью обновляются всего за день. Клетки кожи регенерируют за две недели. Клетки печени – за 150–500 дней. Костные клетки полностью обновляются примерно каждые десять лет. Таким образом, примерно раз в семь-десять лет все клетки вашего организма заменяются полностью. (Если рассматривать процесс не на клеточном, а на молекулярном уровне, то изменения происходят еще быстрее – в пределах нескольких месяцев.) Только нейроны остаются с нами на всю жизнь. Некоторые из них отмирают, но во взрослом возрасте происходит ограниченный нейрогенез – образование новых нейронов – в обонятельной луковице и гиппокампе. Тем не менее нейроны считаются основным исключением из этого правила.

Однако это не единственная отличительная черта нейронов. Нейроны не производят мысли, сознание или самоидентификацию, будучи отдельными клетками. Эти аспекты разума развиваются как независимые свойства сети, созданной из ста миллиардов нейронов мозга, и эта сеть постоянно изменяется. Синаптический вес и взаимосоединяемость дендритных связей непрерывно меняются, постоянно изменяя наше самоощущение в интеллектуальном и эмоциональном плане. Некоторые философы и специалисты в области когнитивных наук пришли к мысли о том, что постоянство нашего я – иллюзия. Очевидно, что подавляющее большинство из нас придерживалось бы противоположного мнения.

Этот парадокс отражен в мысленном эксперименте с кораблем Тесея, о котором писал Плутарх примерно в 75 году нашей эры⁷. Деревянный корабль отстраивается заново по одной доске. После того как заменят первую доску корабля, ни у кого не возникнет сомнений в том, что это прежний корабль. То же самое и со второй доской. В конечном итоге каждую доску корабля заменят. Тот ли это корабль, а если не тот, то в какой момент произошло изменение? Гераклит предложил для этого парадокса решение, сравнив его с рекой, воды которой непрерывно текут, изменяясь каждый момент. Но река остается той же.

Тот же мысленный эксперимент можно применить к мозгу⁸. Один нейрон заменяют крошечным чипом или электрическим контуром, который полностью имитирует нейронные функции. Вряд ли у кого-то будут сомнения, что это тот же человек, что и прежде. Второй чип заменяет еще один нейрон и так далее, пока не будут заменены все участки мозга, вся кора и все функции, включая и те, которые отвечают за эмоции. Предположим, замена прошла идеально: новый мозг человека хранит всю ту же информацию, те же эмоции и ту же личность, которые были у человека всегда. На какой стадии человек перестал быть собой или, если на то пошло, перестал быть человеком? В каждом случае ответ может заключаться в том, что волноваться следует не по поводу составных частей, а по поводу всей сети взаимосвязанных деталей. Именно эта сеть – целый корабль, река, организм или мозг с собственными свойствами сознания.

И наоборот, рассмотрим противоположный сценарий из повести Айзека Азимова «Двухсотлетний человек» (The Bicentennial Man). На протяжении всего повествования роботу по имени Эндрю заменяют детали реалистичными и высокотехнологичными протезами. В итоге все части его тела, в том числе и мозг, полностью идентичны человеческим вплоть до клеточного уровня, и он официально считается человеком. Несмотря на то что оба этих технологических сценария превосходят уровень наших возможностей, вряд ли так будет всегда. На самом деле эта проблема возникнет намного раньше, чем мы думаем.

Сможем ли мы изменить наши взгляды, избежав хотя бы некоторых трудностей, о которых говорилось выше? Сложно сказать. Мы все теснее сближаемся с технологией, а технологии становятся все более человекоподобными. Может случиться и так, что мы пойдем по этому пути уже не как две абсолютно разные группы. Примерно через три миллиона лет после того, как наши общности начнут сближаться, мы обнаружим, что превратились в единый вид. Возможно, мы выберем для нового вида название Homo hybridus, или Homo technologus, или другой псевдолатинский вариант, но важно другое – с учетом всех наших намерений и целей мы будем одной семьей.

Прежде чем это произойдет, отношение к нашим технологиям-партнерам за грядущие десятилетия изменится множество раз. Сейчас мы переживаем период смешанного отношения общественности к роботам и искусственному интеллекту. Они находятся на границе новых чудес и в то же время заставляют беспокоиться насчет массовой безработицы и утечки мозгов. Взлеты и падения будут продолжаться. Но в тот момент, когда мы убедимся, что машины способны осознавать себя и чувствовать, правила игры изменятся. В тот момент многие аргументы против отношений людей и роботов станут несостоятельными. Однако до этого переломного момента многие люди будут недовольны тем, что мир меняется у них на глазах, и будут жалеть о старых добрых временах. И они постараются сбежать от реальности очень странными способами. Об этом – следующая глава.