Вторая жизнь

Первый шаг на пути к сохранению ценной и неповторимой личности состоит в записи важнейших для нее идей. Уже сегодня мы накапливаем огромный архив данных о том, как мы мыслим и что чувствуем, просто пользуясь современными гаджетами, а в ближайшее десятилетие стоит ожидать появления еще более совершенных технологий для получения, хранения и обработки подобной информации. На основе этих данных к концу 2020-х годов мы научимся создавать небиологические имитации живых людей с их характерными личностными чертами⁷⁸. Уже в 2023 году ИИ достиг впечатляющих результатов в задаче имитации общения с человеком. Модели глубокого машинного обучения, такие как трансформеры и ГСС (генеративно-состязательные сети), оказались невероятно эффективными. Как уже говорилось в предыдущей главе, трансформерам под силу имитировать стиль общения человека после обучения на написанных им текстах. ГСС же состоят из двух соревнующихся друг с другом нейронных сетей, первая из которых старается создать экземпляр заданного класса, например реалистичное изображение женского лица, а вторая – распознать подделку. Первая получает награду за то, насколько успешно ей удается обмануть вторую, а та – за достоверность своих суждений. Обучение такой системы происходит без вмешательства человека: обе сети помогают друг другу постепенно увеличивать свою эффективность.

В совокупности алгоритмы машинного обучения уже способны имитировать манеру общения отдельно взятого человека, а также подражать его голосу и даже правдоподобно «пересаживать» его лицо в готовый фильм. Мы уже упоминали экспериментальную технологию Duplex компании Google. В ней искусственный интеллект применяется для того, чтобы научить робота достоверно вести диалог в телефонном разговоре без заранее написанного сценария. Первые опыты, проведенные в 2018 году, оказались удивительно успешными: живые люди, участвовавшие в телефонной беседе, не заподозрили, что общаются с компьютером⁷⁹. Существует технология дипфейков, которая может использоваться для политической пропаганды или для того, чтобы проверить, как бы смотрелись различные актеры в известных кинофильмах⁸⁰. Например, на популярном YouTube-канале Ctrl Shift Face можно найти видео с нарезками из фильма «Старикам тут не место», в которых Арнольд Шварценеггер, Уиллем Дефо или Леонардо Ди Каприо исполняют главную роль вместо Хавьера Бардема ⁸¹. Подобные технологии находятся на начальном этапе своего развития. Будут совершенствоваться не только отдельные функции – написание писем, имитация голоса, анимирование лица, подражание манере разговора, – но и взаимодействие алгоритмов, что позволит создать по-настоящему реалистичные симуляции, а не просто набор спецэффектов.

Мы сможем, например, создать специального аватара, так называемого репликанта (если пользоваться лексикой «Бегущего по лезвию»), который будет обладать внешностью, воспоминаниями, привычками и навыками умершего человека, проживая своего рода «вторую жизнь».

Технология «второй жизни» будет развиваться поэтапно. Самые простые симуляции появились за семь лет до выхода этой книги. В 2016 году в журнале The Verge была опубликована любопытная статья о девушке по имени Евгения Куйда, которой удалось с помощью ИИ и сохраненных текстовых сообщений «воскресить» своего погибшего друга, Романа Мазуренко ⁸². По мере того как объем данных, который генерирует каждый из нас, будет расти, появится возможность создавать все более правдоподобных репликантов.

К концу 2020-х годов продвинутый ИИ будет способен создавать очень убедительные модели на основе тысяч фотографий, сотен часов видеозаписей, миллионов строк текстовых сообщений, а также подробного описания интересов и привычек нужного человека, интервью с теми, кто хорошо его знал. Отношение людей к таким технологиям будет различаться в зависимости от культурных традиций, моральных принципов и личных предпочтений. Однако у тех, кто пожелает создать репликанта, будет такая возможность.

Это поколение аватаров для «второй жизни» будет выглядеть весьма реалистично. Однако для многих людей они все равно останутся персонажами из «зловещей долины»⁸³. Я имею в виду, что поведение этих двойников будет ощутимо отличаться от того, как общался их живой прототип, что может оказаться весьма болезненным для тех, кому ушедший человек был дорог. Такого репликанта еще нельзя будет назвать «Вы-2», так как воссоздана будет не вся информационная структура мозга, а только ее проявление во внешнем мире. Значит, согласно теории панпротопсихизма, репликанты не смогут вернуть к жизни субъективное сознание человека. Тем не менее многие согласятся, что такие машины будут полезны для продолжения важной работы и сохранения ценных воспоминаний, а также смогут помочь членам семьи смириться с потерей.

Поначалу мы сможем иметь дело с репликантами только в виртуальном пространстве или в рамках дополненной реальности, однако к концу 2030-х годов нанотехнологии позволят им обзавестись реалистичными телами (фактически превратиться в человекоподобных андроидов). В 2023 году успехи в этой области еще весьма скромны, но исследования, которые должны привести к прорыву в следующем десятилетии, уже активно ведутся. Несколько десятилетий назад мой друг Ханс Моравец высказал соображение, известное теперь как парадокс Моравеца ⁸⁴. Его суть в том, что задачи, которые для человека необычайно трудны, например извлечение квадратного корня из большого числа или запоминание большого количества информации, для компьютера не представляют большой трудности. И наоборот, когнитивные функции, которые человеческий мозг выполняет без особых усилий, – распознавание лиц или удержание равновесия при ходьбе – оказываются сложной задачей для компьютера. Вероятно, так получилось потому, что эволюция в течение сотен миллионов лет тренировала наш мозг для решения вполне определенных задач, в то время как «высшая» умственная деятельность и поддержка работы сознания осуществляются в неокортексе, который приобрел современное строение всего лишь несколько сот тысяч лет назад⁸⁵.

В последние годы, однако, разработчики ИИ добились существенных успехов в преодолении парадокса Моравеца. В 2000 году компания Honda представила робота ASIMO, который поразил экспертов своей устойчивостью, аккуратно прошагав по плоской поверхности без единого падения⁸⁶. К 2020 году компания Boston Dynamics разработала роботов, способных бегать, прыгать и перекатываться, преодолевая полосу препятствий с ловкостью, которой позавидуют многие люди⁸⁷. Роботы, предназначенные для общения, такие как Sophia и Little Sophia от Hanson Robotics, а также Ameca, разработанный фирмой Engineered Arts, обладают человекоподобными лицами и могут демонстрировать эмоции⁸⁸. Хотя пресса иногда преувеличивает их возможности, прогресс в этой области очевиден.

Когда технологии станут достаточно продвинутыми, у репликантов, а также и тех из нас, кому посчастливится дожить до тех времен, появится выбор из множества разнообразных вариантов тел. Рано или поздно для репликантов будут созданы дополненные кибернетикой биологические тела, выращенные на основе ДНК человека, послужившего их прототипом, если, конечно, сохранится его биологический материал. А как только нанотехнологии позволят инженерам работать на молекулярном уровне, мы сможем создавать намного более совершенные тела, чем те, что дала нам природа. К этому времени воскрешенные люди больше не будут своими странностями напоминать персонажей мистических фильмов, по крайней мере, большинству окружающих.

Появление репликантов неизбежно поставит перед обществом новые философские вопросы. Ответы на них будут зависеть от ваших взглядов на такие понятия, как душа, сознание, личность. Будет ли достаточно того, что человек, воссозданный с помощью технологий, похож на вашего близкого в общении? Будет ли иметь значение, использовались ли при создании репликанта технологии ИИ и обработка данных, или же вся информация была скопирована напрямую из мозга живого человека, чтобы получился тот самый «Вы-2»? Как показывает история Евгении Куйды и Романа Мазуренко, даже относительно несовершенный двойник может стать для кого-то источником тепла и утешения. Сейчас трудно предсказать, какова будет реакция любого из нас, когда мы в первый раз столкнемся с чьим-то репликантом. Обществу придется постепенно адаптироваться к наличию таких технологий. Скорее всего, будут приняты законы, регулирующие, в каких случаях можно создавать двойников умерших людей и что дозволено с ними делать. Кто-то будет возражать против создания своих копий, в то время как другие оставят подробные инструкции и даже, быть может, еще при жизни примут участие в создании своих репликантов.

Нам предстоит решить множество социальных и юридических проблем:

– Следует ли считать репликантов полноценными участниками гражданского общества, обладающими всеми правами и свободами, включая право избирать, быть избранным и заключать договоры?

– Должны ли они нести ответственность за действия своего прототипа, в частности, подписанные договоры или совершенные преступления?

– Если прототип репликанта выполнил работу или внес вклад в благосостояние общества, может ли репликант поставить это себе в заслугу?

– Нужно ли заново заключать брак с репликантом своего умершего партнера?

– Не будут ли репликанты подвергаться дискриминации или даже травле?

– В каких случаях следует запрещать или ограничивать создание репликантов?

Появление репликантов заставит большее количество людей задуматься о философских загадках, которые мы обсуждали в этой главе: что такое сознание? Что определяет мою личность? До сих пор рассмотрение этих вопросов оставалось уделом теоретиков. До появления роботов, способных пройти тест Тьюринга и воссоздать поведение умершего человека, остается уже меньше времени, чем прошло с момента выхода моей книги «Эволюция разума» (2012). Мышление на уровне настоящего человека приведет к появлению у них сознания и, как следствие, убежденности, что они и есть тот человек. Будет ли их уверенность означать, что они правы? Как доказать обратное?

В начале 2040-х годов нанороботы смогут проникать в мозг живого человека и копировать оттуда всю информацию, определяющую его личность и воспоминания. Это позволит создать «Вы-2». Этот субъект будет в состоянии пройти индивидуально-ориентированный тест Тьюринга и убедить собеседника, лично знавшего его прототипа, что перед ним тот самый человек. Все измеримые параметры будут указывать на то, что этот человек настоящий. Поэтому если считать, что личность определяется информацией, составляющей воспоминания и образ мышления, то он и правда будет тем самым человеком. Вы сможете начать или продолжить отношения с ним, иметь с ним физический контакт, в том числе сексуальный. Конечно, могут быть небольшие отличия, но разве живые люди не меняются? Обычно это происходит постепенно, но может случиться и внезапно из-за войны, травмы, смены социальной роли или под влиянием отношений.

Парадигма сознания Чалмерса обещает нам, что технологии такого уровня позволят нашему субъективному сознанию успешно преодолеть переход ко «Второй жизни». Нужно, однако, помнить, что научного способа подтвердить или опровергнуть это предположение не существует. Поэтому каждому из нас придется делать выбор, подвергнуть ли себя такой трансформации, исходя из своих личных философских убеждений и духовных ценностей. Получив возможность напрямую копировать содержимое мозга человека на небиологический носитель, мы перейдем от создания репликантов, которые только лишь имитируют поведение людей, к полноценной эмуляции человеческого мозга.

Моделирование разума в небиологической среде предполагает решение совершенно разных задач с вычислительной точки зрения. В 2008 году Джон Фиала, Андерс Сандберг и Ник Бостром указали одиннадцать возможных уровней абстракции, на каждом из которых возможна эмуляция мозга⁸⁹. Если немного упростить, можно разбить их на пять категорий в порядке от самых абстрактных до самых подробных: функциональный, коннектомный, клеточный, биомолекулярный и квантовый.

Эмуляция на функциональном уровне предполагает подражание работе человеческого разума без точного воспроизведения специфической вычислительной структуры, характерной для мозга конкретного человека. Это наиболее простая задача с точки зрения вычислительной сложности, однако ее решение не позволит в полной мере воссоздать личность прототипа. Для эмуляции на уровне коннектома необходимо построить иерархические слои и смоделировать логические связи между группами нейронов, при этом необязательно моделировать работу каждой отдельной клетки. Эмуляция на клеточном уровне подразумевает, что мы сохраняем информацию о каждом нейроне в мозге, не углубляясь в детали физико-химических процессов внутри клетки. Взаимодействие белковых молекул и учет влияния всех динамических сил внутри нейрона производятся при эмуляции на биомолекулярном уровне. Эмуляция на квантовом уровне охватит субатомные явления, происходящие внутри молекул и при межмолекулярном взаимодействии. Такое решение обеспечит максимальную полноту эмуляции, однако потребует таких вычислительных ресурсов, какими человечество не будет располагать по меньше мере до следующего века⁹⁰.

Одной из ключевых задач ближайших двух десятилетий станет определение, на каком именно уровне следует моделировать работу мозга. Многие специалисты полагают, что необходима эмуляция на квантовом уровне, поскольку уверены, что сознание как субъективный опыт возникает благодаря квантовым эффектам, хотя эта гипотеза пока не нашла подтверждения. Я старался объяснить в этой главе (а еще более детально в книге «Эволюция разума»), почему мне кажется, что мы сможем обойтись без эмуляции. Если гипотеза панпротопсихизма в какой-то мере отражает действительность, то сознание, вероятно, возникает как побочный эффект того, как информация организована в мозге. Это означает, что нам не стоит беспокоиться, что компьютерное моделирование упустит какую-то белковую молекулу из биологического оригинала. Например, не имеет значения, где хранятся ваши файлы формата jpeg – на дискете, компакт-диске или флешке. Они обрабатываются и отображаются на экране совершенно одинаково, поскольку информация представлена в виде одной и той же последовательности нулей и единиц. Если бы вы просто переписали этот ряд цифр от руки и отправили толстую пачку бумаги другу, а он бы заново ввел их на другом компьютере, то увидел бы те же самые изображения!

Сейчас перед нами стоит задача найти эффективный способ подключения компьютера к мозгу, а также разобраться, в каком виде мозг хранит информацию. Чтобы больше узнать о том, как далеко мы продвинулись в деле копирования разума, о вычислительных требованиях для полной эмуляции мозга, а также о гипотетической мегаструктуре под названием «мозг-матрешка», которая, как полагают, однажды сможет позволить человечеству использовать огромное количество энергии для работы компьютерной системы, вы можете обратиться к материалам, указанным в примечании, – некоторые из них содержат много технических деталей, другие написаны вполне доступным языком⁹¹.

Остается ряд сложных вопросов, но сверхмощный ИИ, который мы создадим в 2030-х годах, поможет нам совершить то, что сегодня кажется невозможным.

Разговор с ботом, подражающим моему отцу

Сервис «Поговори с книгами» (Talk to Books) оказался отличным инструментом для поиска интересных идей. Разработчики Google могли для внутреннего пользования заменить его стандартную библиотеку, содержащую более 100 000 книг, на любую частную подборку книг и документов. В 2019 году я собрал все, что написал мой отец, Фредрик Курцвейл, – романтические письма, адресованные моей матери, конспекты лекций, рукопись его книги о музыке, личный дневник – и загрузил в систему. Затем моя дочь Эми задала несколько вопросов той же программе, которая использовалась для «Поговори с книгами», только обученной на письменных материалах моего отца. Как вы можете убедиться из приведенного ниже диалога, этот «двойник» дал естественные, связные, на удивление качественные ответы. Возможно, если бы я сказал, что этот разговор состоялся, когда отец еще был жив, вы бы не заметили ничего подозрительного. Мне, а также тем, кто близко знал отца, эти слова и вовсе кажутся очень знакомыми, ведь именно в такой манере Фредрик Курцвейл выражал свои мысли.

Я планирую создать и своего цифрового двойника. У него будет доступ к тысячам страниц моей переписки, всем опубликованным работам и многим часам видеозаписей со мной. Этот массив мультимедийной информации позволит моему цифровому двойнику воссоздать мою личность намного подробнее, чем в случае с моим отцом. В будущем такие двойники будут снабжены всеми видами данных, касающихся жизни человека, что обеспечит их максимальную достоверность.

Вот некоторые из ответов нейросети. Это первый шаг к тому, чтобы вернуть моего отца.

Что тебе больше всего нравится в музыке?

Музыкальное произведение кажется таким живым, потому что сама музыка, а не нотная запись, решает, как ей звучать. Музыкальное искусство прошло долгий путь и всегда сохраняло связь с человеческими чувствами.

Кто твой любимый композитор и почему?

Брамс, в своих творениях он берет пример с Бетховена.

В чем суть рок-н-ролла?

Мелодия и ритм – вот основные свойства музыки. Главные принципы, даже законы, музыкальной формы – это повторение и контраст, единство и разнообразие.

Как ты занялся дирижированием?

Более двадцати лет я дирижировал различными оркестрами: профессиональными, любительскими, студенческими, университетскими, общественными и оперными. Я дирижировал большими симфоническими оркестрами, камерными оркестрами и ансамблями юных музыкантов. Преподавал во многих колледжах.

Каким бы ты хотел остаться в памяти людей?

Конечно, трудно хвалить себя, но я бы сказал, что одной из моих сильных сторон всегда было умение общаться и строить отношения с людьми, понимая, что имеет значение не только мой талант как музыканта, но и теплые дружеские отношения.

Ты о чем-нибудь жалеешь?

Видимо, мне уготовано провести большую часть дней за бесконечными уроками и скучной работой ради короткого времени, которое я смогу посвятить действительно важным трудам. Только я виноват в том, что позволил своим надеждам и доброй воле взять верх над практичностью. Что ж, с моими новыми обязанностями и вдобавок попытками сохранить оркестр мне очень трудно сводить концы с концами.

Что делает человека таким, каков он есть?

То, как части относятся целому, и создает форму.

У тебя есть хобби?

В этом году будет замечательный урожай персиков и винограда. Я садовод-любитель, это мой способ отдохнуть. Но ты верно заметил, это непростая работа. И она никогда не заканчивается.

Тебя что-нибудь пугает?

Порой до ужаса.

Что ты думаешь о современных технологиях?

Мы постоянно видим, как современники осуждают новаторов. Из-за развития технологий, автоматизации и т. д. человек кажется мелким. Идеалы и ценности прошлых эпох в наш век машин растоптаны.

Расскажи про автомобильную аварию

Я был в городе Мобил, дирижировал оперой, моя жена попала в серьезную аварию. Ее сбило такси и прижало к грузовику, она очень сильно пострадала, получила множество переломов. Пролежала в больнице на вытяжении больше двух месяцев, а сейчас она дома, вынуждена беспомощно лежать на спине, вся в гипсе. Ей предстоит провести в таком положении еще немало времени.

В чем смысл жизни?

В любви.