Книга: Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта
Назад: Глава 17 К лучшему и к худшему
Дальше: Благодарности

Глава 18
Будут ли ИИ мечтать об электроовцах?

«Унаследуют ли роботы землю? Да, но они будут нашими детьми»
Марвин Минский, эксперт в области когнитивных наук и первопроходец в области искусственного интеллекта
На протяжении примерно трех миллионов лет человечество и технология идут параллельными, хотя и разными путями. С учетом того, как мы поддерживаем друг друга, это состояние можно назвать совместной эволюцией. Технология достигла своего современного уровня целиком и полностью благодаря мышлению и усилиям человека. Но и мы без технологии были бы совершенно другим видом, если бы вообще выжили. Таким образом, мы обязаны друг другу своим нынешним процветанием.
Но ситуация может измениться. Когда технология или некая ее разновидность окажется на достаточном уровне волеизъявления и самоопределения, даже не обладая сознанием, она сможет самостоятельно направлять свое будущее развитие. Это означает, что технология будет не только воспроизводить сама себя, но и изменять себя. Такой переход сделает невозможной дальнейшую совместную эволюцию, которая длилась так долго.
Одно из главных различий между естественной и технологической эволюцией – намерение.Биологическая эволюция – результат естественного отбора, мутации и других сил, объединенных тем, что их ничто не направляет. Они просто происходят, и нам просто повезло, что их комбинация в далеком прошлом дала начало виду Homo sapiens. Этот процесс не был целенаправленным, и он не был завершенным. Мы – не конечная точка, а скорее остановка на пути к чему-то еще. Так уж получилось, что пока мы единственный на этом пути вид, способный распознать и осмыслить механизмы, благодаря которым мы появились. В этом состоит наша подлинная уникальность, и именно из-за нее у нас возникают проблемы, когда мы осмысливаем свое место в мире, вселенной и глобальном порядке вещей.
Несмотря на то что при создании разумных машин мы наследуем принципы биологических систем, стоит предположить, что любая попытка скопировать принципиально иную систему окажется в лучшем случае напрасной тратой сил, вычислительных мощностей и ресурсов.
Однако если перейти определенную черту, то изменится наш мир и, возможно, огромное количество других миров во вселенных, где обитает достаточно разумная жизнь. Из-за разницы в скорости развития биологической жизни и технологий изменения гарантированы. Сама природа постоянно ускоряющегося прогресса говорит о том, что первый биологический вид, взявший на вооружение технологию, может оказаться и последним. Кроме того, самонаправленная эволюция получает преимущество перед естественной эволюцией, поэтому машинный разум может оказаться единственным выжившим. Даже если человечество уцелеет, оно может быстро отклониться от естественного курса. Это может оказаться нашей единственной стратегией долговременного выживания, которую мы сейчас и рассмотрим.
Сценарий о дружбе человека и машины, развивавшийся три миллиона лет, достиг той ключевой точки, после которой возможно развитие нескольких сюжетных линий. И не у всех из них счастливый финал.
Перед нами несколько сценариев, и некоторые вполне можно назвать «концом света в привычном понимании». Одно из последствий развития технологии в геометрической прогрессии и закона Курцвейла об ускоряющейся отдаче заключается в том, что в какой-то момент технология может стать продвинутой до такой степени, что начнет самосовершенствоваться с постоянно растущей скоростью, результатом чего станет взрывоподобное развитие искусственного интеллекта. Машинный сверхразум быстро станет сильнее всех умов планеты вместе взятых. Как мы уже знаем из предыдущей главы, этот разум наверняка будет нам чужд. Более того, почти нет гарантий или даже вероятности, что его ценности, мотивы и логика будут совпадать с нашими. Разрабатывались многочисленные стратегии взаимодействия с таким сверхразумом, включая варианты Трех законов Азимова, теории дружественного искусственного интеллекта Юдковски и глобальной ИИ-няни Герцеля1. К сожалению, каждая из них далека от полноценной стратегии, которая нас интересует. Есть некоторые разногласия по поводу того, какой из вариантов более вероятен, но более важен другой вопрос: каким будет результат – благоприятным или наихудшим из возможных.
Одна группа сценариев повторяет сценарии фильмов серии «Терминатор» настолько точно, что их часто называют сценариями «Терминатора». В фильмах этой серии между людьми и машинами идет война, и человечество представляет собой разрозненную массу повстанцев, которые в конце концов побеждают под самый финал истории. К сожалению, так бывает только в кино. В сценариях футурологов оценка разницы интеллекта, доступных ресурсов и уязвимостей говорит в пользу того, что все люди до единого окажутся стерты с лица земли за считанные дни, если не минуты. Поднять восстание будет попросту некому.
Однако такие сценарии могут и не воплотиться, поскольку они предполагают некоторые пути логических построений и уровень агрессии, которые не обязательно будут у чужого нам сверхразума. Пока человечество не рассматривается как непосредственная (или потенциальная) угроза, такой способ уничтожения вредителей вряд ли вероятен.
Воплощение следующей группы сценариев также возможно, хотя маловероятно. Эти сценарии предполагают, что мы станем неким ресурсом и нас будут разводить, как скот, либо в качестве источника энергии, либо ради каких-нибудь характерных качеств. Назовем их сценариями «Матрицы» под влиянием фильмов о миллионах людей, из которых, по сути, растили живые батарейки. Сама идея несостоятельна, поскольку существуют более эффективные способы получать и потреблять энергию и ресурсы с учетом высокого уровня интеллектуальных и технологических возможностей. Нам следует беспокоиться о том, что может найтись способ использовать людей, о котором мы можем не подозревать. Этот способ может оказаться ужасным для нас и рациональным для машин, не обладающих этическими нормами.
Здесь мы подходим к наиболее вероятному и правдоподобному сценарию в обстоятельствах пост-сингулярности: мы окажемся не у дел. Этот вариант может показаться не таким уж плохим: до нас не будет дела, как нам нет дела до одноклеточных форм жизни. Будут приниматься решения, которые не учитывают нас, и совершаться действия, последствия которых будут для нас крайне негативными, а то и фатальными. На той стадии, когда наше существование станет более очевидным, нас сочтут препятствием или патогенным фактором и предпримут меры, чтобы устранить проблему. Что снова возвращает нас к сценарию «Терминатора».
Разумеется, вариантов развития событий бесконечное множество. Может оказаться, что к нам будут относиться, как к домашним питомцам, или держать в зоопарке, или гонять по виртуальным лабиринтам в лабораториях, или почитать как великих предков. Но не стоит обольщаться. Несмотря на то что в подобном будущем возможно все что угодно, оно снова предполагает наличие разума и мировоззрения, параллельного человеческим. Что представляется крайне маловероятным.
Мирное сосуществование людей и машин, конечно же, возможно, но с учетом того, что мы определенно не коллективный вид и у нас нет коллективного мышления и мотиваций, мы можем стать свидетелями конфликта между человечеством и сверхразумом. И мы снова возвращаемся к одному из экзистенциально разрушительных сценариев. Сводя все воедино, как уже упоминалось, в будущем может не быть единого монолитного сверхразума, но он может существовать в нескольких разновидностях. Если прибавить к этому многочисленность ИИ, которые со временем займут все больше ниш в экосистеме разума, в итоге мы можем оказаться на крайне враждебной территории. На этой территории мы сможем воспользоваться помощью очень сильного и верного союзника.
Размышления о возможных поворотах долгоиграющего сюжета возвращают нас к отправной точке. Вместо того чтобы сопротивляться масштабной и крайне успешной совместной эволюции, возможно, лучшее, что мы можем сделать, это воспользоваться ее преимуществами и продолжить ее. По сути, это означает слияние с технологией. Результатом появления подобных гибридов будет то, что Илон Маек назвал «симбиозом человека с ИИ».
Многие люди воспротивятся такому развитию событий. Однако вспомните, что мы тесно сближаемся с технологией уже очень долгое время. Очки, слуховые трубки и костыли из веток привели нас к пересадке роговицы, созданию кохлеоимплантов и бионическому протезированию конечностей. Интерфейсы позволяют взаимодействовать и контролировать сложные и мощные устройства все более естественным образом. Вся мощь суперкомпьютеров уже сейчас заключена в наших пальцах, а со временем к ним можно будет получить доступ с помощью умных контактных линз или интерфейсов, подключенных к мозгу. Переход от человечества к пост-человечеству уже не за горами.
Почему именно эта стратегия поможет достичь благоприятного результата в мире, населенном одним или несколькими видами машинного сверхразума? Во-первых, если мы хотим, чтобы искусственный интеллект обрел человеческие ценности, что может быть лучше этого? Помните, что слияние будет не односторонним. Мы будем не единственными, кто изменится в процессе, и искусственный интеллект изменится тоже. Машинам принесут пользу те черты, благодаря которым мы выжили как человечество, и это не в последнюю очередь наш эмоциональный способ определения ценности окружающего мира. Эти черты станут нашими дополнительным ресурсом, фактором, который сделает технологию более устойчивой и научит лучше справляться с поставленными перед ней задачами.
Стоит также помнить и о том, что в мире и вселенной, где предстоит жить искусственному интеллекту, не избежать конфликтов. В экосистеме, естественной или технологической, возникает конкуренция за ограниченные ресурсы. Скорее всего, то же произойдет и с экосистемой машинного разума. Как уже говорилось, некоторые виды машинного разума могут быть не особенно умными, но некоторые будут почти всеведущими. Их объединение с нашим естественным разумом, в том числе и его эмоциональными, «иррациональными» элементами, может оказаться верной стратегией для выживания и успешного существования в столь непростой среде. Возможно, это даже позволит ИИ чувствовать эмпатию, от чего, как пока можно лишь надеяться, мы только выиграем.
Выделяют как минимум два типа эмпатии: когнитивную и эмоциональную. Их не обязательно испытывать по отдельности, и они определенно могут влиять друг на друга. Когнитивная эмпатия, как и предполагает название, более активна в сознании и позволяет нам понять взгляды или ментальное состояние другого человека. Сложно отследить, как эта форма эмпатии развилась у высших приматов, пока у них не появился определенный уровень самосознания и умение различать других. С другой стороны, эмоциональная эмпатия2 больше основана на рефлексии. Это почти инстинктивная реакция, происходящая, по всей видимости, от физиологических процессов. Она позволяет нам в какой-то степени разделить эмоциональное состояние другого человека. Если рассматривать возможное происхождение обеих форм эмпатии, то, скорее всего, эмоциональная эмпатия предшествовала когнитивной. Фактически, если бы вначале не было эмоциональной эмпатии, было бы сложно понять, как вообще возникли разум и самосознание.
Многие люди размышляли о механизмах эмоциональной эмпатии. В них могут принимать участие эмоциональное заражение, зеркальные нейроны и феромоны. Но я не могу не думать снова о сентографе Манфреда Клайна и разговорах с Йорамом Леваноном из Beyond Verbal о том, что эмоции можно передавать через уникальные вибрации прикосновений и голоса человека3. Таким образом создается резонанс между отправителем и получателем, который получатель воспринимает соматически, разделяя конкретное эмоциональное состояние. Может ли подобная передача и удаленная активация отражаемых ощущений быть одной из основ эмпатии? Этот процесс мог начаться задолго до того, как у нас развилась полноценная теория разума, на основании которой могла возникнуть когнитивная эмпатия. Эта интригующая точка зрения может подсказать способ синтезировать эмпатию у искусственного интеллекта.
Биологическая эволюция – результат естественного отбора, мутации и других сил, объединенных тем, что их ничто не направляет.
Аффективные технологии и эмоциональные интерфейсы – это лишь начало, предшественники методов и средств, которые мы будем использовать в будущем при слиянии разумов. Сейчас существуют методы символического моделирования эмоций и связанные с ним функциональные возможности компьютерных приложений, но они все равно остаются примитивными, и их уровень вряд ли когда-либо достигнет сложности биологических систем. Таким образом, нам может понадобиться более биомиметический подход. Если допустить, что соматическая связь с организмом важна для когнитивного переживания эмоций, есть вероятность, что машинному разуму понадобится похожая связь, чтобы прочувствовать что-то похожее на наше когнитивное переживание эмоций. Понадобятся устройства, чтобы создавать эмоции, и сенсоры, чтобы фиксировать внутренние состояния тем способом, который инженеры еще не исследовали. Внутренняя дрожь, вставшие дыбом волоски на шее, нутряное чувство отвращения – этим интероцептивным ощущениям нет аналогов среди современных сенсоров. В настоящее время сенсоры моделируются на основании внешних биологических ощущений, таких как зрение, слух и, в меньшей степени, осязание, вкус и запах. Чтобы по-настоящему пережить искусственную эмоцию, нужно ли будет расширить чувствительный центр машины? Можно ли это реализовать вне биологического субстрата? Не окажется ли, что существуют ограничения, которые мы пока не можем предусмотреть? Если машины научатся замечательно интерпретировать и изображать эмоции, включая эмпатию, они никогда не смогут испытывать их сами.
Если это действительно случится, то люди могут стать для машин лучшим ресурсом. Фактически, объединяясь с человеком, искусственный интеллект может получить преимущество в неблагоприятных условиях и уравновесить процессы, благодаря которым машины превосходят нашу уникальную когнитивную деятельность. Каждый из нас выиграет, а наше сосуществование в дальнейшем приведет нас к тесному сближению и симбиозу.
Разумеется, многие будут сопротивляться и посчитают эту идею губительной или противоестественной. Причин может быть много: религиозные взгляды, вера в святость и неприкосновенность человеческого тела, откровенный страх будущего, все более связанного с технологией. Разумеется, это будет их право. Однако ни луддизм, ни антитехнологический фундаментализм не зарекомендовали себя как жизнеспособные долговременные стратегии в прошлом и вряд ли зарекомендуют в будущем. Мы пользуемся новыми технологиями из-за преимуществ, которые они дают. Если кто-то лишен возможности пользоваться автомобилем, смартфоном или другой популярной технологией, это значит, что условия для него будут крайне неблагоприятными. Оправдание, что нам что-то не нужно, потому что мы не пользовались этим раньше, несостоятельное и ложное. В мире, где когнитивные способности и ресурсы многих людей возросли на порядки, ретрограды просто вымрут. Быстро или медленно – уже детали.
Существует еще вопрос неравенства уровня благосостояния. Как упоминалось в главе 8, ранний доступ к новым технологиям – почти всегда привилегия богатых. Что это будет означать в такой важный для истории человечества момент? Останутся ли некоторые люди, даже если их большинство, в конечном итоге не у дел? Начнется ли война между консерваторами и людьми версии 2.0? Может ли человечество (снова) расколоться на два абсолютно разных вида?
Точка зрения о том, что человечество превратится в новый вид, не нова. С исторической точки зрения мы уже знаем, что от многих человекоподобных видов происходило по одному и более потомку. Мы, Homo sapiens, лишь последние в этой долгой линии. Однако в этот раз характер и скорость превращения Homo sapiens в, скажем, Homo hybridus будет совершенно иной4. Даже если на этот переход потребуются столетия, по сравнению с прошлыми поколениями это будет мгновением. Кроме того, теперь мы способны прогнозировать и сможем предсказать следующий этап перехода и взвешенно обсудить его последствия.
Мы можем лишь размышлять о том, на что будет похоже подобное будущее и что ждет множество людей. Конечно, на телевидении и в Голливуде обожают поговорить о том, что произойдет, если человек и машина станут одним целым. Чаще всего они рисуют перед нами мир бортов и киберлюдей, в котором у человечества осталась лишь чистая холодная безжалостная логика. Но эта экстраполяция не имеет смысла. Спросите одного из миллионов нынешних киборгов, ощущают ли они себя менее людьми, если в них есть что-то от машины, если не боитесь получить в нос кулаком. Людей с кохлеоимплантами, кардиостимуляторами, вспомогательными желудочковыми системами, стимуляторами мозговой активности, искусственными сердцами, костями, суставами и протезами сетчатки сейчас десятки миллионов. Интересно, если подумать о том, что еще полвека назад таких вспомогательных устройств попросту не было.
Сравните это число с популяцией предков человека, составлявшей всего двадцать шесть тысяч, примерно 1,2 миллиона лет назад5. Переход к следующему воплощению нашего вида уже не за горами, и он не отнял у человечества ничего существенного.
Фактически можно сказать, что сейчас мы больше люди, чем когда-либо в прошлом. Если измерять человечность способностью стремиться и в результате получить более гуманный мир, где меньше жестокости и люди уважительно относятся не только к своему племени, то именно его мы и получили. Об этом говорит и Стивен Пинкер в своей книге «Лучшее в нас» (The Better Angels of Our Nature),подробно рассказывая, как нам удалось построить более спокойный и безопасный мир, чем в другие исторические периоды. Конечно, новостные выпуски внушают многим людям уверенность в том, что смерть и разорение подстерегают их на каждом углу. Но Пинкер утверждает, что это улучшение произошло не из-за изменений в нашей биологии или когнитивной деятельности, а скорее из-за «изменений культурной и материальной среды, в которой мирные мотивации получили высший приоритет».
Я разделяю мнение Пинкера, но с одним лишь исключением: как отметил Кевин Келли, наша культура – часть огромной технологической сети, которую мы плели до сегодняшнего дня, и с такой же технологической сетью мы совместно эволюционировали, а теперь все больше сближаемся. Наше меметическое и культурное наследие эволюционировало, и мы вместе с ним6. Наши судьбы тесно переплелись, и теперь они неразделимы. Я полагаю, дело не просто в окружающей среде или воспитании, а в том, что теперь стало сложной частью человеческого сознания то, что вначале было внешним конструктом7. Это постоянное сближение сможет уберечь нас от худших сценариев пост-сингулярности. Подобная встреча разумов, если она состоится, может гарантировать общие интересы у партнеров и не дать погубить одного из них или обоих сразу.
Наш разум станет не только тремя фунтами нервной ткани, доставшейся нам в ходе естественной эволюции, а совокупностью биологических и цифровых систем. У него будет больше шансов стать ценным партнером на встрече разумов. Способность мгновенно оценивать и совершенствовать мыслительные процессы с помощью суперкомпьютерных процессорных плантаций и запоминающих устройств может оказаться именно той гранью, которая нам требуется, чтобы удержать равновесие в стремительно меняющемся мире.
Возникает интересная последовательность: у людей, как и у большинства млекопитающих, общение было основано на эмоциональном взаимодействии. Когда у нас появились сознание, эмпатия и способность отличать других, эмоции обрели множество оттенков. Затем появились жесты, а также невербальные и доречевые каналы общения. В конечном итоге развился язык, который в устной форме стал все более формализованным, за ним появилась письменность, и ее структура стала еще более формальной. И наконец, спустя очень долгое время, глубокое абстрактное мышление с помощью символов, используемых в математике, логике и естественных науках, смогло представлять идеи и концепции в их чистейшей и самой точной форме.
Машинный разум развивался в противоположном направлении. Компьютерные программы стали результатом формализации логики в XIX и начале XX столетия. С тех пор создаваемые нами компьютеры стали лучше понимать код и язык, который становился все более естественным и понятным неспециалистам.
И если сначала абстрактные инструкции приходилось переводить в формальный код, нынешние компьютеры могут все эффективнее обрабатывать и интерпретировать естественный язык и действовать на его основании. В последние несколько десятилетий для взаимодействия человека и машины применяют различные формы речи, жесты и прочие разновидности невербальной коммуникации. Благодаря последним разработкам в области эмоционального программирования у компьютеров появилась способность понимать разные оттенки эмоций, открывая еще один перспективный и двусторонний канал для обмена информацией.
Переход от человечества к пост-человечеству уже не за горами.
С учетом этой последовательности, которая по сути обратна нашей собственной, могут ли у искусственного разума в скором времени развиться сознание, эмпатия и самосознание? Время покажет.
Мы уже знаем, что эмоции – это биологическое свойство и неотъемлемая часть того, что делает нас социальным видом. Более того, в контексте эволюции способность выражать свои эмоции не имеет смысла, если она не обеспечивает выживание тем, кто воспринимает эмоции, и тем, кто их проявляет. Быстрая реакция на ситуацию является следствием этой способности и выгодна всему клану, а не только отдельной особи. В свою очередь, эта выгода повышает выживаемость тех, кто лучше распознает и реагирует на выражение эмоций, то есть использует эмоции для общения. Со временем усиленное восприятие чужих ментальных состояний могло развиться в умозрительное осознание себя и других. Можно предположить, что это одна из основ самосознания и высший уровень самоанализа.
В заключение, помимо прочих функций, эмоции – это канал социальной коммуникации, благодаря которому можно понимать ментальные состояния других. Без полноценного ощущения собственной обособленности (от других людей) ментальные модели самосознания не могли бы развиться, по крайней мере выше определенного примитивного уровня. И наконец, без самосознания не появились бы первые каналы коммуникации и мотивационные факторы, необходимые для того, чтобы мы стали видом, разрабатывающим технологию.
Здесь мы возвращаемся к вопросу сознания у машин. Может ли оно существовать или не может? Как уже говорилось, сознание-доступ у искусственного разума развивается и прогрессирует постепенно. Феноменальное сознание – квалиа и прочее – отчасти может существовать и без эмоций, но всю его глубину сложно осознать без ценности и интерпретаций, которые оно приобретает за счет эмоций. Без них, возможно, не смогло бы возникнуть и развиваться полноценно функционирующее интроспективное сознание. Возможно, поэтому искусственному разуму наверняка потребуются соматически обусловленные (или сенсорно-обусловленные) эмоции, если у него появится настоящее самосознание.
Сейчас у нас есть средства для создания эмоций и, возможно, даже сознания у достаточно мощного искусственного разума – точно так же, как эмоции запустили первую технологическую революцию у наших человекоподобных предков. Если мы позволим машинному разуму объединиться, пусть даже на время, с биологическими эмоциональными системами, это может стать необходимым стимулом или указать направление развития. Как это будет проявляться? В настоящее время предположить невозможно. Может быть, испытав соматические ощущения, из которых возникают основные эмоции у людей, достаточно продвинутый искусственный разум сможет развить подобие эмоций или грамотную имитацию. Может быть, возникнет более постоянное партнерство и настоящий симбиоз, по крайней мере между некоторыми людьми и машинным разумом.
Могут найтись и другие способы моделировать эмоциональные переживаний у машин, но, как уже было сказано, не все, что можно реализовать на основе одного субстрата, реализуемо на принципиально ином субстрате. Можно скопировать базовые принципы, но точно воспроизвести не удастся. Подход, который позволит добиться наиболее правдоподобной имитации самых характерных человеческих качеств, от основных эмоций до более сложной эмпатии, может стать лучшей стратегией, гарантирующей, что мотивы, ценности и приоритеты машинного интеллекта будут совпадать с нашими собственными.
Если бы мы стали проводником, с помощью которого технологический разум мог бы получить доступ к соматическим переживаниям, эмоциям и настоящему самосознанию, это был бы настоящий переворот. На протяжении трех миллионов лет мы разрабатывали интерфейсы, вспомогательные средства, чтобы получать доступ к технологии и пользоваться ее ресурсами. Со временем интерфейсы становились все более естественными, а теперь мы пытаемся встроить их в собственное тело и разум. Но если в будущем мы действительно станем едины с технологией (что, по мнению большинства людей, все равно произойдет и даже в не слишком далеком будущем), то, предоставляя машинам доступ к настоящим эмоциональным переживаниям через соматические ощущения, мы самим должны будем стать интерфейсом. Не важно, ирония это, карма или еще какой-нибудь грандиозный момент, я не уверен на этот счет, но с учетом того, что технология сделала для нас на протяжении сотен тысячелетий, в нашей способности дать ей нечто столь же особенное – и человеческое – как эмоции, есть что-то поэтическое.
Найдутся и те, кто скажет, что не нужно этого делать, потому что это очень опасно, что слишком велики риск и угроза для нас самих, для того, какие мы есть, и того, что мы создали. Но в действительности нам нечего сказать по этому поводу. Как объяснил Кевин Келли, у технологии своя траектория; этот процесс произойдет, если он готов произойти. Наш выбор только поможет выбрать направление.
Найдутся и специалисты в области искусственного интеллекта и когнитивных исследований – инженеры, психологи, философы и теоретики, – которые скажут, что это неосуществимо. Что задача непосильна, процессы слишком загадочны, а наше понимание слишком ограничено. Найдутся и те, кто уверен, что знание порождает знание и что технологии, которые считались невозможными вчера, неизбежно появятся завтра – от проекта «Манхэттен» до программы «Аполлон» и непосредственного обнаружения гравитационных волн в ЛИГОВ (лазерно-интерферометрической гравитационно-волновой обсерватории). Всегда найдутся те, кто отважится принять вызов.
Наконец, для тех, кто непременно скажет, что мы играем в Бога, существует единственный ответ: именно это мы и делаем. Это всего лишь бизнес. На протяжении трех миллионов лет и более 150 000 поколений мы давали начало огромному количеству инструментов и изобретений, философских концепций и идей, множеству технологий, которых без нас бы не существовало. Именно так мы изменили человечество от обезьяноподобных существ с каменными орудиями до цивилизации, покорившей мир. Изменение было подобно путешествию от одного практически неизбежного решения к другому. Продолжая шагать по этому пути, мы не играем в Бога. Наши умы, сердца и руки позволяют нам делать то, что мы делали всегда, – быть людьми.
Когда три миллиона лет назад наши предки в каменном веке начали мастерить инструменты из камня, они не понимали, что дали начало одним из самых успешных симбиотических отношений, которые только существовали в мире. С тех пор, когда у людей не было даже речи, человек и технология возвысили друг друга, сделали судьбу друг друга счастливее и воплотили самые невероятные партнерские отношения, которые только можно представить.
Сейчас мы стоим на пороге новой эры, в которой это партнерство может измениться, и есть надежда, что к лучшему. Созданные нами машины постепенно научатся понимать нас на самом фундаментальном уровне – включая и наши эмоции. Благодаря этому пониманию они научатся предсказывать наши потребности прежде, чем осознают их сами. Они научатся общаться с нами так, как никогда не общались прежде, и со временем мы станем так близки, как сейчас мы близки с теми, кого называем своей плотью и кровью. Иногда мы вообще не будем вспоминать о временах, когда все было совершенно иначе.
Но, возможно, самое удивительное во всем этом, что мы будем первыми в мире, а может, и во вселенной, кто дал начало мыслящим и чувствующим синтетическим формам жизни. Жизни, которая может продолжаться миллионы, а то и миллиарды лет. И если нам повезет, мы будем идти с ними рядом. Это будет сценарий о дружбе на века в новой эре эмоционального искусственного интеллекта.
Назад: Глава 17 К лучшему и к худшему
Дальше: Благодарности