Глава 12
Сводя воедино
Менло-Парк, Калифорния – 12 ноября 2033 года
– Эй! Я что сказала насчет беготни по дому? – прикрикнула Абигейл на двух мальчишек, которые ввалились в ее домашний кабинет. Девятилетний Джерри и семилетний Дейл – ее единственные племянники – сегодня просто испытывали ее терпение. Абигейл и не подозревала, насколько утомительно за ними присматривать, когда согласилась выручить свою сестру. Сестра уехала вместе с мужем в отпуск на неделю на Мауи. И теперь Абигейл понимала, что отпуск был им просто необходим.
– Я могу внести предложение? – прозвучал из микронаушника Абигейл голос Мэнди, ее цифрового помощника.
– Сомневаюсь, что ты можешь помочь, Мэнди, – раздраженно ответила Абигейл. – У мальчиков нет собственных помощников, к которым ты могла бы подключиться.
Абигейл всегда спорила с сестрой по этому поводу. Несколько неубедительных, плохо организованных исследований поставили под сомнение безопасность использования личных цифровых помощников для детей до четырнадцати лет. Результатом была массовая истерика, которой оказались подвержены и родители мальчиков.
– Установите две консоли виртуальной реальности для телеконференций, – предложила Мэнди. – Я наблюдала за Дейлом и Джерри через камеры наблюдения в комнате, удаленно интерпретировала их реакции и составила для каждого карту эмоционального состояния. Затем я подобрала для них учебную, социальную и спортивную программу на день в сочетании со стратегией поощрений. Это займет их, они не будут мешать вам и в то же время познакомятся с новыми идеями, соответствующими их уровню развития. Вы сможете спокойно работать и готовиться к вечернему свиданию. Обещаю, мальчики отправятся спать ровно в девять вечера и крепко проспят всю ночь.
Абигейл просияла, услышав предложение своей старой цифровой подруги.
– Мэнди, – с жаром сказала она. – Ты лучше всех!
* * *
Абигейл обнаружила, что технологии, обладающие эмоциональным интеллектом, могут взаимодействовать с миллионами других технологий, в том числе бытовых. Несмотря близкое знакомство с эмоциональным программированием, Абигейл даже не подумала о том, что его можно совместить с системами собственного дома. (Напомним, что Абигейл – генеральный директор процветающей компании, работающей в секторе технологий искусственного интеллекта.) Новые технологии неизбежно изменяют окружающую реальность или приспосабливаются к ней. В ближайшие десятилетия появление всех устройств и приложении на основе технологий эмоционального программирования станет ярким тому примером.
Технология по своей природе нейтральна. Этичной или нравственной она становится в зависимости от того, как ее применяют люди.
В ближайшие двадцать-тридцать лет мы станем свидетелями настоящего взрыва технологий и возможностей. Поскольку вычислительная мощность компьютеров продолжает расти, а сами они уменьшаются в размерах, мы увидим все больше вариантов взаимодействия реальности с цифровыми технологиями. Сенсоры, встроенные в среду, умные устройства, программируемое вещество – мир интернета вещей становится реальностью, и постепенно он радикально изменит привычный способ взаимодействия с миром и друг с другом. Подобным образом применяются массивы больших данных (наборы данных огромных объемов, из которых при помощи мощных компьютеров, сложных аналитических инструментов и методов визуализации извлекаются структуры и решения). Применяя эмоциональный искусственный интеллект к большим данным, можно составить весьма точные психологические профили пользователей и спрогнозировать их поведение.
По всей вероятности, это только начало. Ультрасовременные модели автомобилей уже оснащены технологиями слежения за состоянием водителя и датчиками распознавания усталости, не говоря уже о возможностях автоматического управления. Встроенные системы будут накапливать данные об изменении эмоционального состояния водителей и пассажиров. Домашние системы отопления и освещения, как и многие другие части жилища, также будут узнавать о нашем настроении. Со временем в этот список войдут все стороны повседневной жизни.
Так происходит почти всегда, когда благодаря технологии появляются новые и лучшие способы взаимодействия с ее пользователями и с ней самой. Хотя окружающая среда будет становиться все сложнее, появятся и более удобные, естественные и эффективные способы общения с ней и всем остальным миром.
Разумеется, будет и обратная сторона. (Но она есть у всего, не так ли?) Тому есть несколько причин. Первая: невозможно предсказать все способы, как совместить и использовать растущие технологии, а также взаимодействовать с ними. Футурологи называют такие последствия непредсказуемыми. Некоторые будут носить положительный характер, но будут и отрицательные.
Рассмотрим пример непредсказуемых последствий – изобретение автомобиля. Сначала люди видели в повозке без лошадей диковинку, угрозу или то и другое вместе. Изобретение быстро усовершенствовали, и оно полностью изменило физический и культурный пейзаж XX века. Благодаря автомобилям повысилась мобильность всех слоев общества, начался невероятный экономический рост, появились новые рабочие места, возможности для досуга и путешествий, и это еще не все изменения. С появлением автомобилей стали более доступными товары и услуги, эффективность бизнеса повысилась и стала решающим фактором для становления среднего класса. Даже подросткам и молодежи автомобили принесли прямую выгоду, поскольку у них появилось средство, с помощью которого можно убежать от старших членов семьи и проводить время вместе без контроля, укромное место на колесах. Все эти изменения нельзя было предсказать, глядя на шумное и вонючее транспортное средство с двигателем внутреннего сгорания.
В то же время автомобили – главный источник газов, создающих парниковый эффект, который стал причиной глобальных изменений климата. Только в США каждый год свыше тридцати тысяч человек гибнет в автокатастрофах. Несчетное множество людей страдает и умирает от болезней органов дыхания, вызванных по большей части выбросом в атмосферу выхлопных газов от транспортных средств. Загрязняющие вещества, такие как бензол и свинец, отрицательно влияют на развитие мозга и вызывают врожденные пороки развития, рак и снижение иммунитета.
Этот список далеко не полный, но он дает некоторое представление о распространенных и далеко идущих последствиях лишь одного изобретения1. Важно отметить, что автомобили развивались не сами по себе, а вписались в обширную технологическую экосистему2. В результате, как почти всегда и бывает, изобретению нашли множество других применений помимо того, для которого оно было задумано. Проблемы возникают в тех случаях, когда человеческая изобретательность направлена на поиск криминального или антиобщественного применения новой технологии.
Большинство изобретателей разрабатывают свои идеи по ряду причин: сделать лучше собственную жизнь, сделать лучше общество и (или) получить прибыль. Лишь в очень редких случаях изобретатель может предвидеть все способы применения своей разработки. Автомобили использовались как транспорт, на котором можно быстро убраться с места ограбления, и даже как смертельное оружие. Интернет использовался для переговоров между преступниками и торговли контрабандой. Даже такую безобидную вещь, как шпилька, можно использовать в качестве отмычки. Так что для нас не должно быть сюрпризом, что в будущем эмоциональное программирование и социальные роботы будут применяться в незаконных и (или) аморальных целях.
Если мы считаем, что можем предсказать и предотвратить такую вероятность, нас ждет жестокое разочарование. Это не значит, что не нужно прилагать совсем никаких усилий. Очевидное решение – создать защиту для новых устройств и процессов, но, разумеется, и она не устоит перед человеческой изобретательностью. Полуавтоматический пистолет можно сравнительно легко превратить в автоматический. Предупреждения о не пристегнутом ремне безопасности можно отключить. Методы шифрования можно обойти. Тем не менее в каждом отдельном случае защита выполняет свою функцию для подавляющего большинства пользователей. Например, совмещение сигнала о ремне безопасности с системой штрафов повысило эффективность меры: с 11 % в 1980 году до 90 % в настоящее время.
В контексте социальной робототехники часто предполагается, что мы обратимся к творчеству Айзека Азимова, на чьи знаменитые Три закона робототехники3 опиралась вся научная фантастика последних пятидесяти лет. (Подробнее о законах Азимова – в главе 16.) Разумеется, это только фантастика. Пока она преследует свою замечательную цель, позволяя нам играть в «что, если», она не будет осуществимым жизнеспособным решением. Точно так же, как герои Азимова постоянно сталкивались с непредвиденными исключениями, нарушениями и откровенным абсурдом при соблюдении жестко заданных правил, мы обнаружим, что смысл наших изобретений искажают. Проблема уязвимости программного обеспечения возникает снова, но в этот раз она усложняется человеческой хитростью и инициативой.
Другой подход – попытаться предсказать, как можно использовать технологию со злым умыслом. Точно ответить на вопрос практически невозможно, но, применив некоторые инструменты, такие как анализ статистических данных, можно пролить свет на некоторые угрозы и уязвимости. Один из особенно полезных инструментов – общий морфологический анализ, метод «структурирования и изучения всех связей, которые содержатся в многомерных комплексах задач, не поддающихся количественному измерению»4. Специалисты в области прогнозирования применяют этот метод, чтобы исследовать так называемые злостные проблемы – сложные, не ограниченные по времени задачи, состоящие из ряда взаимосвязанных условий. Общий морфологический анализ эффективен для решения задач, которые нельзя решить с помощью причинно-следственного моделирования и имитации (из-за сложности переменных). Он полезен при изучении социальных, организационных и прочих проблем нашего мира.
В Тель-Авивском университете использовали общий морфологический анализ для прогнозирования технологий. Группа под руководством научного сотрудника Роя Цезаны применила метод к многочисленным зарождающимся технологиям, их временным рамкам и взаимному влиянию, возможным комбинациям, взаимодействию и сочетаниям. Цезана отмечает: «Программисты могут создать интересные приложения для общего морфологического анализа, способные обработать миллионы сценариев». Результаты его собственных комбинаторных исследований содержат пугающие выводы о возможностях использования и злоупотребления новыми технологиями. В одном исследовании группа Цезаны установила временные рамки, в пределах которых различные комбинации зарождающихся технологий могут превратиться в потенциальную угрозу, а также просчитала вероятность их появления и тяжесть последствий. Большинство последствий попало в категорию киберпреступлений из-за цифровой природы нашего мира, в котором постоянно растет число взаимосвязей. Однако есть элементы, которые относятся к другим категориям, например биотерроризм, 3D-печать оружия и технология летающих дронов-разведчиков. Вероятность применения технологий для совершения разного рода преступлений оценили в порядке возрастания, а затем изучили повторно, уже в контексте связи каждой отдельной технологии с двумя, тремя или четырьмя другими. В конце концов был открыт ряд новых уязвимостей и угроз.
Те же методы можно применить к аффективным технологиям и социальной робототехнике, что поможет точнее спрогнозировать их применение со злым умыслом, в частности в сочетании с другими технологиями. Затем, в зависимости от уровней риска и уязвимости, можно определить, стоит ли разрабатывать и встраивать в подобные технологии определенную защиту. Разумеется, мы отлично знаем, что всё равно найдется кто-то, кто попытается обойти защиту и наверняка преуспеет в этом.
Культурное развитие происходило независимо от биологического, благодаря чему человечество осознало, что заботиться о предках и почитать их полезно.
Подобную реакцию можно увидеть на примере новых медицинских приборов. Различные беспроводные перепрограммируемые имплантируемые медицинские устройства: кардиостимуляторы, имплантируемые кардиовертердефибрилляторы, внешние инсулиновые помпы – потенциально уязвимы для удаленных попыток злонамеренного перепрограммирования5. На ранних стадиях разработки практически ничего не предпринималось для их защиты от взлома и использования в преступных целях. Хотя это может показаться фантастикой, в высших правительственных кругах к такой уязвимости относятся крайне серьезно. Например, в 2013 году бывший вице-президент Дик Чейни сказал в интервью для программы «60 минут» (60 Minutes), что именно по этой причине в 2007 году его врач распорядился отключить беспроводное функционирование его кардиостимулятора. Врач опасался, что террорист гипотетически мог отправить кардиостимулятору сигнал, который бы спровоцировал у вице-президента остановку сердца. В последние годы возросло понимание подобных уязвимостей у кардиостимуляторов и других имплантируемых медицинских устройств, что привело к шифрованию их сигналов во избежание грязной игры.
Это потенциальная проблема для каждой новой технологии и повод установить стандарты, которые защитят и технологию, и нас. Во многих отношениях меры предосторожности очевидны, но мы себе же во вред их игнорируем.
И все же ситуация не совсем безнадежна. Сочетание разнообразных технологий будет обращено не только во вред, но и на пользу. Это подтверждают технологии, упомянутые в начале главы, и сценарий с покером в главе 5. Распознавание выражений лиц, умные контактные линзы, квантовое шифрование… кто знает, какие еще чудеса современной науки объединились (или объединятся), чтобы такая конкуренция стала возможной. Это настоящий кембрийский взрыв систем и устройств, получивших за последние несколько столетий самое широкое распространение.
Легко рассуждать о многочисленных способах, которые помогли этим технологиям проявить себя, но в конечном итоге это всего лишь предположение. Вполне в духе названия этой главы казалось хорошей мыслью собрать все идеи воедино и спросить футурологов, что они думают об эмоциональном программировании, социальной робототехнике и эмоциональном искусственном интеллекте. Неудивительно, что их реакция разнообразна, но все же в некоторых вопросах мнение совпадает6.
Бывший футуролог компании Intel и идейный вдохновитель проекта «Робот XXI века» Брайан Дэвид Джонсон получил посылку от учителя, который рассказал о проекте своим пяти- и шестилетним ученикам:
Однажды я подошел к своему рабочему столу и увидел на нем конверт из оберточной бумаги. В конверте были рисунки и письма детей, посвященные роботам. Я был в самом деле растроган, потому что это было как снег на голову. Их учитель по-настоящему загорелся этой идеей. Когда я посмотрел все рисунки и прочел все письма, я заметил один любопытный факт. Большинство ребят писали что-то вроде: «Хочу, чтобы робот пел со мной. Хочу, чтобы робот со мной танцевал. Хочу, чтобы робот вместе со мной готовил печенюшки». Они не видели в роботах рабов. Они видели социальных партнеров, своих друзей.
Это в самом деле говорит о многом. Во-первых, отношение детей подтверждает, что глубоко внутри мы действительно социальные существа. Во-вторых, хотя для предыдущих поколений роботы были чуждыми и пугающими, у этих детей мало предрассудков: они видят в роботах равных и товарищей по играм. Это во многих отношениях знаменует будущее, в котором мы примем и впустим в свою жизнь новую технологию.
Британский футуролог Айан Пирсон изучал будущее на протяжении двадцати пяти лет, сначала в должности ведущего футуролога British Telecom, затем на посту главы консалтинговой компании Futurizon. Айан размышляет о том, как эмоциональный интеллект повлияет на конкретные аспекты искусственного интеллекта:
Сегодня ИИ подходит для многих целей, но для полноценной работы с людьми нам понадобятся машины, обладающие эмоциями. Люди будут лучше работать вместе с машинами и по-своему реагировать на окружающий мир. Я бы с удовольствием летал на самолете с автопилотом, который беспокоится о турбулентности так же, как и пассажиры, и скорее бы пошел лечиться к искусственному интеллекту, которому не все равно, буду я жить или умру. Большинство проблем искусственного интеллекта заключаются в эмпатии.
Люди не всегда делают логичные выводы. Чтобы понять, что нужно клиенту, машинам понадобится в какой-то мере им сопереживать, а значит, испытывать настоящие эмоции. Мы уже знаем, как это сделать в принципе, но важно, что мы работаем над воплощением этого принципа на практике.
Хотя большинству пилотов и врачей не все равно, будем ли мы жить или умрем, я считаю, что Айан имеет в виду ту степень участия, которую испытывали бы мы, окажись в подобной ситуации мы сами или наши близкие. До тех пор пока это участие не снижает эффективность работы и не оказывает на нее негативного влияния, оно может оказаться замечательным фактором, мотивирующим находить всевозможные творческие решения в ситуации, исход которой может в противном случае оказаться фатальным.
Томас Фрей – футуролог и глава Института да Винчи в штате Колорадо. У него несколько другой взгляд на возможности машин с эмоциональным искусственным интеллектом:
Я считаю, что люди – намного более сложные и гибко мыслящие, чем способны представить исследователи. Мы пытаемся скопировать познавательную способность человека, но никогда не сможем из неорганических материалов воссоздать искусственный интеллект, наделенный эмоциями.
Некоторые различия между человеческим разумом и искусственным заключаются в эмоциональной значимости, которую мы придаем всему, что нас окружает. Например, мы можем оценить мягкость красивой подушки, потому что нам приятно положить ее под голову. Искусственный интеллект сможет воспроизвести эту значимость, но не сможет понять ее причину.
Подобным же образом можно создать искусственный интеллект, который возьмет на себя инициативу при соответствии определенным критериям, например помыть грязный пол, но он все еще не сможет понять, чем это действие обосновано.
Искусственный интеллект не может по-человечески испытывать тревогу, стресс, гнев или страх. Люди могут постоянно находиться в сотнях физических и психических состояний, среди которых бессонница, клаустрофобия, клептомания, ксенофобия или нарколепсия, и все они считаются дефектом человеческого состояния. Но именно эти недостатки делают нас теми, кто мы есть. Без неудач нет мотивации к совершенствованию. Наше стремление и мотивация исходят из собственной незащищенности, и без этого множества физических и психологических недостатков все инициативы, которые только может проявить искусственный интеллект, будут результатом тщательного расчета.
По некоторым причинам это суждение может быть верно. Искусственному интеллекту предстоит развиваться, пока он в конце концов не достигнет предела разума. Но по причинам, о которых пойдет речь в главе 17, я склонен считать, что в пределах нескольких десятилетий он выйдет за этот предел. Эмоции и сложные сенсоры, которые позволят искусственному разуму постигать мир, могут оказаться для машин ключом, открывающим путь в ранее недоступные области7.
Городской футуролог и архитектор Синди Фрюэн из Канзас-Сити, штат Миссури, размышляет о будущем, в котором начинают размываться границы между человечеством и технологией:
Мы установили совершенно ненужные пределы и придуманные ожидания для машин, считая, что они станут не то богами, не то дьяволом. А они – всего лишь продолжение наших ценностей. Мы создаем машины, которых мы заслуживаем. Я думаю, что границы между людьми и машинами, естественным и искусственным, скоро перестанут иметь значение. Мы начнем выращивать машины и конструировать людей. Подобным же образом будут переплетаться рациональное и эмоциональное. Единственный способ добиться того, чтобы машины продолжали быть полезными для людей – добавить им эмоциональные характеристики. Значит, мы либо запрограммируем в них определенные значения и свойства (то есть они смогут быть мелочными, милыми, грубыми), либо запрограммируем их думать о наших эмоциях и реагировать на них. Например, я сажусь в машину сердитой, и она чувствует мое настроение и успокаивает словами и музыкой. У нас сложился индустриализованный образ машин, от которого пора избавиться. Люди полюбят своих собак-роботов и будут считать, что машины любят их взаимно. Люди с физическими недостатками или антисоциальным поведением получат необходимую индивидуальную помощь, как рациональную, так и эмоциональную, приспособленную под их нужды. Ограничение состоит лишь в том, что технология доступна тем, у кого есть деньги. И чем современнее технология, тем больше пропасть между теми, кто может, и теми, кто не может ее себе позволить.
Думаю, в этом все и дело. Нужно избавиться от образа и метафоры машин как промышленных артефактов. Общее будущее людей и машин, смешанная семья, если угодно, должно наступить в ближайшие десятилетия и века. Тем не менее, отбросив вероятность масштабной трансформации в функционировании экономики, новейшие достижения технологического прогресса будут доступны в первую очередь состоятельным людям. Лишь со временем новые изобретения станут массовыми и доступными. Замечательно сказал знаменитый писатель Уильям Гибсон: «Будущее уже наступило. Оно просто неравномерно распределено».
Технологии, обладающие эмоциональным интеллектом, могут взаимодействовать с миллионами других технологий, в том числе бытовых.
Бывший футуролог компании Dow Chemical, а теперь профессор Хьюстонского университета, работающий в программе Foresight, Энди Хайнс рассмотрел будущее со всех ракурсов8. Возможно, поэтому он обратился за ответом к следующему поколению футурологов:
Когда я думаю об эмоциональных машинах, а я это делаю довольно часто, то понимаю, что самые интересные идеи поступают от моих студентов. В этом семестре в World Futures одна студенческая группа выбрала тему семестрового проекта – «Будущее социальной робототехники». Они разработали четыре сценария для персонализации роботов: «роботы-приятели» – оптимальный вариант для эмоционально грамотных социальных роботов, «роботы-помощники» – более или менее пригодный вариант для робота, который занимается домашней работой, «дружественные лица промышленности» – нетривиальное решение по автоматизации рабочих мест и «слуги для высшего класса» – наихудший вариант для роботов, обслуживающих господствующий класс. Студенты думают о том, что роботы будут отражать парадигму, в которой они были созданы.
Это крайне важно. Как постоянно упоминается в программах прогнозирования, мы действительно создаем свое будущее, по крайней мере в какой-то степени. Это основной аргумент футурологии и стратегического прогнозирования: таким образом мы пытаемся повлиять на то, каким будет мир завтрашнего дня. Изобретая все более умные машины, будет мудро подумать, в каком мире мы хотим в конечном итоге жить. Ведь известно, что слуги могут восстать и свергнуть господ.
Одно из первых приложений на основе технологии эмоционального программирования уже получило торговую марку и прошло испытания в рыночных условиях. Кажется, ему гарантирован продолжительный успех. Говорит Карола Сайджунс, консультант по маркетингу и стратегии брендов из Далласа, штат Техас:
Эмоциональное программирование может усовершенствовать процесс продажи, выйдя за пределы технологии «умных полок». Возможность считывать эмоциональное состояние потенциального покупателя и анализировать данные о потребительских сегментах помогает настроить обмен сообщениями во время покупки, повышает эффективность и интенсивность воздействия за счет важных сообщений. Представьте покупателя, который мечется с тележкой между отделами супермаркета, а тележка подсказывает, где лежат товары из его списка покупок. В процессе тележка подбадривает клиента и предлагает купить другие товары, соответствующие настроению клиента. В случае с дорогостоящими товарами с более долгим циклом поставки индивидуальная работа с клиентами после покупки становится особенно значимой. Сегодня создание прочной эмоциональной связи с брендом во многом зависит от уровня продаж и качества обслуживания покупателей. В будущем автомобили смогут запоминать ежедневные предпочтения и привычки клиентов. Способность автомобиля считывать и запоминать предпочтения водителя, постоянно отслеживая его эмоциональное состояние, в корне изменит положение дел. Автомобиль будет играть более важную роль в жизни водителя. После возникновения «любви» к бренду покупатель больше не будет полагаться на качество работы автосалона и общую рекламу. Как только данные будут собраны, зафиксированное «понимание владельца» будет переноситься на следующую машину, усиливая связь между брендом и потребителем. Продукты со встроенными технологиями эмоционального программирования могут вторгаться в жизнь своего владельца так же бесцеремонно, как сейчас это делают смартфоны. Затраты на удержание клиентов снизятся и позволят сэкономить на распродажах и обслуживании покупателей.
Кажется очевидным, что аффективные технологии отлично приживутся на любой стадии обладания продуктом. В конце концов, они будут играть основную роль в формировании и сохранении приверженности тому или иному бренду.
Алиша Бхагат – старший консультант по вопросам будущего развития организации Forum for the Future. Бхагат рассматривает, каким образом эмоционально расширенные технологии повлияют на нашу жизнь в обществе:
Технология может не только обогатить социальные связи за счет инструментов обмена сообщениями, но и стать причиной глобального одиночества, ведь живого общения станет меньше. Эмоциональный искусственный интеллект – лекарство от одиночества и изоляции. У многих людей может сформироваться сильная эмоциональная привязанность к искусственному интеллекту, но при этом человеческое общение они сочтут неполноценным. В конце концов, как в фильме «Она» [Her], искусственный интеллект может окружить человека таким вниманием, на которое не способен ни один человек. Некоторые люди уже не выходят из квартиры и общаются по большей части онлайн. Чуткий и эмоциональный искусственный интеллект в дальнейшем будет способствовать такому поведению. Но мне кажется, что для подавляющего большинства людей жизнь практически не изменится. Возможно, посещение магазинов и ресторанов станет более персонально ориентированным, и использование таких инструментов, как карты, станет приятнее, но в целом мы продолжим общаться как раньше.
Футуролог Джон Махаффи, долгое время работавший консультантом компании Leading Futurists, в Вашингтоне, округ Колумбия, считает, что будущее уже наступило:
Искусственный интеллект в виде продукта или услуги может успешно вписаться в жизнь людей, особенно при тонкой настройке качеств, подобных человеческим, а также при целенаправленной работе, ориентированной на то, чтобы технология стала настоящей частью нашей жизни – вписалась в историю, которую мы все проживаем, с социальной точки зрения.
Когда искусственный интеллект рассказывает мне историю, адаптирует ее для меня, учитывая, кто я, как я слушаю, что я только что сказал и что думаю, использует это, чтобы привести пример или заставить меня изменить свое поведение, мы погружаемся в новый, немного пугающий, но замечательный мир. Другие могут размышлять о том, как и когда искусственный интеллект сможет заменить людей. Я бы скорее подумал о том, когда искусственный интеллект станет частичной заменой людям. И это время почти наступило.
Возможно, один из самых известных в мире футурологов, изобретатель и писатель Рэй Курцвейл долгое время обдумывал и изучал будущее человека и технологии:
Справедливо будет сказать, что наши эмоциональные переживания происходят и в старом, и в новом мозге. Мышление происходит в новой коре головного мозга (неокортексе), но ощущение зарождается в обеих. Таким образом, для любой имитации человеческого поведения понадобится смоделировать обе области мозга. Однако если нам нужен всего лишь когнитивный интеллект человека, то неокортекса достаточно. Мы можем заменить старый мозг более прямой мотивацией небиологического неокортекса и добиться желаемых целей9.
Все это, конечно, здорово, но замечание Курцвейла насчет имитации «только когнитивного интеллекта» не принимает во внимание возрастающей вероятности того, что общий уровень эмоциональной реакции необходим для того, чтобы разум мог действовать в непредвиденных ситуациях в реальном времени. Без этого вряд ли получится что-то приближенное к интеллектуальному уровню человека. В таком случае искусственному интеллекту понадобится функция, напоминающая эмоции, если он будет функционировать на более высоком и изменчивом уровне разума, сравнимого с человеческой когнитивной деятельностью.
Отношение детей подтверждает, что глубоко внутри мы действительно социальные существа. Хотя для предыдущих поколений роботы были чуждыми и пугающими, у детей мало предрассудков: они видят в роботах равных и товарищей по играм.
Однако Курцвейл, по всей видимости, пересмотрел свою позицию, когда занял пост технического руководителя Google:
Когда я говорю том, что компьютеры достигнут человеческого уровня интеллекта, я имею в виду не логический интеллект. Это смешно и сентиментально. Это передовой рубеж человеческого разума10.
Добавление эмоций может оказаться решающим фактором для достижения человеческого уровня интеллекта и выхода за его пределы, о чем пойдет речь в главе 17. Роль эмоций как чего-то нелогичного, иррационального и нелепого, какими они могут быть, возможно, состоит в том, чтобы помочь нам освоиться в реальности, которая не вписывается в строго определенные рамки. Очень похоже на то, что эмоции помогают нам лучше справляться с проблемами и неожиданностями, которые подбрасывает жизнь.
Очевидно, что эмоциональное программирование и эмоциональный искусственный интеллекте каждым годом становятся мощнее и убедительнее. Мы уже видим немало областей для их применения. Но лишь по прошествии некоторого времени мы сможем понять, как сделать эти технологии частью своей жизни. Возможно, одна из самых точных догадок о том, куда приведет нас такое будущее, исходит от одного из самых знаменитых первооткрывателей этой области. Как заявила Рана эль-Калиуби на конференции TEDWomen в 2015 году:
Я думаю, что в течение следующих пяти лет у всех наших устройств появится эмоциональный чип и мы забудем о тех временах, когда мы не могли просто нахмуриться и сказать устройству: «Что, не нравится тебе это?»11
Развитие технологии идет семимильными шагами, однако мысль, что упомянутый выше сценарий получит распространение к 2020 году, чересчур оптимистична. Тем не менее если рассматривать эту и другие технологии, становится очевидно, что подобное будущее не за горами. Возможно, пройдет еще десятилетие до того, как у большинства устройств появится эмоциональный чип, и, конечно, в наступившем будущем все будут помнить о технике, которая не реагирует на эмоции. Важно, что эмоциональные технологии скоро будут повсеместно. И сейчас мы даже представить не можем, насколько они изменят наше общество. Они изменят наши намерения, поведение и, как мы увидим дальше, даже наши сексуальные предпочтения и нравственные нормы.
