Глава 8. Разговор с Кассандрой

КАССАНДРА: Я правильно понимаю, вы считаете, что к 2029 году будет создана нейросеть, которая превзойдет человека во всех проявлениях интеллекта?

РЭЙ: Все верно. С каждым днем нейронные сети демонстрируют все более высокие результаты в одной задаче за другой, постепенно опережая людей.

КАССАНДРА: И в конце концов с любой задачей, которую может решить человек, машина справится гораздо лучше?

РЭЙ: Именно. К 2029 году компьютеры станут умнее любого человека.

КАССАНДРА: Значит, чтобы пройти тест Тьюринга, искусственному интеллекту придется притворяться не таким сообразительным?

РЭЙ: Разумеется, иначе сразу станет очевидно, что человек не может обладать такими способностями.

КАССАНДРА: Вы также рассчитываете, что к началу 2030-х годов мы найдем способ проникать в мозг человека и подключаться к высшим слоям новой коры, чтобы отслеживать, что в них происходит, и вмешиваться в работу разума?

РЭЙ: Совершенно верно.

КАССАНДРА: И тогда сверхмощный искусственный интеллект, который мы создадим, станет частью нашего мозга, по крайней мере, пока мы подключены к облаку?

РЭЙ: Все правильно.

КАССАНДРА: Хорошо, но ведь эти два направления – обучение нейросетей всему, что умеют люди, и даже больше, и подключение к мозгу напрямую с помощью двусторонних каналов связи – относятся к совершенно разным областям науки.

РЭЙ: Да, это так.

КАССАНДРА: Развитие искусственного интеллекта предполагает, что исследования будут проводиться исключительно в компьютерной сфере. Вычислительные эксперименты занимают считаные дни и практически не подлежат государственному надзору. Прорывные результаты приходят один за другим, и прогресс идет невиданными темпами. Однако поместить устройство с миллионами электродов непосредственно в мозг человека – это уже совсем другая история. Необходим строгий контроль и регулирование на всех уровнях. Мы имеем дело не просто с имплантом в теле, а с мозгом – самым важным и уязвимым органом. Придется для начала убедить власти, что без таких операций не обойтись. Если таким образом мы сможем предотвратить серьезное заболевание мозга, это может стать веским аргументом. Но подключение к компьютеру не кажется достаточным основанием для проведения таких операций.

РЭЙ: В любом случае мы это сделаем – отчасти для того, чтобы устранить серьезные нарушения в работе мозга, о которых вы упомянули.

КАССАНДРА: Я согласна, что такая возможность появится, но едва ли это произойдет очень скоро.

РЭЙ: Вот почему я ожидаю, что этот замысел будет осуществлен не ранее 2030-х годов.

КАССАНДРА: Но если будет принят закон о запрете на установку имплантов в мозг, это может задержать появление такого интерфейса на десять лет, например, до 2040-х годов. Это значительно повлияет на ваш предполагаемый график подключения людей к суперкомпьютерам. Например, машины успеют полностью лишить людей работы, вместо того чтобы стать помощниками и расширить наш интеллект.

РЭЙ: Во-первых, прямое подключение ИИ к мозгу очень удобно – имплант невозможно потерять, как мобильный телефон. Во-вторых, уже сейчас существуют устройства, которые хотя и не подключаются к мозгу напрямую, работают как продолжение нашего интеллекта. Сегодня любой ребенок может воспользоваться своим телефоном, чтобы получить доступ к знаниям, накопленным всем человечеством. При этом ИИ скорее помогает работникам, чем заменяет их. Хотя цифровые помощники пока остаются снаружи нашего черепа, мы уже можем выполнять работу, которая была бы нам недоступна без их помощи.

КАССАНДРА: Согласна, но, как вы уже упоминали, для подключения к высшим отделам коры головного мозга потребуется огромное количество контактов. А чтобы расширить наш интеллект с помощью внешних устройств, нужно вводить данные с клавиатуры, что происходит на несколько порядков медленнее. Это существенно замедляет взаимодействие человека и машины. Кроме того, захочет ли ИИ общаться с человеком на такой низкой скорости? Ему проще будет все решать самому.

РЭЙ: К середине 2020-х у нас появятся новые способы общения с компьютером, которые будут в тысячи раз быстрее, чем ввод с клавиатуры. Это будет полная виртуальная реальность, занимающая все поле зрения и дополненная звуком. Мы сможем видеть и слышать все, что происходит в реальном мире, а также обмениваться данными с компьютером почти так же быстро, как если бы машина подключилась к высшим уровням неокортекса. Клавиатуры уйдут в прошлое.

КАССАНДРА: Допустим, мы усовершенствуем способ работы с компьютерами, но это все равно нельзя считать непосредственным расширением неокортекса нашего мозга.

РЭЙ: Но людям ведь пока придется работать, чтобы обеспечивать себя едой, жильем и необходимыми вещами. Прежде чем мозговые импланты усовершенствуют наше абстрактное мышление, внешние компьютерные помощники на основе продвинутого ИИ позволят нам эффективно выполнять сложные действия и решать трудные задачи.

КАССАНДРА: А в чем будет заключаться смысл жизни человека? Если роботы смогут выполнять все те же задачи, что и люди, при этом превосходя нас в интеллекте и работая гораздо быстрее, какова будет цель существования людей в таком мире?

РЭЙ: Вот почему мы хотим в конце концов соединиться с интеллектом, который создаем. ИИ станет частью нас самих, поэтому не какой-то робот, а именно мы получим все эти возможности.

КАССАНДРА: Я поняла. Именно поэтому меня и беспокоит возможная задержка в десять лет перед появлением работающего импланта. Вживить устройство с миллионами контактов в мозг – задача не из легких. Я могу представить любые внешние устройства, в том числе те, что обеспечат виртуальную реальность, но они не дадут таких возможностей, как расширение неокортекса.

РЭЙ: Даниэль Канеман выражал аналогичные опасения, а также переживал о возможности конфликтов и насилия между теми, кто потеряет работу, и остальными.

КАССАНДРА: Под «остальными» вы понимаете машины, поскольку ИИ станет могущественнее людей абсолютно во всем?

РЭЙ: Не совсем, поскольку от машин будет зависеть наше благосостояние. Скорее людей, которые, как может показаться, будут использовать ИИ для получения богатства и власти за счет уволенных работников.

КАССАНДРА: Вероятно, Канеман имел в виду переходный период, когда власть останется у определенной группы людей, а ИИ еще не успеет создать достаточно материальных благ, чтобы избежать конфликтов.

РЭЙ: Возможно, но конфликты можно свести к минимуму, если у людей будет ощущение высшей цели. И расширение новой коры с помощью новых технологий станет ключевым фактором для сохранения этого чувства. Подобно тому, как сотни тысяч лет назад развитие неокортекса позволило нашим предкам выйти за рамки примитивных инстинктов выживания и начать философствовать, усовершенствованный человек будет обладать еще более развитым пониманием этики и способностью к эмпатии.

КАССАНДРА: Я согласна, но подключение неокортекса к облачным сервисам – это совершенно иной уровень развития, чем использование более продвинутых внешних устройств.

РЭЙ: Справедливое замечание. Однако я убежден, что мы сможем осуществить расширение неокортекса к началу 2030-х годов, так что переходный период вряд ли затянется надолго.

КАССАНДРА: Именно сроки вызывают больше всего опасений. Задержка может нам дорого обойтись.

РЭЙ: Да, с этим трудно не согласиться.

КАССАНДРА: Важно отметить еще кое-что: если ИИ сможет имитировать личность конкретного человека и вашу биологическую форму заменит симуляция, окружающим будет казаться, что перед ними вы, но на самом деле вас уже не будет.

РЭЙ: Да, но о полной замене мозга речь пока не идет. Мы не стремимся воспроизвести функции нашего биологического мозга. Мы улучшаем их и наращиваем. Человек будет таким же, как и прежде, только станет более умным.

КАССАНДРА: Однако компьютерная составляющая интеллекта со временем станет гораздо мощнее биологической, в конце концов, в тысячи или даже миллионы раз.

РЭЙ: Но мы ничего от этого не потеряем. Зато очень многое приобретем.

КАССАНДРА: Вы утверждали, что через несколько лет мозг каждого человека фактически будет облачным сервисом.

РЭЙ: Мы уже движемся в этом направлении. Тем не менее, поскольку наличие биологического мозга имеет для нас огромное значение с философской точки зрения, его никто не отнимет.

КАССАНДРА: Но практическая польза от него будет невелика.

РЭЙ: Так или иначе, он останется и сохранит свои природные качества.

КАССАНДРА: Что ж, видимо, в недалеком будущем нас ждут грандиозные перемены.

РЭЙ: Не могу не согласиться.