ГЛАВА 13
Непознаваемы по природе
Как из-за великолепной способности к планированию, так и из-за технологий, которые он способен будет создать, разумно предположить, что первый сверхразум будет очень мощным. Вполне возможно, что соперников у него не будет: он сможет достичь почти любой цели и пресечь любую попытку помешать ему. Он мог бы уничтожить всех прочих агентов, убедить их изменить свое поведение или заблокировать любые попытки вмешательства с их стороны. Даже «скованный сверхразум», работающий на отдельном изолированном компьютере и способный взаимодействовать с внешним миром только через текстовый интерфейс, возможно, сумеет вырваться из своего заключения, убедив своих «тюремщиков» выпустить его. Есть даже некоторые предварительные экспериментальные указания на то, что так и произойдет.
Ник Востром, директор Института будущего человечества, Оксфордский университет
Видя, как ИИ наступает по всем фронтам, от Siri до Watson, OpenCog и LIDA, трудно поверить, что человечество не сможет создать УЧИ из-за сложности реализации. Если увеличение мощности компьютеров не приведет к желаемому результату, поможет обратное проектирование, хотя времени на это уйдет больше. Несмотря на это, Рик Грейнджер ставит перед собой цель: понять мозг по восходящей, от простого к сложному, путем реализации самых фундаментальных его структур в виде компьютерных программ. И он не может не иронизировать над исследователями, работающими сверху вниз по когнитивной вертикали с применением принципов информатики.
Они изучают поведение человека и смотрят, нельзя ли смоделировать такое поведение на компьютере. По справедливости, это немного напоминает попытку разобраться в автомобиле, не заглядывая под капот. Мы считаем, что можем точно сказать, что такое разум. Мы считаем, что можем точно сказать, что такое познание. Мы считаем, что можем точно сказать, что такое адаптивные способности. Но единственная причина того, что мы имеем хоть какое-то представление об этих вещах, заключается в том, что мы наблюдаем, как человек делает "разумные" вещи. Но одно только внешнее наблюдение не позволяет нам понять в подробностях, что именно в этот момент происходит. Принципиальный вопрос звучит так: какова инженерная спецификация логических рассуждений и обучения? Инженерной спецификации не существует, так на что же они опираются, кроме наблюдений?
А ведь не секрет, что человек плохо умеет анализировать свое поведение. «Огромное количество исследований по психологии, нейробиологии и когнитивистике показывает снова и снова, как плохо мы умеем вглядываться в себя, — говорит Грейнджер. — Мы не имеем понятия ни о собственном поведении, ни о процессах, которые стоят за ним». Грейнджер отмечает, что мы также плохо умеем принимать рациональные решения, точно рассказывать об увиденном и вспоминать то, что случилось совсем недавно. Но ограниченность возможностей человека как наблюдателя не означает, что когнитивные науки, основанные на наблюдениях, — полная чепуха.
Грейнджер просто считает, что это неподходящий инструмент для проникновения в тайны интеллекта.
«В вычислительной нейробиологии мы задаем вопрос: "Хорошо, что человеческий мозг на самом деле делает?" — говорит Грейнджер. — Не что мы думаем, он делает, и не что мы бы хотели, чтобы он делал. Что он на самом деле делает? И может быть, информация об этом даст нам впервые и определение разума, и определение адаптации, и определение языка».
Выяснение вычислительных принципов мозга начинается с того, что ученые проверяют, чем занимаются в мозгу те или иные кластеры нейронов. Нейроны — это клетки, которые посылают и принимают электрохимические сигналы. Важнейшую часть их составляют аксоны (волокна, соединяющие нейроны между собой; именно они обычно являются отправителями сигнала), синапсы (соединения, через которые проходит сигнал) и дендриты (обычно получатели сигнала). В мозгу человека около ста миллиардов нейронов. Каждый из них соединен со многими десятками тысяч других нейронов. Такое обилие связей делает все операции мозга параллельными, а не последовательными, как у большинства компьютеров. В вычислительных терминах последовательная обработка данных означает, что операции выполняются по очереди, по одной. Параллельная обработка данных означает, что большое количество данных обрабатывается одновременно — иногда в одно и то же время проходят сотни тысяч или даже миллионы операций.
Представьте на мгновение, что вы переходите оживленную городскую улицу; подумайте, сколько информации — цвета, звуки, запахи, температура, ощущение асфальта под ногами — одновременно поступает при этом в ваш мозг через уши, глаза, нос, конечности и кожу. Если бы ваш мозг не был органом, способным обработать все это одновременно, он мгновенно выключился бы от перегрузки. Вместо этого ваши органы чувств собирают всю эту информацию, мозг пропускает ее через нейроны и обрабатывает, — а в результате вы ведете себя соответственно, останавливаетесь перед светофором и избегаете столкновений с другими пешеходами.
Группы нейронов работают вместе и объединяются в схемы, сильно напоминающие электронные. В электронной схеме протекает электрический ток через специальные элементы, такие как резисторы и диоды. В ходе этого процесса ток выполняет различные функции — включает свет, к примеру, или запускает косилку. Если вы составите список инструкций, которые приводят к выполнению этой функции или какого-то вычисления, вы получите компьютерную программу или алгоритм.
Кластеры нейронов в вашем мозгу образуют схемы, которые действуют как алгоритмы. При этом они не включают свет, а распознают лица, планируют отпуск или набирают на клавиатуре предложение. И все это время работают параллельно. Откуда исследователи знают, что происходит в этих нейронных кластерах? Попросту говоря, они собирают детальную информацию при помощи специальных инструментов визуального исследования мозга, начиная от электродов, вживленных непосредственно в мозг животных, и заканчивая такими аппаратами, как ПЭТ- и фМРТ-сканеры применительно к людям. Нейронные зонды внутри и снаружи черепа способны показать, что делают отдельные нейроны, а маркирование нейронов электрически чувствительными красками наглядно показывает, когда те или иные нейроны активны. Из этих и других методик следуют проверяемые гипотезы об алгоритмах, управляющих контурами мозга. Кроме того, начато определение точной функции некоторых отделов мозга. Уже больше десяти лет, к примеру, нейробиологи знают, что узнавание лиц происходит в части мозга, известной как веретенообразная извилина.
Постойте, но в чем же суть? Неужели вычислительные системы, построенные по образу и подобию мозга (подход вычислительной нейробиологии), работают лучше, чем те, что построены de novo (подход информатики)?
Ну, одна из разновидностей систем, сделанных по образцу мозга, — искусственные нейронные сети (ИНС), — работает уже так давно и хорошо, что стала, по существу, основой ИИ. Как говорилось в главе 7, ИНС (которые можно разделить на аппаратные и программные) были придуманы в 1960-е гг. специально для того, чтобы играть роль нейронов. Одно из основных их преимуществ состоит в том, что ИНС обучаемы. Если вы хотите научить нейронную сеть переводить текст с французского языка на английский, к примеру, вы можете для начала подать на вход французский текст и точный английский перевод этого текста. Этот процесс называется контролируемым обучением. Если образцов будет достаточно, сеть распознает и усвоит правила, связывающие французские слова с их английскими эквивалентами.
В мозгу нейроны соединяются друг с другом через синапсы, и именно в этих точках контакта происходит обучение. Чем прочнее синаптическая связь, тем прочнее воспоминание. В ИНС прочность синаптического соединения называется его «весом» и выражается в виде вероятности. ИНС присваивает си- наптические веса правилам перевода с иностранного языка, которые усваивает в процессе обучения. Чем дольше длится обучение, тем лучше будет перевод. В ходе обучения ИНС учится распознавать собственные ошибки и соответствующим образом корректирует синаптические веса. Это означает, что нейронная сеть изначально способна к самосовершенствованию.
После обучения, когда на вход системы поступит французский текст, ИНС сверится с вероятностными правилами, усвоенными в ходе обучения, и выдаст свой лучший перевод. По существу, ИНС ищет закономерности в структуре данных. На сегодняшний день поиск закономерностей в больших объемах неструктурированных данных — одна из самых перспективных областей применения ИИ.
Помимо перевода и анализа больших объемов информации ИНС сегодня активно используются в структуре ИИ, анализируют фондовый рынок и распознают объекты на картинках. Они присутствуют в программах оптического распознавания символов, предназначенных для чтения печатного текста, и в микросхемах, управляющих ракетами. ИНС обеспечивают «ум» умным бомбам. Да и большинство архитектур УЧИ без них не обойдутся.
Из главы 7 стоит вспомнить еще кое-что важное об этих вездесущих нейронных сетях. Подобно генетическим алгоритмам, ИНС работают по принципу «черного ящика». Это значит, что входные данные — в нашем примере французский текст — прозрачны. А выходные — здесь это английский текст — понятны. Но что происходит в промежутке, никто не знает. Все, что может сделать программист, — это руководить и направлять обучение ИНС, подбирая примеры и пытаясь улучшить результат перевода. А поскольку результат работы «черного ящика» — искусственного интеллекта — непредсказуем, его нельзя считать по-настоящему безопасным.
Судя по результатам работы алгоритмов Грейнджера, построенных по образу и подобию мозга, можно сделать вывод, что при создании искусственного разума лучше, возможно, следовать эволюционной модели и копировать человеческий мозг, чем создавать de novo когнитивные системы на базе компьютерных наук.
В 2007 г. ученики Грейнджера из Дартмутского колледжа написали по результатам исследований мозга алгоритм визуального восприятия, распознававший объекты в 140 раз быстрее, чем традиционные алгоритмы. Он показал лучшие результаты, чем 80000 других алгоритмов, и выиграл приз IBM в $10 000.
В 2010 г. Грейнджер и его коллега Ашок Чандрашекар создали по образцу мозга алгоритмы контролируемого обучения, которые используются при обучении машин распознаванию оптических символов и голоса, выделению спама и т. п. Алгоритмы, сделанные по образцу мозга для использования в процессорах с параллельной обработкой данных, работали так же точно, как и последовательные алгоритмы того же назначения, но в десять с лишним раз быстрее. Образцом для новых алгоритмов послужили самые распространенные типы нейронных кластеров, или схем, мозга.
В 2011 г. Грейнджер с коллегами запатентовал чип с изменяемой конфигурацией для параллельной обработки данных, основанный на этих алгоритмах. Это означает, что некоторые из самых распространенных структур мозга уже можно воспроизвести в виде компьютерного чипа. Стоит собрать их вместе, как в программе SyNAPSE фирмы IBM, — и вы на пути к созданию виртуального мозга. Всего один из этих чипов уже сегодня мог бы ускорить и улучшить работу систем, созданных для распознавания лиц в толпе, обнаружения ракетных пусков на спутниковых фотографиях, автоматической каталогизации вашей коллекции цифровых снимков и решения сотен других задач. Со временем искусственное воспроизведение мозговых схем, возможно, позволит «ремонтировать» поврежденный мозг, встраивая в него компоненты, способные восстановить «неисправные» области. Когда-нибудь микросхема параллельной обработки данных, запатентованная командой Грейнджера, могла бы заменить собой поврежденные структуры живого мозга.
А пока программы, построенные по алгоритмам работы мозга, пробиваются в традиционные компьютерные процессы. Подкорковые узлы — древняя, «рептильная» часть мозга, отвечающая за контроль движений. Исследователи выяснили, что подкорковые узлы при освоении навыков задействуют алгоритмы того типа, что используются в обучении с подкреплением. Команда Грейнджера открыла, что нейронные контуры в коре головного мозга — последнем по времени появления отделе мозга — выстраивают иерархии фактов и создают связи между фактами (подобно иерархическим базам данных). Это два разных механизма.
А теперь самое интересное. Нейронные схемы в этих двух частях мозга, подкорковых узлах и коре, связаны между собой посредством других контуров, сочетающих в себе свойства того и другого. В вычислительной технике существуют прямые параллели этому. Компьютерные системы обучения с подкреплением действуют методом проб и ошибок — они должны проверить громадное число возможностей, чтобы узнать наконец верный ответ. Именно так мы в основном используем подкорковые узлы для освоения автоматических действий, таких как езда на велосипеде или удар по бейсбольному мячу.
Но у человека есть еще иерархическая система коры, позволяющая нам не просто перебирать вслепую все возможности методом проб и ошибок, а каталогизировать и иерархически организовывать их, а затем просеивать куда более разумно. Такая комбинация работает намного быстрее и дает лучшие результаты, чем у животных, к примеру, пресмыкающихся, использующих только систему проб и ошибок, работающую в подкорковых узлах. Возможно, самое продвинутое, что мы можем делать в системе, объединяющей в себе кору и подкорковые узлы, — это проводить внутренние тесты типа проб и ошибок без необходимости выходить на внешний уровень и проверять в реальном мире. Мы можем проводить множество проверок, просто обдумывая что-то: мы моделируем все это в своей голове. Искусственные алгоритмы, в которых сочетаются эти методы, работают много лучше, чем каждый из методов в отдельности. Грейнджер предполагает, что примерно такое же преимущество дает объединение двух этих систем в нашем мозгу.
Грейнджер и другие нейробиологи выяснили также, что цепями мозга управляют всего несколько типов алгоритмов. Одни и те же базовые вычислительные системы используются вновь и вновь в различных сенсорных и когнитивных операциях, таких как слуховое восприятие и дедуктивные рассуждения. Не исключено, что, как только эти операции удастся воспроизвести в компьютерах программно и аппаратно, можно будет простым их дублированием создавать модули для моделирования различных частей мозга. А воссоздание алгоритмов, скажем, слухового восприятия должно помочь в усовершенствовании приложений распознавания устной речи. Более того, это уже произошло.
Курцвейл был одним из первых новаторов, применивших знания о мозге в программировании. Как мы уже говорили, он утверждал, что обратное проектирование мозга — самый перспективный путь к созданию УЧИ. В очерке, отстаивавшем эту точку зрения и его предсказания по поводу этапов и вех технического развития, он писал:
Говоря в целом, мы ищем в биологии методы, способные ускорить разработку ИИ, которые в основном ведутся без сколько-нибудь полного представления о том, как аналогичные функции реализует мозг. Из своего собственного опыта в области распознавания речи я знаю, что наша работа сильно ускорилась, когда мы получили достоверные сведения о том, как мозг готовит и обрабатывает слуховую информацию.
Еще в 1990-е гг. фирма Курцвейла делала первые шаги в распознавании речи и разрабатывала приложения, которые позволили бы врачам диктовать медицинские отчеты. Курцвейл продал свою компанию, и на ее, в частности, основе возникла компания Nuance Communications. Всякий раз, прибегая к помощи Siri, вы пользуетесь алгоритмами Nuance, задействованными в речевой части этого волшебства. Распознавание речи — искусство перевода произнесенного слова в текстовую форму (не путать с обработкой естественного языка, цель которой — извлечение смысла из написанных слов). После того, как Siri переведет ваш запрос в текстовый вид, в дело вступают три остальных ее главных таланта: обработка естественного языка, поиск в громадной базе данных и взаимодействие с поисковыми серверами Интернета, такими как OpenTable, Movietickets и Wolfram | Alpha.
Watson — что-то вроде Siri на стероидах и безусловный чемпион по обработке естественного языка. В феврале 2011 г. эта программа, применив построенные по образцу мозга системы, одержала убедительную победу над соперниками-людьми в «Своей игре». Как и шахматный чемпион Deep Blue, для IBM Watson — это способ продемонстрировать свои вычислительные ноу-хау при одновременном продвижении дела ИИ. Известная игра представляла для программы серьезный вызов, ведь в вопросах часто задействованы ассоциации и игра слов. Участники должны понимать каламбуры, сравнения и культурный контекст, а ответы необходимо формулировать в том же стиле, что и вопросы. Однако распознавание речи не является специализацией Watson. Он не способен понимать устную речь. А поскольку он не видит и не чувствует, он не может и читать, так что в ходе игры вопросы приходится вводить вручную. К тому же Watson не слышит, так что аудио- и видеоподсказки исключались.
Эй, погодите-ка! Так что же выиграл Watson — «Свою игру» или специально подстроенную под него ее разновидность?
Уже после громкой победы, чтобы научить Watson понимать человеческую речь, IBM скрестила его с технологией распознавания речи фирмы Nuance. Кроме того, Watson читает терабайты медицинской литературы. Одна из целей IBM — уменьшить его габариты с нынешней комнаты, наполненной серверами, до, скажем, размеров холодильника и сделать из него лучшего в мире медика-диагноста. Когда-нибудь, уже довольно скоро, вам, возможно, придется записываться к врачу через виртуального помощника, который засыплет вас вопросами и сообщит врачу ваш предварительный диагноз. К несчастью, Watson по-прежнему не видит и может просмотреть такие признаки вашего состояния, как блеск в глазах, румяные щеки или свежее пулевое ранение. IBM планирует также установить Watson на ваш смартфон в качестве идеального приложения «вопрос-ответ».
Где же работают скопированные с мозга способности Watson? Его аппаратное обеспечение имеет выраженную параллельную структуру: 3000 параллельных процессоров оперируют 180 различными программными модулями, написанными для параллельных процессоров. Параллельная обработка информации — величайшее достижение мозга, и разработчики программного обеспечения вовсю пытаются повторить это достижение. Как сказал мне Грейнджер, параллельные процессоры и написанные для них программы не оправдали ожиданий. Почему? Потому что написанные для них программы плохо справляются с разделением задач для параллельного решения. Но, как продемонстрировал Watson, доработанные параллельные программы меняют ситуацию, и «железо» с параллельной архитектурой не слишком отстает. Разрабатываются новые чипы параллельных вычислений, которые должны невероятно ускорить работу уже существующих программ.
Watson показал, что параллелизм способен выполнять поразительные объемы вычислительных работ с невероятной скоростью. Но главное достижение Watson — способность самостоятельно обучаться. Его алгоритмы находят закономерности в текстовых данных, которые дают ему его создатели. Сколько может быть таких данных? Энциклопедии, газеты, романы, словари, вся «Википедия», Библия — всего около 8 млн толстых томов текста, которые машина обрабатывает со скоростью 500 гигабайт (примерно тысяча толстых книг) в секунду. Следует отметить, что в число текстовых материалов входили подготовленные словарные базы, таксономии (систематизированные и классифицированные коллекции слов) и онтологии (описания слов и отношений между ними). По существу, в этих материалах собран человеческий здравый смысл. К примеру, «крыша — это верхняя часть дома, не нижняя его часть, как подвал, и не боковая, как наружная стена». Это предложение говорит Watson кое-что о крышах, домах, подвалах и стенах, но для того, чтобы предложение имело смысл, ему необходимо знать определения всех использованных слов и определение слова «часть» заодно. Кроме того, ему нужно увидеть это слово не один раз, а множество, в разных предложениях. У Watson есть такая возможность.
Во второй игре объявленного IBM конкурса «Своей игры» появился такой вопрос: «Это условие в коллективном трудовом договоре говорит о том, что заработная плата может увеличиваться и уменьшаться в зависимости от определенного параметра, такого, например, как стоимость жизни». Сначала Watson разобрал это предложение, то есть выбрал из него и проанализировал ключевые слова. Затем он извлек из уже освоенных источников информацию о том, что заработная плата — это нечто, что может увеличиваться и уменьшаться, что в трудовом договоре пишут о заработной плате и что в договорах бывают условия. У него был и еще один очень важный ключ — категория, к которой относился вопрос, называлась «юридические "И"». Из этого Watson узнал, что ответ связан с распространенным юридическим термином и должен начинаться с буквы "И". Watson быстрее людей дал ответ на этот вопрос: «Что такое индексация заработной платы?» — и это заняло у него целых три секунды.
А после первого правильного ответа в той или иной категории Watson обретал уверенность (и начинал играть смелее), поскольку «понимал», что верно интерпретировал категорию. Система адаптировалась к игре или училась играть лучше прямо по ходу игры.
Но отвлекитесь на минуту от «Своей игры» и представьте, как быстро адаптивное машинное обучение может быть перенастроено на обучение вождению автомобиля, управлению танкером в море или геологической разведке на золото. Подумайте, какая мощь скрыта в интеллекте человеческого уровня.
Watson продемонстрировал еще один интересный вид интеллекта. Его программа DeepQA генерирует сотни возможных ответов и собирает сотни данных в пользу каждого из них. Затем она фильтрует и ранжирует ответы по уровню своей уверенности в каждом. Если она не чувствует уверенности ни в одном ответе, она не станет отвечать, поскольку в «Своей игре» за неверный ответ назначается штраф. Иными словами, Watson знает, чего он не знает. Конечно, вы можете не поверить, что вероятностные вычисления — это осознание себя, но согласитесь, это уже шаг в верном направлении. Знает ли Watson на самом деле что-нибудь?
Ну, если контуры мозга управляются алгоритмами, как утверждают Грейнджер и другие специалисты по вычислительной нейробиологии, то логично спросить: а знаем ли мы, люди, хоть что-нибудь? Или, говоря иначе, может быть, и мы, и они что-то знаем. И, разумеется, Watson — это настоящий прорыв, способный многому нас научить. Курцвейл сказал об этом так:
Много писали о том, что Watson работает через статистические расчеты, а не через "подлинное" понимание. Многие читатели понимают это так, что Watson просто собирает статистику о словосочетаниях… Но точно так же и пространственное распределение концентрации нейротрансмиттеров в коре человеческого мозга можно назвать "статистической информацией". В самом деле, мы разрешаем свои сомнения примерно так же, как это делает Watson, — сравнивая вероятности различных интерпретаций фразы.
Иными словами, как мы уже говорили, ваш мозг помнит информацию благодаря прочности электрохимических сигналов в синапсах, участвовавших в кодировании этой информации. Чем выше концентрация химических веществ, тем дольше и надежнее будет храниться информация. Основанные на фактах вероятности, с которыми работает Watson, тоже представляют собой своего рода шифр, но только в компьютерной форме. Это знание или нет? Такая дилемма приводит на ум загадку «китайской комнаты» Джона Сёрля, речь о которой шла в главе 3. Как мы вообще сможем узнать, думают компьютеры по-настоящему или просто хорошо имитируют этот процесс?
Что характерно, на следующий день после победы Watson в «Своей игре» Сёрль сказал:
IBM придумала хитроумную программу — но не компьютер, способный думать. Watson не понимал ни вопросов, ни своих ответов, ни того, что некоторые из них оказывались верными, а некоторые — неверными, ни того, что все это игра, ни того, что он выиграл, — потому что он вообще ничего не понимает.
Дэвид Ферруччи, ведущий специалист IBM по системе Watson, на вопрос о том, умеет ли Watson думать, ответил, перефразируя известного голландского компьютерщика Эдгера Дейкстру: «Умеет ли подводная лодка плавать?»
То есть подлодка не «плавает» так, как плавает рыба, но она может передвигаться в толще воды быстрее большинства рыб и оставаться под водой дольше любого млекопитающего. Более того, в некоторых отношениях подлодка плавает лучше рыб и млекопитающих именно потому, что она плавает не так — у нее свои достоинства и недостатки. Интеллект Watson производит сильное впечатление, хотя и ограничен, потому что не похож на человеческий. В среднем он работает много быстрее и способен делать вещи, доступные только компьютерам, — к примеру, отвечать на вопросы «Своей игры» круглосуточно и без выходных, а также подключаться к сборочной линии новых архитектур типа Watson, когда возникнет необходимость поделиться с ними знаниями и готовыми программами. А в вопросе о том, думает ли Watson, я предлагаю довериться нашим органам чувств.
Кен Дженнигс, один из людей — оппонентов Watson по «Своей игре» (называвший себя, кстати, «Великой углеродной надеждой»), ощущал своего противника как человека.
Методы, при помощи которых компьютер раскручивает вопросы в игре, очень похожи на мои. Эта машина сосредоточивается на ключевых словах вопроса, а затем обшаривает свою память (в случае Watson это пятнадцать терабайт базы человеческих знаний) в поисках групп ассоциаций, связанных с этими словами. Она строго проверяет первые ассоциации по всей контекстной информации, какую только может собрать: название категории; тип возможного ответа; время, место и тендерные особенности, на которые указывает вопрос, и т. д.
И когда машина решает, что достаточно "уверена" в ответе, она нажимает на звонок. Все это происходит мгновенно, и для игрока-человека это интуитивный процесс, но я убежден, что, если разобраться, мой мозг проделывает приблизительно то же самое.
Действительно ли Watson думает? И как много он на самом деле понимает? Я не знаю наверняка. Но я уверен, что Watson — это первый вид совершенно новой экосистемы, первая машина, по поводу которой мы можем задаваться такими вопросами.
Может ли Watson стать основой когнитивной архитектуры, представляющей собой полноценный искусственный интеллект человеческого уровня? Ну, у этой системы серьезная база, которой нет больше ни у какой другой: это и толстый кошелек, и компания, публично заявляющая о готовности преодолевать препятствия и рисковать, и план будущего финансирования, обеспечивающего жизнь и развитие. Если бы я управлял IBM, я воспользовался бы популярностью компании, уровнем продаж и научными результатами, полученными в работе над сложнейшими проектами Deep Blue и Watson, и объявил бы миру, что в 2020 г. IBM готова будет пройти тест Тьюринга.
Успехи в обработке естественных языков очень скоро преобразят те области экономики, которые до сих пор, казалось, совершенно не затрагивал технический прогресс. Через несколько лет библиотекари и исследователи всех сортов присоединятся в очередях на бирже труда к продавцам, банковским кассирам, турагентам, биржевым брокерам, кредитным менеджерам и работникам справочных служб. За ними последуют врачи, юристы, налоговые и пенсионные консультанты. Вспомните, как быстро автоматы едва ли не полностью заменили банковских операторов, а машины начали вытеснять живых кассиров в супермаркетах. Если вы работаете в информационной индустрии (а цифровая революция превращает все на свете в информационную индустрию), берегитесь.
Вот простой пример. Любите университетский баскетбол? Определите, какая из этих заметок написана спортивным журналистом — человеком?
Текст А
Опрос среди тренеров по поводу того, кто может занять первое место, показал, что Ohio State (17) и Kansas (14) на двоих получают ни много ни мало тридцать один голос. Последние изменения в верхней части пула стали неизбежны, когда Duke в субботу вечером обидел противник из Конференции Атлантического побережья — Virginia Tech. Buckeyes (27:2), пробиваясь обратно на вершину, достаточно легко нанесли поражение соперникам из десятки сильнейших — Illinois и Indiana. Ohio State начал со счета 24:0 и четыре недели в начале сезона был лучшим, пока не опустился на третье место. А в тройке сильнейших он находится уже пятнадцатую неделю подряд. Kansas (27:2) по-прежнему второй и по результатам опроса отстает от Ohio State всего на четыре пункта.
Текст Б
Ohio State возвращает себе первое место через неделю после победы дома над Illinois со счетом 89:70. За этим последовала еще одна победа дома над Indiana, 82:61. Utah State входит в число двадцати пяти лучших и находится на двадцать пятом месте после победы дома над Idaho, 84:68. Temple на этой неделе выпадает из рейтинга после проигрыша первому на тот момент Duke и выигрыша над George Washington, 57:41. Arizona на этой неделе сильно сдвинулась и занимает восемнадцатое место после неприятного проигрыша Университету Южной Калифорнии со счетом 65:57 и неприятного проигрыша Университету Калифорнии в Лос-Анджелесе, 71:49. St. John's подскочил на восемь позиций и занял пятнадцатое место после выигрыша у пятнадцатой на тот момент в рейтинге Villanova, 81:68 и DePaul, 76:51.
Ну как, догадались? Конечно, ни один из авторов не создал шедевр, но лишь один из них — живой человек. Это автор текста А, опубликованного на сайте ESPN. Текст Б написан автоматической издательской платформой, созданной Робби Алленом из фирмы Automated Insight. За один год его компания со штаб-квартирой в Дареме (штат Северная Каролина) сформировала 100 ООО автоматических статей на спортивные темы и разместила их на сотнях сайтов, посвященных местным командам. Зачем миру нужны роботы, пишущие спортивные статьи? Аллен рассказал мне, что о многих командах вообще никто не пишет, и их болельщики остаются в полной неизвестности. Кроме того, написанные ИИ статьи могут появляться на сайте команды и подхватываться другими сайтами всего через несколько минут после окончания игры. Человек не в состоянии работать так быстро. Аллен — бывший старший инженер Cisco Systems — не захотел назвать мне «секретный источник» своей поразительной архитектуры. Но скоро, сказал он, Automated Insights начнет выдавать статьи на темы финансов, погоды, недвижимости и местных новостей. Его «голодные» серверы нуждаются лишь в слабоструктурированных данных.
Если вы уже начали знакомиться с результатами вычислительной нейробиологии, вам трудно (мне по крайней мере точно трудно) представить значительный прогресс в области архитектур УЧИ, достигнутый исключительно на базе когни- тивистики. Полное понимание принципов, на базе которых функционирует мозг на каждом уровне, представляется мне более надежным и исчерпывающим способом создания разумной машины, нежели любые усилия, прилагаемые без такого понимания. Вы согласны со мной? Ученым не понадобится анализировать работу каждого из ста миллиардов нейронов мозга, чтобы разобраться в их функциях и смоделировать их, поскольку структура мозга очень избыточна. Кроме того, не потребуется, возможно, моделировать весь объем мозга, включая те области, которые контролируют автономные функции, такие как дыхание, сердцебиение, реакцию «дерись или беги» и сон. С другой стороны, может стать очевидным, что интеллект должен обитать в теле, которое он контролирует, и что тело это должно существовать в сложной среде. Споры о необходимости воплощения на этом не разрешатся. Но подумайте о таких концепциях, как яркий, сладкий, твердый и острый. Как может ИИ узнать, что означают эти ощущения, и построить на них концепции, если у него не будет тела? Не возникнет ли непреодолимое препятствие для превращения машины в искусственный интеллект человеческого уровня, если у нее не будет чувств?
На этот вопрос Грейнджер отвечает: «Неужели Хелен Келлер была менее человеком, чем вы? Или парализованный человек? Неужели мы не можем вообразить себе интеллект с совершенно иными способностями, со зрением, датчиками прикосновения и микрофонами для слуха? Конечно, у него будут несколько иные представления о ярком, сладком, твердом, остром, — но очень вероятно, что представления об этих концепциях у многих людей с различными вкусовыми рецепторами, возможно, с нарушениями здоровья, принадлежащих к разным культурам и живущих в разных условиях, и сегодня сильно различаются».
Наконец, вполне возможно, что для рождения интеллекта ученым необходимо смоделировать еще и эмоциональный орган. В принятии решений эмоции зачастую играют более серьезную роль, чем разум; то, кто мы есть, и то, как мы думаем, в значительной степени определяется гормонами, которые возбуждают и успокаивают нас. Если мы и правда хотим смоделировать человеческий интеллект, разве эндокринная система не должна быть частью архитектуры? Не исключено, что интеллект требует полноценных человеческих ощущений. Первичные ощущения, или субъективное качество обитания в теле и жизни в состоянии постоянной сенсорной обратной связи, могут оказаться необходимыми для интеллекта человеческого уровня. Несмотря на аргументы Грейнджера, исследования показали, что люди, парализованные в результате травмы, испытывают эмоциональное омертвение. Можно ли создать эмоциональную машину без тела, а если нет, то неужели такую важную часть человеческого интеллекта никогда не удастся реализовать?
Разумеется — и я буду говорить об этом в последних главах, — мои опасения сводятся к тому, что на пути создания ИИ с интеллектом, подобным человеческому, исследователи создадут вместо этого нечто чуждое, сложное и неуправляемое
