Уотсон, победивший Кена Дженнингса и Брэда Раттера в игре «Jeopardy!», как раз и был такой числовой машиной. В ней хранились данные, закодированные в виде исполински длинных последовательностей цифр 0 и 1. Эта цифровая последовательность, преобразованная в совокупность имеющегося напряжения для обозначения 1 и отсутствия напряжения для обозначения 0, и есть сомнительный источник «знания» Уотсона. Технологический шедевр заключается в том, что это устройство создает иллюзию умения машины думать.

Редакторы новостного журнала Spiegel были настолько очарованы Уотсоном, что решили расспросить о нем какого-нибудь выдающегося специалиста по вычислительным машинам. Их выбор пал на Дэвида Гелернтера, создавшего в 1983 г. вместе со своим коллегой Николасом Карьеро язык программирования LINDA, который хорошо подходил для параллельно работающих вычислительных машин. Суть беседы репортеров Spiegel с Гелернтером заключалась в следующем диалоге:

Spiegel. Господин Гелернтер, мы хотим отгадать одно понятие. Американский журналист Амброуз Бирс описал его так: «Преходящее безумие, излечивающееся браком». Вы знаете, что он имел в виду?

Дэвид Гелернтер. Даже не догадываюсь.

Spiegel. Это любовь.

Дэвид Гелернтер. О, любовь!

Spiegel. Да, этот вопрос был задан на шоу «Jeopardy!». Суперкомпьютер Уотсон без проблем дал правильный ответ. Это может означать, что Уотсон знает, что такое любовь?

Дэвид Гелернтер. Он не имеет о любви ни малейшего представления. Исследования в области искусственного интеллекта пока ни разу не касались человеческих чувств. Проблема заключается в том, что мы мыслим не только рассудком. Мы мыслим духом, который к тому же обладает телом. Такое чувство, как любовь, намного превосходит мыслительные способности Уотсона.

Spiegel. Что же в человеческом мозге такого особенного, что не позволяет создать машину по его образу и подобию?

Дэвид Гелернтер. Мозг коренным образом отличается от компьютера. Компьютер — это чисто электронный механизм, состоящий из полупроводников и прочего электрического хлама. Я верю, что можно создать машину, способную к творчеству, вероятно, можно даже сделать машину, способную галлюцинировать. Но такая машина нисколько не будет похожа на нас. Это будет лишь обманчивый фасад. Можно, если пофантазировать, представить себе, что модель «Уотсон-2050» выиграет поэтический конкурс. Возможно, он напишет чудесный сонет, который я найду прекрасным и трогательным и который в веках обессмертит имя его создателя. Но будет ли это означать, что Уотсон напишет сонет, движимый какой-то оригинальной, самостоятельной идеей? Естественно, нет. В доме никого нет. В нем никто не живет.

Скепсис Дэвида Гелернтера немного напоминает прозрение Блеза Паскаля относительно того, что мы мыслим не только за счет законов формальной логики, но прежде всего сердцем: «Le cœur a ses raisons que la raison ne connaît pas» — «У сердца есть основания, неведомые рассудку».

Тем не менее Мински и Моравек искренне полагали, что в достаточно сложно сконструированной числовой машине можно найти нечто, напоминающее истинное мышление. Правы они или нет? Для того чтобы ответить на этот вопрос, британский математик и логик Алан Тьюринг в 1950 г. предложил провести тест. В ходе этого теста, названного в честь Тьюринга, испытатель с помощью компьютерной клавиатуры и монитора, не имея никакого зрительного и слухового контакта с собеседниками (их двое), ведет с ними разговор. Один собеседник — человек, второй — машина. Оба собеседника стараются убедить испытателя, задающего им вопросы, в том, что они являются мыслящими существами. Если после интенсивного обмена репликами испытатель не сможет отличить человека от машины, то она считается выдержавшей тест Тьюринга.

В 1966 г. один из первопроходцев компьютерных технологий, Джозеф Вейценбаум из Массачусетского технологического института, разработал программу ЭЛИЗА (ELIZA), названную так в честь героини пьесы Шоу «Пигмалион». Эта программа должна была продемонстрировать возможность общения человека и машины на естественном человеческом языке. ЭЛИЗА работает по следующему принципу: она способна преобразовывать высказывания собеседника-человека в вопросительную форму, имитируя разумную реакцию. Программа в каком-то смысле механически имитирует работу психотерапевта. Если, например, пациент говорит: «У меня проблемы с автомобилем», то ЭЛИЗА отвечает: «Почему у вас проблемы с автомобилем?» Если пациентка жалуется: «У меня проблема с отцом», то ЭЛИЗА просит: «Расскажите мне о вашей семье». В последнем случае программа анализирует слово «отец», связывает его со словом «семья» и реагирует «разумной» репликой.

Вейценбаум разработал ЭЛИЗУ как психотерапевта, потому что только психотерапевту позволено выказывать свое полное незнание о мире, не теряя доверия собеседника. Вейценбаум поясняет это следующим примером. Если человек произносит фразу «Я катался на лодке», а числовая машина просит его рассказать о лодках, то человек в данном случае не подумает, что его собеседник на самом деле ничего не знает о лодках.

Испытуемые, общавшиеся с ЭЛИЗОЙ, следовательно, вели себя так, словно имели дело с собеседником-человеком. Очевидно, для испытуемых было не слишком важно, кто находился на другом конце провода — человек или машина. Главным было то, что ответы и вопросы казались человеческими. Мало того, испытуемые по большей части были убеждены, что общаются с человеком. Даже когда испытуемых ставили перед фактом и говорили, что они имели дело с числовой машиной, действовавшей по простым правилам, переводя утвердительные фразы в вопросительные и не пользуясь при этом ни «интеллектом», ни «рассудком», ни «сочувствием», некоторые испытуемые отказывались в это поверить. Некоторые даже восклицали: «Значит, машина понимает меня лучше, чем мой психиатр!»

Сам Вейценбаум был потрясен реакцией людей на его программу. Еще больше потрясло его то обстоятельство, что многие практикующие психиатры всерьез поверили в то, что удалось создать программу автоматизированной психотерапии. Не в последнюю очередь благодаря этим реакциям Вейценбаум превратился в конце концов в непримиримого и неистового критика нерефлексирующей технологии «искусственного интеллекта».

Но самое потрясающее состоит в том, что числовая машина смогла изменить образ человека. Коварство теста Тьюринга заключается в том, что вопрос о том, может ли числовая машина мыслить по-человечески — а это в известном смысле и было целью создателя теста, — может быть поставлен и по-другому: Выдерживает ли человек тест Тьюринга? Безупречно ли функционирует интеллект человека — или людей, не отвечающих требованиям, предъявляемым машинам, то есть людей, способных, как говаривал Паскаль, к raison du cœur, «мышлению сердцем», необходимо «отправлять на свалку»? Это не преувеличение, такие умопомрачительные мысли высказывали вслух творцы и пророки искусственного интеллекта Марвин Мински и Ханс Моравек. «Если нам повезет, то роботы будут держать нас при себе как домашних животных», — утверждал, например, Мински.

И он нисколько не шутил.