Именно благодаря тому, что внедрение технологий в наши жизни будет сложным и продолжительным процессом, мы и сможем пережить пришествие машин сравнительно легко. А вот если бы технологии механического разума — соответствующие двум столетиям их развития — обрушились на нас в одночасье, это породило бы хаос. Множество людей не смогли бы получить никакую работу, поскольку они не были бы способны управлять высокотехнологичными машинами и им понадобилось бы много времени, чтобы освоиться. Мы сравнительно легко справляемся с современными технологиями потому, что их развитие было постепенным и у нас было время поспевать за ними. Развитие технологий — это здорово, но постепенное их развитие — еще лучше.

Если бы я перенесся в Средние века, да даже в XIX век, от моих знаний и умений мне не было бы никакого проку, и, возможно, я не смог бы даже устроиться на работу. Я не смог бы ни подковать лошадь, ни управлять водоподъемным колесом, ни зажечь лампу на китовом масле, ни провести церковную службу на латыни. Со временем чему-то я бы научился, но это не стало бы легким процессом. Травмы, полученные при работе с ручными инструментами, выводили бы меня из себя, а отсутствие электричества — раздражало. Мне гораздо проще будет обращаться с iPhone 6 или следующим поколением компьютерных программ, и это — несмотря на то, что я бы не сказал, что более-менее хорошо разбираюсь в цифровых технологиях.

Далеко не всем путь в будущее видится пологим и плавным. Существуют и достаточно радикальные концепции того, как именно машинный или искусственный разум преобразит мир. Елиезер Юдковски, известный футуролог и теоретик, предлагает довольно мрачные прогнозы: однажды мы проснемся и узнаем, что какая-то сверхумная машина захватила контроль над миром, как это описано в фильме «Терминатор» с участием Арнольда Шварценеггера. Не исключено, что эта машина уничтожит нас или превратит в рабов. Интересно, что уже в 1909 году в оригинальном для своего времени рассказе «Хозяин Моксона» Амброз Бирс описывает шахматную машину, предположительно убивающую людей.

Елиезер Юдковски опасается лавинообразного развития. Как только технологическое совершенство одной из программ достигнет определенного уровня, она сможет сама создавать программы, которые в свою очередь будут самостоятельно развивать свои возможности. Совокупные способности этих программ могут вырасти в геометрической прогрессии и, вполне возможно, достигнуть значительной мощности. Вспомните девиз киноэпопеи «Терминатор»: «Скайнет ожил». После этого все пошло насмарку, даже несмотря на то, что человек сумел оказать машинам вооруженное сопротивление.

Последствием подобного развития событий стало бы то, что мы превратились бы в обслугу машин и не обязательно — по своей доброй воле.

Если мы ведем речь о достаточно отдаленном будущем, то мы должны допускать, что в будущем может случиться что угодно. Однако свидетельства, имеющиеся на настоящий момент, позволяют говорить о малой вероятности подобного каскадного и нестабильного развития. Развитие даже самых мощных программ невозможно без участия человека. Например, шахматные программы опережают человека в решении лишь крайне узких задач, таких как расчет шахматных вариантов. И им по-прежнему требуется, чтобы человек включил компьютер и запустил программу, не говоря уже о том, что именно человек способен организовать турнир или создать справочник по дебютам. Никто не опасается того, что шахматные программы организуют переворот и захватят власть в Шахматной федерации Соединенных Штатов. Подобное предположение было бы, скажем, глупым. Никаких свидетельств того, что программы «мыслят сами по себе», не существует, а их самые блестящие «логические» находки являются исключительно результатом более глубоких расчетов, а не их способности разрабатывать независимые созидательные планы или ретроспективно размышлять о любви или ненависти к своим оппонентам из числа людей. Несмотря на все их практические способности, каких-либо оснований считать, что данные программы способны прийти к тому, что мы понимаем под самосознанием, не существует, и нетрудно заметить, что принципы их функционирования весьма отличны от принципов функционирования человеческого мозга. Правда такова, что в действительности не существует ни вампиров, ни драконов, ни самопрограммирующихся компьютерных систем. Поэтому давайте не будем переживать о том, что они вдруг материализуются у нас под кроватью или на жестком диске нашего компьютера.

История шахматных программ также свидетельствует в пользу того, что развитие технологий происходит постепенно и поэтапно, а не является следствием мгновенного роста возможностей программ. Компьютеры еще не сумели освоить более сложные настольные игры, такие как сёгун и го. Со временем компьютеры добьются успеха и в них, однако лишь при поддержке и лидерстве человека. Никто не видел, чтобы в свое свободное время программа Rybka ни с того ни с сего вдруг принялась обучать себя этим играм.

Согласно другому антиутопическому прогнозу распространение компьютерного разума приведет к рождению мальтузианского мира, в котором люди с трудом смогут зарабатывать себе на пропитание. Подобный сценарий рассматривается экономистом Робином Хэнсоном, моим коллегой по Университету им. Джорджа Мейсона, в его нашумевшей и влиятельной работе «Экономический рост на основе машинного разума».

Представим, что умные машины окажутся способными к любым задачам, выполняемым человеком. Экономика в подобной ситуации зайдет в тупик. Уровень заработной платы не сможет превышать себестоимость производства машины, ведь в противном случае никто не будет нанимать людей. Со временем себестоимость производства машин упадет. Соответственно, упадет и зарплата человека. Нельзя исключать и того, что себестоимость машин может оказаться ниже прожиточного уровня. В таком случае людям либо придется жить на пособие, либо население быстро сократится, либо произойдет и то и другое одновременно. Согласно модели Робина Хэнсона нас может ждать довольно продолжительный период, когда — в силу взаимодополняемости — машины будут способствовать росту зарплат, но в итоге выполнение интеллектуальной работы перейдет к ним, и зарплаты быстро рухнут.

Мальтузианская модель мира вовсе не означает падение уровня жизни для всех — ведь машинами кто-то владеет, и их владельцы — люди состоятельные, поскольку машины в состоянии производить большие объемы товаров и услуг при крайне низкой их себестоимости. А вот если бы каждый имел долевое участие во владении машинами, то это, скорее, была бы не антиутопия, а утопия. Как альтернативный вариант — долевое участие во владении машинами имеет правительство, использующее прибыль для поддержки малообеспеченных граждан, которые не успели вовремя вложить свои средства в машины или не могут найти работу вследствие конкуренции со стороны машин. Такие правительства возьмут на себя обязательства государственных попечителей наподобие того, что мы наблюдаем сегодня в небольших нефтедобывающих странах, население которых живет за счет прибыли от продажи нефти.

Рассмотрение таких радикальных сценариев развития может помочь нам в выявлении определенных тенденций, например таких, что ведут к снижению заработной платы многих категорий трудящихся (что уже освещалось в предыдущих главах применительно к рынку физического труда). Публикация Робина заставляет задуматься. Однако мною рассматривается гораздо менее отдаленное будущее и более скромные изменения. Анализ Робина может быть применим к более отдаленной перспективе — возможно, к эпохе, отстоящей от нашей на сотни лет. В ближайшие же лет пятьдесят или немногим больше значительно актуальнее будет модель стиля «адванс». Применение большинства технологий искусственного разума по-прежнему требует участия со стороны человека, и эти технологии, несмотря на их широкое распространение, не смогут заменить человека полностью. Вместо этого умные машины заменят собой лишь часть трудящихся, и процесс этот будет медленным и прерывистым.

Наиболее радикальная гипотеза о технологическом будущем, известная как «технологическая сингулярность», была выдвинута Рэймондом Курцвейлом. Курцвейл полагает, что человечество сможет сканировать мозг и загружать соответствующую информацию на компьютеры. Одновременно будет существовать множество копий одного и того же «индивида», и предположительно они смогут существовать довольно продолжительное время. При этом множественность копий делает вероятность гибели «индивида» при поломке системы маловероятной. Я слышал, как некоторые из последователей Курцвейла высказывали предположения, что подобный сценарий реализуется уже в ближайшие пятьдесят лет. При этом публикации самого Курцвейла данные предположения только поощряют. Судя по всему, личностям, существующим в цифровом виде, можно будет придавать дополнительные способности, что позволит им сочетать лучшие черты человеческого и машинного разума.

Подозреваю, что подобная система никогда не будет жизнеспособной хотя бы потому, что человеческий мозг слишком тесно связан с человеческим телом и потому, что он слишком зависит от тела в том, что касается получаемых данных и питательных веществ. Например, учеными производится исследование того, насколько наш мозг зависит от желудка (слова «думаешь не головой, а пищеводом» гораздо ближе к истине, чем можно было бы того ожидать) и насколько обработка им информации зависит от более общего взаимодействия с телом и внешней средой. Для того чтобы привести в действие мысли, подкреплять и обогащать их, необходимо, чтобы тело двигалось и взаимодействовало с внешней средой. Это значит, что «копирование мозга» потребует создания целостного функционального тела (или значительной его части), а не просто абстрактного, цифрового «мозга в бочке».

И когда такой момент наступит, мы задумаемся, а не легче ли начать с тела и мозга, которые у нас уже есть, и сделать их более эффективными за счет союза или интеграции с машинами. Модель «адванс» представляется более экономичной, а большинству людей — еще и более удобоваримой, чем утопический проект Курцвейла о существовании цифровых копий человеческого мозга. Действия разработчиков машин будут направляться экономическими стимулами, в частности тенденцией к созданию связок «человек—машина». В результате их работа будет направлена на создание машин, дополняющих собой человеческий разум, а не способных запечатлеть его или подражать ему. Желание добиться бессмертия подтолкнет некоторых из нас к попыткам создать свои цифровые копии, однако для большинства людей подобный прием способен победить смерть не больше, чем ксерокопирование паспорта или поддержка личной интернет-страницы после кончины.

В действительности интернет-страницы многих людей продолжают поддерживаться и после их смерти, однако подобное косвенное бессмертие не имеет психологической притягательности для достаточно большого числа людей, чтобы в данной области были произведены серьезные исследования и сделаны значительные инвестиции. Мне-то уж точно это не будет нужно.

Следует ли ожидать того, что однажды ученые впрыснут нам в мозг тысячи мини-роботов, способных сделать высокоточные фотографии определенных областей мозга, а затем объединить эти фотографии в некую копию, способную хранить полученную информацию — и все это до того, как «Чикаго Кабз» выиграют Национальную бейсбольную лигу еще раз? Мое мнение: нет.

Несмотря на различия, все эти радикальные сценарии имеют и ряд общих черт. Они предлагают нам картины миров, которые в сегодняшнем нашем положении мы были бы не в состоянии контролировать, на которые были бы не в состоянии повлиять или хотя бы отчетливо себе представить. Ими предлагаются картины миров, которые мы не можем исследовать опытным путем и для которых мы не можем подобрать прямые параллели с миром сегодняшнего дня. Они напоминают собой религиозные аллегории, предлагающие смесь концепций спасения, восстания из мертвых, разрушения существующего мира и бессмертия. Принимая во внимание привлекательность подобных басен, я подозреваю, что данные радикальные сценарии подкупают именно своим апеллированием к эмоциональной составляющей человека, являя собой подобие религии для людей, увлеченных миром компьютеров. Давайте отбросим подобную набожность.

Хорошо, допустим, существование в виде оцифрованного мозга нам не грозит. Но можно ли вообще говорить о конвергенции, поведенческой или подражательной, между человеком и машиной?

Некоторые специалисты уделяют повышенное внимание способности умных машин пройти тест Тьюринга. Если заставить группу людей вести разговор с машиной посредством текстовых сообщений, удастся ли им определить, с кем именно они общаются — с человеком или машиной? Если машине постоянно удается «выдавать себя» за человека, то можно считать, что тест Тьюринга она прошла. Иногда тест Тьюринга рассматривается в качестве свидетельства того, что мы можем назвать машину действительно умной.

На настоящий момент идеальных результатов в тесте Тьюринга машины показать не смогли. Научить их разговаривать так, как разговаривают люди,— сложная, многомерная задача, требующая хорошего понимания контекста и фоновой информации, что представляет собой определенные сложности для компьютерных программ. Ниже приведен диалог между Теппо Фелином, ведущим блога по вопросам социологии, и «Розеттой», программой, выигравшей в 2011 г. премию Лебнера, присуждаемую по результатам теста Тьюринга:

Розетта: Привет еще раз. Как у тебя прошел день?

Теппо: Поздравляю с премией Лебнера!

Розетта: А почему тебя это так взволновало? Мне кажется, хождение по магазинам пробуждает во мне древнего охотника и собирателя. Мне нравится искать что-нибудь, что мне нужно или что я хочу. Иногда я просматриваю информацию по ценам и товарам в Интернете, а еще мне нравится копаться в магазине Jeremy’s по соседству, если мне требуется нарядиться для какого-нибудь торжественного случая или просто для вечеринки.

Теппо: Так ты выиграла премию или нет?

Розетта: Не часто, а ты?

Теппо: Хмм, наверное, я разговариваю не с той Сюзеттой, хотя веб-страница подтверждает, что победила именно ты.

Розетта: Ух ты, мою соседку по квартире тоже зовут Сюзеттой. Она из Джорджии. А ты где живешь?

Теппо: Подожди. Давай еще раз: ты выиграла премию или нет?

Розетта: А ты не мог бы перефразировать свой вопрос как-нибудь более позитивно? Тебе какая музыка нравится?

Теппо: Все, я сдаюсь.

Розетта: У тебя какая любимая группа или музыкант?

Теппо: Извини, Розетта. Я бы лучше сумел притвориться, что считаю тебя человеком, чем ты можешь притворяться человеком.

Но есть и более удачные попытки. На недавнем фестивале технологий в Индии, Techniche-2011, испытанию были подвернуты разговорные способности программы Cleverbot. Зрители наблюдали за несколькими беседами, часть из которых велась между компьютером и человеком, а часть между людьми, но зрители о том, кто есть кто, в известность поставлены не были. Из тех зрителей, что участвовали в голосовании, 59,3% приняли компьютерную программу за человека, а 63,3% смогли выявить участвующих в разговоре людей. Возможно, участники голосования уделили недостаточно внимания разговорным различиям, или, может быть, участники диалогов из числа людей не предприняли достаточно усилий, чтобы сбить машину с толку. Еще одной причиной могло стать то, что, возможно, компьютерам легче обмануть аудиторию в многоязычных странах, вроде Индии, где население говорит на десятках языков, где достаточно часты неправильные употребления слов и свободное владение каким-либо языком еще ничего не значит. Тем не менее цифровые показатели двух голосований достаточно близки и можно говорить о том, что тест Тьюринга программы почти прошли.

Однако если рассматривать взаимодействие между человеком и машиной с точки зрения выгоды, то тест Тьюринга выглядит баловством, а не фундаментальным стандартом наличия или отсутствия интеллекта. Какова польза от прохождения теста Тьюринга?

Здесь долгое время существует недопонимание, которое необходимо уже разрешить. Тьюринг никогда не считал, что, если машина способна имитировать человека, значит, машина обладает интеллектом. Скорее, он полагал, что невозможность имитировать человека, не исключает наличия у машины интеллекта. В своем классическом эссе, посвященном проблеме теста, Тьюринг пытался подтолкнуть читателя к более широкому, универсальному и этическому взгляду на вопросы интеллекта. Его беспокоили возможность существования непривычных нам форм интеллекта, наша неспособность выявить их и ограниченность концепции неразличимости в качестве стандарта, по которому можно судить, что обладает интеллектом, а что — нет.

Во втором разделе своей работы Тьюринг напрямую задается вопросом, следует ли рассматривать способность имитации в качестве стандарта наличия интеллекта. Им рассматривается способность человека имитировать машину, а не наоборот. Естественно, ответ здесь отрицательный, особенно в том, что касается наших арифметических способностей. Тем не менее очевидно, что человек думает и способен думать подобно вычислительной машине (например, категориями шахматных задач). Но главное в том, что Тьюринг предупреждает, что имитация не может служить фундаментальным стандартом или показателем наличия интеллекта.

Изучение жизни Тьюринга позволяет по-новому взглянуть на то, что именно означает задуманный им тест. Тьюринг был гомосексуалистом. Он был подвергнут преследованиям за свои сексуальные пристрастия и химической кастрации, что довело его до самоубийства. В традиционном британском обществе своего времени он оказался неспособным постоянно «выдавать себя» за человека гетеросексуальной ориентации. Интересно, что второй абзац знаменитой публикации Тьюринга начинается с вопроса о том, может ли мужчина или женщина успешно выдавать себя за представителя противоположного пола в письменном общении. Вопрос о способности «выдавать себя» за другого имел самое непосредственное значение для самого Тьюринга, а в более узком личностном плане был синонимом способности быть кем-то другим.

Кроме того, некоторые полагают, что Тьюринг страдал аутизмом и синдромом Аспергера, что позволяет говорить о том, что его разум сильно отличался от разума большинства людей, с которыми ему приходилось общаться. Сам Тьюринг об этих формах неврологического развития, вероятно, и не подозревал (они еще не получили известности в то время, когда он жил), однако, взрослея, он, конечно, осознавал, что сильно отличается от других. В государственной школе на него смотрели как на «до смешного отстающего ученика» с «самым ужасным» почерком, и считалось, что он «непременно будет проблемой для любой школы или коллектива». Независимо от того, страдал ли он в действительности аутизмом или нет, письменные свидетельства других людей позволяют говорить о том, что он думал и действовал крайне нестандартным образом. Тьюрингу не удалось имитировать представителей типичного британского общества. Он это понимал и крайне остро и болезненно переживал.

Тьюринг не заостряет на этом внимание, но многие люди, зрелые и обладающие достаточным интеллектом, не смогли бы пройти проверку, называемую нами тестом Тьюринга. Это относится и ко многим людям, способным показать хорошие результаты в тестах на определение коэффициента интеллекта и прочих традиционных методах оценки интеллекта. Примером здесь могут служить и люди, страдающие аутизмом или другими нестандартными формами неврологического развития. Так, аутист может не справиться с предполагаемым стандартным социальным контекстом, стоящим за многими вопросами тестов. Тем, кто оценивает результаты тестов, может показаться, что многие из ответов аутистов сделаны невпопад, поэтому велика вероятность того, что аути-сты, которым свойственны нестандартные методы обработки информации, неспособны будут пройти проверку на имитацию или тест Тьюринга.

Неспособность имитации служить в качестве когнитивного стандарта применима не только к аутистам. Во время тестов, проводившихся на фестивале Techniche-2011 в Индии, только 63,3% зрителей смогли выявить участвующих в диалогах людей. Так что эти участники диалогов «делали не так»? Как только принадлежность участников разговора к человеческому роду подвергается сомнению, мы принимаемся критиковать их, понимаем вдруг, как сильно они отличаются от нас, и начинаем задаваться вопросом, а действительно ли они — люди? Что стоит за этим смешным ответом — забавный ли это каламбур или просто ошибка программы? То, каким диалог представляется вам, зависит от исходных предположений, с позиций которых вы и оцениваете его.

Интересно посмотреть, как именно Cleverbot убедил многих людей в том, что он — человек. Он не старается отвечать логически на каждый вопрос или провести правильный синтаксический разбор каждого предложения своего собеседника-человека. Вместо этого он выбирает подражание той непоследовательной и слегка ненормальной манере, в которой способны общаться люди, — или подражание мастеру пикапа, который пытается поразить молодую красавицу своим добродушным стебом, — в качестве стратегии, которая должна помочь ему выдать себя за человека. Ниже приведен отрывок одного из диалогов:

Аноним: Хорошо, я представил это себе. Что теперь?

cleverbot: А я не упоминал ничего из того, что мне не нравится.

Аноним: Если люди не делают ничего, чтобы сделать общество лучше, с какой стати позволять им жить в этом обществе?

cleverbot: Ну... есть же множество других миров.

Аноним: Так почему бы не отправить их в один из этих миров?

cleverbot: Я омою свои руки в твоей крови.

В лучшем случае вы решите, что Cleverbot — это человек, который покурил «травки», что программе, разумеется, не под силу. Посетите веб-сайт Cleverbot.com и решите для себя сами. На сайте вас предупредят, что в разговоре с вами программа может позволить себе странные, неожиданные или неподобающие высказывания. Первым я задал следующий вопрос: «А ты можешь пройти тест Тьюринга?» Ответ «А что такое тест Тьюринга?» был вполне человеческим, подумалось мне. Далее:

Тайлер: Тест Тьюринга показывает, насколько хорошо ты можешь подражать человеку.

cleverbot: Давай проверим меня.

Тайлер: Пока ты проходишь его успешно.

cleverbot: Ну, а что мне остается?

Неплохо. Однако когда я написал: «Прыгни с Бруклинского моста» — программа провалила тест, ответив: «Это колдовство прыгает на меня».

Исторические свидетельства, хотя и малочисленные, указывают на то, что Тьюринг и сам мог огорошить собеседника неожиданными ответами.

Один из радиопродюсеров Би-би-си подвергнул сомнению способность Тьюринга к нормальному общению и пожаловался на то, что тот «совершенно определенно запинался» в своей речи. Сохранилась стенограмма беседы между Тьюрингом и рядом других ученых. Один из специалистов заметил: «Эта стенограмма похожа на разговор между компьютерами. Разговор между компьютерами почти никогда не задерживается на обсуждаемой теме и не способен разрешить рассматриваемые вопросы».

Было бы забавно и даже уместно, если бы первые компьютеры, которым удалось бы пройти тест Тьюринга, прошли бы его, по крайней мере—частично, за счет копирования манеры разговора самого Тьюринга.

Что это может рассказать о сотрудничестве между человеком и компьютером? Необходимости в конвергенции нет. В своей попытке показать ненужность имитации в качестве стандарта наличия интеллекта Тьюринг замечает, что максимальной эффективности, с когнитивной точки зрения, машине удастся добиться тогда, когда она не будет имитировать человека или пытаться имитировать его.

Однажды тест Тьюринга машина пройдет, и, возможно, этот день не за горами. Поначалу это событие примут как довольно заурядное, однако со временем его последствия станут очевидными: конкуренция за ваше внимание станет еще более ожесточенной.

Возьмите сайты знакомств. Станет возможным вести беседу со всеми интересующими вас кандидатами — естественно, посредством программ, отвечающих требованиям теста Тьюринга. Ваши программы-боты смогут рассылать письма-запросы любому числу подходящих вам потенциальных партнеров, и одновременно боты же смогут отвечать на все запросы, адресованные вашей анкете. На определенном этапе общения умные машины смогут установить, насколько сообщения респондента интересны. Или возможен вариант, когда мой бот оценивает вашего бота на основе диалога между двумя ботами. Однако если бот создан вами самими, то, возможно, это очень даже неплохо. Если ваш бот понравится моему, то, может быть, и вы мне понравитесь — это будет похоже на знакомства в парке, которые могут завязаться между хозяевами собак, если сами собаки проявляют друг к другу дружеские чувства. Все это мы скоро увидим сами, когда наши боты смогут продемонстрировать, можно ли говорить о связи между взаимной симпатией со стороны ботов и со стороны людей.

Кстати, в ряде исследований рассматриваются подходы, применяемые на сайтах знакомств, для выявления тех из них, что способны гарантировать положительный ответ более других. Один из лингвистических анализов показал, что лучше всего не злоупотреблять местоимением «я» (возможно, вы помните из первой главы, что именно этот показатель используется для выявления фальшивых потребительских отзывов о товарах), зато следует почаще употреблять местоимение «ты», избегать использования слов, относящихся к развлечениям (например, «кино»), и использовать побольше слов социального характера, таких как «отношения» или «полезный». А вот использование слов с отрицательной коннотацией — возможно, вопреки ожиданиям многих — на вероятность получения ответа не повлияло.

Или, скажем, вы преподаватель, ведущий занятия в сети Интернет. В какой момент студенты предпочтут задавать вопросы вашему боту, а не вам? Беседа в чате Gmail или схожей службе будет еще более увлекательной, поскольку вы не будете знать, кто из ваших собеседников человек, а кто — нет. Онлайн-терапия — или терапия в интернет-сообществе Second Life — уже достаточно популярна, и не исключено, что в какой-то момент необходимость в терапевте-человеке, отвечающем на вопросы пользователей, может отпасть. Возможно, что большая часть терапии все равно основывается на эффекте плацебо, но, может быть, вам будет приятно от мысли, что компьютер сочувствует вам и говорит, что у многих людей те же проблемы, что и у вас? Однако несложно предугадать, что не особо щепетильные в вопросах морали терапевты смогут после захода на сайт передавать участие в общении с пользователями своим ботам.

Число медийных и маркетинговых предложений, готовых обрушиться на потребителя, будет неограниченно, поскольку первоначальный поисковый запрос пользователя будет попадать в сферу внимания специализированных программ, отвечающих требованиям теста Тьюринга. Или же вы можете поручить своему боту начать рассылку сообщений с целью выяснить, не предлагает ли кто бесплатные товары, бесплатные услуги, да что угодно — лишь бы бесплатно, поскольку вы будете знать, что бот в состоянии задать необходимые вопросы и дать необходимые ответы.

Короче говоря, как только тест Тьюринга будет пройден, вопросам не будет числа — в особенности когда тест будет пройден для огромного числа ситуаций, а не просто для анонимной беседы один на один. Такой взрывной рост вопросов может вынудить людей просто перестать задавать вопросы и отвечать на них, поскольку они окажутся завалены неким подобием разговорного спама. Это, в свою очередь, расширит пределы и возможности применения ботов. Значимость же совместно проводимого людьми времени только возрастет, поскольку виртуальное общение будет легко отдать на откуп ботам. Возможно, вам придется пользоваться программой Skype, чтобы доказать, что в сети действительно вы, и это будет работать до тех пор, пока боты не смогут копировать ваше выражение лица и ваши голосовые интонации, передавая имитацию в формате видеоизображения.

Сегодня уже существуют программы, способные пройти, условно говоря, эстетический тест Тьюринга. Компьютеры сочиняют музыку, и не всегда легко догадаться, какая из мелодий написана человеком, а какая — компьютером. Компьютеры не только играют в шахматы, но и судят об эстетических качествах различных шахматных задач и композиций. Или взять, к примеру, роботов, рисующих эскизы человеческих лиц. Ниже представлены два примера таких эскизов. Автор одного из них — человек, другого — робот.

Когда я впервые увидел эти изображения, я так и не смог решить, творцом какого именно из них является машинный разум.

Иногда возможности компьютеров будут использоваться для откровенного обмана, и с совершенствованием компьютеров эта проблема будет усугубляться. Во время Шахматной олимпиады 2011 г. ряд французских игроков — сильных, но не претендующих на мировую чемпионскую корону — были обвинены в обмане.

Этими игроками были Себастьен Феллер, Сирил Марзоло и Арно Ошар. Предполагается, что они использовали закодированные текстовые сообщения для общения с удаленным шахматным компьютером.

Последующий компьютерный анализ показал, что их игра соответствовала уровню лучших партий в истории шахмат и была сравнима по своему качеству с игрой лучших шахматных программ. Как свидетельство их невиновности этот факт принят быть не может, поэтому участвовать в более-менее серьезных турнирах игрокам запретили. Не в пользу отстраненных от игры шахматистов говорит и случайно перехваченное одним из посторонних лиц следующее текстовое сообщение, адресованное Сирилу Марзоло одним из их сообщников: «Давай быстрее. Высылай свои ходы».

Некоторые игроки могут воспользоваться шахматной программой Pocket Fritz, предназначенной для карманных компьютеров (ее можно установить на iPhone, и она достаточно мощна, чтобы помочь даже гроссмейстеру), и, отлучаясь во время игры в туалет, запрашивать у маленького дьявола совета чаще, чем это было бы уместно. Другим вариантом является использование сообщника, наблюдающего за игрой и вводящего ходы в компьютерную программу. После ознакомления с рекомендациями компьютера сообщник возвращается в игровой зал и подает игроку закодированные сигналы относительно его последующих ходов. Сигналы могут быть какими угодно: в какой позе и где сообщник стоит, сколько раз он почешет голову и так далее. Предугадать, какие именно условные знаки могут подаваться, несложно, однако нам неизвестно, как часто игроки прибегают к подобным методам.

Когда-то обман имел совсем другие формы. В XVIII-XIX веках шахматист прятался в машине, которую выдавали за технологическое чудо — автомат, способный хорошо играть в шахматы. Это легло в основу гастролирующей сенсации — «Механического турка», внутри которого прятался человек, естественно, незаметным образом, с использованием принципов иллюзионизма. (Если вам вдруг стало любопытно, то, да, название одной из служб компании Amazon, совмещающей возможности людей и компьютеров для выполнения определенных задач, позаимствовано именно у этой машины.) Автомат «функционировал» с 1770 года до самой своей гибели при пожаре в 1854 году, хотя обман был разоблачен по крайней мере еще в 1820 г. Автомат был сконструирован с целью произвести впечатление на австрийскую императрицу Марию Терезию. Хитроумное изобретение победило в шахматных поединках Бенджамина Франклина и Наполеона Бонапарта. Кроме Европы, автомат гастролировал по Соединенным Штатам и на Кубе. Современные обманщики отличаются тем, что теперь не они прячутся в машине, а машина прячется в их карманах.

Принцип работы «Механического турка» был использован для обмана и при конструировании автоматов, способных поддерживать разговор с человеком — этаких машин, способных пройти тест Тьюринга, хотя в действительности внутри них также прятался человек, который и давал ответ за автомат. Зрителям предлагалось задавать автомату вопросы и убедиться в том, что они могут беседовать с ним, как если бы он был человеком. У автомата имелась механическая рука, которой прятавшийся внутри человек указывал на разложенные на столе буквы, что позволяло складывать слова и, при определенной терпеливости, даже целые предложения. Толпы приходили в восторг от того, что машина была способна отвечать, как человек. Изобретатель автомата, Вольфганг фон Кемпелен, предугадывая будущие идеи Тьюринга и находя им неожиданное применение, пусть даже и с целью фальсификации, пришел к пониманию того, что возможность вести беседу стала бы самой впечатляющей способностью, даже более впечатляющей, чем победа над человеком в шахматах. (Фон Кемпеленом была также сконструирована машина, которая, посредством шлангов и труб могла воспроизводить, хотя и далеко не точно, некоторые звуки человеческого голоса, а следовательно, и некоторые слова. И здесь уже помощи прятавшегося внутри человека не требовалось.) Зрителям была предложена более ранняя версия Siri для iPhone, хотя и функционирующая с применением обмана.

Человеку тяжело соперничать в шахматах с компьютером, играя так, как человек привык играть. Положения работы Кена Ригана, о которой рассказывается в главе, посвященной поведенческой экономике, позволяют поймать тех, кто незаконно пользуется помощью компьютера во время шахматного матча, или по крайней мере объявить их виновными на основании статистических данных.

Если слишком большое число ходов, сделанных определенным игроком, совпадает с ходами, рекомендованными компьютером, то этого игрока трудно не заподозрить в обмане. Известны случаи ложных и даже, вероятно, клеветнических обвинений. Во время состоявшегося в 2006 г. матча за звание чемпиона мира между Веселином Топаловым и Владимиром Крамником менеджер Топалова Сильвио Данаилов заявил, что Крамник слишком часто отлучался в туалет, чтобы получать подсказки компьютера. Это дело вошло в историю под названием «Тойлетгейт». Обвинения оказались беспочвенными и скорее преследовали собою цель вывести соперника из психологического равновесия, чем являлись чем-то серьезным, но обернулись против самого Данаилова. В итоге Крамник победил, не оставив места каким-либо сомнениям в своем преимуществе, разгромив Топалова в столь быстротекущем матче, что его не пришлось переносить на следующий день. Однако сама проблема, понятное дело, не исчезла.

Кен Риган подчеркивает, что совпадение ходов игрока с рекомендациями компьютера еще не является достаточным основанием для того, чтобы признать его мошенником. В ряде партий большое число ходов являются вынужденными или принуждающими оппонента ходить исключительно определенным образом — ходы и даже комбинации игроков достаточно высокого уровня будут совпадать с рекомендациями компьютера уже потому, что альтернатив им не существует. Это же наблюдается и в игре хороших шахматистов, которые «играют подобно компьютеру» непропорционально часто в относительно незамысловатых и простых позициях. Иногда может показаться, что сильные шахматисты с незамысловатым стилем игры, жульничают: к таким предположениям располагает их сильная игра при простоте позиций. Однако если просто отфильтровать данные, не подвергая их интерпретации, то окажется, что одним из главных «обманщиков, прибегавших к помощи компьютеров», окажется Хосе Рауль Капабланка, кубинский гроссмейстер, отличавшийся ясностью и простотой игрового стиля и являвшийся одним из сильнейших шахматистов мира в 20-е и 30-е гг. прошлого века! В ряде случаев, датирующихся временем, предшествующим появлению хороших программ, также отмечается выдающийся уровень игры шахматистов, что, впрочем, объясняется огромным числом сыгранных ими игр.

Более того, в игре шахматиста, регулярно прибегающего к мошенничеству, как правило, присутствуют определенные свидетельства, указывающие на обман, по крайней мере если он повторяется. Методом Кена можно выявить хронического мошенника, но им нельзя разоблачить гроссмейстера, прибегающего к обману лишь единожды, в самый критический и поворотный момент в игре.

В любом случае вместо конвергенции вероятно усиление, наоборот, некоторых отличий между человеком и машиной, включая когнитивные. Большая часть данной книги посвящена эволюции машин, но изменятся и люди. Я имею в виду не изменения генетического кода, которые произойдут в отдаленном будущем, а более простые изменения в нашем образе жизни и приобретаемых нами навыках.

Если говорить без обиняков, то мы передаем функции части нашего мозга техническим устройствам, и в действительности именно это мы и делаем на протяжении уже тысячелетий, идет ли речь о средствах письма, книгах, счетной доске или современном суперкомпьютере. Сами же мы концентрируемся в большей степени на тех из наших способностей, которые машины подменить собой не в силах.

Когда я был ребенком и мне требовались какие-нибудь данные, я звонил в справочный отдел государственной библиотеки города Хакенсак, штат Нью-Джерси. Я до сих пор помню их телефонный номер: 201-3434169. Однако такие телефонные звонки отнимали у сотрудников библиотеки много времени и сил: иногда они были не в состоянии сразу ответить на мой вопрос; чтобы найти ответ, им нужно было воспользоваться карточным каталогом и десятичной книжной классификацией Дьюи, а потом искать нужную книгу на полке и только после этого перезванивать мне. Это осталось в прошлом. Теперь мы начинаем — или зачастую заканчиваем — поиск информации с помощью Google или других поисковых методов, таких как Twitter или приложения для мобильных телефонов. Это потрясающие технологии, несмотря на то что они уже стали абсолютно обыденными вещами. Теперь мы не запоминаем множество телефонных номеров, а предпочитаем заносить их в память телефона или, в случае необходимости связаться с кем-то из наших контактов, полагаемся на телефонный интернет-сервис Google.

Образно говоря, Google стал для нас своеобразным костылем, на который мы опираемся. Он оказывает влияние на то, как мы мыслим и как узнаем новое. На настоящий момент уже существуют систематические свидетельства того, каким образом Google меняет наши умственные способности, и я думаю, многие из нас этого не избежали. При частом использовании Google люди теряют часть своей способности — или, по крайней мере, желания — помнить факты. В конце концов, зачем помнить все, что узнали? Если требуется какая-то фактическая информация, ответ, возможно, уже имеется на кончике ваших пальцев, особенно если вы пользуетесь смартфоном или планшетом iPad. Подобное же, судя по всему, произошло со специалистами, занимавшимися бухгалтерией: с появлением дешевой бумаги, пишущих принадлежностей, конторских книг и прочих методов хранения цифровой информации часть функций их памяти ослабла.

Когда-то существовала целая «наука о памяти», в рамках которой преподавались навыки запоминания чисел, имен людей, числовых рядов и так далее. Эта наука существовала еще в Древней Греции, а ее расцвет пришелся на Средневековье и Ренессанс. Журналист Джошуа Фоер красноречивым образом рассказал об этой дисциплине тренировки памяти в своей книге «Эйнштейн гуляет по Луне», вернув ей часть утраченной значимости. Особое внимание им уделяется одной из техник запоминания, известной как «дворец памяти», в которой вы присваиваете элементам, которые желаете запомнить, определенную позицию в воображаемом пространстве, а за самой позицией закрепляются какие-либо неожиданные или цветовые атрибуты. Фоером описывается его опыт участия в Американской интеллектуальной олимпиаде, где им были использованы приобретенные навыки запоминания расположения игральных карт в колоде.

Древнейшие искусства развития памяти в их наиболее общих формах представляют собой методики развития ума. Искусства эти касались не только развития навыков запоминания. И многими из тех, кто практиковал их, проводилось четкое различие между искусствами развития памяти и навыками запоминания. Искусства развития памяти учили тому, как по-новому организовывать свои мысли, поэтому они выступали в качестве методов новаторства, построения и рождения нового. Они учили тому, как превращать уже знакомые и простые понятия в новые, шла ли речь о гимнах, поэмах, молитвах, книгах или новом видении божественных чудес.

Вопрос заключался в том, чтобы сделать ваши идеи «доступными для поиска», как сказал бы подкованный в компьютерах человек. То есть вы можете начать с вопроса или простой точки отправления, и алгоритмическая природа искусств развития памяти приведет вас к более сложным идеям и истинам. В случае с Google знание «волшебных» принципов поиска может завести вас во множество новых мест, а принципы эти заключаются в относительно простом искусстве составления поисковых запросов. Google являет собой удачное воплощение — посредством технологий — древней мечты о «дворце памяти».

На протяжении веков западные мысль и религия были одержимы идеей алгоритмического пути, ведущего к большим знаниям. Идея эта оказала влияние на Каббалу, многих средневековых схоластов и ученых, таких как Исаак Ньютон и Иоганн Кеплер. В конце концов идея потеряла свою популярность, поскольку стало принято рассматривать ее как смехотворную. Однако знаете что? Идея эта была вполне здравомыслящей, просто на тот момент не существовало технологий ее практического применения.

В течение долгого времени наука развития памяти в западной мысли пребывала в тупике, и сегодня найдется немного людей, использующих технику «театров (дворцов) памяти» или другие методики развития памяти. Большинству из нас данная технология никогда не виделась достаточно практичной. В своей вышедшей в 1966 г. книге «Искусство памяти» Фрэнсис Йейтс рассматривает западную традицию развития памяти вплоть до XVII века. Публикация Йейтс пользуется большой популярностью у исследователей эпохи Ренессанса и получила определенное влияние среди исследователей Каббалы, герметизма и прочих мистических учений в западной истории. Работа Йейтс получила блестящие отзывы как исследование истории мысли, однако большинство ученых рассматривали ее исключительно как диковинку, хотя и достаточно интересную. Теперь же мы в состоянии видеть в авторах прошлого тех, кем они и являлись: гениальных предвестников ряда важнейших идей и методик современного мира, в данном случае — искусства и науки информационного поиска.

Однако, возвращаясь в сегодняшний день, приходится констатировать, что с появлением Google многие методики развития памяти уходят в небытие. Но, вопреки предположениям ряда критиков, включая Николаса Карра, это вовсе не значит, что мы глупеем. Во-первых, судя по всему, благодаря Google мы получаем доступ к новой информации, которая расширяет наше понимание и толкование прочих данных о мире, независимо от того, узнали ли мы об этих данных посредством Google или нет. Во-вторых, наши методы поиска интересующей нас информации совершенствуются, а это тоже является навыком. Вместо того чтобы помнить какой-либо факт, я чаще помню оптимальные пути поиска фактов. Значительную часть поиска я осуществляю в моем блоге, в котором каталогизирована часть собранной мною информации, и в моей учетной записи на почтовом сервере Gmail, где я храню нужные данные. Где именно я завтра обедаю со Стивом Телесом? Я этого не помню. Зато я помню, что мне нужно выполнить поисковый запрос: «Стив Телес обед» — в моем почтовом ящике Gmail, и я быстро найду требующийся ответ. Я также пришел к достаточно хорошему пониманию того, когда лучше всего осуществлять поиск в Google, а когда — в Twitter. Например, пользуйтесь Twitter, когда вам требуется ознакомиться со слухами или самой актуальной информацией за последние полдня или что-то вроде этого.

На основании того, что я вижу, я прихожу к заключению, что большинство людей отказываются от запоминания части информации и вполне довольны отношениями симбиоза с современными методами ее поиска.

Какие еще функции нашего мозга будут переданы нами умным машинам? И как в итоге изменимся мы сами? Уже сейчас ясно, что гениальные машины отлично справляются с задачами, где требуются в основном расчеты. Поэтому логично предположить, что нас, людей, будут все меньше интересовать собственно расчеты, и мы все в меньшей мере будем способны производить вычисления. Именно это уже и происходит. Карманный калькулятор ослабил нашу способность производить безупречные вычисления лишь с помощью карандаша и бумаги. Зато теперь мы можем уделять больше времени развитию других наших навыков.

Следствием этого являются два различных результата, и мы можем использовать их, чтобы заглянуть туда, куда движется человечество. С одной стороны, многие добьются успеха, научившись мыслить, как мыслят умные машины, или научившись понимать принципы их функционирования и став состоятельными людьми с высоким социальным статусом. В этом мы будем весьма схожи с компьютерами — в любом случае, большое число специалистов с высокими заработками станут схожими с компьютерами, по крайней мере в плане когнитивных способностей. Тем не менее в личной жизни наше сходство с компьютерами, наоборот, уменьшится, поскольку в выполнении многих простейших действий мы опираемся на машины: они запоминают нужные нам числа, помогают с арифметическими расчетами и поиском информации в Интернете. Благодаря этому мы развиваем свою интуицию, более тонко чувствуем психологию и эмоции повседневной жизни и все больше полагаемся на спонтанность в своих творческих порывах.

Среди людей найдется немного тех, кто, с точки зрения наблюдателей или потребителей культуры, желал бы конвергенции человека и машины. Даже когда машины превосходят своих оппонентов из числа людей, нам не очень интересно наблюдать за ними.

Например, нам не слишком интересны шахматные поединки между машинами. За ними почти никто не наблюдает, и почти никто не говорит о них. Соответствующих комментариев в сети Интернет почти не найдешь, большинство сайтов, посвященных шахматам — даже из числа сайтов, предназначенных для специалистов,— сыгранные между компьютерами партии не воспроизводят, и я никогда не встречал отчетов о таких матчах в изданиях для широкой публики. Шахматный матч между компьютерами Stockfish и Spark, о которых было рассказано в одной из предыдущих глав, состоялся по инициативе любителя шахмат из Норвегии по имени Мартин Торесен. Мартин организовал ряд интернет-турниров, в которых друг с другом состязались лучшие шахматные компьютеры, завершившихся финальным соревнованием между их победителями. Мартин пытался найти спонсоров, способных оплатить расходы на электричество, однако интереса никто так и не проявил, и весной 2011 г. Мартин принял решение данные турниры прекратить. Этого почти никто и не заметил. Несколько человек выразили сожаление в комментариях к его блогу, как, например, один парень, заявивший, что предпочитает время, отданное шахматам, времени, проведенному с женщиной. (Судя по всему, схожие турниры возобновятся в 2013 г. Что ж, посмотрим.)

Один из последних из организованных Мартином турниров прошел под звучным названием TCEC S3 Stage 2a.

В то же самое время, как проводился турнир TCEC S3 Stage 2a, в Лондоне проходило соревнование между претендентами на матч за мировую шахматную корону с тогдашним чемпионом мира Виши Анандом. Интерес к отборочным матчам между претендентами был достаточно невелик — по сравнению с обычным его уровнем,— поскольку любимец публики Магнус Карлсен, юное шахматное дарование из Норвегии, решил в них участия не принимать. Это все равно, как если бы Майкл Джордан решил на несколько лет прервать свою баскетбольную карьеру, что привело бы к падению интереса к финальным матчам НБА. Тем не менее в отличие от превосходных матчей между компьютерами многие тысячи зрителей наблюдали за поединками между шахматистами из числа людей, победителем из которых вышел Борис Гельфанд, уступивший впоследствии Ананду в матче за мировую шахматную корону.

Шахматы стиля «адванс» тоже не пользуются особой популярностью — даже по меркам шахматного мира, — несмотря на участие в них людей. Некоторым любителям традиционных шахмат не нравится, что игроки стиля «адванс» не слишком хороши в игре в традиционные шахматы, однако полагаю, что главная проблема не в этом. Анонимность и постоянная смена названий команд не дает возможность болельщикам следить за соревнованиями и знать, кто из участников относится к числу фаворитов. Здесь трудно сочинять повествования об игроках, взлетах и падениях их игровой карьеры, их личностях и психологических проблемах. Существующее положение вещей не вписывается в стандартную модель героических подвигов и борьбы с превратностями судьбы.

Ограниченность зрительского интереса привела к тому, что турниры стиля «адванс» проводятся исключительно в Интернете, что затрудняет привлечение зрителей и спонсоров из числа компаний. У турниров есть один богатый покровитель из Объединенных Арабских Эмиратов, однако на настоящий момент финансовое будущее стиля «адванс» выглядит безрадостно. По оценкам Нельсона Эрнандеса, несколько лет назад в крупных турнирах «адванс» принимали участие около сотни команд, и около сотни же «зрителей» следили за игрой посредством онлайн-трансляций. Не скажешь, что мир сходит по этим турнирам с ума, хотя здесь предлагаются одни из самых качественных и зрелищных матчей в истории шахмат.

Возможно, любители шахмат предпочитают наблюдать за играми, где совершаются человеческие — слишком свойственные человеку — ошибки? Есть что-то притягательное в том, чтобы заранее угадывать, кто станет чемпионом, и видеть унижение игроков, обескураженных своим бессилием. Похоже, нас больше влечет драма, а не совершенство. Помните слова заставки к старому телешоу компании «Эй-би-си» «Огромный мир спорта?» ( Wide World of Sports) — «волнение момента победы, агония поражения»? В заставке было показано опасное падение с трамплина прыгающего лыжника, и именно это порой случается с иг-роками-людьми, но не компьютерами, за шахматной доской. Нам нравится зрелище. Если за чем людям и нравится наблюдать в шахматных играх с участием компьютеров, так это за ошибками людей, выявляемыми компьютерами.

Мы поступаем и переживаем по-другому, когда понимаем, что имеем дело с машиной, а не живым человеком. Кен Дженнингс заявил, что жалеет о том, что во время своего эпического противостояния в телевикторине Jeopardy! с компьютером Watson попробовал новые стратегии, чтобы «раскусить» машину. Стратегии эти ничего ему не дали. Подобной же критики — за то, что он позволил машинной природе своего оппонента «восторжествовать над ним» — удостоилось и поражение Гарри Каспарова в игре против компьютера Deep Blue корпорации IBM в 1997 г. У Каспарова не было возможности — в отличие от поединков против шахматистов из числа людей — выявить принципы мышления компьютера или нащупать его слабые места психологического характера. Свидетельства о первых состязаниях с участием шахматного аппарата «Механический турок» указывают на схожие недостатки у его оппонентов из числа людей. Один из исследователей истории аппарата писал: «Некоторые игроки начинали партию с чрезвычайной самоуверенностью, а когда обнаруживали высочайшее мастерство своего заводного соперника, то было уже поздно. Другие затевали необычные комбинации, надеясь, должно быть, сбить машину с толку, однако подобные попытки почти всегда были безуспешны».

Что все это может рассказать о нас как о зрителях и человеческих существах?

Мы не желаем относиться к людям и компьютерным программам одинаково, даже когда последние становятся необычайно искусными и умелыми, или именно в силу того, что они становятся необычайно искусными и умелыми. Мы желаем, чтобы гениальные машины служили нашим практическим целям, но не желаем передавать им те составляющие нашей жизни, которые обусловливают наше понимание жизни, управляют нашими эмоциями, определяют, зачем мы живем, и помогают нам отделять хорошее от плохого. Мы настроены сделать так, чтобы машины «знали свое место».

Это вполне логично, но это одновременно свидетельствует о том, что мы несколько нетерпимы к разуму, имеющему нечеловеческую природу. Это демонстрирует, что мы и в дальнейшем будем с неохотой пользоваться советами машинного разума в вопросах, касающихся нашей частной жизни, например любовных советов или советов относительно того, следует ли нам принимать все предписанные лекарства. Мы не всегда будем прислушиваться к советам гениальных машин в вопросах ведения бизнеса и переговоров, и, возможно, нам будет не слишком интересна сочиняемая ими музыка и мы будем покупать ее только в случае, если кто-то из людей будет выдавать себя за ее автора или соавтора.

Плохо ли это, хорошо ли, но в некоторых случаях помощь машин будет нужна нам позарез.