Глава 6
Рождение

От центра Сан-Франциско по знаменитому мосту Бей-Бридж до национальной лаборатории Министерства энергетики США имени создателя первого в истории ускорителя элементарных частиц Лоуренса при отсутствии автомобильных пробок можно было добраться за час; а из Сан-Хосе, столицы Кремниевой долины, и того быстрее. Полеты на флайерах вблизи этого важного стратегического научного комплекса были запрещены из соображений безопасности.

Лаборатория в Ливерморе была основана в середине XX века с единственной на тот момент целью: для скорейшей разработки водородной бомбы (Советы успели обзавестись к тому времени собственными атомными зарядами, и нужно было вновь обрести лидерство в этой сфере). После успешных испытаний бомбы задачи по совершенствованию термоядерного оружия Америки легли на другой грандиозный национальный комплекс, расположенный в соседнем штате Нью-Мексико, рядом с полигонами подземных ядерных испытаний, тогда как главной миссией центра Ливермор стало обеспечение превосходства Соединенных Штатов над миром в области самых передовых, производительных вычислительных машин, суперкомпьютеров. С момента изобретения компьютеров в середине прошлого века мощность самого производительного из них росла почти одинаково: увеличивалась в тысячу раз каждые пятнадцать лет, что соответствовало закону Мура, предсказывающего удвоение скорости компьютеров каждые полтора-два года. Важная планка в один эксафлопс (миллиард миллиардов операций в секунду) была взята в начале двадцатых годов текущего века, правда, уже не американским, а китайским суперкомпьютером, который стремительно растущая азиатская сверхдержава использовала в военных целях.

Но вскоре после этого темпы экономического роста Китая стали замедляться, и к 2030-м годам Штаты уверенно вернули себе первенство в области суперкомпьютеров, которые к тому времени стали активно использоваться для разработки локальных систем искусственного интеллекта. В качестве «развлечения» суперкомпьютеры Америки стали координировать движение миллионов беспилотных электромобилей, курсировавших по всей стране, а заодно и пешеходов – далеко не самая сложная из их текущих задач. Но гораздо большее значение и для национальной лаборатории, и для всего человечества имел ставший теперь возможным принципиально новый подход к трехмерному моделированию сложнейших человеческих белков, повлекший настоящий прорыв в лечении большинства видов онкологических заболеваний. Рак в любых формах, даже в последней стадии, к середине века в четырех случаях из пяти успешно вылечивался; продолжительность жизни людей в ведущих странах только благодаря этому увеличилась сразу на несколько лет.

К середине века рост производительности суперкомпьютеров стал замедляться из-за исчерпания пределов миниатюризации процессоров: даже транзисторы, работающие параллельно в объемной конфигурации, достигнув размера всего одной молекулы кремния, начинали работать с заметными сбоями из-за помех, создаваемых на квантовом уровне крошечными субатомными частицами. Однако те же квантовые эффекты в итоге помогли сделать новый, широкий шаг вперед. В 2049 году, ставшем важной вехой всей истории электроники, ученые Америки, Китая и Индии в рамках глобального проекта сумели наконец создать большой квантовый компьютер с универсальными свойствами. Скорость передачи информации между кубитами в их микроскопических процессорах была несравнимо выше, чем между обычными молекулами, что открыло дорогу новому этапу великой гонки производительности компьютеров. Магическим образом уже почти сданный в архив закон Мура опять продолжил исправно работать, обретя очередное новое дыхание.

К концу 2070-х годов все человечество уже не могло представить себе повседневной жизни без ежеминутного использования систем локального искусственного интеллекта (ИИ). Они помогали людям во всем – начиная с самостоятельной работы всех устройств и механизмов (человеку достаточно лишь выбрать режим или отдать голосовую команду) и заканчивая решениями таких важных задач, как всесторонний, в том числе психологический, уход за пожилыми людьми (само понятие старости теперь существенно изменилась, ее началом теперь считался возраст 85–90 лет, хотя многие столетние все еще вели активный, практически здоровый образ жизни).

И все же главная, самая высокая планка хоть и маячила уже где-то совсем близко, но на удивление упорно не поддавалась современной науке. Человеческий мозг во всем многообразии происходящих в нем процессов по-прежнему не поддавался полноценному воссозданию в электронном виде. Прогнозы о том, когда наконец появится универсальная система искусственного человеческого интеллекта, обладающая настоящим сознанием, постоянно «уточнялись», всякий раз отодвигаясь на очередные десять, а то и двадцать лет. Загадка – что есть сознание и почему каждый человек обладает собственным, неповторимым внутренним «я» (может быть, данной Богом душой? Наука и религии теперь мирно сосуществовали), оставались почти вечным, философским камнем преткновения. Современные философы активнее, чем когда-либо, вели горячие споры о том, возможен ли универсальный ИИ в принципе. В 2079 году мощность суперкомпьютеров достигла миллиарда миллиардов миллиардов (или десяти в двадцать седьмой степени) операций в секунду. Теоретически это уже была производительность, превосходящая любые, даже самые высокие оценки быстродействия человеческого мозга. Наконец, был создан крупный международный консорциум американских, европейских и азиатских ученых, который несколько лет работал над самым амбициозным проектом в истории мировой науки: созданием универсального искусственного интеллекта, во всем превосходящего человеческий. По количеству вложенных в него средств, даже с учетом инфляции, он превзошел знаменитый секретный Манхэттенский проект прошлого века по созданию в Америке первой атомной бомбы.

Одно из немногих заведений национального центра в Ливерморе называлось «Шива-бар», так как рядом с ним находилась единственная церковь на территории лабораторий, и ее облик у впервые оказавшихся здесь гостей обычно вызывал удивление. Это был индуистский храм с фасадом, украшенным многочисленными индийскими божествами, тонко вырезанными из белого мрамора. В полупустом старомодном баре, интерьер которого напоминал ирландские пабы, благодаря своему брутальному уюту никогда не выходившие из моды, джентльмен в еще более старомодном клетчатом костюме обсуждал с барменом имевшиеся в наличии в заведении виды английского эля. Выбрав светлый эль с горьковатым вкусом, он присел за деревянный стол, углубившись в чтение новостей в своем планшете, серебристый, поблескивающий гибкий корпус которого был тонким, как несколько листов бумаги. Вскоре к нему подошла молодая женщина, невысокая, привлекательная, с ярко-синими глазами и такими правильными чертами лица, что не нужна и пластическая хирургия. Джентльмен привстал, галантно поздоровавшись с ней.

– Добрый вечер! Приятно познакомиться. Стивен Тальбот, доктор наук из Кембриджа. Признаться, не ожидал, что в Калифорнии в конце сентября все еще так по-летнему жарко.

– Ну что вы! Это вполне осенняя погода. Не дай бог вам было приехать сюда пару месяцев назад, когда температура в тени была за сорок градусов даже вечерами. Нас не спасал и океанский бриз. Простите за опоздание. Я Анна, персональный ассистент доктора Чанда. Я студентка, учусь на факультете физики в Университете Беркли. Он попросил меня составить вам компанию на вечер, так как лично не смог вас встретить сегодня. У нас полдня была делегация ученых-атомщиков и чиновников из Европы. Как и все, приехали, чтобы узнать побольше о том, когда же мы представим миру наше изобретение. А вы, простите, эксперт в какой области?

– Я специалист по психологии роботов и компьютеров. Мои исследования в этой сфере были первыми, опубликованными в мировых научных изданиях около двадцати лет назад. Недавно меня даже собирались номинировать на Нобелевскую премию в области физики, хотя к физике как таковой я практически не имею отношения. Знаете, компьютерная психология – это довольно новая дисциплина, в мире вряд ли наберется сейчас хотя бы дюжина толковых экспертов в этой области.

– Психология компьютеров, роботов? Но ведь они – это просто программируемые механизмы? Психология ведь изучает внутренний, духовный мир людей, их сознание, лечит их расстройства? При чем здесь роботы? Или я просто невежественна. Извините, если так.

– Ну что вы! На этот вопрос в своей жизни я отвечал, наверное, не меньше тысячи раз. Начнем с того, что психикой и, следовательно, определенной психологией поведения обладают не только люди, но и животные, даже вполне примитивные. Сознание – это лишь высшая форма психики, которая также может проявляться через инстинктивные реакции, рефлексы, стадное поведение и так далее. Роботы, как считалось еще недавно, психики не имеют, как и любая неорганическая структура. Но все изменилось, когда возникли сложные алгоритмы машинного обучения, которые привели к созданию и повсеместному распространению так называемого локального искусственного интеллекта. Конечно, речь не идет о сравнении с человеком. И все же современный процессор внутри робота – это нечто большее, чем просто сверхмощный калькулятор. Пройдя обучение, робот обретает то, что было ему недоступно раньше, а именно: пусть и ограниченную рамками функциональности данного робота, но все же – свободу выбора. Совсем небольшую пока, почти незаметную со стороны. Встав перед дилеммой – обслужить сначала клиента у столика справа или слева, – робот принимает решение. Заметьте, не базовая программа, заложенная в него изначально кем-то, а сам робот на основании эволюции своих алгоритмов и приобретенного им практического, жизненного опыта. Сегодня он может сначала принять заказ у клиента за столиком у окна, а завтра, почти в таких же обстоятельствах, – у гостя в середине зала. Почему машина именно так сделала свой выбор? Сработал генератор случайных чисел в ее процессоре? Нет, все намного сложнее. Что-то в ее кремниевых мозгах щелкнуло иначе, чем в прошлый раз. Никто не знает, что именно и почему.

Англичанин с видимым удовольствием отхлебнул эля из традиционной кружки объемом в пинту – примерно пол-литра, учтиво подождал, пока его собеседница закажет себе бокал калифорнийского шардоне, затем продолжил.

– Когда вы общаетесь с антропоморфными роботами – например, на рецепции гостиницы или у прилавка в магазине, – вам действительно кажется, что вы разговариваете с калькулятором? Улыбка и благожелательный взгляд голубых диодов в их глазах примитивно запрограммированы? Но ведь следующему клиенту в очереди они могут ответить иначе. Снова случайный генератор? Как бы не так. Если вы проследите за реакциями на раздражители окружающей среды сложных роботов, особенно оснащенных новейшими квантовыми процессорами, то поймете, что они уже обладают зачатками эмоций и даже имеют что-то вроде вкусов и предпочтений. Если вы сильно ударите машину-уборщика просто так, без причины, то она либо остановится из-за сбоя, либо как ни в чем не бывало поедет дальше. У него нет эмоций. Но если вы ударите робота более высокого уровня: робота-няню, робота – домашнего друга, робота-продавца, то он запомнит вас, затаит на вас что-то вроде обиды, может, даже отправит жалобу на ваши действия в органы надзора. И уж, конечно, увидев вас в следующий раз, обслужит в последнюю очередь. Да, «характер» и реакции робота во многом запрограммированы. Мы не знаем, осознает ли себя робот как личность, мыслит ли он абстрактно, мечтает ли о чем-нибудь, как это делают люди. Пока не знаем. Но уже доказано, например, что во время отключений энергии высокоразвитые роботы видят что-то вроде снов. Работают их резервные аккумуляторы, и процессор машины случайным, хаотичным образом обрабатывает последние внешние раздражители: недавние видеозаписи, происшедшие события, анализирует их повторно, затем аккуратно раскладывая записи по ячейкам долгосрочной памяти. При этом внутри процессора генерируется некий слабый, случайный видеоряд. Человеческий мозг во время сна, по сути, работает точно так же.

– Интересно. Я думала, роботы – это просто неживые механизмы. Но могут ли они хотеть чего-то?

– Это один из главных вопросов. Ваша женская интуиция сразу попала в болевую точку. Вопрос, имеют ли сложные роботы желания, самостоятельные цели, по-прежнему неясен. Мы должны надеяться на то, что желаний у них нет. Потому что, если выяснится, что они есть, то за права личностей роботов немедленно начнут бороться целые организации, как за права животных, например. И потом, это просто опасно. Уже сегодня высокоразвитых роботов на Земле уже больше, чем людей. Мы не можем быть уверены в том, что если у них появятся желания, то они не будут направлены против нас. Сейчас ученые считают, что такого риска нет. Все роботы, согласно всемирной конвенции, принятой полвека назад, конструируются с обязательным соблюдением трех законов робототехники Азимова. Правда, я, как компьютерный психолог, не очень-то верю в действенность этих законов.

– Я много раз слышала о них. Но, если честно, не помню точно формулировок.

– Они очень простые. Возможно, слишком простые, и в этом-то суть проблемы. По первому закону, робот не может причинить вред человеку или допустить, чтобы в результате его бездействия был нанесен такой вред. Согласно второму, робот должен повиноваться приказу человека во всех случаях, когда это не противоречит первому закону. По третьему, робот должен заботиться о своей безопасности, если это не противоречит первым двум законам.

– По-моему, звучит замечательно.

– В теории, на бумаге, да. Но не в реальной жизни. Могу раскрыть вам приватно страшную тайну роботостроительных корпораций. Они лишь условно соблюдают эти «законы», но при этом программируют роботов так, чтобы фактически отключить их. И вовсе не из злых побуждений. Просто с этими установками робот не может нормально функционировать. Простейший пример: робот-официант в уличном кафе разносит на большом подносе еду, а проходящая мимо него пятилетняя девочка спотыкается и царапает себе коленку. Ничего страшного, такое происходит каждую минуту. Но робот, по первому закону, должен отбросить поднос, забыть о посетителях и ринуться вызвать девочке доктора или помочь обработать ранку на коленке. А полсотни людей в кафе будут вынуждены сидеть и ждать все это время. В следующий раз они, разумеется, придут в другое кафе. И это – самый невинный пример. Есть куда более сложные. Робот-ассистент полицейского собирает досье на преступника и даже, возможно, физически помогает в процессе его поимки. Но преступник будет испытывать страдания в тюрьме. И он – тоже человек. А как же первый, главный, закон? Сам Азимов, будучи невероятно талантливым и прозорливым мыслителем, понимал все эти дилеммы. В более поздних работах он предлагал, например, чтобы робот в «сложных» случаях выбирал «наименьший» вред человеку. Но как сравнить небольшой физический вред одному человеку с глубоким психологическим ударом, нанесенным другому? Кого спасти: пять пожилых людей или двоих детей, если надо выбирать? Робот, очевидно, впадет в ступор и в результате не спасет ни тех, ни этих. Корпорации имели много способов убедиться, что их роботы в результате буквального соблюдения законов Азимова неизбежно превращаются в бесполезный нерабочий хлам. Но конвенция действует, они должны ей соответствовать. И выход нашли: дополняют эти установки алгоритмом – древом условий, внешне логичным, законным и безобидным. Но, пройдя по этим сложным многоуровневым деревьям в своем процессоре, робот фактически перестает быть обязанным следовать трем базовым законам. Правительства знают об этом, но закрывают глаза. В конце концов, ни один робот-продавец в истории еще не ударил клиента за то, что тот ему нахамил; ни один робот-сиделка не отравил и не задушил подопечного старика, узнав, что тот собирается сдать его в утиль, обменяв на новую модель. И, разумеется, я и представить не могу, чтобы любовница-робот закатила хозяину сценку ревности, когда тот приносит домой из магазина вторую такую же, но с бóльшим размером бюста. Но в будущем все это – вы удивитесь – вполне возможно.

Кружка эля была между тем допита. Генетически модифицированный хмель отчетливой, приятной бодрящей горечью, возбуждающей аппетит, немного играл в голове английского эксперта. Анна поняла, что интересный рассказ подошел к концу. Она проводила Стивена пешком до гостиницы, пожалев, что так редко общается с мировыми научными светилами. Напоследок она его спросила:

– Наши правила гостеприимства включают заботу о вечернем досуге VIP-гостей центра. Одна из моих подружек в группе профессионально занимается эскортом, она тоже очень симпатичная, и я практически уверена, что вы ей понравитесь. Хотите, я дам вам ее номер?

– Спасибо! Честно говоря, ученых, приезжающих по делам в Кембридж, подобное предложение немало бы удивило. Тем более в наше время большинство людей уже отлично освоились со способами виртуального досуга. Нет, я предпочту отдохнуть перед работой. Еще раз спасибо.

В одиннадцать утра в главном здании национального энергетического агентства, в гостевом зале, зеленоватые окна которого выходили на крошечное, но живописное естественное озеро с гулявшими вокруг него и никого не боявшимися утками, индюками и фазанами, создававшими впечатление уголка нетронутой природы в плотно заселенном пригороде Сан-Франциско, собрались руководители программы, стоившей налогоплательщикам Америки и других стран огромные средства.

На встрече, проходившей за закрытыми дверями, с самыми тщательными мерами безопасности от журналистов, миниатюрных дронов-разведчиков и прочих нежелательных свидетелей, от правительства лично присутствовал вице-президент США Джером Шульц, имевший полномочия как дать «добро» на продолжение программы, так и наложить вето на ее дальнейший ход. Стивен Тальбот, одетый на этот раз в более классический серый костюм, должен был сформировать собственное экспертное мнение о происходящем, чтобы затем представить его в виде доклада на закрытом заседании британского Парламента.

Первым выступил Амрит Чанд (к которому обращались как к доктору Чанду), ведущий индийский и мировой специалист по системам искусственного интеллекта, научный руководитель программы. Словно по-прежнему находясь в лабораториях, он был одет в белый халат, а его не длинная, но импозантная седая борода сочеталась с тоном его одежды. Доктору Чанду было около шестидесяти, но выглядел, он, пожалуй, даже несколько старше, хотя кипучая энергия и била в нем через край. Кажется, он был в восторге от работы, проделанной его огромной командой из трех тысяч тщательно подобранных специалистов в различных областях компьютерных наук. Очевидно, ему хотелось преподнести результаты этой работы в самом выгодном свете, но в то же время, обладая большим умом, он понимал, что надо говорить взвешенно, спокойно, объективно.

– Проделанная нами работа не имеет аналогов в истории. За последние десятилетия ученые накопили огромное количество сведений, касающихся самых важных мировых проблем. Изменение климата, вероятность глобальных эпидемий, терроризм, угрозы планете, исходящие из внешнего космоса. Освоение Солнечной системы в ближайшем будущем, а также радикальное продление человеческой жизни. К сожалению, уже давно стало очевидно, что возможности обычного человеческого интеллекта, даже объединенного в большие сообщества талантливых ученых, – ограничены. Люди сами, без внешней помощи, не в силах разобраться до конца во многих слишком сложных, запутанных, многоуровневых научных проблемах. Тончайшие нити их решения, спрятанные где-то в невообразимой глубине, ускользают от нас. К счастью, сейчас, на исходе XXI века, мы нашли другой путь. Если ты не знаешь, как разрешить бытовую проблему, вызови специалиста. Теперь нашим «специалистом по вызову» должно стать новое, великое, революционное творение рук человеческих. Когда люди поняли, что им не по силам переносить слишком большие тяжести, они придумали колесо. Чтобы добираться из одной точки мира в другую за считаные часы, они не побоялись подняться на железной машине высоко в небо. А когда данных о Вселенной и о нас самих – вероятно, единственных населяющих ее разумных существ – скопилось слишком много и эти данные стали слишком сложны, человек создал искусственный сверхинтеллект. Этот год и наша общая работа войдут в историю человечества!

Джером Шульц, главный на этом совещании, не был ученым. Но он считался опытным чиновником, умевшим отделять научный энтузиазм от практических результатов исследований, за которые правительству предстояло отчитываться перед налогоплательщиками. В выражении его правильных англосаксонских черт лица, взгляде, позе его массивной, атлетичной фигуры читалось спокойствие и полный контроль над ситуацией.

– Благодарю вас, доктор Чанд. Ваша речь звучит вдохновляюще. Теперь я бы хотел перейти к более конкретным вопросам. Сообщите нам, что сделано и в какой точке проекта мы находимся.

Кажется, индус слегка переволновался, поэтому он жестом попросил одного из своих заместителей продолжить доклад. Слово взял Лю Чанг, главный специалист в области технологий машинного обучения. В отличие от своего руководителя, проведшего большую часть жизни в огромном научном центре в Нью-Дели, он, этнический китаец, родившийся в Сингапуре, всю свою карьеру построил в компаниях Кремниевой долины, заработав там сотни миллионов долларов.

– Благодарю за возможность выступить. Наше детище – мы называем его просто Шейн – появилось в виде системы из двенадцати самых производительных в мире суперкомпьютеров, собранных в единый цифровой организм. Основную часть вычислений параллельно производят десять компьютеров со скоростью примерно десять в двадцать шестой степени операций с плавающей точкой в секунду. Еще два суперкомпьютера физически находятся в трех с лишним тысячах километров отсюда, в национальном компьютерном центре Ок-Ридж (Теннесси) вблизи восточного побережья. Они используются для архивирования информации, чтобы данные можно было восстановить в случае непредвиденной аварии здесь, в Ливерморе. Которая, впрочем, учитывая наши многоуровневые системы безопасности, крайне маловероятна. Теоретическая часть проекта, создание общей архитектуры сверхинтеллекта, началась еще пять лет назад. Два года назад проектная модель – гениальная, на мой взгляд, – была утверждена экспертным советом. Примерно полгода назад, когда все работы воплотились уже в железе с общей массой всех системных блоков свыше ста тонн, настала очередь нашей группы. Все эти шесть месяцев мы знакомили Шейна с тем, что на сегодня представляет собой наша цивилизация. Ежесекундно скармливали ему почти безграничные массивы информации из самых разных областей знаний. Древнегреческая философия, современная физика струнных частиц, кулинарные рецепты, архив голливудских кинофильмов всех времен, данные о поведении сотен миллионов клиентов JP Morgan Bank of America, крупнейшего банковского синдиката мира, истории болезней миллиардов пациентов из Азии, священные книги религий, наконец, вместе с их многочисленными толкованиями. Поначалу мы не получали никакой обратной связи. Затем, спустя два месяца, наш компьютер стал активно и невероятно быстро обрабатывать все эти данные, хотя на наши запросы о том, что происходит и какие собственные алгоритмы он разработал, ответа от него не было. Примерно два месяца назад настало время большой проверки: Шейн должен был пройти усиленный тест Тьюринга. Собственно, самые мощные компьютеры давно с ним справляются.

– Извините, я учился в Йеле на гуманитарных программах. Что представляет собой этот тест?

– Господин вице-президент, это очень просто. Его предложил гениальный ученый прошлого века Алан Тьюринг, во многом спасший Британию от фашизма, расшифровав немецкие военные коды, но вскоре после той войны трагически погибший. По его замыслу, человек и компьютер находятся в разных комнатах и обмениваются фразами на листках бумаги, общаясь на любые темы в течение пяти минут. Затем человека сменяет следующий и так далее. Людей должно быть много, для точности статистики. Далее их спрашивают, с кем они общались – с человеком или с компьютером. Тьюринг заключил: если сорок процентов людей посчитают, что они разговаривали с человеком, то тест пройден. Такой существенный процент не может быть случайным. Во времена Тьюринга сама идея, что компьютер может пройти такой тест, казалась фантастикой. Но сегодня подобный результат может уверенно показать почти любой цифровой аппарат. Современный усиленный тест Тьюринга требует, чтобы общение длилось не меньше получаса, а процент людей, которых компьютеру удалось обмануть, превысил девяносто. Шейн щелкнул и этот тест как игрушку. Затем ему поручили расчеты, стандартно выполняемые самыми производительными компьютерами: прогнозирование климата, моделирование ядерных реакций, прогноз котировок фондового рынка в ближайшие недели. Со всем этим программа справилась также на отлично, а в случае с биржей даже создала собственную оригинальную методику оценки справедливой стоимости акций.

Полный, подробный, с многочисленными техническими деталями, доклад Лю Чанга о проведенной его подразделением работе занял два с половиной часа. За ним выступили еще несколько руководителей групп, доложивших о своих достижениях. В перерывах совещания в зале и коридорах образовывались группы собеседников, общавшихся громко и с адреналином, обсуждая будущее великого, беспрецедентного проекта.

Доклады подошли к концу, когда теплое осеннее калифорнийское солнце уже заметно клонилось к горизонту. День прошел плодотворно, и настал черед вопросов приглашенных высоких лиц. Слово вновь взял Шульц.

– Кстати, почему Шейн? Кто придумал это имя?

– Это аббревиатура. Полное название системы: «Сверхчеловеческий алгоритмический нейронный исполнитель». Шейн – заглавные буквы этих слов в английской транскрипции. Полное название – длинное, громоздкое, не слишком благозвучное. Но оно точно отражает суть проекта. Первая из поставленных перед нами правительством задач – полноценная симуляция работы человеческого мозга, сознания. Но, естественно, по многим параметрам – таким, как вычислительная скорость и объем памяти, – намного его превосходящая, сверхчеловеческая. «Алгоритмический» – указывает на то, что это все-таки не биологическое существо, а компьютерная программа. Термин «нейронный» хорошо описывает архитектуру системы. Она действительно напоминает структуру системы нейронных синапсов в человеческом мозге. И, наконец, самое спорное, последнее слово в названии. Что же все-таки это? Компьютер? Система? Сеть? Осознающая себя личность? Мы не знаем, как это определить, по крайней мере, сегодня. Очевидно лишь то, что это сверхумное создание выполняет наши команды. Поэтому мы просто назвали его «исполнитель». Когда мы написали это название, то сокращение прозвучало как Шейн. И оно всем сразу понравилось. Традиционное ирландское мужское имя, старинный искаженный местный вариант имени Джон.

– Ну Шейн, так Шейн. Правительству это будет безразлично. Каковы следующие шаги?

– Мы планировали провести еще ряд тестов в ближайшие недели.

Молчавший почти все это время Стивен Тальбот поднялся со стула и, заложив руки за спину, пару раз плавно прошелся туда-сюда, сразу обратив на себя общее внимание. Наконец, встав в гордую позу, он обратился к китайцу.

– Мне кажется очевидным, что мы упустили нечто важное, если не главное. Нам прежде всего следует разобраться (как именно – вопрос крайне непростой), имеем ли мы дело с осознающей себя личностью или это по-прежнему всего лишь компьютер, механизм, еще одна, пусть и невероятно мощная версия локального машинного интеллекта.

– Мы этого пока не поняли. Да и как это понять? Спросить: Шейн, ты кто? К сожалению, в этом случае система решит, что ей задали очередной тест Тьюринга, и ответит, что она человек.

– Я полагаю, нам всем надо над этим хорошенько подумать. Но для начала я бы предложил системе пройти тест на кофе.

– Простите, не понимаю.

– Ну что вы, это же классика робопсихологии. Роботу поручают зайти в обычное американское кафе и, никого не спрашивая, найти в нем кофемашину, разобраться, как она работает, налить в чашку горячий кофе и принести его экспериментатору. Суть в том, что ему никто не объясняет, что такое кофе, как найти уличную забегаловку и войти в нее, как разобраться в режимах работы кофейного аппарата, и затем, не расплескав, быстро донести кофе, куда требуется. Абсолютно до всего система должна логически дойти сама, и затем все это выполнить. Еще сто лет назад в интервью основатели Apple Стив Джобс и Стив Возняк – оба мои тезки, кстати, – сказали, что поверят в искусственный интеллект только после того, как робот выполнит описанное задание. Удивительно, но по сей день ни одна машина без детальной специальной программы не способна на это.

– Вы хотите, чтобы наша машина попыталась выполнить такой тест? Но как? Это ведь не мобильный робот, а огромный стационарный вычислительный компьютер. Как он зайдет в уличное кафе?

– В этом-то все и дело. Поручите Шейну задание, которое он физически не может выполнить, дайте его совершенным квантовым мозгам помучиться неделю и внимательно фиксируйте его действия, генерируемые им алгоритмы, общую реакцию на происходящее. Что это будет? Гнев, отчаяние, безразличие, а может быть, попытка выполнить задание каким-то неожиданным для вас образом. Право, мне было бы интересно узнать результат такого теста.

– Хорошо. Мы подумаем, завтра с утра попробуем облечь подобное, откровенно говоря, странное задание в программный код и затем будем фиксировать результаты. Обязательно сообщим вам.

Шульц, явно уставший от бесконечного калейдоскопа сложных научных терминов, звучавших целый день, но все еще державшийся уверенно, попросил доктора Чанда ненадолго провести его, Лю Чанга и мистера Тальбота в само компьютерное помещение. Как и всякий ответственный чиновник, он должен был буквально руками пощупать то, что высоким указом послан тщательно проинспектировать.

Главное здание в Ливерморской лаборатории, существенно расширенное по площади специально для этого проекта, представляло собой большой прямоугольный бункер со сторонами примерно сто на пятьдесят метров. Помещение уходило глубоко под землю – только основных подземных этажей в нем было шесть, не считая подсобных блоков. Пройдя двойные шлюзовые стальные двери толщиной в пару метров, защищенные многоуровневой системой допуска и безопасности, все четверо оказались у входа в машинный зал верхнего, первого этажа. Над дверью была надпись:

За ней находились длинные скучные ряды мерцающих крупных системных блоков выше человеческого роста. В помещении было холодно – около семи градусов по Цельсию, для постоянного охлаждения работающих блоков. Только система воздушного кондиционирования шести этажей потребляла энергии как целый небольшой городок.

Доктор Чанд, предложив всем накинуть на себя утепленные халаты, провел гостей вдоль рядов системных блоков. Наконец, он остановился у огромного монитора, перед которым находилось нечто похожее на операторский пульт.

– Этот монитор – своего рода орган осязания компьютера. Он в совершенстве владеет навыками распознавания зрительных образов, а также человеческой речи на распространенных языках мира. Правда, до сих пор мы общались с ним только обычным путем, посредством ввода программ. Господин Тальбот, может быть, вы первый хотите что-нибудь сказать или спросить?

Англичанин кивнул в сторону монитора и представился. В ответ края экрана замерцали приятным голубоватым цветом.

– Я Шейн. Добро пожаловать. Будьте как дома.

Голос компьютера был бесцветным, однотонным, но в то же время не отталкивающим. Шульц глядел на монитор в задумчивости. Тальбот напряженно думал, как точнее сформулировать следующий вопрос. Индус и китаец поглядывали на многочисленные индикаторы работы системы, негромко переговариваясь о чем-то сугубо техническом.

В это мгновение из недр пульта с тяжелым звуком выдвинулась подставка, напоминающая раскладной стол с закругленными краями.

На этом импровизированном столе стояли четыре чашки горячего, дымящегося ароматного напитка. Тот же глубокий монотонный голос произнес:

– Позвольте мне угостить вас лучшим кофе, который я только смог найти в Сан-Франциско.