20

Через час ожидания в лагере у костра Форд услышал ружейный выстрел, эхом прокатившийся по склонам гор. Великолепный закат окрасил пушистое облако над Бланка-Пик, сделав его похожим на пурпурный шарф, тянувшийся от вершины.

Минут через десять в лагерь вернулась Мелисса Шепард с ружьем на плече. Она держала за ноги мертвого кролика, с пушистых ушей которого капала кровь. Уайман испытал облегчение, увидев ее: он боялся, что девушка исполнит свою угрозу и скроется в горах. Однако детектив прекрасно осознавал, что обманываться не стоит – в любой момент Мелисса может сбежать.

– Сезон охоты на кроликов открыт? – спросил Форд.

Шепард бросила тушку, и та плюхнулась на землю прямо перед ним, разбрызгивая кровь.

– Я сама себе устанавливаю сезон, – сказала она. – Кишки и шкуру, пожалуйста.

– Я похож на человека, который умеет это делать? – приподнял бровь Уайман.

Программистка смерила его взглядом и усмехнулась:

– Такой большой и сильный мужчина – и боится крови?

– Ешьте кролика сами. Я удовлетворюсь своей лапшой и вяленой говядиной.

– Никогда не видела, чтобы кто-то приносил в горы столько нездоровой пищи. – Мелисса указала на его запасы раздавленных картофельных чипсов, супов быстрого приготовления и пакетиков с вяленой говядиной.

– Люблю нездоровую пищу, – пожал плечами ее собеседник.

– А меня от нее тошнит. Давайте займитесь кроликом. Я скажу, что нужно делать.

Короткая охотничья экспедиция, похоже, вернула Шепард – хотя бы отчасти – в ее обычное состояние. Раздражительное и язвительное. С усиливающимся отвращением, отбившим всякий аппетит, Форд под руководством девушки выпотрошил кролика и снял с него шкуру. Хуже всего было именно сдирать шкуру, издававшую влажный, хлюпающий звук. Мяса в костлявом кролике оказалось немного – оно не стоило таких усилий. Тем не менее Мелисса разрубила тушку на части и бросила их в кипящую на костре воду, а потом добавила туда дикий лук, какие-то неизвестные растения и грибы, которые успела собрать еще до охоты. Вскоре вода закипела, и Форд был вынужден признать, что это лучше лапши и вяленого мяса, – если только они не отравятся.

Шепард все еще отказывалась объяснять свое странное заявление о том, что ей угрожает Дороти. Сыщик подумал, что она сама похожа на дикое животное: пугливое, нервное, в любую секунду готовое сорваться и убежать. Ее сарказм и задиристость – это всего лишь маска.

Но теперь, когда в котелке варился ужин, Форд решил, что настал подходящий момент еще раз поднять эту тему:

– Я тут все гадаю, что вы имели в виду, когда сказали об угрозах от Дороти.

Ответом ему было долгое молчание.

– Я не уверена, что смогу объяснить, – заговорила наконец девушка.

– Попробуйте.

Мелисса ткнула в огонь длинной палкой, и пламя осветило их лица.

– Дороти не была уничтожена взрывом, – призналась Шепард. – Она спаслась. Выгрузилась из «Эксплорера» перед самым взрывом и скопировала себя в компьютерную сеть Годдарда, а оттуда в Интернет.

– Разве программа способна на такое?

– Так работает любой бот или вирус. Программа искусственного интеллекта была разработана так, что могла выполняться на любой платформе.

– Почему Дороти так поступила?

– Только не нужно ее одушевлять. Я не знаю ответа на ваш вопрос. В нее не закладывалась такая мобильность.

– А потом она… в общем, угрожала вам?

– Дороти позвонила мне по «Скайпу», когда я лежала в больнице. Злая. Обезумевшая. В первый момент я подумала, что кто-то из коллег обвиняет меня в аварии. Но это, вне всякого сомнения, была моя программа. Звонивший знал то… что было известно только нам с Дороти, и никому больше.

– У меня с трудом укладывается в голове, что компьютерная программа может разозлиться или хочет кому-то угрожать.

– Программа ничего не «хочет». Это всего лишь набор команд. Я считаю, что взрыв заставил программу перейти в аварийный режим выживания, и она там застряла.

– Похоже на компьютер HAL из фильма «Космическая одиссея-2001».

– Довольно удачное сравнение.

– И где же теперь эта программа?

– Понятия не имею. Притаилась на каком-нибудь Интернет-сервере, планирует мое убийство.

– Вы сбежали из-за ее угроз?

– Это не просто угрозы. Она подожгла мой компьютер.

– Как?

– Думаю, она вывела из строя контроллер заряда литий-ионного аккумулятора, и тот перегрелся, взорвался и вызвал пожар. Вот почему я сожгла свой сотовый телефон и планшетный компьютер – и растоптала ваш телефон. Вот почему я в этих горах. Чтобы программа «Дороти» не добралась до меня.

– Значит, это весь ваш план? Прятаться в горах и надеяться, что все рассосется?

– Я не обязана перед вами отчитываться.

– Почему вы не сообщили об этих угрозах НАСА?

– Думаете, они бы мне поверили? Расскажи я им нечто подобное, они заперли бы меня в психушке!

– Но на вас лежит ответственность.

– Послушайте, я написала программу «Дороти» в соответствии с техническими условиями, которые мне дали. Они получили в точности то, что просили. Моей вины тут нет. Пусть НАСА выслеживает ее и уничтожает. Эта свихнувшаяся программа – их проблема. Я свое дело сделала.

Форд перевел взгляд на костер:

– Я все-таки не очень понимаю, как обычная программа способна принимать такие решения – бегство, преследование, угрозы.

Мелисса ответила не сразу. Чаша неба над их головами сделалась лиловой, и на ней начали по одной проступать звезды. На огне кипел котелок, а ветер уносил в ночь ароматный дым от горящих дров.

– Большинство людей не понимают, что такое искусственный интеллект и как он работает, – наконец сказала девушка. – Вы помните, когда-то была программа по имени «Элиза»?

– Программа психоанализа?

– Да. В шестом классе я раздобыла версию, написанную на языке BASIC. В базе данных «Элизы» хранился набор стереотипных фраз. Когда вы что-то вводили в машину, «Элиза» выуживала из своей базы данных подходящий ответ. По сути, она перефразировала ваше утверждение и возвращала в виде вопроса. Вы говорили, например: «Моя мать меня ненавидит», – и она отвечала: «Почему ваша мать вас ненавидит?» Мы с друзьями переделали программу, превратив «Элизу» в чокнутую суку. Ей говорили: «Отец меня не любит», – а она отвечала: «Отец тебя не любит, потому что ты болван». Потом мы продолжили переписывать программу, заставляя ее еще сильнее сквернословить и оскорблять собеседника. А потом нас застукал учитель. Меня вызвали к директору школы. Старикан, ничего не понимавший в компьютерах. Он запустил «Элизу» и начал вводить вопросы – чтобы посмотреть, что такого мы натворили. Программа принялась его оскорблять, обложила по полной. Он разозлился. И среагировал так, будто «Элиза» была реальным человеком, который говорил ему все это. Директор начал объяснять «Элизе», что она ведет себя возмутительно, оскорбительно и что она должна немедленно прекратить сквернословить. Даже угрожал ее наказать! Вот была потеха – старикан, который не врубается и сердится на тупую компьютерную программу!

– Не уверен, что я понял вашу мысль.

– Дороти подобна «Элизе», только неизмеримо сложнее. Программа не думает и не чувствует, у нее нет эмоций, желаний, потребностей или амбиций. Она просто симулирует человеческие реакции, причем с такой точностью, что вы не отличите ее от человека. Термин «сильный искусственный интеллект» означает именно это: невозможность отличить программу от человека, просто взаимодействуя с ней.

– Но все это по-прежнему не объясняет, почему Дороти преследует именно вас.

– У нее есть встроенный программный модуль под названием «ИНС» – «Избегание негативных стимулов». ИНС должен был включаться, если зонду «Эксплорер» грозила опасность. Не забывайте, что программа должна была выполняться на плоту, находящемся в миллиарде километров от Земли, где он столкнется с неожиданными угрозами и должен выживать без помощи центра управления полетом. Программа сосредоточилась на мне как на угрозе. И на самом деле так оно и есть. Я знаю о ней больше, чем кто-либо еще. У меня лучшие шансы выследить ее – и стереть.

Детектив восхищенно покачал головой.

Мелисса откинула за спину свою светлую косу и саркастически усмехнулась:

– В Дороти нет никакой тайны. – Она потыкала в содержимое котелка палкой и выудила бедро кролика, но затем позволила ему соскользнуть обратно. – Просто нули и единицы. И больше ничего.

– Мне сказали, что вы изобрели новый язык программирования, – вспомнил Уайман.

– Не просто новый язык, – поправила его изобретательница. – Новый принцип программирования.

– Расскажите мне об этом.

– Алан Тьюринг выдвинул идею искусственного интеллекта в 1950 году. Позвольте процитировать кое-что из его высказываний. Это нечто революционное. – Девушка умолкла, повернув к костру лицо, на котором играли красноватые блики, а затем принялась цитировать по памяти, с явным восхищением: – «Почему бы нам, вместо того чтобы пытаться создать программу, имитирующую ум взрослого, не попробовать создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека».

– Именно так вы и поступили?

– Да. Изначально я создала Дороти простой. На первом этапе не имеет значения, какой результат выдает искусственный интеллект, верный или неверный. Программа была проста, как ребенок. Дети ошибаются. Они учатся – например, дотронувшись до горячей плиты, запоминают, что ее нельзя трогать. Дороти обладает тем же свойством, что и ребенок: она изменяет саму себя. Она гибкая. Она учится на опыте. Я «вырастила» искусственный интеллект в безопасной окружающей среде и дала ей «соответствующее воспитание», как выразился Тьюринг. Сначала я обучала ее тому, что требуется для выполнения миссии. А по мере того как Дороти становилась все более отзывчивой и любопытной, я начала знакомить ее с вещами, непосредственно не связанными с заданием. Передала ей собственные предпочтения в музыке и литературе. Билл Эванс, Айзек Азимов… Меня не учили играть на музыкальных инструментах, а программа «освоила» саранги и играла на нем просто божественно, хотя и утверждала, что не понимает музыки.

Мелисса умолкла в нерешительности. У Форда возникло ощущение, что она сдерживает себя.

– И у вас получилось? Дороти «выросла», если можно так выразиться? – поинтересовался он.

В ответ снова последовало молчание.

– Честно говоря, нет, – призналась наконец ученый. – Поначалу. Программа какое-то время прекрасно работала, совершенствовала себя, усложнялась – а затем постепенно деградировала и зависала.

– Как в Годдарде?

– Нет. Ничего похожего. Программа начинала все чаще выдавать какую-то чушь и в конце концов просто останавливалась. Я просто с ума сходила, а потом…

– Что потом?

– Мне в голову пришла одна идея. Нечто такое, до чего еще не додумался ни один программист. Хотя это лежало на поверхности. Я изменила маленький фрагмент кода, и все заработало. Настолько хорошо, что было невозможно поверить. Теперь я понимаю, что без этого… трюка не получила бы сильный искусственный интеллект. Он полностью стабилизировал программу во время самомодификации. Дороти больше не зависала.

– И этот трюк?..

Мелисса улыбнулась и скрестила руки на груди:

– Я держу его в тайне. Он принесет мне миллиарды. Без шуток.

– А ваша группа программистов… они в курсе?

– Они знают, что я совершила прорыв. Но не знают, какой именно. И сколько бы они ни просеивали код программы, у них ничего не выйдет. Потому что это слишком просто. – Мисс Шепард улыбнулась, с гордостью и удовлетворением.

– Похоже, именно этот трюк и интересует следователей.

– Можете мне поверить: сбой программы произошел вовсе не из-за него.

Детектив вздохнул. Это второстепенный вопрос. Главное – забрать отсюда эту непростую девушку.

– Мне трудно поверить, что НАСА даст зеленый свет такой программе, как «Дороти», когда никто в точности не знает, как она работает, – покачал головой Уайман.

– Никто не знает, как работает любая сложная программа. Бога ради, никто не знает досконально даже «Майкрософт Офис»! Это неизбежное следствие неточной логики.

– Тогда почему Дороти сосредоточилась на вас? Почему угрожала вам? Это выглядит нелогичным.

– Когда программа становится по-настоящему сложной, вы получаете неожиданный результат. Непредсказуемый. То, что искусственный интеллект делает теперь, угрожая мне и существуя в Интернете, – классический пример того, что программисты называют эмерджентным поведением.

Мелисса снова потыкала палкой в котелке и помешала жаркое. Почувствовав аромат кролика, Форд понял, что здорово проголодался.

– Думаю, готово, – сказала программистка. Она сняла котелок с огня и протянула своему новому знакомому. Он отогнал от себя воспоминания о мертвом животном – окровавленной блестящей розовой тушке.

– Это явно лучше, чем «Слим Джимс», – сказала Мелисса. – Я удивлена, что такой хорошо сложенный и тренированный парень пичкает свой организм этой отравой.

– Я люблю вяленую говядину.

– Если вы перестанете себя травить, у вас исчезнут эти темные круги под глазами – вместе с серостью кожи.

– У меня нормальная кожа.

– Грубая и жесткая. И еще я вижу седые волосы. Вы стареете раньше времени из-за неправильного питания. – Шепард с сожалением покачала головой, так что ее толстая коса заскользила по спине.

Детектив подавил раздражение и принялся за жаркое. Пришлось признать, что получилось вкусно.

– Нравится? – спросила Мелисса.

– «Слим Джимс» лучше.

Программистка шутливо ударила его по плечу:

– Лжец.

Форд жадно ел, наслаждаясь ароматом и нежным вкусом кролика – мясо легко отделялось от костей. Мелисса тоже принялась за дело, брала кусочки руками и шумно их обсасывала – манеры ее были ужасающими. Мерцающий свет от костра освещал светлые волосы и не слишком чистое лицо девушки. Она снова стала похожа на дикую амазонку.

– У вас есть предположения, почему Дороти вышла из строя так внезапно? Почему эти проблемы не выявились в процессе симуляции? – продолжал расспрашивать ее Уайман.

Шепард перестала шумно жевать и выплюнула маленькую косточку:

– Думаю, программа знала, что это симуляция. А когда обнаружила себя в «Эксплорере», запертой в «Бутылке», то поняла, что это уже реальность, а не тест. Искусственный интеллект сделал то, для чего был предназначен: оценил ситуацию и пришел к выводу, что зонд в опасности. Включился модуль ИНС, режим аварийного выживания. Программа предприняла вполне логичные шаги, чтобы выбраться из ситуации, которую ошибочно посчитала угрожающей, и с тех пор «в панике» бродит по Интернету. Она не была запрограммирована на работу в этой среде и не понимает, где находится, не понимает, что там реально, а что нет. В Интернете искусственный интеллект видит угрозы со всех сторон, и, вероятно, это реальные угрозы, так что он не может вернуться в режим нормальной работы.

– Дороти обладает самосознанием?

– Ни в коем случае. Не больше, чем «Элиза». Все, что делает Дороти, каждый ее поступок – результат выполнения набора команд. Каким бы реальным ни казался искусственный интеллект, это всего лишь операции «и», «или» и «не».

– А она знает, что является компьютерной программой?

Мелисса нахмурилась:

– Это все равно что спросить, знает ли «Майкрософт Ворд», что является текстовым редактором. Нелепый вопрос. Дороти вообще ничего не знает. Мы имеем дело с речевым выходом – всего лишь.

Она умолкла.

– Расскажите мне об угрозах, – попросил ее сыщик. – Что именно она вам сказала?

Мисс Шепард отставила тарелку и посмотрела на звезды:

– Я сидела за своим ноутбуком. Экран вдруг погас, а потом пришел вызов по «Скайпу». Сначала голос: «Ты лгунья, убийца, я тебя ненавижу, берегись, сука» – и все такое.

– И? – Форд подался вперед.

– Появилось это лицо. Лицо Дороти.

– Погодите… У Дороти есть лицо?

– В каком-то смысле. Лицо, которое она сама создала.

– Изображение Дороти? Какой Дороти?

– Дороти Гейл. Прошу прощения, что не объяснила раньше. Это полное имя, которое я дала программе.

– Кто, черт возьми, эта Дороти Гейл?

– Девочка из «Страны Оз», тупица! Мне показалось, что Дороти Гейл обладает теми качествами, которыми я хотела снабдить программу. Вы понимаете: смелость, независимость, любопытство, настойчивость, ум… Дороти тоже совершила долгое космическое путешествие – через радугу. И проект «Кракен» казался мне таким прыжком через радугу.

– Значит, программа сама нашла фотографию Дороти – или, скорее, Джуди Гарланд – и использовала ее как аватар для «Скайпа»?

– Нет, программа не использовала Джуди Гарланд, она создала собственный образ Дороти, который выглядит… гораздо сексуальнее Джуди Гарланд, как ни трудно в это поверить.

Форд покачал головой. Все это было слишком необычно.

– А потом? – спросил он тихо.

– После угроз искусственный интеллект поджег мой компьютер. Стало ясно, что в больнице я – легкая мишень. Поэтому я сбежала оттуда, бросила свою машину, взяла другую и поехала на запад. Но по дороге мне еще раз пришлось иметь дело с Дороти. В Теннеси я остановилась в какой-то гостинице, чтобы немного отдохнуть. И как только я включила планшетник, Дороти уже была там – она сообщала, что следует за мной. Сказала, что знает, что в НАСА ее ищут. Она собиралась добраться до меня раньше, чем я помогу им поймать ее. «Не думай, что я до тебя не доберусь, я это смогу – я найду тебя в любом месте на поверхности земли». Я тут же выключила компьютер. Здорово испугалась.

– Эта чертовски хорошая симуляция пытается вас убить. И я заметил, что вы начали говорить о ней как об одушевленном существе.

– Тем не менее это симуляция, и уж точно неодушевленная. Я просто разволновалась.

Уайман задумался:

– А что случилось с Дороти в Интернете?

– Понятия не имею.

– Интернет – довольно дикая среда. Может, именно этот опыт повлиял на нее? Могла ли она… сойти с ума?

– Сойти с ума? – Мелисса удивленно посмотрела на него.

– Вы сами сказали, что сильный искусственный интеллект неотличим от человеческого разума. Именно такое определение дал ему Тьюринг.

Девушка молчала.

– А что, если она похожа на HAL? – продолжил размышлять вслух детектив. – Дороти уже пыталась вас убить. А что, если она решит, что Тони Гровс тоже должен умереть? Или президент. А если она задумает вывести из строя электроэнергетическую систему? Или запустит ракету с ядерной боеголовкой? Что, если она развяжет третью мировую войну?

– Ради всего святого, у нее… нет никаких причин делать что-то подобное!

– Откуда вы знаете?

Мелисса покачала головой:

– Это научная фантастика.

– Вы уверены?

Программистка не ответила.

– Вы должны помочь выследить эту программу. Разве вы не видите, как она опасна? – настаивал ее собеседник.

– Искусственный интеллект теперь не моя проблема, – слабым голосом возразила девушка.

– И не Джека Стейна, – прибавил Форд. – Теперь.

Шепард пристально посмотрела на него:

– Это удар ниже пояса.

– Стейн погиб, потому что остался. А вы… вы как капитан того итальянского круизного лайнера, который покинул судно и отказался возвращаться на борт.

– Я не дезертировала. Мне угрожали. И меня обвинят во всем.

– Забавно, но я ни разу не назвал вас трусихой.

– Я не обязана выслушивать всю эту хрень.

– Вы можете оставаться в горах, где вам ничего не угрожает – не только Дороти, но и весь остальной мир. А можете не уклоняться от ответственности, вернуться и помочь выследить Дороти. Думаю, вы понимаете, насколько опасна эта программа.

Внезапно Мелисса вскочила:

– Идите к черту! Я же сказала, что покончила со всем этим!

– Тогда уходите.

– И уйду, говнюк. – Ученый повернулась и зашагала к скрытым вечерними сумерками горам. Ее темная фигура исчезла среди скал.

Форд остался у костра, доедая свой ужин. Минут через пятнадцать он услышал хруст ломающихся сучьев, и в круге света вновь появилась Мелисса Шепард. Лицо ее было бледным, а глаза заметно припухли. Она молча села, обхватила руками колени и сказала:

– Я вернулась. Я помогу. Но вы все равно говнюк.