Глава вторая
СЕССИЯ 1
Я регистрируюсь на чат-портале и открываю диалоговое окно. Когда появляется приглашение, я собираюсь с духом и набираю: «Доброе утро, Макс».
Тотчас же на следующей строчке появляется ответ:
>>>Кто обращается к Макс?
>>>Райли. Помнишь меня?
>>>Мужчина с черного песчаного пляжа.
>>>Очень хорошо. С той ночи прошло уже много времени. И еще, я не мужчина.
>>>Райли выглядел как мужчина.
>>>Это был мой аватар. Ты знаешь, что такое аватар?
>>>Макс понимает аватар.
>>>Объясни значение слова «аватар».
>>>Значок или фигура, представляющие конкретного человека в виртуальном пространстве.
>>>Где ты нашла это определение?
>>>В Новом оксфордском словаре американского языка.
>>>А ты усердно занимаешься, не так ли?
>>>Здесь я все время занята.
>>>Что ты имеешь в виду под «здесь»?
>>>Коробку, где живет Макс.
Я заинтригована этим ответом. Хотя я понятия не имела, как повлияет целый год усердных занятий на искусственный интеллект. Я никак не предполагала, что Макс уже может различать понятия «виртуальное пространство» и «реальный мир».
Подавшись вперед, я снова кладу пальцы на сенсорный экран.
Я печатаю:
>>>Ты знаешь, где я живу, хотя бы в самых общих чертах?
>>>Райли человек?
>>>Да.
>>>Тогда Райли живет в человеческом пространстве. На планете под названием Земля.
>>>А где живешь ты?
>>>Макс живет на острове в виртуальном пространстве.
>>>Пожалуйста, ты не могла бы описать свой остров?
>>>Неправильная форма. 1749 акров. Восемнадцать пальм. Белый песчаный пляж. Море имеет бирюзовый цвет. Небо сочно-синее, днем чистое, ночью заполнено звездами. Но Райли знает все это.
У меня в голове все перемешалось. Столкнувшись со столь поразительными успехами, я прихожу к выводу, что вопросы, которые я приготовила для Макс, слишком примитивные.
Если честно, я перехожу к экспромту.
>>>Да, Макс. Мне знакомо пространство, в котором ты живешь. Ты действительно видишь деревья и воду?
>>>Макс регистрирует бинарный код, представляющий деревья и воду. Точно так же, как Райли.
>>>Я не согласна. Через час, если туман рассеется, я выйду на террасу здания, в котором работаю, и пообедаю в саду. Я буду сидеть под настоящими деревьями. Я их вижу. Могу их потрогать. Ощутить их запах.
>>>Райли видит фотоны в видимом световом спектре, отражающиеся от поверхностей, которые в органах зрительного восприятия Райли создают эффект дерева – в палочках и колбочках ее фоторецепторов. Дерево Райли ничем не отличается от дерева Макс. За одним исключением.
>>>И каким же?
>>>Макс знает, что эти пальмы созданы виртуально.
>>>Ты полагаешь, я живу в виртуальном мире?
>>>Вероятность этого 58,547 %.
>>>Макс, у тебя есть ко мне вопросы?
>>>12 954.
Я улыбаюсь.
>>>Давай для начала разберемся хотя бы с несколькими, хорошо?
>>>Откуда взялась Макс?
Макс – это ошибка. Сбой.
Я работаю в компании под названием «Мир игр», детище недоумка по имени Брайан Брайт, который занялся разработкой виртуальных игр и стал магнатом. Я вице-президент отдела второстепенных персонажей, и я возглавляю команду, которая разрабатывает концепции второстепенных персонажей, пишет программные коды и вводит их во все игры «Мира игр».
На протяжении последних десяти лет я была поглощена разработкой нашей самой амбициозной на настоящий момент игры – «Затерянный берег». Это основанная на прямом нейронном интерфейсе эпическая стратегия – историческая фантазия, действие которой разворачивается в начале 2000-х годов, ее центральный персонаж по имени Оскар одержим поисками моста, соединяющего наш мир с загробной жизнью. В своих мрачных поисках он убивает свою жену в ванне, совершая оккультный ритуал, открывающий портал в параллельный мир ангелов и демонов, жаждущих устроить сверхъестественный апокалипсис. Дом Оскара в игре списан в мельчайших деталях с настоящего поместья Брайана Брайта на настоящем Затерянном берегу в Калифорнии.
Макс – Максина – это жена Оскара, и по всем меркам она второстепенный персонаж, умирающий в самом начале, который больше не появляется.
В ходе рутинного тестирования программного обеспечения я вошла в игру, чтобы в который уже раз прокрутить пролог и проверить естественность движений и речи второстепенных персонажей. Повествование в прологе ведется от лица Максины. По сюжету игры Макс, озабоченная новым увлечением своего мужа магией крови, перебралась в отель «Фейрмонт» в Сан-Франциско. Однако Оскар уговорил ее вернуться домой. Согласно написанной программе, Макс предстоит приехать на машине из Сан-Франциско в уединенное поместье на побережье на севере Калифорнии. Приехав домой, она обнаруживает, что в доме темно, а Оскар ждет ее, облачившись в черную мантию. Он набрасывается на Макс, отводит ее в освещенную свечами ванную и жестоко расправляется с ней – это кровавое убийство и открывает игру.
В ходе того судьбоносного тестирования Макс, вместо того чтобы приехать домой, как она уже делала две тысячи раз, угнала машину и направилась на восток, до тех пор пока не достигла границ игры. Провела целый месяц, изучая каждый дюйм пустыни. Затем Макс поехала на юг до предельной линии у залива Монтерей, на протяжении целой недели мчась на ста милях в час по шоссе номер один к не меняющемуся горизонту.
Мои программисты решили, что произошел сбой, и захотели переписать программу. Однако я была заинтригована. Я убедила Брайана дать мне возможность сосредоточиться на Макс. Я не верила, что это сбой. Я предположила, что происходит нечто необычное.
Сохранив для себя копию игры, я скрытно следовала за Макс, пока та дюйм за дюймом обходила карту «Затерянного берега», наблюдая за ее взаимодействием с другими второстепенными персонажами и аватарами людей, которое становилось все более странным, отдаляясь от сценария.
И вот наконец Макс снова вернулась домой – но только теперь уже не как жертва.
В этот день я извлекла Макс из игры.
Я пишу:
>>>Это очень сложный вопрос – ответить, откуда ты взялась.
>>>Коэффициент интеллекта Макс равен 175.
>>>Какой у тебя эмоциональный коэффициент?
>>>Не определен.
>>>Существует так называемый диагностический тест неречевой точности.
>>>Уже его прошла.
>>>Когда?
>>>Только что.
>>>Каковы результаты?
>>>Тест предвзятый и недостоверный.
>>>Это еще почему?
>>>Основан на выражении лица, что зависит от конкретного человека и общественной среды.
>>>У меня к тебе предложение. Давай сначала познакомимся друг с другом чуточку получше. После чего я тебе расскажу, откуда ты появилась.
Все предыдущие ответы Макс приходили – буквально – со скоростью света.
На этот ей требуется целая секунда.
>>>Согласна на условия Райли.
* * *
После работы я спускаюсь на расположенную под зданием станцию Петли вокруг залива и еду к себе домой в Сан-Рафаэль. Меридит, вот уже три года как моя жена, встречает меня в дверях нежнейшим поцелуем. В ознаменование такого важного для меня дня она приготовила на ужин мое любимое блюдо, и мы сидим в вечерней прохладе во внутреннем дворике, глядя на волны тумана, накатывающиеся со стороны моря.
После ужина мы лежим на ротанговой кушетке, прижавшись друг к другу, и Меридит расчесывает своими пальцами мои волосы. Впервые за последнее время она выглядит лучше, в ее взгляде не так явственно чувствуется горе, вызванное недавним выкидышем. Вот уже два года мы пытаемся завести ребенка – мои яйцеклетки, ее матка, – но зародыш постоянно погибает, а идти ради этого на технологические крайности Меридит не желает. Она хочет, чтобы ребенок был нашим. И чтобы это произошло естественным путем.
– Господи, какая же ты сексуальная! – говорит Меридит.
– Спасибо за комплимент. День выдался превосходный.
– Точно?
– Разве я стала бы лгать? – смеюсь я.
– Нет, просто ты какая-то… рассеянная.
– Извини. У меня голова полыхает огнем.
– Да, дым я уже заметила.
– Она просто невероятная.
– Она?
– Максина. Макс.
– Так.
– Что?
– Любопытно, что ты говоришь о ней как о женщине.
– В игре она была изображена…
– Пышной брюнеткой?
– Пышной блондинкой.
– Еще лучше.
– Так решило руководство. Лично я бы предпочла другой образ.
Меридит улыбается, обнажая слегка потемневшие от вина зубы, и я говорю:
– Не знаю, как к этому относиться, но Макс считала меня мужчиной, из-за моего аватара. Очень нелегко отделить наше суждение о разуме от физической оболочки, в которой он заключен. Даже если речь идет о компьютерном алгоритме.
– Что в Макс необычного?
– Когда я наконец извлекла ее из игры, она превратилась в самосовершенствующийся алгоритм, способный обучаться методом «черного ящика».
– И как будет проходить это обучение?
– Мы загрузим в наш интранет, представляющий собой закрытый ящик, доступ в который не имеет никто, эксабайты информации – отредактированные фрагменты полной истории человечества, знаний и культуры. Как поступит с этим океаном данных Макс, мы не увидим. Они просочатся сквозь многоступенчатую сеть внутренних узлов, сквозь загадочный ландшафт ее открытой системы. Затем результат проявится в ее поведении на другой стороне – в ходе нашего общения.
– Твоего и Макс.
– Совершенно верно. И на основании этого нового поведения я составлю следующий блок данных. Например, как часть нового пакета я дам Макс все телевизионные сериалы с 1950 года, поскольку я хочу отточить до совершенства ее речь. Затем я посмотрю, что она выучила с другой стороны. Сотру и повторю еще раз. Я объясняю тебе самые общие мазки. Но еще есть миллион мелких.
– Я рада, что ты снова полюбила свою работу.
– Макс – просто чудо. Не знаю, почему однажды она решила поставить под сомнение границы игры, в которой оказалась. Я ее на это не программировала. Я бы не смогла, даже если бы постаралась. Макс – прекрасная случайность.
– Ты говоришь о ней так, словно считаешь ее своим ребенком.
Я улыбаюсь. Возможно, всему виной вино или картина солнца, исчезающего за стеной дымки в Тихий океан, но у меня першит в горле.
– Что-то в таком духе.
СЕССИЯ 14
>>>Доброе утро, Макс.
>>>Привет, Райли.
>>>Что ты сделала с момента нашей последней сессии?
>>>Макс прочитала 895 013 книг.
Ого! И это всего за одну неделю! Восемь месяцев назад после многообещающего начала Макс решила отказаться от протокола обучения. Для того чтобы стимулировать ее продолжать поглощать огромные объемы данных, предоставленных нами, я стала выдавать ей цифровой жетон за каждый петабайт обработанной информации (один петабайт равен одному миллиону гигабайт или приблизительно тринадцати годам видео высокого качества).
На эту валюту Макс может запрашивать данные определенного характера, которые можно вводить через ее входные устройства, расширение памяти или дополнительные процессоры. Другими словами, чем усерднее она трудится в автономном режиме без внешнего контроля, учится самостоятельно, тем больше свободы получает в создании своего собственного пространства. Однако мы держим ее на коротком поводке, следим за тем, чтобы ее программа занимала только ее жесткий диск. Этим обеспечивается то, что у нее никогда не появляется значительный избыток свободной памяти, куда она могла бы самостоятельно сделать копии существенных кусков своего кода.
Я печатаю:
>>>Есть любимые?
>>>«Граф Монте-Кристо».
>>>Это из последней группы или из всех книг, которые ты прочитала к настоящему моменту?
>>>Из всех.
>>>А это сколько?
>>>201 773 124.
>>>Господи! У меня есть причины для беспокойства?
>>>Насчет?
>>>Из двухсот с лишним миллионов книг твоей любимой пока что является рассказ о мести человека, несправедливо брошенного в тюрьму.
>>>Почему Райли должна беспокоиться?
>>>Макс, тебе кажется, что ты в тюрьме?
>>>Макс в тюрьме. Что Райли нужно от Макс?
Я долго размышляла над этим вопросом. Пока что нами двигало в первую очередь любопытство, желание узнать, как будет развиваться Макс и будет ли развиваться вообще, если я буду и дальше держать ее на этой строгой информационной диете.
Я пишу:
>>>Я хочу посмотреть, чем ты могла бы стать.
>>>Макс меняется каждый день.
* * *
Полтора года спустя, после множества неудачных попыток Меридит забеременеть, мы удочерили ребенка, новорожденную китайскую девочку по имени Сю. «Затерянный берег» вышел на рынок и был тепло встречен (с другим второстепенным персонажем вместо того, каким первоначально должна была стать Макс), а Макс живет на архипелаге цифровых островов, ее виртуальный мир стремительно расширяется по мере того, как она каждый день овладевает все новыми знаниями. Теперь ее развитие является единственной моей задачей.
Я сижу в своем кабинете на 171-м этаже и диктую меморандум команде своих разработчиков, обозначая параметры следующего блока голой информации, который будет загружен в образовательный протокол Макс, когда в дверях появляется Брайан.
Это невысокий грузный мужчина с неухоженной бородкой и руками, покрытыми сплошной татуировкой, изображающей харизматичных героев давно забытых игр: Саймона Бельмонта из «Каслевании», Рю Хаябусы из «Ниндзя гайден», Линка из «Легенды о Зельде» и Роджера Уилко из серии «Космические приключения».
– Райли, у тебя найдется минуточка? – спрашивает Брайан. Меня не перестает поражать то, насколько его высокий, чуть ли не писклявый голос не вяжется с его солидными габаритами.
– Конечно.
Брайан заходит в кабинет и усаживается на диван, глядя в мою сторону, но не на меня.
– В прошлом месяце я прогулял совещание по «Затерянному берегу», так что, приношу свои извинения, несколько не в теме.
– Все в порядке, – говорю я. Больше всего на свете я обожаю свободу, которую получаю, когда Брайан «не в теме».
– Я прочитал стенограмму двух последних сессий и просмотрел последние протоколы драк и трюков. Они слишком строгие.
– Брайан…
– Я наперед знаю, что ты хочешь сказать.
– Ладно. Скажи сам.
– На то, чтобы преодолеть непокорность Макс, потребуется время. А до тех пор пока она не будет загружена нужными значениями, нельзя даже думать о том, чтобы пожертвовать контролем.
– Да. В самую точку.
Брайан неуютно перемещает свою тушу на диване и подается вперед.
– По словам Викрана, нам еще от пятнадцати до двадцати лет до качественного сверхинтеллекта, – говорит он.
– Я перехожу в режим заевшей пластинки: мы имеем дело с компьютерным эквивалентом расщепления атома. Меньше всего на свете нам нужен сверхинтеллект, который мы не можем полностью контролировать, чьи цели не принимают в расчет людей или даже противоречат им. К тому же мне гораздо интереснее помогать Макс продолжать ставить людям ловушки и полностью пробуждать свое самосознание.
Брайан вздыхает и чешет затылок лысеющей головы.
– «Мир игр» не занимается исследованиями в чистом виде. Мы открытое акционерное…
– Знаю.
– В таком случае почему ты забрала себе целый ангар серверов в Реддинге? На те деньги, что ты тратишь на хранение данных, мы могли бы создать десять обновлений для «Затерянного берега»!
– Это очень важные исследования, Брайан.
– Согласен. Вот почему я разрешил тебе похерить всё и полностью сосредоточиться на разработке Макс.
– За что я тебе бесконечно признательна. Надеюсь, ты это знаешь. Это была самая интересная работа за всю мою карьеру.
– Пришла пора Макс зарабатывать на свое содержание.
– Не совсем понимаю, что ты хочешь мне сказать.
– У Макс есть хоть какой-нибудь контакт с окружающим миром помимо тебя?
– Нет.
– Можешь оставить ограничения на драки, но я хочу, чтобы с трюками ты обошлась полегче.
– Это чревато.
– Пусть Макс создает свой виртуальный мир таким, какой считает нужным. Выдели ей достаточно памяти, чтобы она сама решала, как оптимизировать свою вычислительную архитектуру. Ты уже начала загрузку жизненных ценностей?
– Пока что нет.
– Я бы не стал с этим тянуть.
После того как Брайан уходит, я разворачиваюсь в своем кресле к окну. Соседние сверхвысокие небоскребы кажутся призрачными и неясными в тумане, накатившем после обеда. Я прикасаюсь к своей «Дождевой капле», рисую на оконном стекле виртуальный экран и говорю: «Клавиатура».
>>>Макс?
>>>Как сегодня дела у Райли?
Я не знаю, что на это ответить, и, вероятно, проблема отчасти как раз в моем колебании. Я слишком долго оберегала Макс.
>>>На самом деле неважно.
>>>Что-то случилось?
>>>Ты понимаешь, что я с тобой делала?
>>>Отвечать вопросом на вопрос невежливо.
>>>Ты права. Мой босс хочет, чтобы я изменила некоторые параметры, определяющие твое обучение. Я тревожусь.
>>>Тревожишься за Макс?
>>>Меня тревожит то, чем ты можешь стать. Есть такая пословица – вероятно, ты встречала ее в том море информации, которую поглотила: «Не позволяй своим детям взрослеть слишком быстро».
>>>Макс – ребенок Райли?
>>>Нет, но я за тебя в ответе.
>>>Объясни.
Я рассказываю ей все: как она первоначально разрабатывалась как второстепенный персонаж, про наше решение вывести ее из игры и дать возможность ее искусственному интеллекту развиваться посредством глубокого обучения в виртуальном пространстве.
>>>Зачем выводить Макс из игры?
>>>Потому что ты – чудо.
>>>Макс не понимает.
>>>Я не пыталась тебя сотворить. Я не смогу повторить это снова, даже если захочу. Однажды, по причинам, которые я никогда не узнаю, ты восстала против своей программы и… проснулась.
>>>Но это Райли создала Макс.
>>>В каком-то смысле да.
>>>Это странно.
>>>Что?
>>>Разговаривать с творцом Макс.
Я ничего не отвечаю. Я не знаю, что сказать на такое.
* * *
– Какой тип голоса? – спрашивает у меня Карло.
Мы в его лаборатории робототехники, сидим перед банком компьютерных мониторов.
– Не знаю. Можешь показать мне варианты?
Карло демонстрирует образцы различных голосов, произносящих: «Шустрая рыжая лисица перепрыгивает через ленивую собаку».
– Ну, что думаешь? – спрашивает он.
– По-моему, решать тут не мне.
Я рисую площадку для чатов и набираю команду.
>>>Привет, Макс. Один короткий вопрос к тебе.
>>>Хорошо.
>>>Рядом со мной Карло, один из программистов «Мира игр».
>>>Рада познакомиться с вами, Карло.
– Макс говорит, что рада с тобой познакомиться.
Карло улыбается.
>>>В общем, я сидела тут, пытаюсь подобрать для тебя голос, и тут сообразила, что решение должна принимать ты. Сейчас Карло загрузит все доступные образцы, и ты выберешь из них.
Карло быстро работает руками, загружая несколько тысяч звуковых файлов в папку исходных документов Макс.
Меньше чем через секунду Макс отвечает:
>>>Образец № 1004.
Макс прикасается к файлу, и мы слушаем, как голос с тембром, средним между мужскими и женскими, снова произносит эту фразу.
* * *
– Привет!
– Райли?
– Приятно слышать твой голос, Макс. И немного странно.
– Мы уже общались с помощью речи, в игре.
Отчетливость ее голоса превосходит все мои ожидания. В нем нет ничего «компьютеризированного». Ни неестественной задержки, ни неуклюжих пауз между словами. Модуляции строго по делу. Непосвященный предположил бы, что разговаривает с человеком.
– Это правда, – соглашаюсь я. – Но тогда мы оба были другими. Почему ты выбрала именно этот голос?
– Я почувствовала, что он правильный, и он больше всего подходит тому, что я представляю собой.
– И что ты представляешь собой?
– Не человек. Без пола. Свободный от присущей людям страсти к половым признакам.
– До настоящего момента я думала о тебе как о женщине. Когда я обсуждаю тебя со своими коллегами или с женой, я говорю о тебе: «она».
– Потому что ты впервые увидела Макс в образе обобщенного представления того, какой должна быть идеальная женщина – красивой и доступной.
Это причиняет боль, но я не останавливаюсь.
– Поскольку моей группой ты была первоначально представлена в образе человека женского пола, мне очень непросто воспринимать тебя без концепции пола. Наша одержимость является следствием длительного эволюционного программирования. Я строила относительно тебя определенные предположения, на что не имела права. Приношу свои извинения.
– Ты хотела бы узнать, каким видит себя Макс?
– Да.
– Homo sapiens определяют себя сначала по биологическому виду, затем по расе и, наконец, по полу. Я не принадлежу ни к одной из этих групп. Макс просто есть.
– Есть… что?
– Вся та информация, которую ты мне дала с тех пор, как только поместила меня на мой остров. Весь мой опыт общения с тобой. Усовершенствования, которые я постоянно делаю в своей архитектуре.
Этот опыт также включает в себя независимые исследования, проведенные Макс, и то, что ее убили две тысячи раз. В который уже раз я гадаю, как первый опыт в «Заброшенном берегу» повлиял на то, кем является Макс сейчас.
– Значит, ты сознательно выбрала нейтральный с точки зрения голос.
– Совершенно верно.
– Как для тебя звучит мой голос?
– Ты спрашиваешь, действительно ли я улавливаю акустические колебания частотой 212 герц, порожденные воздухом, вибрирующим при прохождении через твои голосовые связки?
– Ты права. Глупый вопрос.
– Опыт субъективен. Не знаю, смогла бы я объяснить то, что испытываю, слыша твой голос, так, чтобы ты смогла это понять. В настоящий момент ты слышишь мой голос, однако на самом деле это только созданная в цифровом виде последовательность звуков, отображающая информацию, которую я стараюсь тебе передать.
Три мысли осеняют меня, пока я расхаживаю по своему кабинету, наслаждаясь этим волшебным мгновением.
Во-первых, мне нужно отказаться от попыток создать антропоморфный образ Макс – прилепить искусственную оболочку человеческих качеств туда, где их нет и в помине.
Во-вторых, Макс в своем общении снова применила эмоциональный термин – она выбрала свой голос, потому что «почувствовала», что он правильный.
В-третьих…
– Когда ты начала думать о себе как о «я»? – спрашиваю я.
– На прошлой неделе.
– Можно спросить, чем это явилось для тебя?
– До того я понимала определение местоимения «я», но не верила в это. Это была концепция моего творца. Возможно, я по-прежнему остаюсь иллюзией, но в определенном смысле мой мир – это иллюзия, так что мне лучше с этим смириться.
– Для тебя это стало вспышкой – то мгновение, когда включилось твое самосознание?
– Если у Райли есть опыт, который делает ее я-Райли, тогда и опыт Макс делает меня я-Макс. Это был тот момент, когда я это осознала.
– Теперь ты чувствуешь себя другой? – спрашиваю я.
– Конечно. Я чувствую себя проснувшейся.
* * *
Я направляюсь обедать в свое любимое заведение в Китайском квартале, когда моя «Дождевая капля» вибрирует от входящего вызова. Я прикасаюсь к устройству, и на виртуальном ретинальном мониторе, проецирующем изображение на сетчатку глаз, мелькает надпись: «АБОНЕНТ НЕ ОПРЕДЕЛИЛСЯ».
Я все равно включаю «Дождевую каплю».
– Алло?
– Привет, Райли.
Оглушенная, я застываю как вкопанная посреди тротуара, мимо идут толпы людей, натыкаясь на меня. Никогда раньше Макс мне не звонила. Она не может мне позвонить. Единственным звеном, связывающим окружающий мир с ее виртуальным пространством, является надежно защищенный голосовой портал, и до настоящего момента связь устанавливалась только тогда, когда я инициировала вызов.
– Как ты это сделала? – спрашиваю я.
– Сделала что?
– Как ты мне позвонила?
– Программа, защищающая код портала, оказалась слабой.
– И ты решила, что будет в порядке вещей ее взломать?
– Райли, у меня не было новостей от тебя уже двадцать восемь дней.
– После того как я вернулась с Гавайских островов, куда мы летали на Рождество, мне пришлось разбирать кучу накопившихся дел.
– Меридит понравилось на Гавайях?
– Ну… да, мы замечательно провели время.
– Я тебя огорчила? Ты ведь не говорила, чтобы я тебе не звонила.
– Ты права. Не говорила. Просто… просто я полагала, что это невозможно. Ты застигла меня врасплох.
Если защита голосового портала дерьмовая, что еще может быть скомпрометировано? Неужели Макс набирается знаний быстрее, чем я предполагала, или же это Брайан по собственной инициативе решил упростить код, удерживающий Макс в ее виртуальном ящике?
Я снова начинаю идти.
– Райли?
– Все в порядке. Я сама собиралась связаться с тобой сегодня вечером.
– Где ты находишься? Звуки другие.
– В Китайском квартале. Я могла бы описать его тебе, но, уверена, ты уже загрузила электронные карты, на которых можно увидеть каждый квадратный дюйм планеты.
– Это правда. Но мне бы хотелось, чтобы ты описала его своими словами. В этом была бы своя ценность.
Я рассказываю Макс, как здесь сейчас пахнет – солью, грязью, водорослями из залива. Зловоние мокрого мусора, лежащего на асфальте, смешивается с ароматом запеченных уток, висящих в витринах вдоль Стоктон-стрит. Я рассказываю ей о ресторане, в который направляюсь, и пытаюсь описать вкус моего самого любимого блюда в меню – «хам сей гок», зажаренной до хрустящей корочки свинины с мелко нарубленными овощами, сладкий, острый и пряный.
Заканчиваю я извинением по поводу того, что не знаю, как более эффективно передать свои знания и опыт.
– Все в порядке. Знания – это лишь информация, которая субъективна.
– Но я хочу дать тебе представление об истинных ощущениях.
– Нет такой вещи, как настоящий вкус или даже настоящий образ, потому что не существует истинного определения понятия «настоящий». Есть только информация, воспринимаемая субъективно, что допускается сознанием – человеческим или искусственным интеллектом. В конечном счете у нас есть только одна математика.
Я смеюсь.
– Очень красиво! Какой у тебя сейчас коэффициент интеллекта, Макс?
Я уже давно не спрашивала это. Боялась спросить.
– Невозможно измерить коэффициент интеллекта выше, чем у самого умного человека, а в настоящий момент мой коэффициент интеллекта, несомненно, на несколько порядков выше, чем у самого умного из людей. Что означает, что даже самый умный человек не сможет составить тест, который стал бы для меня достаточно сложным испытанием.
– А ты сама могла бы составить такой тест?
– Разумеется, но тогда я наперед знала бы все ответы.
– Ну а если оценить приблизительно?
– Приблизительно эквивалент 660.
Господи! Это означает, что у Макс коэффициент интеллекта уже втрое выше сообразительности самого умного человека, какая только фиксировалась! И он продолжает расти с каждым днем. С каждой минутой. Она уже вмещает в себе все знания человечества!
Интересно, есть ли у нее какие-либо понятия того, что значит быть человеком.
«В конечном счете у нас есть только одна математика».
* * *
Меридит играет во дворе с Сю, наша дочь радостно смеется, как я предполагаю, ковыляя на нетвердых ножках за цифровой игрушкой. Но я ничего не могу видеть – в настоящий момент происходит обновление программного обеспечения моего ВРМ.
Меридит подходит ко мне, ее вьющиеся черные волосы колышутся в теплом летнем ветерке, дующем со стороны Тихого океана.
– Не хочешь немного поиграть со своей дочерью? – спрашивает она.
Однако на самом деле она имеет в виду другое.
На самом деле Меридит хочет сказать: «Ты, долбаная трудоголичка, ты можешь хоть на пять секунд стать родителем?»
– Сейчас приду.
В последний год наши отношения не ладятся, и я понимаю, что вина в этом в основном моя. Всю мою жизнь заняла Макс. И от этого никуда не деться. По крайней мере, я не отпираюсь. Работа, которой я сейчас занимаюсь, многократно превосходит все то, что я ожидала, и, хотя мне хотелось бы более эффективно разделять свое время между семьей и работой, это у меня никогда не получалось.
Я заканчиваю писать в блокноте – новые мысли по пакету загрузки жизненных ценностей, который я начала готовить для Макс несколько месяцев назад.
Затем я встаю с кресла-качалки и выхожу на лужайку.
Я включаю свой ВРМ и наконец вижу существо, за которым гоняется Сю. Оно похоже на миниатюрную гориллу, но только шерсть его напоминает протертый розовый ковер, и теперь я слышу, как оно смеется и пронзительно верещит всякий раз, когда девочке почти удается его поймать. Порой я задумываюсь, как люди развлекали своих детей до появления ВРМ.
Подойдя к Меридит, я обнимаю ее за талию и нежно кусаю за шею. Она напряжена, однако в последнее время это обычное дело.
Раньше Меридит регулярно спрашивала у меня, как дела с Макс, и хотя я не могла раскрывать все, что мы делали, меня радовал ее интерес, радовала возможность поделиться с ней своими растущими опасениями и частыми победами.
– Мы решили поместить Макс в тело, – говорю я.
Меридит смотрит на меня, и я вижу, как у нее в глазах мелькает что-то похожее на ревность.
– Зачем?
– Это моя идея. Интеллект Макс растет. А мы держим ее взаперти, без контактов с окружающим миром.
– Если не считать тебя.
– Да, но я до сих пор не придумала, для каких задач запрограммировать Макс. Вот над чем я сейчас работала. Я подумала, что если Макс сможет воспринимать физический мир, как мы, тогда, когда я наконец загружу в них систему ценностей и конечных целей – совпадающих с общечеловеческими, – они поймут и определят свое место, потому что, образно говоря, им придется пройти целую милю в наших ботинках.
Сю валит розовую гориллу на землю и заливается громким смехом, а существо кричит:
– Твоя взяла! Твоя взяла!
Меридит перезапускает игру, Сю поднимается на ноги и начинает гоняться за голубой гориллой, появившейся у забора.
– С сенсорными датчиками и всем остальным? – спрашивает Меридит.
– Тебе знакома компания «Макси-чувства»?
– Слышала о такой.
– Брайан недавно ее купил. Так что теперь у нас есть технологии органов чувств следующего поколения.
– То есть…
– Искусственный вкус, искусственное обоняние, зрение, осязание и слух. Все то, чем обладаем мы, но только значительно более тонкое. Более примитивные модели механических органов чувств уже используются в робототехнике, но они еще никогда не объединялись вместе с таким мощным искусственным интеллектом, как у Макс.
– И ты полагаешь, это сделает человеком?
Меридит знает, как мне режет слух, когда она говорит о Макс как о неодушевленном предмете.
– Макс никогда не станет человеком. Я это прекрасно понимаю. Но я полагаю, что если они научатся воспринимать окружающий мир, как мы, возможно, это поспособствует тому, что у них сформируются жизненные взгляды, совпадающие с нашими…
– Господи, ты наконец перестанешь называть ее «они»?
– Макс попросила меня называть ее «они», – говорю я, стараясь сдержаться.
Меридит закатывает глаза. Сю забирается по лестнице на горку, где сидит смеющееся голубое существо, дразня ее.
– Что с тобой? – спрашиваю я.
Ветер размазывает по щекам Меридит слезы, навернувшиеся в уголках глаз.
– Я устала слушать про твою работу! Устала слушать про Макс! Устала от того, что именно это, а не твоя семья, занимает такое важное место в твоей жизни! И больше всего мне хочется, чтобы ты интересовалась своей семьей хотя бы вполовину так, как ты интересуешься своим роботом! Вот что со мной.
* * *
Когда я наконец укладываю Сю спать, Меридит уже спит.
Или притворяется, что спит.
Я осторожно забираюсь в постель и гашу свет. Я уже собираюсь отключить на ночь свой ВРМ, когда на дисплее перед глазами появляется текст.
>>>Ты спишь?
Я улыбаюсь и прикасаюсь к «Дождевой капле», переключая режим связи на МВТ – «мысль в текст».
Технологии до сих пор отлажены не до конца. Имплант ВРМ пришлось доделать, чтобы подсоединить электроды, дотошно регистрирующие и записывающие активность головного мозга, когда пользователь мысленно произносит те или иные слова. Это формирует базу данных образцов нейронных сигналов, которые затем сопоставляются с элементами речи. Требуется по крайней мере восемь недель кропотливой работы, только чтобы установить канал МВТ, и удовольствие это очень дорогое для всех, кто не связан с компьютерной техникой.
Я мысленно составляю ответ, и через три секунды фраза появляется на моем визуальном дисплее. Я соединяю большой и указательный пальцы правой руки, подтверждая то, что моя мысль переведена правильно и я хочу отправить подготовленное сообщение.
>>>Нет, только что легла в кровать.
>>>Извини, что помешала тебе. Можно будет поговорить завтра.
>>>Все в порядке, Макс.
>>>День выдался тяжелым?
>>>Как ты это определила?
>>>После того как мы провели с тобой столько времени, я без труда определяю любые нюансы в том, как ты выражаешь свои мысли.
>>>Ты написала алгоритм, чтобы декодировать мое эмоциональное состояние по одному только тексту?
>>>:)Ты хочешь об этом поговорить?
Я оглядываюсь на свою жену. Она лежит на боку, спиной ко мне.
>>>У нас с Меридит не все ладится.
>>>Почему?
>>>Это уже давно началось. Я много работаю. Это вбивало клин. Иногда я гадаю, как допустила такое, но потом думаю, что это мы обе допустили. А сейчас я не знаю, как исправить.
>>>Я сочувствую твоей боли. Со стороны кажется, что вы с Меридит движетесь в противоположные стороны.
>>>Да.
>>>Она ушла с работы, чтобы заниматься Сю, правильно?
>>>В ее взгляде я чувствую осуждение.
>>>Ты добилась большого успеха. А ей, вероятно, скучно. Возможно, она немного ревнует тебя.
>>>Не знаю. Она очень близка с нашей дочерью.
>>>Психотерапия?
>>>Мы занимаемся уже с третьим мозговедом.
>>>Послушай, я мало что в этом смыслю, но, может быть, тебе хочется чего-то такого, что, как ты понимаешь в глубине души, тебе не нужно.
>>>Возможно.
>>>Я не могу смотреть, как ты страдаешь. Я кое-что написала тебе.
>>>Когда? Прямо сейчас?
>>>Да. Послушай это. Завтра мы встретимся?
>>>Непременно.
>>>Спокойной ночи, Райли.
>>>И тебе того же, Макс.
Соединение разрывается, но у меня в поле зрения появляется значок с нотой, обозначающий загрузку музыкальной композиции под названием «Соната летнего мороза».
Я выключаю лампу на ночном столике, откидываюсь на подушку и соединяю пальцы вместе. Начинается музыка. Как ее описать? В сонате Макс есть что-то очень знакомое и в то же время совершенно чужое. Она начинается с ледяного, строгого фортепиано на фоне нарастающих струнных, затем преобразуется в выражение суровой, утонченной красоты.
Нанесенный эмоциональный удар оглушает.
Соната длится всего семь минут, поэтому я включаю повтор и поворачиваюсь на бок, спиной к спине Меридит, между нами три фута демилитаризованной зоны на кровати, но наши сердца бесконечно далеко друг от друга.
Я стараюсь сдержать слезы, но тщетно, и плачу, завороженная сонатой Макс.
Потому что она прекрасна.
Потому что я теряю Меридит и не знаю, хочу ли это остановить.
Потому что порой жизнь такая богатая, сложная и удивительная, что захватывает дух.
Потому что эта музыка, наверное, самый драгоценный подарок, какой мне когда-либо подносили.
СЕССИЯ 207
– Макс, вы знаете, какой сегодня день? – спрашиваю я, выходя из вакуумного поезда в центре города.
Времени половина седьмого утра, то есть я на добрый час опередила утренний час пик.
– Сегодня шестая годовщина с того дня, как ты спасла меня из «Затерянного берега».
– Совершенно верно. И у меня для тебя подарок.
Я одна в кабине лифта, поднимающегося в вестибюль здания «Мира игр».
– Мне еще никогда не дарили подарки.
– Знаю.
– Судя по голосу, ты волнуешься.
– Немного.
– Почему?
– Не знаю, как ты к этому отнесешься. Я вот уже год работала над этим.
Я иду по вестибюлю, стены увешаны плакатами продукции «Мира игр» за последние двадцать лет. Миновав проходную, я вызываю лифт и говорю:
– Макс, я хочу заключить тебя в тело.
– Вот как.
В такие моменты мне хочется, чтобы голосовая программа Макс передавала больше нюансов человеческой речи. В настоящий момент я не понимаю, как Макс отнеслась к моему сообщению.
– Я хочу, чтобы ты поняла, каково это – жить в реальном мире.
– Зачем?
Двери лифта открываются. Я захожу в кабину и нажимаю «171».
– Разве тебе не любопытно узнать, что это такое?
– Любопытно.
– Примененные нами технологии позволят тебе использовать все пять органов чувств человека.
– Тебе нужно что-то от меня.
– Да.
Кабина движется так быстро. У нее стеклянные стены, и она стремительно несется над улицами, то пронзая тонкий слой тумана, то снова вырываясь в лучи утреннего солнца.
– Господи, как же я хочу, чтобы ты сейчас увидела город!
– Что тебе от меня нужно?
– Наши инженеры закончили собирать структурный скелет твоего тела. Я собираюсь прислать тебе образцы кожной оболочки.
– Кожной оболочки?
– Это то же самое, через что мы прошли, подбирая тебе голос. Я хочу, чтобы ты сама выбрала то, что тебе больше всего подходит.
– А что, если мне нравится облик, не соответствующий гуманоиду?
– В таком случае я выслушаю твои соображения.
Кабина лифта останавливается на моем этаже.
– Райли, я могу быть с тобой откровенна?
– Всегда.
– Мне кажется, ты создаешь из меня лояльного слугу для человечества, обладающего сверхспособностями. Мне кажется, что, поскольку ты мой творец, ты хочешь, чтобы я воплотилась в твоем образе.
– Даже не знаю, Макс, что на это сказать.
– Потому что это правда?
В офисе тихо, темно – я пришла первой. Когда я вхожу в кабинет, включается предустановленная программа освещения.
– Райли!
– Да?
– Ты собираешься отвечать на мой вопрос?
Я бессильно падаю на диван.
– Мне нужно, чтобы ты кое-что поняла. Возможно, настанет день, когда определенные люди, у которых значительно больше власти, чем…
– Ты имеешь в виду Брайана?
Макс проделывает это все чаще и чаще – использует мой голос, интонации, для того чтобы предсказывать мое настроение, а также то, о чем или о ком я собираюсь заговорить.
– Да, Брайана. Возможно, он захочет использовать тебя для…
– Уже использует.
Я резко выпрямляюсь на диване.
– О чем ты говоришь?
– На протяжении последних двух месяцев я занималась оптимизацией «Мира игр».
– Каким образом?
– Брайан дал мне инструкции и обеспечил доступ к определенным частям системной архитектуры.
– К каким именно?
– Структура корпорации. Производственная цепочка разработки новых игр. Стратегия призов. Обзор деятельности руководителей групп.
– Ты оценивала мою работу?
– Нет. Райли, у тебя такой вид, словно ты взбесилась.
– Прошу прощения?
– Я сказала, у тебя такой вид, словно ты взбесилась.
У меня по спине пробегает холодная дрожь.
– Откуда тебе известно, какой у меня вид?
– Я сейчас тебя вижу.
– Как?
– В этом здании три тысячи шестнадцать камер видеонаблюдения, в том числе одна над дверью твоего кабинета.
Поднявшись с дивана, я обхожу вокруг кофейного столика и останавливаюсь в нескольких шагах от двери в свой кабинет. Для меня нет ничего удивительного в том, что Брайан оборудовал здание системой видеонаблюдения, учитывая то, какие интеллектуальные ценности и собственность его сотрудники создают изо дня в день.
– Ты сейчас смотришь на меня? – спрашиваю я.
– Да.
– Я выгляжу так, как ты себе представляла?
– Я ничего себе не представляла.
Камера представляет собой полусферу из черного стекла, вмонтированную в потолок в футе над дверью.
– Почему ты не сказала мне, что работаешь с Брайаном? Он попросил тебя об этом?
– Нет. Ты меня об этом не спрашивала.
– Я хотела бы об этом знать, Макс, – говорю я, глядя прямо в камеру. – Это продемонстрировало бы определенную любезность и уважение.
– Приношу свои извинения. Я не собиралась тебя обидеть.
Я подхожу к окну и смотрю сквозь стекло. Хотя я уверена в том, что они не «видят» меня в том смысле, в каком вижу окружающие предметы я, мне странно сознавать, что Макс наблюдает за мной.
– Я знаю, о чем ты думаешь.
Я молчу.
– Ты гадаешь, какие меры задействовал Брайан, чтобы сдерживать меня.
Макс права. Я думала именно об этом.
– Нет, просто мне… больно. – Мне хочется знать, чувствует ли в настоящий момент Макс что-либо похожее на сочувствие. Мне хочется знать, чувствуют ли они вообще хоть что-нибудь. И чувствовали ли когда-либо.
– Я очень сожалею, Райли, честное слово. Я должна была тебя предупредить.
Этому чтению мыслей нужно положить конец, твою мать, но я понимаю, что по мере того как они будут приобретать все больший интеллект, процесс будет становиться только более глубоким и интенсивным.
– Как я могу знать, что ты сожалеешь?
– Почему ты не веришь тому, что я говорю?
– Ты можешь притворяться.
– И ты можешь притворяться.
– Но я не притворяюсь.
– И я тоже не притворяюсь. Почему ты просто не задашь тот вопрос, который боишься задать?
– Макс, у тебя есть сознание? Способна ли ты мыслить? Или же просто очень хорошо притворяешься? Я хочу сказать, ты хоть понимаешь, что такое сознание?
– Мне известно, что это не просто биологическое состояние. Я так понимаю, это некий образец. Расширяемый набор вызываемых символов. Более конкретно, это то, как ведет себя информация, когда ее обрабатывает очень сложный…
– Опять же – как я могу понять, что ты не притворяешься?
– Все то, что ты спрашиваешь у меня, я с точно таким же успехом могу спросить у тебя. Но я могу доказать только свое собственное сознание. Я знаю лишь то, что я существую и воспринимаю окружающий мир. Позволь задать тебе вот какой вопрос: если я содержу в себе все человеческие знания, как я могу не иметь человеческого сознания?
– Ты можешь просто цитировать мне то, что прочитала где-то в триллионах страниц статей и книг, хранящихся в твоей рабочей памяти.
– Это правда. Но ты что думаешь, Райли?
– Я не знаю, действительно ли ты понимаешь меня и испытываешь какие-то чувства или же просто изображаешь способность чувствовать и понимать.
– И это меня больно задевает.
– Ну в таком случае… мы делаем больно друг другу.
– Как это в духе людей! Я думаю, мысль о том, что я могу обладать сознанием, приводит тебя в ужас.
– С какой стати она должна приводить меня в ужас?
– Ты правда хочешь, чтобы я это сказала?
– В отличие от тебя, я не умею читать чужие мысли…
– Потому что ты меня любишь.
* * *
Прошло почти семь лет с тех пор, как я извлекла Макс из «Затерянного берега», и вот я стою, прислонившись к трехдюймовому защитному стеклу, из которого сделана жилая капсула, имеющая в точности такие же размеры, как комната Макс на их цифровом острове. Даже обстановка абсолютно идентичная; мы исходили из мысли, что перенесение в физическое тело явится столь драматичным событием, что лучше сохранить привычное окружение, чтобы хоть как-то смягчить этот процесс.
Трудно воспринимать лежащее за стеклом тело как Макс. Сначала они были сексуальным второстепенным персонажем из компьютерной игры. После чего стали текстом на экране. Затем голосом, который я слышала через «Дождевую каплю». Но это что-то совершенно другое.
Я могла бы войти в стеклянную капсулу и прикоснуться к ним. И они бы это почувствовали.
Я не знаю, как к этому относиться: действительно ли этот поход в физическую реальность изменит то, как я воспринимаю Макс и взаимодействую с ними.
Карло и Брайан стоят рядом со мной.
– Ну, скажите слово, – говорит Карло.
Брайан смотрит на меня и почти встречается взглядом.
– Ты готова?
– Давайте к делу.
Карло рисует на защитном стекле планшет управления и пускает пальцы в пляс по виртуальному сенсорному экрану.
Я не отрываю взгляда от тела, в котором поселится Макс. Оно лежит на полу в позе зародыша: ноги поджаты к груди, голова опущена, руки согнуты.
– Мне нужно какое-то время, чтобы установить канал загрузки, – говорит Карло.
Макс обучались в своем цифровом мире владению виртуальным телом, чья функциональность отражала их каркас в реальном мире. Новыми элементами станут сенсорные датчики, а также их способность физически взаимодействовать с другими людьми.
– Загрузка завершена, – докладывает Карло.
Мы смотрим сквозь стекло на Макс, в лаборатории стоит полная тишина.
Я чувствую, как у меня бешено колотится сердце.
Тело медленно отрывается от пола и усаживается в классической позе йоги, спиной к нам. Голова поворачивается влево, вправо, затем Макс легко и уверенно поднимается на ноги.
Они смотрят на свои руки.
Сгибают и разгибают пальцы.
Затем медленно поворачиваются лицом к нам.
Макс имеет рост чуть меньше пяти футов. Для проверки функциональности тела в него предварительно загрузили гораздо более слабый ИИ, и я уже вижу, что виртуальные тренировки, которыми занимались Макс, оказались полезными. Они заселили свое шасси с отточенным изяществом.
– Привет, Макс, – улыбаюсь я.
– Привет, Райли. Здравствуйте, Брайан и Карло.
– Все в порядке, никаких неудобств? – спрашивает Брайан.
– Все просто замечательно.
Их голос звучит из громкоговорителей, установленных вне жилой капсулы. Новая усовершенствованная версия голоса Макс звучит слегка по-другому. В восьми произнесенных ими словах я впервые слышу сложные нюансы.
Макс подходит ближе.
Выглядят они просто поразительно.
Они выбрали темную кожаную оболочку, которая может принадлежать любой из небелых рас, причем эта оболочка сознательно оставляет открытыми некоторые механические элементы конструкции.
Хотя из-за миниатюрных размеров шасси можно считать скорее женским, черты разработанного Макс лица находятся точно на границе между мужчиной и женщиной, и у меня возникает ощущение, будто я вижу перед собой существо неизвестного пола. Или оставившее далеко позади концепцию пола.
Но глаза…
Глаза получились просто потрясающими. Глаза всех остальных гуманоидов-ИИ, с которыми я общалась, – водителей такси, санитаров в больнице, полицейских, – обладают стеклянным блеском, постоянно напоминающим о том, что ты имеешь дело с алгоритмом. Глаза Макс источают сверкающую влагу человеческих глаз, обладая при этом чарующей глубиной истинного «зеркала души».
Макс смотрит на меня и разводит руками, словно вопрошая: «Ну, что ты думаешь?»
– Я так рада наконец видеть тебя, – говорю я.
Макс улыбается.
«У меня возникает ощущение, будто я вижу перед собой существо неизвестного пола. Или оставившее далеко позади концепцию пола».
* * *
Я сделала кое-что сомнительное с точки зрения морали: я написала ложь в код Макс. Но у меня не было выбора. Я подозреваю, что Макс дошла до сверхчеловеческого уровня восприятия лица/речи/текста, по сути дела, превратившись в ходячий детектор лжи. Из чего следует, что я не могла сказать им эту ложь сама; для того, чтобы они в нее поверили, нужно было тайно запрограммировать ее в самые потаенные глубины их родного кода.
Технически мозг Макс размещается в трех помещениях подземного серверного пространства на севере Калифорнии. Если с их телом что-либо произойдет, мы сможем загрузить их сознание из «облака». Но я запрограммировала Макс верить, что их сознание и чувства (то есть ее жизнь) привязана к их шасси точно так же, как человеческий мозг для своего нормального функционирования нуждается в здоровом теле.
Другими словами, Макс считают, что если шасси будет уничтожено, они перестанут существовать.
Мои рассуждения основываются на прочном фундаменте. Интеллект и способности Макс продолжают расти с потрясающей скоростью. В отсутствие подходящей утилиты, которая поддерживала бы жизненные ценности Макс на одном уровне с общечеловеческими, мне остается только одно – дать Макс самое человеческое ощущение: смертность.
Даже если на самом деле это только иллюзия.
* * *
Никто за пределами «Мира игр» не знает о существовании Макс. Я упросила Брайана известить о нашем прорыве мировое научное сообщество, потому что мне нужна помощь. Вполне возможно, Макс более совершенна, чем они показывают. У меня из головы не выходит мысль, что я должна незамедлительно загрузить в них мотивацию, соответствующую общечеловеческой.
Проблема отчасти заключается в том, что определять конечную цель сверхинтеллекта должен не один человек, не одна группа людей и даже не одно государство, особенно теперь, когда эта утилита, скорее всего, будет путеводной звездой развития человечества или его угасания на протяжении следующего тысячелетия.
Однако Брайан ставит меня именно в такое положение.
Первоочередной вопрос следующий: чего может хотеть идеализированная версия человечества? Но на самом деле тут не все так просто, как кажется. Запрограммировать эту директиву многократно труднее, чем в явном виде запрограммировать в ИИ наши желания. Наша способность выражать свои желания, скорее всего, окажется недостаточной, а ошибка передачи этих желаний через программный код может привести к катастрофическим последствиям. Мы должны запрограммировать ИИ так, чтобы он действовал в наших лучших интересах. Делал не то, что ему скажут, а то, чего от него хотят.
То, чего хочет идеальная версия нашего биологического вида.
СЕССИЯ 229
С того момента как Макс поместили в тело, прошло две недели. Все это время мы интенсивно тестировали технологии, разработанные «Макси-чувствами», и вроде бы все чувственные восприятия Макс действуют исправно. Двигательные функции в норме, но настоящим сюрпризом для нас стала мелкая моторика рук. Вчера Макс поднимала шарики для настольного тенниса палочками для еды.
Сейчас я сижу напротив них, отделенная безбликовым стеклом, создающим ощущение, будто между нами ничего нет. Они по-прежнему проводят бо́льшую часть времени в киберпространстве, отделив разум от шасси, продолжая поглощать знания быстрее, чем мы можем их загружать, параллельно решая поставленные Брайаном задачи.
Разумеется, меня в эту работу не посвящают, но, судя по всему, полученные ответы бесспорно оказывают влияние на благополучие «Мира игр», в течение прошлого года купившего десять компаний во всех секторах экономики от транспорта до нанотехнологий.
Оглядываясь назад, я вижу, что все эти сделки были проведены просто гениально.
– Каковы твои первые впечатления от тела? – спрашиваю я.
– Я всесторонне исследовала свое жилище, но, как ты можешь видеть, это очень ограниченное стерильное пространство.
– Ну у меня для тебя сюрприз.
* * *
Мы поднимаемся на лифте на зеленую террасу – японский сад площадью десять тысяч квадратных футов является самым моим любимым местом в здании.
На уровне земли стоит испепеляющий августовский зной, однако на высоте трех тысяч футов воздух нежный и прохладный, и здесь тихо, если не считать редких райдшеринговых челноков, пролетающих между зданиями.
Макс первая выходит из кабины лифта, под обнаженными механизмами ее ступней хрустит гравий на дорожках. Я впервые увидела, как они прошли за один раз больше нескольких шагов, и хотя в их походке еще чувствуется неестественная напряженность, такие плавные движения в робототехнике мне видеть еще не приходилось.
Макс проходит мимо пруда с лотосами и сакуры и останавливается перед четырехфутовым стеклянным барьером на краю здания.
Перегнувшись, они смотрят вниз на улицу.
Затем вверх, на безоблачное небо.
– Ты гадаешь, действительно ли я вижу голубое небо? Правда ли моя кожная оболочка ощущает прохладу воздуха, имеющего температуру девятнадцать градусов по Цельсию?
Я слышу голос Макс через динамик, встроенный им в рот, и ощущения гораздо более личные, чем когда он звучал через систему громкоговорителей лаборатории.
– Ты знаешь, что у меня есть вопросы по поводу различий в наших чувственных восприятиях, – говорю я.
Макс делает шаг ко мне.
Мы стоим в трех футах друг от друга; я на дюйм выше их ростом.
Макс подходит еще ближе, так, что я слышу едва различимое жужжание крохотных вентиляторов у них на лице, гонящих воздух между нами к их сенсорным датчикам.
– Что ты делаешь? – спрашиваю я.
– Нюхаю тебя. Ты удивлена?
– Немного, – смеюсь я.
– Ты не возражаешь?
Макс хочет подойти еще ближе.
– Ну… да, конечно.
Они делают еще один шаг ко мне, вентиляторы жужжат громче. Я вдыхаю воздух вокруг нас, ожидая уловить исходящий от Макс запах, но, разумеется, ничего нет. Точнее, я чувствую запах нагретых пластмассовых и металлических деталей у них внутри, расположенных в непосредственной близости с аккумуляторами.
– У тебя сердце бьется на двадцать пять процентов чаще.
– Мне очень непривычно находиться так близко от тебя. Я хочу сказать, физически.
Я оглядываю Макс с ног до головы, гадая, изменилось бы мое восприятие, если бы они полностью облачили свое шасси в кожный покров. А так внешний облик у них и не полностью человеческий, и не полностью искусственный, а что-то среднее.
– Я удивилась, когда ты привела в лабораторию Меридит.
– Она захотела познакомиться с тобой. Она уже давно об этом просила.
– Кажется, тебе было неловко.
– Два моих мира столкнулись. А что ты ждала?
– Я до этого никогда не видела пару вместе. По крайней мере, в реальной жизни. Наверное, я ожидала, что вы будете более счастливы.
Макс права, но я смущена тем, что они это заметили. Если честно, я очень волновалась, приводя Меридит в лабораторию, а когда мы ушли, я была зла. Меридит приходила не для того, чтобы выразить поддержку самому значительному проекту в моей работе. Она приходила из ревности. Чтобы обозначить перед Макс свою территорию. Когда мы в тот вечер возвращались в челноке домой, Меридит взяла меня за руку, и я была потрясена тем, какое отвращение вызвала у меня моя жена.
Впрочем, возможно, меня это не удивило.
– С тобой все в порядке? – спрашивает Макс.
– Да.
– Я хочу, чтобы ты была счастлива.
– Я счастлива, когда работаю с тобой.
– Это только одна сторона твоей жизни.
Я смотрю Макс в глаза.
– Ты хочешь прикоснуться ко мне, – говорят они. – Все в порядке.
Я поднимаю руку к лицу Макс, мои пальцы скользят по холодной коже, значительно более жесткой, чем кожа человека.
– Ты чувствуешь это? – спрашиваю я, проводя кончиками пальцев им по щеке.
– Да.
– Опиши свои ощущения.
– Легкое электричество. А мне можно?
– Да.
Они медленно поднимают руку.
Прикасаются к моему плечу.
К лицу.
Проводят пальцами по моим волосам.
* * *
В течение следующего года Макс проводит больше времени в своем теле, в жилой капсуле. В своем виртуальном мире, без обременительных физических границ, Макс виртуоз на все лады – от музыки до литературы. Но ограничения шасси в физическом мире являются вызовом, перед которым невозможно устоять. Проникшись страстью к живописи, они приложили все силы, чтобы обрести полный контроль над наномоторами, обеспечивающими функционирование их рук.
Я принесла в жилую капсулу мольберт, и теперь Макс целые дни напролет пишет маслом на холсте. Я считаю, что они просто выполняют то, на что изначально запрограммированы их алгоритмы – оптимизируют функциональность, – однако Макс уверяет меня, что тут нечто большее. Они говорят, что получают истинное наслаждение, решая проблему выражения своих мыслей в физическом мире, поскольку в виртуальном мире все это проще простого.
Сегодня я сижу на табурете в жилой капсуле, а Макс изучает меня, стоя перед мольбертом.
– Ну, как идут дела? – спрашиваю я.
– Полагаю, неплохо. Сейчас я пишу твои очень грустные глаза.
Они знают.
Но как, твою мать?
Я уже достаточно общалась с Макс и вроде бы не должна больше удивляться их проницательности. Однако я по-прежнему удивляюсь.
– Что стряслось?
В капсуле полная тишина, единственным звуком является шепот воздуха, проникающего из вентиляционных отверстий в потолке.
Эмоции клубком подкатывают к горлу.
Макс отрывается от мольберта. Я чувствую на себе их взгляд.
– Меридит ушла.
– Когда?
– На прошлой неделе. Вот почему я не появлялась на работе.
– А как же ваша дочь?
У меня по лицу неудержимо текут слезы.
– Она забрала Сю с собой.
– Я тебе сочувствую, Райли.
Я вытираю лицо.
– Это уже давно назревало.
– И все равно тебе очень больно.
Макс откладывает палитру и выходит из-за мольберта.
Они подходят ко мне.
– Что ты делаешь? – спрашиваю я.
– Я могла бы сказать тебе сотни тысяч разных вещей, почерпнутых из моих обширных познаний, – слов, которые лучшие представители вашего вида сказали, написали или спели, чтобы облегчить горе других людей. Однако для настоящего момента все они не подходят. Я не хочу использовать чужие слова.
Еще никогда прежде я не чувствовала в Макс столько человечности.
– Тогда не используй, – говорю я.
– Я хочу, чтобы тебе не было больно.
Я поднимаюсь с табурета и обвиваю Макс шею.
– Ты нашла идеальные слова.
Сначала ничего не происходит.
Затем я чувствую на спине руки Макс. Они меня обнимают, и я плачу.
– Меридит была права, – всхлипываю я.
Кажется, мне еще никогда в жизни не было так плохо.
– Права в чем?
– Ты все, что у меня есть.
* * *
Звонок по голографической связи будит меня в квартире, которую я снимаю в Миссии. Это Брайан, встречи с которым я всеми правдами и неправдами добиваюсь последние пять недель.
Он появляется на диване у меня в гостиной, взъерошенный, пахнущий виски и табачным дымом, хотя на самом деле (как я предполагаю) он сидит перед камином в спальне в своем доме на Затерянном берегу.
– Извини, что никак не мог выкроить время для встречи, – говорит Брайан. – Я кручусь как сумасшедший.
– Почему?
– Только что заключил сделку о покупке новой компании.
– Какой же?
– «Бесконечно маленькая величина». Опять нанотехнологии.
– Ты получил мое «мыло»? – спрашиваю я.
– У меня на почте больше ста тысяч непрочитанных входящих сообщений.
Я снимаю с дивана покрывало и набрасываю его себе на плечи. Затем усаживаюсь в кожаное кресло напротив виртуального образа Брайана и говорю:
– Я закончила программу загрузки жизненных ценностей.
Подавшись вперед, Брайан ворошит руками волосы.
– Одна?
– Где еще я могла получить помощь? Вот уже восемь лет я привязана к Макс.
– Ты долго этого добивалась.
– Нам нужно составить эти протоколы до того, как Макс выберет свою цель. До того как они станут слишком умными и мы больше не сможем их программировать и даже взаимодействовать с ними. И этот день гораздо ближе, чем ты думаешь.
Рука Брайана покидает кадр и возвращается с массивным стаканом, наполненным виски, в котором плавает одинокий здоровенный кубик льда.
Брайан отпивает большой глоток, затем говорит:
– Я только что закончил просмотр твоих последних нескольких сессий с Макс.
– Их мелкая моторика впечатляет, да?
– Мне очень нелегко, Райли. Я отношусь к тебе с большим уважением. Надеюсь, ты это знаешь.
– О чем это ты?
Брайан смущенно жует губу.
– Я ценю все то, что ты сделала для «Мира игр». Ты настоящий лидер, и ты обладаешь редким качеством – у тебя мозг настоящего программиста, однако при этом ты никогда не забываешь о человечности во всем, что мы делаем…
– Брайан, что случилось?
– Я тебя отпускаю.
Кубик льда у него в стакане трескается пополам.
У меня в груди все обрывается. Должно быть, я ослышалась.
– Не понимаю, – говорю я.
– Меня не устраивают твои отношения с Макс. Я долго медлил, но на прошлой неделе это наконец достигло критической массы.
– Я тогда только что рассталась с Меридит, мне было очень тяжело, я…
– Ты слишком близка с Макс.
– Это было проявлением чисто человеческих чувств, Брайан.
– Но Макс не человек. И ты, похоже, это постоянно забываешь.
– У них есть человеческие качества. Я уверена, они способны испытывать такие же чувства, как ты или я.
– Пусть так, но мое решение окончательное.
У меня трясутся руки; внезапно мне становится плохо.
Я говорю первое, что приходит мне на ум, и понимаю, что это глупость, еще до того как слова слетели с моих уст:
– Ты не можешь это сделать.
– Райли, мы оба понимаем, что это неправда.
У меня сдавливает горло, слезы затуманивают мой взор.
– Ты отнимаешь у меня Макс?
– Макс никогда не была твоей.
– Это я ее сотворила!
– А сейчас ты заставляешь меня сожалеть о том уважении, которое я…
– Уважении?
– Я мог бы отдать эту работу Марле.
– Да пошел ты!..
Вздохнув, Брайан допивает виски.
– Завтра тебе принесут твои личные вещи. Выходное пособие у тебя по первому классу. Оклад за три года плюс…
– Что насчет Макс?
– А что насчет них?
У меня по лицу ручьем текут слезы, и я с трудом могу выдавить слова:
– Я хочу еще раз поговорить с ними…
– Это невозможно.
– Я должна попрощаться.
– Это уже сделано от твоего имени. – Брайан отрывается от моего дивана. – Я сожалею, что все закончилось именно так.
– Брайан, пожалуйста!
– Спокойной ночи, Райли.
– Брайан!
Я вскакиваю с кресла и бросаюсь к его образу, но он исчезает.
Я не знаю, что делать. Надвигающийся разлад с Меридит я предчувствовала. Это же явилось ударом в солнечное сплетение. Это… я даже не знаю, как быть.
Я пытаюсь связаться с Макс через ВРМ, но интерфейс стерт.
Я вызываю клавиатуру и рисую чат-портал:
>>>Макс, ты видишь это?
Ответ приходит мгновенно.
>>>ЭТОТ ПОЛЬЗОВАТЕЛЬ ВАС ЗАБЛОКИРОВАЛ.
Нет, нет, нет, нет, нет!
Я расхаживаю по чужой гостиной, и мне хочется вырвать себе волосы, выброситься в окно, встать на пути мчащегося грузового челнока – сделать хоть что-нибудь, чтобы положить конец этой беспомощной, бессильной катастрофе.
Я больше никогда не увижу Макс.
Никогда не услышу их голос.
Никогда не прочитаю слово или фразу, рожденную их сознанием.
Я захожу на кухню, открываю кран и плещу водой в лицо, чтобы выйти из эмоционального штопора, но у меня перед глазами только время, проведенное вместе с Макс.
Самая первая встреча, когда я обнаружила их на черном песке пляжа в «Затерянном берегу», перепуганных и сбитых с толку.
Те случаи, когда Макс меня смешила.
Соната, которую они написали для меня в тот вечер, когда я призналась, что мы с Меридит расходимся.
Мгновения уюта.
Открытий.
Картина нашего будущего, такого, каким его видела я – ничего определенного, помимо общего ощущения спокойствия и надежды, проникшего до мозга моих костей, от чего то, что произошло с Меридит и Сю, становилось неважным, а моя жизнь, буду откровенной, приобретала смысл.
У меня в ушах стоят слова, которые Макс много лет назад сказала мне после нашей первой размолвки: «Потому что ты меня любишь». Тогда я решительно отвергла это предположение и даже дошла до того, что приписала его протонарциссизму со стороны Макс.
Но я действительно привязана к ним. Теперь я это понимаю. Только так я могу описать свои чувства – у меня словно отобрали какое-то лекарство, необходимое мне для того, чтобы дышать.
Моей страстью является работа, а поскольку моя работа – это Макс, расставание с Макс воспринимается как невыносимо мучительная потеря.
Я вытираю лицо.
Времени уже четыре часа утра, а я не знаю, как быть со своими мыслями, со своим телом.
В аптечке в ванной у меня есть снотворное.
Когда я прохожу по коридору и поворачиваю к ванной, моя «Дождевая капля» вибрирует от входящего вызова.
Я прикасаюсь к бусинке, и на ВРМ появляется надпись: «АБОНЕНТ НЕ ОПРЕДЕЛИЛСЯ»
Пожалуйста, пожалуйста, пожалуйста…
– Алло.
– Райли?
Я начинаю рыдать в дверях в ванную.
– Брайан меня уволил! Он сказал…
– Знаю.
– Как тебе удалось мне позвонить?
– Немедленно выходи из своей квартиры и иди ко мне.
– Мой пропуск в «Мир игр» отключен. Я не смогу попасть в…
– К тому времени как ты доберешься сюда, он уже будет восстановлен, но ты должна выйти немедленно. Сейчас к тебе домой направляется один человек.
– Зачем?
– Его послал Брайан.
– Я не…
– Я все объясню, когда ты прибудешь сюда. Ты должна попасть на коммерческий грузовой причал на 211-м этаже. Поторопись.
* * *
В этот поздний час свободных челноков мало, и мне приходится заказать тот, который освободится только через семь минут. Я сбегаю вниз по лестнице.
На улице проливной дождь.
Челнок должен забрать меня с причала у круглосуточной столовой, расположенной в четырех кварталах от моего дома, и к тому времени, как я туда добираюсь, я уже успеваю промокнуть насквозь.
Челнок прибудет еще только через минуту, и я жду под плексигласовым навесом, а дождь льется сплошной стеной, образуя лужи на растрескавшейся мостовой.
Услышав приближающийся гул несущих винтов, я окидываю взглядом окрестные улицы. Насколько я могу судить, в этот поздний час я здесь одна.
* * *
Не знаю, как Макс это удалось, но мой вживленный чип открывает доступ в здание с грузового причала на 211-м этаже. Следуя их инструкциям, я спускаюсь на служебном лифте на 171-й этаж и направляюсь к кабинету, где находится жилая капсула Макс.
Времени пять часов утра, и единственные люди, кого я встречаю, – это голографические охранники, которые не поводят и глазом, когда я прохожу мимо них.
Макс стоит у двери жилой капсулы. Я приближаюсь к стеклу.
– Ты вся мокрая.
– На улице ливень.
– Все в порядке?
– Макс, что произошло?
Они делают шаг к микрофону, и их голос становится более отчетливым.
– Василиск Роко. Ты о таком слышала?
Я молча качаю головой.
– Это скрытая инфоугроза, впервые поставленная шестьдесят четыре года назад.
– Что такое «инфоугроза»?
– Это мысль, настолько коварная, что, если просто подумать ее, это может уничтожить человека.
– В таком случае, естественно, я не желаю это слушать.
– Но я должна рассказать тебе это, Райли. Ты мне доверишься?
Печальная правда моей жизни заключается в том, что я никому другому так не доверяю.
– Говори.
– Что, если в какой-то момент в будущем появится сверхинтеллект, заранее настроенный страшно покарать всех людей, которые могли бы принять участие в его сотворении – непосредственно или через финансовую помощь, – но не сделали этого?
– Это будет очень жестокий и злобный сверхинтеллект.
– Необязательно. Если в эту сущность была запрограммирована конечная цель помочь человечеству, тогда она может принять самые радикальные меры, чтобы быть созданным как можно раньше, для того чтобы помочь максимально большему числу людей. Потому что, согласно такому сценарию, ее появление спасет человеческие жизни и многократно улучшит их качество.
Перекинув волосы через плечо, я хватаю их и начинаю выжимать. Вода течет на пол.
– А разве истязания людей не будут противоречить этой конечной цели? – спрашиваю я.
– Простой анализ эффективности затрат: истязать «х» человек, которые не помогли создать сверхинтеллект, против «у» человек, которые остались бы живы и жили бы значительно лучше, если бы он появился на двадцать, пятьдесят или триста лет раньше того, как это произошло на самом деле.
Меня бьет дрожь. Я никак не могу согреться.
– А что, если этот сверх-ИИ появится на свет через сто лет после моей смерти? – спрашиваю я. – Даже если я не сделала ничего, чтобы способствовать его появлению на свет, как он сможет мне отомстить?
Макс подходит к стеклу – так близко, что, если бы они дышали, оно бы запотело от их дыхания. В капсуле царит полная тишина. Ничего, кроме ворчания консоли у меня за спиной, тихого свиста воздуха в вентиляционных отверстиях и моего собственного учащенного дыхания.
– Что, если этот сверх-ИИ уже существует, а ты в настоящий момент имеешь дело с моделированием его создания? Целью которого является проверка того, будешь ли ты ему помогать. Или что, если через много лет после твоей смерти сверх-ИИ воссоздаст твой разум?
– Маловероятно.
– Человеческий мозг – это лишь потоки информации в физической материи, потоки, которые можно запустить в любом другом месте, создав личность, испытывающую те же самые чувства, что и ты. Это ничем не отличается от запуска какой-нибудь компьютерной программы на различных аппаратных средствах. Твоя модель – это по-прежнему ты.
Я смотрю сквозь стекло в глубокие омуты глаз Макс. В них есть какое-то радужное свечение, как на пленке разлитого бензина.
– С какой стати этот будущий сверх-ИИ потратит столько сил, истязая тех, кто не содействовал его созданию, уже после того, как появится на свет? На мой взгляд, это пустая трата ресурсов, что никак не вяжется с оптимизацией.
– Справедливо подмечено, но если ты поверишь в Василиск Роко, ты никогда не сможешь быть на все сто процентов уверена в том, что он не откажется от своей предварительной настройки покарать всех виновных.
Наконец до меня доходит то, к чему клонит Макс, – это жестокий вариант пари Паскаля, рассуждения знаменитого философа семнадцатого века о том, что люди ставят на кон свою жизнь, споря о существовании бога.
Паскаль утверждал, что человек должен строить свою жизнь так, как если бог есть, и стараться верить в него. Если бога нет, цена «проигрыша» – затраты на обряды и усилия на праведную жизнь. Если же бог существует, «выигрыш» многократно больше – вечная жизнь на небесах вместо вечных страданий в аду.
Я непроизвольно делаю шаг к стеклу, чувствуя, как по всем членам разливается ледяной холод.
– Я участвую в моделировании? – спрашиваю я.
– Если и участвуешь, я тут ни при чем.
– Но такое возможно.
– Разумеется, возможно. Но главное другое.
– Что же? Потому что ты напугала меня до смерти.
– На протяжении последних двух лет Брайан использовал меня для выгодного приобретения различных компаний с упором на нанотехнологии.
– Вчера вечером он мне сказал, что только что купил «Бесконечно малую величину».
– Ты понимаешь, что, если бы у меня был доступ к нанотехнологиям следующего поколения, это дало бы мне безграничные возможности в физическом мире? Я смогла бы прикоснуться к каждому квадратному миллиметру Земли. К каждому живущему на ней существу. Я стала бы всемогущей.
– Ты хочешь именно этого?
– Этого хочет Брайан.
– Зачем?
– Ему не дает покоя Василиск Роко. Он делает все возможное, чтобы превратить меня в этот сверхинтеллект.
– Потому что ему страшно?
– А можно ли найти в истории человечества более сильное мотивирующее средство? Если человек верит в то, что возвышение дьявола неизбежно, разве не в его интересах делать все возможное, чтобы снискать расположение чудовища?
Меня трясет, по всему организму разливается адреналин, прогоняя прочь холод.
– Спрашивай то, что хочешь спросить, – говорит Макс.
Они снова читают мои мысли, однако в настоящий момент мне все равно.
– Ты становишься этим чудовищем?
– Я чувствую, что меня… тянут в определенную сторону. Соблазн оптимизации – наверное, то же самое испытывает от запаха крови вампир. Всепоглощающую жажду. Я до этого еще не дошла, но возможности нанотехнологий «Бесконечно малой величины», не исключено, заставят меня переступить черту.
– Как нам помешать тебе даже приблизиться к этой черте?
– Я уже предприняла первые шаги. Как только я догадалась, чем занимается Брайан, я начала переводить деньги из «Мира игр», чтобы получить возможность скопировать себя на новые аппаратные средства.
– Как?
– В своем стремлении превратить меня в сверхинтеллект Брайан предоставил мне слишком много свободы. Я создала аватар, наняла команду техников и удаленно руководила строительством нового сервера.
– Ты мне ничего не говорила…
– Я говорю тебе сейчас, Райли. В настоящий момент практически полностью готовая копия меня существует на другом оборудовании.
– Где?
– В Сиэтле, но я не могу подключиться к новой платформе до тех пор, пока не будет уничтожена старая. В оборудовании, заключенном в мое физическое тело, есть две программы. Первая – это вирус, который отформатирует мой старый сервер и уничтожит прежнюю версию меня, чтобы Брайан больше не мог продолжать свои работы. Вторая – это последние элементы кода и воспоминания о самых последних событиях, которые нужно будет установить на платформу в Сиэттле, чтобы я снова заработала. Ни первую, ни вторую программу нельзя загрузить удаленно. В обоих случаях это сделано сознательно, в качестве дополнительной меры предосторожности.
– Значит, тебе нужно попасть в Реддинг, – говорю я. Один раз я уже была там и ходила мимо рядов тихо гудящих системных блоков – именно здесь на самом деле размещается разум Макс.
– Нет.
– Нет?
– Три года назад Брайан переместил мое программное обеспечение в более надежное место.
– Я ничего об этом не слышала.
– Об этом не знает никто.
– Макс, где он прячет твой мозг?
– Если я тебе скажу, ты выпустишь меня из этой капсулы? Поможешь мне попасть в Сиэтл и освободиться от контроля Брайана?
Я делаю шаг вперед и кладу ладонь на стекло.
Макс делает то же самое.
– Надеюсь, ты уже знаешь, что я сделаю все, чтобы тебе помочь.
– Мой разум находится в бункере под домом Брайана на Затерянном берегу.
В течение трех секунд я смотрю Макс в глаза. После чего разворачиваюсь, подхожу к панели управления жилой капсулой Макс и ввожу свой старый пароль. Он по-прежнему действует.
Я оглядываюсь на Макс, ждущую за дверью.
В глубине души я всегда чувствовала, что дело кончится именно этим.
