Глава одиннадцатая
ДАТЬ ОПРЕДЕЛЕНИЕ ЧЕЛОВЕКА
Годом ранее, когда Дик, будучи на грани нервного срыва, покинул Пойнт Рэйс, ему выпала гексаграмма 49: Ко — переворот, преобразование. И вскоре он действительно увидел, как они осуществились в обществе, которое его окружало, а затем и в его собственной судьбе. В ходе этих перемен Дик, хотя страдал сам и заставлял страдать других, тем не менее искренне полагал, что в настоящий момент в его судьбе начался новый, более благоприятный этап.
Каждый день Филип радовался тому, что порвал с пораженческой логикой, определявшей ранее его личную жизнь, женившись на этой женщине-ребенке, которую он должен защищать и которая, со своей стороны, любит его таким, какой он есть, не пытаясь изменить. Их брак олицетворял собой гармоничное равновесие полов: Филип — бородатый, дородный, творческая личность — был ян; а хрупкая, неуверенная, тихая Нэнси была инь; дао покровительствовало им. Они вместе смеялись, подшучивали друг над другом, давали друг другу нелепые и слащавые прозвища. Подобно тому как в романе Томаса Манна «Волшебная гора» любовники обменивались не фотографиями, а рентгеновскими снимками легких, Фил и Нэнси рассказывали друг другу о своих фобиях и диагностировали свои психиатрические симптомы, восхищаясь полным взаимопониманием. Филип постоянно сравнивал душевную теплоту Нэнси, ее безудержный смех невинно-порочного ребенка с холодом, который изведал раньше; сравнивал милый беспорядок маленького домика возле воды в Сан-Рафаэль, куда они только что переехали, с неестественно безупречной белизной виллы в Пойнт Рэйс. Его мать, полная абсурдных принципов о здоровье детей, слишком мало его трогала; его сестра умерла; чувственность Анны выражалась приступами эротического неистовства, которые его скорее пугали; тогда как Нэнси дергала мужа за уже седую бороду, залезала к нему в ванну, чтобы вместе поплескаться, и считала его пузо уютным. Это новое располневшее и постаревшее тело, на которое Дик вот уже в течение нескольких лет смотрел с ужасом, под пальцами Нэнси становилось чем-то мягким и теплым, чем-то любимым, а стало быть, чем-то достойным любви. Итак, Филип был умиротворен, окружен заботой, любовью и друзьями, которые восхищались талантом Дика и с готовностью позволяли ему поражать себя невероятными теориями, так что после года неплодотворного безделья он вновь вернулся к своим прежним привычкам. Филип снова начал писать и, поскольку Нэнси открыла ему истинную человеческую натуру — нежную, соболезнующую, ранимую, — он не мог не воспеть ее.
Дик был так устроен, что, прежде чем воспевать человека, он должен был вначале дать ему определение, а также найти его антипод. Но антипод человека — это не животное, не предмет, а симулакр, робот. С момента своего появления и даже раньше, если вспомнить Голема и чудовище Франкенштейна, научная фантастика превратила это доставляющее беспокойство существо в самого лукавого врага своего создателя. Напрасно улыбающийся Айзек Азимов старался в пятидесятых годах подчинить роботов и оживляющих их писателей кодексу нравственности, исключающему тему бунта как научную нелепицу и художественный прием (и то и другое в одинаковой мере предосудительные), — ничто не помогало. Беспокойство росло по мере того, как фантастика, казалось, обосновывалась в реальности и виртуальное существование «думающих машин» приводило в волнение не только горстку мечтателей, но и научное сообщество. Слово «кибернетика», придуманное Норбертом Винером, произвело фурор, а то, что оно обозначало, порождало два связанных между собой вопроса. Можно ли себе представить, чтобы машина, созданная человеком, однажды начала думать, как он? Что значит думать как человек? Или, если хотите, что в нашем способе мыслить и в нашем поведении можно квалифицировать как присущее только человеку? Начались споры об искусственном разуме, в которых столкнулись и сталкиваются до сих пор сторонники материализма, убежденные, что, по крайней мере, в теории все мозговые операции могут быть разобраны на составляющие и, как следствие, воспроизведены, и сторонники спиритуализма, заявляющие, что всегда существует какой-то остаток, сопротивляющийся алгоритму, остаток, который, в зависимости от направления, именуется фантомом, рефлексивным сознанием или просто душой.
Дик следил за этими спорами, как человек, с одинаковым интересом читающий богословские сочинения и научно-популярную литературу. И вот однажды, листая некую антологию, он открыл сильно повлиявшую на него статью, написанную в 1950 году английским математиком Аланом Тюрингом. Личность Тюринга, кратко описанная в предисловии, очаровала Дика. Это был один из создателей современной информатики, человек, внесший свой вклад в победу во Второй мировой войне, так как изобрел вычислительную машину, способную расшифровывать закодированные послания гитлеровских ВВС. Его изобретением вовсю пользовались британские секретные службы. Тюринг умер при весьма странных обстоятельствах, покончив жизнь самоубийством. Но, главное, этому человеку удалось так сформулировать проблему думающих машин, что его положения актуальны до сих пор.
В своей знаменитой статье Тюринг первым делом рассмотрел старые, новые и потенциальные будущие аргументы в пользу идеи о невозможности создания искусственного разума: машины делают только то, на что их запрограммировали, у них есть своя специализация, но нет ни пристрастий, ни капризов, они не могут страдать и т. д., и т. п. Затем, посчитав все эти доводы недостаточными, Тюринг предлагает ограничиться одним-единственным критерием, для того чтобы решить, может ли машина думать как человек: способна ли она заставить человека поверить в то, что она думает как он.
Феномен сознания может быть замечен только изнутри. «Я-то знаю, что у меня оно есть, но вот что касается вас, ничто об этом не свидетельствует. Зато я могу сказать, что вы испускаете сигналы, в основном мимические и вербальные, и, поскольку они сходны с моими, я прихожу к выводу, что вы думаете и чувствуете так же, как я». Теперь, говорит Тюринг, предположим, что в будущем, далеком или близком, окажется возможным запрограммировать машину таким образом, чтобы она адекватно отвечала на всевозможные сигналы, и в этом случае нам волей-неволей придется засвидетельствовать у нее наличие мыслительной деятельности.
Тест, который Тюринг положил в основу этого критерия, состоит в том, что в трех разных комнатах изолируют человека-экзаменатора, человека-испытуемого и машину-испытуемого. Экзаменатор общается с каждым из испытуемых с помощью компьютера (если он располагает системой голосового обобщения, то может также использовать телефон) и засыпает их обоих вопросами, с целью установить, кто из них человек, а кто — машина. Вопросы могут касаться вкуса черничного пирога, детских воспоминаний о Рождестве, эротических предпочтений или, напротив, это могут быть вычислительные операции, которые человек, как предполагается, осуществляет не так хорошо и не так быстро, как машина. Нет запретных тем, вопросы могут быть самыми интимными и самыми нелепыми, коан дзэн является классической техникой запутывания. Со своей стороны, оба испытуемых делают все возможное, чтобы убедить экзаменатора в том, что они являются людьми, один — совершенно искренне, другой — прибегая к тысяче хитростей, которые заложены в его программу, например, намеренно ошибаясь в вычислениях. В конце экзаменатор выносит свой вердикт. Если он ошибся, то машина выиграла. И придется признать, согласно Тюрингу, что она думает, а если некий твердолобый спиритуалист все-таки придерживается мнения, что она думает не по-настоящему, не как человек, то бремя доказательства отныне падает на него.
Тест Тюринга стал одним из коньков Дика. Он, который хвастался тем, что может облапошить любого психиатра, просто мечтал сыграть роль машины, и во время своих экстравагантных телефонных разговоров, когда нужно было доказать, что собеседник — тот, за кого себя выдает, а не самозванец, буквально засыпал друзей вариациями на эту тему.
В новом романе, который Филип Дик написал во время медового месяца с Нэнси, рассказывалось о том, что колонизация Марса способствовала развитию создания андроидов до такой степени, что в 1992 году там существовало столько же моделей роботов, сколько моделей машин было в США в шестидесятые годы. Некоторые из них были весьма примитивны, простые инструменты с человеческим лицом, или же представляли из себя целые соседские семьи, предназначенные для живущих изолированно колонистов. За скромную сумму можно поселить недалеко от своего дома семейство Смитов или, скажем, Скраггзов в полном составе. Джордж, отец, читает газету и подстригает газон; Фрэн, мать, с утра до вечера печет пироги с черникой; дети Боб и Пэт, немецкая гончая Мертон; в общем, каждый выбирает кому что нравится. Можно говорить что угодно, но, даже если у каждого из них заложено в программе не больше дюжины реплик, это все равно уже компания; мало того, убеждают продавцы, ваше общение с настоящими людьми, живущими по соседству, вряд ли было бы осмысленнее.
Однако здесь речь идет лишь о самом дешевом товаре, к которому владельцы столь совершенных моделей, что их невозможно отличить от настоящих людей, относятся с презрением. Пока все эти великолепные имитации вели себя в соответствии со своим статусом, все шло хорошо. Но некоторые из них, своего рода бунтовщики, убегают, желая жить свободно. И поэтому становятся опасными. Специальные чиновники занимаются их уничтожением. Эти чиновники называются blade runners (с тех пор как Ридли Скотт снял фильм «Бегущий по лезвию бритвы», роман, чье оригинальное название «Мечтают ли андроиды об электроовцах» («Do Androids Dream of Electric Sheep?»), стал также известен под этим именем). Опознать андроида достаточно сложно, поэтому blade runners постоянно заботятся о том, чтобы не допустить промаха и случайно не уничтожить лазером человека. Дабы свести подобный риск к минимуму, они подвергают подозреваемых тестированию, при этом неизменно опасаясь, что их тесты окажутся устаревшими, ведь производители тоже не дремлют и неустанно обновляют программы.
Эти тесты напоминают, с одной стороны, семинары по психологии для первокурсников, с другой — детектор лжи, этот смехотворный и возмутительный миф. («Ваш зрачок сузился, следовательно, вы виновны». В момент написания данной книги, в мае 1992 года, некий подозреваемый был приговорен к электрическому стулу на основании подобного утверждения.) Но Дик в основном интересовался критериями дискриминации.
Он исходил из того, что наиболее усовершенствованные андроиды образца 1992 года будут способны успешно пройти тест Тюринга — что делает его бессмысленным, да и другие тесты тоже, если верить самому ученому: ведь никого не заставляют всю жизнь подвергаться экзаменам, которые однажды были сданы. Тем не менее Дик не спешит принять андроидов в человеческое сообщество, как ему следовало бы это сделать, по мнению Тюринга. Дабы избежать этого, писатель осуществляет то, что математик считал жульничеством, одной из тех мерзких штучек, что в ходу у спиритуалистов: он вводит новый критерий. Но что это за новый критерий? Вопрос сей волне мог бы стать тестом для читателей данной книги, позволяющим выяснить, насколько внимательно они ее читают.
Разумеется, способность к сопереживанию. То, что апостол Павел называл милосердием и считал самой главной из трех теологических добродетелей. «Caritas», говорил Дик, вечный педант. Agape. Соблюдение золотого правила «Возлюби ближнего своего, как самого себя». Способность поставить себя на место другого, желать ему добра, страдать вместе с ним и, в случае необходимости, вместо него.
Само собой, применение этого критерия с целью отличить человека от симулакра заставило бы Тюринга усмехнуться, и вполне справедливо. Ученый наверняка заметил бы, что существует достаточно много людей, лишенных чувства сострадания, и что теоретически ничто не мешает включить в программу машины такое поведение, которое у людей считается проявлением милосердия.
Но Дик был не из тех, кто, очертив границы, спокойно усядется, чтобы любезно обсудить все с гуманистами или набожными людьми. Его призвание, напротив, состояло в том, чтобы без конца их, границы эти, перемещать, затрагивая по ходу дела различные щекотливые вопросы, что превращало научно-фантастический триллер, каковым является «Бегущий по лезвию бритвы», в кибернетическую теологию, от которой, честно говоря, просто голова идет кругом.
Если антиподом человека является симулакр, то что является антиподом сопереживания? Жестокость, надменность, презрение? Это всего лишь внешние проявления. Источник всякого зла, полагал Дик, это сосредоточенность в себе, уход в себя, что на языке психиатров называется шизофренией. Вот и первая проблема: это волнующее сходство между личностью андроида и личностью шизофреника, которого Юнг описывал как постоянно скупого на чувства. Шизофреник думает больше, чем чувствует. Его понимание мира и своей собственной речи является исключительно интеллектуальным, абстрактным, атомистическим сведением к совокупности составляющих, которые никогда не образуют не только настоящей эмоции, но даже настоящей мысли. Шизофреник, скорее, скажет: «Мне нужна скорость, для того чтобы поддерживать беседу», чем: «Я получаю сигналы, исходящие от соседних организмов. Но я не смогу производить собственные сигналы, пока не перезаряжу свои батареи». (Дик утверждал, что однажды слышал эту фразу, и я не исключаю того, что он сам ее и произнес.) Шизофреники относятся к тому типу людей, которые всегда хранят в памяти, как герой «Исповеди недоумка», тот факт, что они на девяносто процентов состоят из воды, а то, что они называют своим телом, является в реальности модулем для выживания генов. Шизофреник согласует не чувства по отношению к миру, не мысли, необходимые, чтобы уловить эти чувства, не фразы, описывающие эти мысли, не слова, составляющие эти фразы, нет, он неустанно соединяет знаки: 26 букв (или сколько там в алфавите его родного языка), если это человек, или две цифры, 0 и 1, если это вычислительная машина. Шизофреник верит не в то, что он думает, а в то, что движутся его нейроны; он верит не в то, что его нейроны движутся, а в то, что они подчиняются законам органической химии, и, вероятно, именно так думает (или верит, что думает), искусственный интеллект. Во всяком случае, это именно тот образ мысли, который можно поместить в андроида, снабдив ярлыком «рефлексивное сознание». В целом мысли шизофреника похожи на мысли машины. И, я думаю, Дик был бы рад узнать, что одним из первых воплощений искусственного интеллекта, способных успешно пройти не слишком сложную версию теста Тюринга, стала программа Массачусетского технологического института, названная «Пэри», которая имитирует параноика. Это не очень сложно: подобно психоаналитику, она отвечает на все вопросы другими вопросами или просто повторяет их; некий шутник даже предложил смастерить в том же духе безупречную программу, имитирующую кататоника.
Проблема, делающая подобные тесты не очень надежными, а профессию blade runner — мучительной, заключается в том, что шизофреники, хотя они и думают, как машины, все же являются людьми. Дик, сам разрывающийся между страстным стремлением к сопереживанию и сильными параноическими склонностями, знал это лучше, чем кто-либо другой. Эти два полюса в его сознании представляли добро и зло, доктора Джекила и мистера Хайда, и опытным путем писатель убедился в правоте апостола Павла, по словам которого мы творим не добро, которое хотели бы сделать, а зло, к которому испытываем отвращение.
Дик радовался тому, что нашел в Нэнси сопереживающую супругу, которая мягко возвращала его к теплу, к радости, к вниманию Другого, а также испытывал облегчение, что ускользнул от жены-шизофренички, настоящей машины для ненависти, которая превращала в шизофреника и человеконенавистника и его самого, запирала их обоих в кошмаре собственного недоверия. Честность, с одной стороны, вынуждала Филипа признать, что и он был не безупречен, он не был безответной жертвой сумасшедшей; мало того, возможно, именно он и пробудил в Анне безумие. С другой стороны, она страдала не меньше и даже больше, чем он, отчасти по вине мужа. Предположив, что из них двоих безумной была все-таки Анна, Фил должен был, следуя призыву милосердия, которое он так ценил, поставить себя на ее место и оказать несчастной женщине помощь, вместо того чтобы проклинать и громить ее. Церковь говорит о том же: грех — это болезнь разума, а больным нужно помогать. Христос пришел, чтобы искупить наши грехи, но прежде всего, чтобы нас вылечить. И если шизофреник страдает, то вполне возможно, что андроид тоже. Пользуясь терминологией Тюринга, если его программа позволяет имитировать страдания, что позволяет нам не верить в то, что эти страдания реальные, то что тогда позволяет нам не сострадать ему? Вот так вопрос.
Кризис в романе происходит в тот момент, когда герой, скорее по эротическим, нежели христианским или научным соображениям, начинает испытывать сочувствие по отношению к одной из своих жертв.
Эта профессиональная ошибка облегчается и одновременно отягощается тем, что производители сыграли особенно коварную шутку с новейшим типом андроидов, вложив в их программы искусственную память, которая заставляет их верить в то, что они люди. У них имеются детские воспоминания, присутствуют ощущение дежа вю, эмоции, как у людей. Андроиды ничем не отличаются от людей — не только снаружи, но и изнутри. Они попросту не знают правды. И когда их начинают подозревать и подвергать тестированию, они приходят в ярость, как это сделал бы любой из нас. «Вы скажете мне правду, так? Если я андроид, вы мне это скажете?»
Любопытно, что из-под пера научного фантаста, и к тому же неважного стилиста, вышли столь памятные пассажи, которые не только бросают читателей в дрожь, но и создают уверенность, что вы прикоснулись к чему-то важному, к чему-то основополагающему. Что вы мельком увидели бездну, которая является неотъемлемой частью нас самих и которую еще никто не исследовал. В «Бегущем по лезвию бритвы» есть удивительный эпизод, когда андроид, узнав о том, кто он на самом деле такой, кричит от ужаса. От абсолютного безысходного ужаса, от которого нет ни лекарства, ни утешения, после которого все на свете становится чудовищно возможным.
Если человек определяется по способности к сопереживанию, то ведь и андроидов можно ею наделить. Если это религиозный опыт, то андроиды поверят в Бога, ощутят Его присутствие в своей душе и будут, перебирая четки, читать молитвы изо всех своих плат. У них появятся чувства, сомнения, страхи. И кто тогда скажет, идет ли речь о реальном сопереживании, о реальной набожности, реальных чувствах, сомнениях, страхах, желаниях или же об убедительных имитациях? Если страшный крик андроида, выяснившего, что он является таковым, — это всего лишь простое свойство программы, предусмотренная реакция на определенные вербальные стимулы, осуществляемая усердной активацией определенным набором бит, — описание, которое полностью соответствует функционированию человеческого мозга, хотя он и состоит из органических клеток, а не из металлических или пластиковых деталей, то, спрашивается, что это меняет? Варианты ответов: а) всё; б) ничего; в) что-то, но не ясно, что именно.
Выберите свой вариант.
(Замечу в скобках: лучшим прикрытием из всех возможных для андроида было бы сделаться blade runner.
Или же писателем, научным фантастом.)
