Клод Шейнис
Конфликт между законами
Двадцатый век породил вычислительную технику. Но он же породил и нелепые выдумки относительно электронно-счетных машин. Летописцы науки дают себе волю — «мыслящие машины», «электронный мозг», «сверхмозг»… Из того обстоятельства, что ЭВМ типа 14–40 может сыграть простенькую партию в шахматы, а типа 360-30 — по двум-трем строчкам установить, кто автор текста, досужий профан, ничтоже сумняшеся; делает поспешные выводы, приписывая приборам, немного более сложным, нежели маникюрные ножницы или пинцет, чисто человеческое качество — способность принимать решения по собственной воле.
И даже когда люди наделили машины свободой выбора между теми или иными способами решения заданной проблемы, от этого ничего не изменилось.
В следующем столетии беспрестанная миниатюризация приборов, снижение себестоимости электронной техники и к тому же необходимость исследований планет, проводимых в такой среде, где человек работать не может, подвели человека к осуществлению его извечной мечты о роботе.
В тот высокоторжественный день, когда появилась на свет первая партия электронных роботов — устройств-аналогов систем, обладающих свободой выбора, — им присвоили имя «Карел» (в честь Карела Чапека, придумавшего слово «робот»). Но и у них свобода выбора была лишь относительной, они были свободны не более, чем любой инструмент, повинующийся воле человека.
Простейшее орудие — молоток — не снабжено каким-либо устройством, которое предотвращало бы удар по пальцам. Более совершенное орудие — бумагорезательная машина — останавливается, если рабочий не успевает убрать из-под нее руку. Что же касается сверхсовершенной машины — Карела (или, точнее, в какой-то мере человекоподобного механизма, чьим прообразом послужил Карел), то в ней было множество таких устройств, предназначенных лишь для одного — помешать человеку своей новой «игрушкой» стукнуть себя по пальцам.
Этот рассказ посвящается Айзеку Азимову, деятелю науки, который в 40-х годах XX цена, намного опередив свое время, сформулировал и облек в форму законов наиболее существенные положения относительно такого рода страховки. Но:
1) Невозможно предусмотреть все…
2) Кто хочет все делать слишком хорошо…
Для людей жизнь на Проционе-Ш была отнюдь не райской, хотя местные жители со своим фторо-кремниевым обменом чувствовали себя великолепно, купаясь в плавиковой кислоте. Но это уже другая история.
Проционцы, находящиеся примерно на уровне развития землян 20-х годов XX века, впрочем, оказались народом гостеприимным и приветливым. При помощи специально разработанного радиокода, позволявшего взаимное общение, они сообщили о своем согласии на то, чтоб земляне высадились и оборудовали на Проционе-Ш свою базу — герметизированную капсулу с кислородной атмосферой, внутри, прочно прикрепленную к скале, чтобы противостоять фтористым ураганам.
Через толстые двойные иллюминаторы, сделанные из прозрачного материала, устойчивого к разъедающему действию кислорода, а снаружи — к такому же действию фтора, с инертным газом посредине, между рамами, обитатели Проциона порой с доброжелательным любопытством созерцали чудищ, вдыхающих кислород и пьющих закись водорода. Подумать только, что эти чудища называют закись водорода водой! Но это опять-таки совсем другая история.
В тот день на базе, содрогавшейся, несмотря на все крепления, под бешеными порывами фтористого урагана, томились от скуки трое землян. Двое из этих чудищ принадлежали к числу пьющих закись водорода (частенько с добавлением некоего этилового соединения в виде водки — это относилось к экспедиционному биологу и психологу, русскому полковнику медицинской службы Борису Мужинскому — либо рома, когда дело касалось американца Питера Говарда, геолога, минералога и химика). Третьего — тоже землянина — звали Карел-178, и томился он больше всех. Ибо из-за обостренного, как и у других Карелов, чувства ответственности он считал, что все неприятности происходят из-за него. Пожалуй, здесь была доля правды, хотя сам Карел, конечно, был совершенно не виноват.
Накануне Питер пожаловался:
— Я плохо себя чувствую. Болит живот.
Борис жестом обвинителя ткнул в Карела пальцем и, раскатисто произнося «р», приказал по-французски — а он говорил с Питером именно на этом языке:
— Повтори-ка Первый закон роботов!
Отдаленно напоминавший человека футляр, которого называли Карелом, не мог менять выражение лица, зато голосовой регистр робота был очень богат. Удивленно, досадливо-жалостливым тоном, каким обращаются к надоедливому ребенку, отнюдь не изменившись в «лице», Карел ответил:
— Первый закон. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Карел был славным малым, но чувство юмора в отличие от сегодняшних роботов у него было развито слабо.
— Вот видишь, ты нарушил Первый закон, — продолжал врач.
Прежде чем брякнуть «Как так?», Карел издал диковинное гудение.
Борис расхохотался:
— Очень просто! Ты в полдень накормил нас неудобоваримым американским кушаньем — сосисками с кетчупом. И вот пожалуйста — у Питера болит живот.
Питер улыбнулся, несмотря на недомогание (пока это было лишь легкое недомогание!). Ни тот, ни другой человек не был специалистом по роботам и не отдавал себе отчета в том, какой грозный смысл имеет сказанное. Ибо для робота нет ничего более важного, чем Первый закон. Не худо бы это знать любителям шуточек.
Человеку шутка может спасти жизнь. Но у Карела она может вывести из строя дорогостоящий мозг. Вот мы и подошли к нашей истории.
Побледнеть Карел не мог, он не был на это способен.
Он ответил бесцветным голосом:
— Вы полагаете, доктор, что Питеру повредил приготовленный мною обед?
Однако Борис был поглощен своим делом и не ответил. Уложив американца на кушетку, он пощупал его живот и, хмурясь, произнес:
— Как же так — не вырезать аппендикса перед полетом в космос! Весьма непредусмотрительно!
Двенадцать часов спустя стало совершенно ясно, что диагноз правилен и требуется операция, к тому же безотлагательная. И вот начинает разыгрываться драма. Завязка: Карелу одно за другим отдаются распоряжения. Прежде всего — очистить длинный стол, за которым и обедают, и работают. Затем Борис, вертя в могучих руках ампулу растворителя для пентотала, приказывает:
— Сходи в кладовку, приставь себе новую пару рук и прокали их на огне.
Карел повинуется беспрекословно. Такие, как он, не оборудованы устройством для обсуждения приказов. Когда он возвращается в столовую, вытянув новые стерилизованные руки и стараясь ни к чему не прикоснуться, Питер лежит на чистой простыне, а Борис извлекает из ящичка стерильные инструменты. Американец, уже усыпленный, тихонько дышит через маску, подсоединенную к небольшому черному баллону. Стоя у стола, Борис отдает очередное распоряжение:
— Встань напротив меня!
Робота еще со вчерашнего дня преследует все та же мысль, и он, легко скользнув к указанному месту, задает свой вопрос:
— Так вы считаете, доктор, что обед, приготовленный мною…
Удаление аппендикса не бог весть какая хитрая операция. Борису не раз приходилось оперировать аппендицит. Но он был врачом широкого профиля, а не хирургом и поэтому немного волновался. Ему было не до переживаний робота. По счастью, он даже не ответил на вопрос. Натянув перчатки (как было бы удобно, если бы можно было приставить и себе другую пару рук, предварительно ее прокалив, подумал он), Борис уверенно взял скальпель и протянул Карелу зажим.
— Когда я сделаю разрез и из сосуда пойдет кровь, — пояснил он, — ты сразу подашь мне этот зажим, возьмешь позади себя кэтгут и по моему приказанию приготовишь узелок.
Борис наметил линию разреза.
И тут началась драма.
Отступив на шаг, Карел голосом, выдающим полнейшее смятение (такой голос тоже предусмотрен в его колебательном контуре), заявил:
— Я не могу!
— Что?! — воскликнул Борис.
— Не могу. Я даже и вам не могу позволить! Первый закон! Робот не может причинить…
Ну, как его переубедишь? Оставалось одно: отведя душу в залпе непереводимых русских выражений, разбудить Питера и искать решение.
Прошло еще двенадцать часов. В капсуле томятся трое землян — врач, больной, которому срочно необходима операция; но больше всех томится робот, который не может ассистировать, когда человеку разрезают живот, не может даже допустить, чтобы это было сделано.
— И зачем только вы мне сказали? — тужит он. — Я вышел бы на воздух — или, как его, на фтор, — а по возвращении просто оказался бы перед совершившимся фактом…
Питер лежит на кушетке. Временами он постанывает от боли и мучительно размышляет. Борис и Карел сидят за столом друг против друга и в двадцатый раз перебирают все возможные варианты, тут же отвергая их один за другим.
Допустить, что Карел выйдет? Невозможно. Теперь, когда он знает, в чем дело, его первейший долг, самая главная его обязанность — исполнить Первый закон, то есть остаться на месте и не допустить посягательства на целостность брюшной полости Питера.
Эвакуировать Питера? Но до ближайшей базы одиннадцать суток полета. Он не выживет.
Вывести Карела из строя? Немыслимо. Карел — единственный, кто может выходить во фтористую атмосферу и обеспечивать бесперебойную работу генераторов, размещенных под станцией. Если же генераторы перестанут работать, погибнут два человека.
В двадцатый раз Карел стонет:
— Зачем, зачем вы мне сказали?!
Борис предпринимает заведомо безнадежную попытку — отдать настолько категорический приказ, чтобы он взял верх над Первым законом. Борис кричит роботу:
— Встать! Приказываю — не мешай мне оперировать Питера!
Не действует. Если бы Карел мог, он бы пожал плечами. Первый закон сильнее. Питер разражается длинной тирадой, призывая Карела спрятать свой Первый закон в карман. Нелогично, так как у Карела нет соответствующего отверстия и, кроме того, закон — не такая вещь, которую можно спрятать. Умирая от боли и страха, Питер обрывает его рассуждения:
— Брось свою дурацкую логику! Перестань, наконец, понимать все буквально! Ух, добраться бы мне до этого Азимова!
Робот возражает еще настойчивее, и голос его становится еще более жалобным. Удержаться от возражений он не может, так как его электрические цепи — это цепи логических умозаключений.
— Добраться до Азимова невозможно. Он умер двести двадцать семь лет назад.
Борис хватает табуретку, размахивается и собирается треснуть Карела. Но стальная рука перехватывает ее. Не столько из-за Третьего закона («Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам»), сколько из-за Первого: ведь если он допустит, чтобы его поломали, погибнут два человека.
— Но у тебя ведь есть, пропади он пропадом, твой Первый закон, — заявляет Питер. — Ну что ты можешь со мной сделать, чтобы «не допустить»? Шею мне, что ли, свернешь?
— Я заявлю самый решительный протест в устной форме, — благонравно отвечает Карел.
Топтание на месте продолжается в прямом и в перенос ном смысле. Борис и робот топчутся вокруг стола, время от времени возвращаясь к какому-нибудь из отвергнутых вариантов и снова отвергая его.
Отчаяние охватывает его со все большей силой.
И в этот-то момент Карел не находит ничего лучшего, как нежнейшим голосом задать вопрос:
— Вы все еще полагаете, Борис, что он заболел из-за приготовленного мною недоброкачественного обеда? Да? Вы думаете, что дело в моей оплошности?
Борис разражается градом проклятии.
Питер с постели обращается к роботу:
— Ну, а что ты скажешь насчет второй части Первого закона? Как это там «…или своим бездействием допустить, чтобы человеку был причинен вред»?
Жалобным голосом Карел отвечает:
— Вторая часть действительно создает потенциал действия, но он уступает потенциалу первой части. Неоспоримо, однако, что в такой ситуации возникает конфликт, и его надо как можно скорее устранить. Необходима консультация робопсихолога и, может быть, даже частичная перенастройка.
Время идет.
— Конфликт, конфликт, конфликт, — задумчиво повторяет Карел. — Конфликт между законами. Это скверно, скверно, скверно, это скверно для меня.
Идет время. Робот подражает голосу маленькой девочки:
— Скверно, скверно, очень скверно. Пойду-ка я займусь генераторами. Я пробуду там не меньше двух часов. — И, протягивая «руку» Борису, добавляет: — А вы пока будьте умницами!
Разумеется, два часа спустя Питер был уже оперирован. И жизнь его спасена. Робот никак не прокомментировал это событие, но с тех пор стал говорить девчачьим голосом: видимо, какие-то его логические цепи вышли из строя.
При смене дежурства на базе Карел получил приказание вместе с людьми вернуться в звездолет. Там его ожидали робопсихолог и программист.
Через некоторое время они встретились с Борисом и Питером в баре. За стаканом вина психолог сказал:
— Любопытная вещь: робот свихнулся гораздо быстрее, чем следовало бы ожидать. Если б все шло как положено, он бы сопротивлялся еще сутки, и больному от этого, конечно, не стало бы лучше. Не знай я вас обоих так хорошо, я бы поклялся, что из-за какого-то вашего промаха он начал сходить с ума еще до возникновения конфликта. К примеру, не случилось ли вам еще до начала всей этой истории упрекнуть его в том, что он нарушил Первый закон?..
