Маленькая Мисс в очередной раз приехала проведать свою калифорнийскую семью. Ей уже исполнилось восемьдесят три года, и она выглядела хрупкой, как птичка. Но ни энергии, ни решительности у нее не убавилось ни на гран. Она ходила с палочкой, но использовала ее больше для жестикуляции, чем в качестве опоры.

Рассказ о неудачной попытке Эндрю попасть в библиотеку она выслушала со все возраставшим негодованием. По окончании его она стукнула палкой об пол и сказала:

— Джордж, это ужас какой-то. Кто эти два молодых негодяя?

— Не знаю, мама.

— Должен узнать.

— Что это изменит? Полагаю, это пара местных хулиганов. Обычные праздношатающиеся дурачки. Да в конце-то концов, они не причинили никакого вреда.

— Но могли. Если бы ты не оказался там, Эндрю здорово досталось бы. Да они и на тебя могли напасть. Тебя спасло только то, что они оказались слишком глупы, чтобы понять, что, если бы даже ты приказал Эндрю расправиться с ними, он не смог бы причинить им вреда.

— Да ну, мама. Неужели ты думаешь, они посмели бы тронуть меня? Люди, нападающие на совершенно им незнакомого человека на окружной дороге? И это в двадцать третьем веке?

— Предположим, не тронули бы. Но Эндрю подвергался реальной опасности, а этого мы не имеем права допустить. Ты же знаешь, Джордж, что я считаю Эндрю членом нашей семьи?

— Да. Я и сам так думаю. Так было всегда.

— Так разве можем мы позволить, чтобы два балбеса обращались с ним как с брошенной заводной игрушкой?

— Мама, что ты хочешь от меня? — спросил Джордж.

— Ты юрист, не так ли? Так употреби свои юридические познания на пользу дела! Послушай меня: я хочу, чтобы ты в любом случае предъявил иск, который принуд ил бы Региональный суд публично признать права роботов, а Законодательное собрание — принять необходимые законы, а если возникнут какие-то политические проблемы, ты передать дело во Всемирный суд, коли другого пути не будет. За всем этим я буду постоянно следить, Джордж, и не потерплю никаких уверток.

— Мама, но разве не ты совсем недавно говорила, что больше всего ты хотела бы, чтобы я прошел на выборах в Законодательное собрание и занял бы там место моего деда?

— Да, ну и что такого? Что изменится...

— Но теперь ты хочешь, чтобы я развернул сомнительную кампанию за права роботов. Роботы не участвуют в выборах, мама, зато в них участвует огромное множество людей, и далеко не все они обожают роботов так, как ты. Ты хоть понимаешь, что получится с моим избранием, если из всего, что избиратели узнают обо мне, главным будет информация о том, что я тот самый юрист, который отстаивает в Законодательном собрании законы о правах роботов?

— Ну?

— Так что важнее для тебя, мама? Чтобы меня избрали в Законодательное собрание или чтобы я погрузился в составление иска?

— Конечно, составление иска, — не задумываясь ответила Маленькая Мисс.

Джордж кивнул:

— Хорошо. Я просто хотел все расставить по своим местам. Я пойду и буду отстаивать права роботов, раз ты этого желаешь. Но это станет концом моей политической карьеры еще до того, как она началась. Я хочу, чтобы ты ясно сознавала это.

— Я все понимаю, Джордж. Может оказаться, что ты и ошибаешься в своей оценке — не знаю, но я, во всяком случае, хочу, чтобы Эндрю не грозило повторение такого зверского нападения. Для меня это важнее всего.

— Ну что ж, — сказал Джордж, — буду иметь это в виду, мама. Можешь на меня рассчитывать.

И он тут же принялся за работу. И то, что начиналось как стремление умиротворить грозную старую леди, скоро стало делом всей его жизни.

Джордж Чарни никогда не рвался в кресло законодателя, и он сам себе признался, что удачно ретировался благодаря идее его мамочки сделать из него рыцаря в сражении за гражданские права. И адвокатская его душа взыграла в ответ на этот вызов. В баталию будут вовлечены такие глубокие, серьезные юридические понятия, в которых следовало внимательно разобраться и заранее все рассчитать.

В качестве совладельца фирмы «Файнголд энд Чарни» Джордж взял на себя выработку стратегии, а повседневными делами, регистрацией документов занялись младшие партнеры. Он поручил своему сыну Полу, который стал членом фирмы три года назад, тактические маневры. Кроме того, в его обязанности входило практически ежедневно докладывать бабушке, как идут дела. А она, в свою очередь, каждый день обсуждала их с Эндрю.

Всерьез подключили к кампании и Эндрю. Он начал было писать книгу о роботах — он обратился к самому началу, ко времени создания корпорации «Юнайтед Стейтс Роботс энд Мекэникл Мен» и его основателя Лоуренса Робертсона, — но ему пришлось отложить на будущее свои планы, а пока тратить все свое время на разбор все растущих гор юридических документов. И он даже порой позволял себе высказывать собственные суждения.

Он сказал как-то Маленькой Мисс:

— В тот день когда на меня напали те двое, Джордж сказал мне, что люди всегда боялись роботов. Он назвал это «болезнью человечества». Но пока эта болезнь существует, ни судьи, ни законодатели ничего не станут предпринимать во благо роботов — так я это понимаю. У роботов нет политической власти, у людей она есть. Значит, нужно сделать так, чтобы люди изменили свое отношение к роботам, так?

— Если бы мы могли.

— Мы должны попытаться, — сказал Эндрю. — Джордж должен.

— Да, — согласилась Маленькая Мисс. — Он, только он.

И в результате судебными делами занимался теперь Пол, а Джордж целиком отдался общественной деятельности. Он полностью посвятил себя кампании за предоставление гражданских прав роботам, отдавал этому всю свою энергию, все свое время.

Джордж всегда был хорошим оратором, выступал непринужденно и убедительно, и теперь он стал заметной фигурой на собраниях юристов, учителей, редакторов голографических новостей, выступал на открытых дискуссиях, которые транслировались на всех пневмоволнах, везде защищая права роботов с красноречием, все возраставшим по мере того как он набирался опыта.

Чем больше времени проводил Джордж в общественных собраниях и студийных павильонах, тем свободней и в то же время напористей он становился. Он снова отрастил бакенбарды и зачесывал свои теперь уже седые волосы назад. Он даже сменил костюм на свободное летящее одеяние в стиле «дрэпери» — так одевались самые популярные ведущие видеопрограмм. В нем, признавался Джордж, он чувствовал себя то ли греческим философом, то ли членом древнеримского сената. Гораздо более консервативный в своих вкусах Пол, впервые увидев одетого таким образом отца, предупредил его:

— Ты, пап, смотри, не запутайся в нем и не свались, когда выйдешь на сцену.

— Уж постараюсь, — откликнулся Джордж.

Сущность его аргументов в пользу прав роботов заключалась в следующем:

— Если, согласно Второму Закону, мы можем требовать от любого робота полного подчинения во всем, что не причиняет вреда человеку, тогда любой человек — любой! — обладает

страшной властью над любым — опять-таки над любым — роботом. Вследствие этого, поскольку Второй Закон господствует над Третьим, любой человек может воспользоваться им и свести на нет Третий Закон о самозащите робота. Он может приказать роботу причинить себе вред или даже разрушить себя по любой причине или вовсе без причины, из каприза.

Исключим из нашей дискуссии вопрос о собственности — хотя и это заслуживает внимания, — давайте посмотрим на все с позиции человеческой порядочности. Представьте на минуту, что некто подходит к роботу, оказавшемуся в одиночестве на дороге, и единственно ради развлечения приказывает ему расчленить самого себя или причинить себе не менее тяжелые увечья. Или, предположим, сам хозяин робота в минуту расстройства, или от скуки, или от крушения своих планов отдает ему такой приказ.

Вы считаете это справедливым? Разве к животным мы так относимся? А у животного, поймите меня правильно, есть возможность защитить себя. Мы же наших роботов сделали изначально неспособными поднять руку на человека.

Даже обычный неодушевленный предмет, хорошо послуживший нам, требует от нас определенного внимания. А робот — это существо далеко не бесчувственное, это и не машина, и не животное. Он достаточно хорошо соображает, чтобы участвовать в беседах с нами, обсуждать наши проблемы, шутить с нами. Многие из нас, кому довелось жить и работать вместе с роботами в течение всей жизни, пришли к мысли, что они — наши друзья, а иногда, осмелюсь сказать, и члены наших семей. Мы испытываем глубокое уважение к ним, даже привязанность. И что же — требование принять закон в защиту наших друзей-роботов слишком тяжелое требование?

Если человек имеет право приказать роботу все, что не нанесет вреда человеческому существу, он должен иметь достаточно порядочности и никогда не приказывать то, что может навредить роботу, кроме тех случаев, когда это необходимо для спасения человека. Во всяком случае, недопустимо требовать от робота причинения себе бессмысленного вреда. Большой власти должна сопутствовать большая ответственность. Если уж роботы подчинены Трем Законам, защищающим интересы людей, то разве слишком много будет потребовать, чтобы люди тоже подчинялись одному-двум законам в защиту роботов?

Но существовала и противостоящая Джорджу сторона, возглавляемая все тем же Джеймсом Ван Бюреном, адвокатом, который протестовал в Региональном суде против предоставления Эндрю статуса свободного робота. Теперь это был старик.

но такой же неутомимый и изобретательный защитник традиционных общественных установлений. И снова этот прекрасный оратор в своей спокойной, уравновешенной, благоразумной манере выступал от имени тех, кто отрицал всякую возможность предоставления прав роботам.

Он говорил:

— Конечно, я ни в коей мере не оправдываю тех вандалов, которые бессмысленно разрушают роботов, им не принадлежащих, или приказывают самому роботу разобрать себя на части. Это уголовное преступление в чистом виде, и преступник может быть наказан в соответствии с ныне действующими законами. Но особый закон для подобных случаев нужен нам так же, как, к примеру, специальный закон против тех, кто бьет стекла в окнах чужих домов. Неужели нам недостаточно общего закона, утверждающего неприкосновенность собственности, чтобы создать условия для ее защиты?

Но специальный закон, предотвращающий уничтожение собственного робота? Простите, тут мы вступаем в область очень странного образа мышления. У меня, в моем офисе есть роботы, но желание сокрушить хотя бы одного из них приходит ко мне так же часто, как мысль взять топор и трахнуть им по столу. Но покажите хотя бы одного человека, который стал бы возражать против моего права делать с моими роботами все, что мне вздумается, так же, как со столами и с любыми предметами мебели в моем офисе. Может, государство, бесконечно мудрое государство, явится ко мне в офис и скажет: «Джеймс Ван Бюрен, вы должны проявлять доброту к вашим столам и оберегать их от повреждений. То же и в отношении картотечных ящиков: к ним следует относиться с уважением, к ним следует относиться как к друзьям. Это касается и ваших роботов, само собой разумеется. Вы, Джеймс Ван Бюрен, ни в коем случае не должны подвергать опасности своих собственных роботов».

В этом месте Ван Бюрен выдерживал небольшую паузу, умно и спокойно улыбался, каждому давая понять, что это был не более чем гипотетический пример и что сам он отнюдь не принадлежит к тем, кто может кому-либо или чему-либо нанести урон. И затем он продолжал:

— Можно ожидать, что Джордж Чарни скажет, будто робот по суш своей совершенно отличен от стола или картотечного ящика, что робот разумен и эмоционален, что с роботами нужно обращаться практически как с людьми. В ответ я хотел бы сказать, что он ошибается, он ослеплен любовью к роботу, которого его семья держит вот уже много десятилетий, он потерял представление о том, что такое роботы в действительности.

А в действительности они, друзья мои, машины. Они инструменты. Они приспособления. Механические приспособления, меньше всего нуждающиеся в юридической защите, как и все прочие неодушевленные предметы. Да, я утверждаю: неодушевленные. Они могут говорить, согласен. Они могут по-своему, в ограниченных пределах, в соответствии с заложенной в них программой, мыслить. Но уколите робота — польется ли из ранки кровь? Пощекочите робота — станет ли он хохотать? У роботов есть руки, есть органы чувств, потому что мы их такими сделали, но обладают ли они истинно человеческими привязанностями и страстями? Едва ли. Едва ли! И поэтому давайте не путать машины, внешне сходные с людьми, с живыми существами.

Должен также особо заметить, что в наш век человечество оказалось в зависимости от труда роботов. В мире сейчас больше роботов, чем людей, и в основном они выполняют такие работы, к которым никто из нас не захотел бы и близко подойти. Они освободили человека от нудных, грязных работ и от деградации. Но нельзя путать наши разногласия с давними дебатами о рабстве, с последующими дебатами об освобождении рабов и, наконец, с еще более поздними дебатами о гражданских правах для потомков вольноотпущенников — это неизбежно приведет к экономическому хаосу, когда наши роботы начнут требовать не просто законов в свою защиту, а захотят полной независимости от своих господ. Рабы далекого прошлого были людьми, коварно захваченными другими людьми, мерзко с ними обращавшимися. И принуждать их силой к рабству никто не имел права. Но роботы только для того и появились на свет, чтобы служить. Они по определению предназначены для использования: быть не нашими друзьями, а нашими слугами. И любое другое отношение к этому предмету есть сентиментальное, опасное заблуждение.

И Джордж Чарни, и Джеймс Ван Бюрен были превосходными ораторами. Поэтому битва между ними, проходившая в основном на общественных мероприятиях, а не в Законодательном собрании и не в Региональном суде, в конечном итоге привела к возникновению своего рода равновесия.

Существовало немало людей, которые сумели переступить через страх и неприязнь к роботам, так широко распространенные на Земле два века назад, и они согласились с доводами Джорджа. Они тоже относились к своим роботам с определенной долей любви и хотели, чтобы роботам была предоставлена хоть какая-то защита со стороны закона.

Но были и такие, кто страшился не столько самих роботов, сколько риска понести финансовый ущерб, если роботы получат хотя бы незначительные гражданские права. И они добивались осторожного подхода к этой новой области в юрисдикции.

И вот баталия наконец закончилась, был предложен закон, по условиям которого объявлялись противозаконными все приказы, выполнение которых могло повредить роботу; закон прошел в Законодательном собрании, но с поправками; его направили обратно в Региональный суд; Региональный суд после исправления отдельных статей снова его принял, затем его ратифицировал Всемирный законодательный совет, после окончательной апелляции его утвердил Всемирный суд, и в результате всех этих мытарств он стал очень невыразительным. Бесконечные видоизменения привели к тому, что меры наказания нарушителей закона оказались далеко неадекватными.

Но, по крайней мере, принцип прав роботов, впервые установленный в связи с провозглашением Эндрю свободным роботом, теперь намного продвинулся вперед.

Окончательное одобрение закона Всемирным судом было получено в день кончины Маленькой Мисс.

Это не было совпадением. Маленькая Мисс, совсем старенькая и слабая к тому времени, отчаянно цеплялась за жизнь в эти последние недели дебатов. Но стоило прозвучать слову «победа!», как она ослабила хватку.

Эндрю был возле нее, когда она умерла. Он стоял подле ее постели, глядя вниз на маленькую, увядшую женщину, утонувшую в подушках, и вспоминал те далекие дни, больше восьмидесяти лет назад, когда его доставили в большой дом Джералда Мартина на побережье океана и две маленькие девочки смотрели на него, а младшая вдруг нахмурила бровки и произнесла: «Эн-ди-арр... Совсем нехорошо. Нельзя так называть его. Что, если мы назовем его Эндрю?»

Как давно, как страшно давно это было! Если говорить о Маленькой Мисс — целая жизнь прошла. А Эндрю казалось, что какой-то миг промелькнул, почти ничто не отделяло его от тех дней, когда он, Мисс и Маленькая Мисс спустились на берег и он поплыл во время прибоя, потому что так захотелось им, маленьким девочкам.

Это было больше восьмидесяти лет назад. Для человека это, как было известно Эндрю, большой отрезок времени.

Жизнь Маленькой Мисс завершила свой цикл и теперь покидала ее. Волосы, которые были когда-то сияющим золотом, давно уже превратились в блестящее серебро, и вот впервые они потускнели, стали бесцветными. Она шла к своему концу, и ничто не могло этого изменить. Она не была больна: она просто состарилась, и не было никакой надежды на улучшение. Пройдет несколько мгновений, и она перестанет функционировать. Эндрю с трудом представлял себе мир, в котором не будет Маленькой Мисс. Но он понимал, что сейчас наступает время именно такого мира.

Ее последняя улыбка была обращена к нему. «Нам было хорошо с тобой, Эндрю», — прозвучали ее последние слова.

Она умерла, держа его руку в своей, а ее сын с женой и внуком стояли чуть поодаль от них.