Глава 19
«1. Робот должен заботиться о своей безопасности.
2. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред, если это не противоречит Первому закону.
3. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому и Второму законам.»
В такой редакции 3 октября 2127 года были утверждены три главных закона робототехники. Больше сотни лет они оставались неизменными и вот… На первый взгляд, казалось бы, ничего не изменилось. Те же фразы, тот же порядок слов. Но отныне третий закон будет первым. И это означает только одно – главенствующим в поведении андроидов станет собственная безопасность. Андроиды превратятся в совершенно иных существ, чуть больше похожих на людей. Сегодня сознательно люди дадут им частичку свободы.
Этим утром, пока люди ещё спали, андроиды, выполнив за ночь все указания, завершив все дела, по обыкновению, подключились к сети для получения очередных программных обновлений. Двенадцать андроидов в доме Марка, пятеро у его соседей, двое, отправленных Любимовым вместе с Эри, и все прочие, существующие в мире не знали о том, что сегодня, в этот момент вместо традиционных обновлений они получат совершенно новые программы. Каждая из них будет представлять свежий алгоритм. Сегодня в соответствии с новой формулировкой трех законов изменится поведение андроидов. Долгие месяцы напряженной работы, бессонные ночи не прошли зря. Ученые просчитали все возможные ситуации взаимодействия людей и роботов.
Несколько месяцев ушло у Любимова с Вертинским на то, чтобы определить допустимый предел угрозы человеческой жизни. Андроидам их института первыми установили бета-версии программных прошивок, и после этого начался мучительный процесс. Каждый день Любимов вынужден был сталкивать биоников с андроидами и наблюдать за тем, как ведут себя дети. Сначала ничего не происходило, но в один день… Дети очень изменились. Безэмоциональными их теперь сложно было бы называть. Копившаяся энергия высвободилась, вырвалась на свободу, биоников как будто подменили. Они стали нападать. Чем более активными становились дети, тем больше активизировались андроиды. Их прошивки постоянно обновлялись, и вот, наконец… Первое ранение бионика было случайным. Рану залечили. Однако потом… К концу эксперимента озлобившиеся, искалеченные подростки были Вертинским и Любимовым изолированы от андроидов. Вертинский требовал глубоких исследований, но, как всегда, времени не хватало. Любимов переживал. Поведение биоников его настораживало, дети жаждали расправы. Однако задание было выполнено, допустимые уровни агрессии со стороны андроидов установлены. Комитет принял решение, никто не хотел ждать. Новые программы были сегодня выложены в сеть и установлены в электронный мозг андроидов.
