РОБОТЫ — ЧТО ОНИ МОГУТ?
Перед читателями три рассказа о роботах. События, о которых идет в них речь, настолько фантастичны, что, кажется, нет никакой необходимости их комментировать. Слова «научно-фантастический рассказ» снимают все недоуменные вопросы.
Это было бы так, если бы современная фантастика не проявляла очень сильной тенденции использовать данные точных наук, а не пренебрегать ими. Забегая вперед, заметим, что авторы трех совершенна различных рассказов добросовестно используют данные современной науки о роботах. Называется эта наука прозаически: «Теория автоматов».
Не следует думать, что теория автоматов имеет дело только с машинами и механизмами, которые самостоятельно или, во всяком случае, с минимальным вмешательством человека могут выполнять лишь определенные, строго предписанные им операции. Конечно, красный ящик, выдающий за три копейки стакан воды с сиропом, — автомат. Автоматом является и фотоэлектрический контролер в метро, пропускающий пассажира только после того, как он опустит в него пять копеек. Но это — простейшие автоматы. Красный ящик для продажи воды не может вдруг переменить свою «узкую специальность» и начать, скажем, по утрам подметать улицы. Фотоэлектрический контролер не обладает никакими эмоциями и не может пропускать бесплатно симпатичных ему пассажиров. Действия обоих автоматов однозначны и однообразны, как действия тупых бюрократов.
Даже эти простейшие автоматы обладают одним замечательным качеством: они проявляют «признаки жизни» только после того, как установилась связь между ними и внешним миром. Они в некотором роде подражают живым существам, реагируя на внешние «раздражения». Если угодно, то в этих простых автоматах выделена одна-единственная функция человека. В первом случае — функция продавца воды, во втором случае — функция контролера.
Человек, торгующий водой, существенным образом отличается от автомата. Он не только молчаливо наливает стакан воды после того, как вы заплатили деньги, но он может совершать тысячи других действий. Он может давать сдачу, может приказать покупателю не нарушать очередь, пока вы пьете воду, он может поинтересоваться исходом очередного футбольного матча, спросить, где вы купили такие красивые цветы, и так далее и тому подобное.
Спрашивается, можно ли создать автомат, который будет давать сдачу, сам мыть стаканы и любезно спрашивать покупателя, какая на улице погода?
Конечно, можно. Если можно построить автомат, который выполняет только одну человеческую функцию, то принципиально нет никаких препятствий для создания автомата, выполняющего две, три, десять, сто, миллион человеческих функций. И чем больше автомат будет «подражать» человеку, тем больше он будет на него походить. С увеличением числа «разумных» действий автомата он все больше и больше будет превращаться в робота, то есть в механическое создание, имитирующее разумное поведение. Именно возможностью создания таких роботов и интересуется современная теория автоматов.
С увеличением количества разумных действий растет и сложность конструкции робота. Нужно создать машину, которая работает по принципу; «Если… то…» Если в паз опущены три копейки, то выдай стакан воды с сиропом. Если покупатель забыл помыть стакан, то предварительно ополосни его. Если у покупателя нет трех копеек, а есть десять, то дай ему сдачу. Если покупатель улыбнулся, то пропой ему песенку. И так до бесконечности.
Набор «ответов» на различные воздействия извне называется программой работы автомата. Программа может быть сколь угодно сложной и включать в себя не только строгие и однозначные функции автомата, но и изменения этих функций. Например, торгующий водой автомат на улыбку покупателя может либо пропеть песню, либо спросить: «Чему вы улыбаетесь?», либо сам разразится смехом. Можно сделать так, что выбор той или иной программы будет совершенно произвольным, и тогда появится впечатление, что автомат обладает «свободой воли» и ведет себя так, а не иначе «по собственной прихоти».
Существует заблуждение, будто для автомата обязательно нужно заранее составить программу работы. Для простейших автоматов это действительно так. Однако сейчас разработаны автоматы, которые сами себя программируют. Достаточно в конструкцию автомата заложить некий общий принцип, и тогда, взаимодействуя с окружающим миром, он будет самостоятельно вырабатывать соответствующую линию поведения. Для того чтобы автомат стал самопрограммирующимся, необходимо, чтобы он был наделен большим количеством «органов чувств» и большой «памятью». Сложные электронно-решающие машины в комбинации с искусственными «органами чувств» — различными датчиками, реагирующими на свет, температуру, прикосновение и пр., - могут самостоятельно программировать свою работу в соответствии с поставленной конечной целью.
Прежде чем перейти к разбору помещенных в альманахе научно-фантастических рассказов, необходимо сделать еще одно замечание.
Поскольку высшие автоматы властно входят в производственную жизнь человека, возникает очень важная проблема создания методов общения людей с машинами. Сейчас такое общение осуществляется с помощью машинного «языка». Это — математический язык, несколько напоминающий азбуку Морзе, и он вводится в машину при помощи перфокарт или магнитной записи на пленку. Разговор с машиной на особом языке усложняет процедуру общения с ней, потому что приходится каждый раз прибегать к услугам «переводчика» — программиста, который приказы и указания человека переводит на машинный язык. Было бы куда проще, если бы машина-автомат научилась понимать обычную человеческую речь, устную или письменную. Работа в этом направлении ведется, и не безуспешно. Уже существуют автоматы, которые повинуются командам, подаваемым голосом или в письменном виде. Есть автоматы, которые могут не только слушать человека, но и отвечать ему. Не за горами время, когда в справочных бюро будут сидеть автоматы и отвечать на все вопросы клиентов.
Рассказ Анатолия Днепрова «Разговор с чужой тенью» по существу касается топ же темы, которая была разработана автором в его рассказе «Суэма». Суэма — это самоусовсршенствующаяся электронная машина. Она наделена органами зрения, слуха и другими чувствами, она может читать, писать и разговаривать. В период написания Суэмы (1957) тема казалась слишком фантастической. Однако сейчас дистанция между Суэмой и реальными машинами заметно сократилась, и на повестку дня серьезных исследований по кибернетике встали парадоксальные на первый взгляд вопросы. Может ли автомат имитировать сложные человеческие эмоции? Может ли поведение автомата быть столь «человеческим», что его станут принимать за живое существо?
Американский математик Дж. Тьюринг в интересной работе «Может ли машина мыслить?» отвечает на эти вопросы утвердительно. Советский математик академик А.Н.Колмогоров показал, что достаточно сложный автомат может успешно «разыгрывать» самые сложные человеческие эмоции. А для того чтобы «обман» был достаточно убедительным, необходимо роботу придать соответствующий внешний вид — оформить его по образу и подобию человека.
Именно таким роботом является сложная электронная кукла «Галина Гурзо», приснившаяся герою рассказа А.Днепрова. Конечно, мысль о возможности влюбиться в хорошенькую куклу весьма и весьма фантастична. Это становится ясно в конце рассказа. Но автор, используя этот прием, заостряет внимание на очень любопытной и очень сложной проблеме современной кибернетики. Теоретически в поведении «Галины Гурзо» из сна нет ничего такого, чего бы не мог выполнить хорошо сконструированный робот. Будущие молекулярные элементы для электронных схем позволят создавать автоматы достаточно миниатюрными, чтобы разместить все искусственные органы чувств и органы управления в габаритах человеческого тела. Пластические массы и химические мускульные двигатели сделают движения робота похожими на движения человека, и тогда, при достаточно тонком программировании и при наличии схем самопрограммирования, автомат внешне начнет вести себя, как человек.
И все же есть границы «очеловечивания» роботов. Кукла в роли девушки настолько совершенна, что в нее можно влюбиться и не заметить, кто она; такое возможно только во сне.
Машина — помощник человека, но как бы сложна и хороша она ни была, она никогда не заменит человека во всех сферах его деятельности. В этом смысл рассказа.
Вместе с тем то обстоятельство, что «Галина Гурзо» работает в лаборатории в качестве математика, не должно никого удивлять, потому что это — самая «легкая» часть поведения робота. Уже сейчас существуют машины, которые самостоятельно доказывают математические теоремы и успешно занимаются инженерным проектированием! Создание машин такого рода по-новому ставит проблему автоматизации умственного труда и научно-исследовательской деятельности.
Рассказ «Хоровод» американского писателя Айзека Азимова также посвящен сложному поведению робота в необычных условиях на планете Меркурий. Однако автомат Спиди, в отличие от робота А.Днепрова, очень «жестко» запрограммирован, и поэтому его поведение ни в какой степени не является таинственным.
Существует древняя басня о том, как осел умер от голода только потому, что все время колебался, не зная, с какого из двух стогов сена начать трапезу.
Примерно в такое же положение попал робот Спиди, стремясь выполнить команду человека и, с другой стороны, подчиняясь «инстинкту» самосохранения. Спиди как бы оказался под действием двух равных сил. И только когда в действие вступила третья сила — первое правило, гласящее, что «робот… не может своим бездействием допустить, чтобы человеку был причинен вред», он бросается спасать героя рассказа и таким образом выходит из заколдованного круга.
Такое поведение автомата очень вероятно. Существуют ситуации, когда машины попадают в так называемый «режим автоколебаний». Это случается, когда на систему начинают действовать равные, но противоположно направленные стимулы — сигналы. Робот А.Азимова оказался именно в таком положении.
Что касается технических объяснений поведения Спиди, то они, в общем, верные, хотя совершенно непонятно, зачем автору понадобились «позитронные потенциалы», когда значительно естественнее было бы говорить просто об электрических сигналах.
Фантастичность рассказа Айзека Азимова не в поведении робота, а в обстановке, в которой разворачивается действие.
Если первые два рассказа посвящены главным образом проблеме возможности создания роботов с разумным поведением, то третий рассказ «Двое под гамаком» затрагивает философские и этические проблемы, возникающие в связи с появлением «думающих» машин. Молодой журналист Игорь Подольный и академик Ренский ведут неторопливую беседу о том, что будет, когда появятся разумные роботы.
В этом разговоре и страх перед возможным «бунтом» машин, и восхищение перед их возможностями, и мысли о подчинении машины человеку, и вера в превосходство человека над машиной.
Одна мысль автора рассказа заслуживает того, чтобы на ней остановиться подробнее:
«Все равно ведь хозяин — человеческий ум. И был и останется. Он гибче, сильнее. И не скоростью вычислений или объемом памяти. Вовсе нет. Он сильнее точным ощущением цели — не промежуточной, а конечной, умением мыслить нелогично и на первый взгляд Даже неразумно…»
Действительно, современные электронные счетно-решающие машины, по выражению одного ученого, «идиотски логичны», а по словам другого, «напоминают идиотов, наделенных феноменальной способностью к вычислениям». Однако вечно ли будет продолжаться этот «идиотизм»?
Выше мы рассказали, как можно сделать, чтобы машина-автомат имитировала «свободу воли». Поведение робота будет приближаться к поведению человека, если машина будет работать не по законам формальной логики, а по законам вероятностной логики. Это значит, что в каждый момент поведение робота будет обусловлено лишь с определенной степенью вероятности, и его заранее нельзя предсказать. Однако дело не только в этом. На нынешнем этапе развития высших автоматов действительно существует пропасть между самыми «умными» машинами и человеком. Пока что остается тайной, как человеческий ум, часто располагая очень скудной информацией, может принимать правильные решения. Существует мнение, что уже с момента рождения ребенка в наборе его врожденных инстинктов и рефлексов, возникших в результате миллионов лет эволюции, заложено достаточное количество информации, которая облегчает поведение человека в будущем.
Если это так, то проблема создания машины умнее человека а конечном счете должна свестись к созданию искусственного человека, и, следовательно, машина, не обладающая всеми, элементами внутренней и внешней структуры человека, не сможет с ним соревноваться во всех отношениях.
Эти «утешительные» аргументы, однако, не исключают возможности создания роботов, которые будут умнее человека в некоторых областях, и хотя такие роботы будут продуктом человеческого разума, они ни в коей степени не посрамят своего создателя.
Научное творчество человека направлено на то, чтобы усилить свою власть над природой. Во все времена инженерное искусство было нацелено на создание «усилителей» человеческих возможностей. И то, что автомобиль двигается быстрее, чем человек, а экскаватор физически сильнее его, ни в коей степени не унижает человека. Человек велик не сам по себе, а велик именно плодами своего творчества. И если сейчас он создает «усилители» своего ума, то это только подчеркивает правомерность той эволюции, которая началась много тысячелетий тому назад.
Важная роль современной и будущей кибернетики подчеркнута в историческом документе, начертавшем контуры близкого коммунистического завтра. В новой Программе КПСС говорится:
«Получат широкое применение кибернетика, электронные счетно-решающие и управляющие устройства в производственных процессах промышленности, строительной индустрии и транспорта, в научных исследованиях, в плановых и проектно-конструкторских расчетах, в сфере учета и управления».
Широкое внедрение кибернетических устройств приведет к существенному изменению всей техники.
Однако прав автор рассказа «Двое под гамаком». Многие проблемы, касающиеся конфликтов между будущими мыслящими машинами и людьми, выдуманы, и писатели-фантасты в этом направлении постарались больше всех. Массовое использование «мыслящих роботов» окажет влияние на жизнь будущего общества. Даже «глупый» автомобиль заставил людей ходить только по тротуарам и переходить улицу лишь на перекрестках. Попытка нарушить правила уличного движения грозит опасностью для жизни. Кто знает, какими будут «правила уличного движения» в век «разумных» автоматов!
Кандидат физико-математических наук
А.П. МИЦКЕВИЧ
