Глава 20
В защиту роботов
Твой образ так загадочен, что я к тебе взываю…
Уильям Шекспир. Гамлет. Акт 1, сцена 4
Слово «робот», которое впервые использовал чешский писатель Карел Чапек, имеет славянские корни, так как произошло от чешского слова robota, которое используется для обозначения тяжелого труда. Но оно обозначает скорее машину, а не человека. О роботах, особенно роботах в космосе, в прессе часто писали уничижительные отзывы. Мы читали, что только с помощью человека «Аполлон-11» мог совершить посадку, иначе первый пилотируемый полет на Луну закончился бы катастрофой, что мобильный робот на марсианской поверхности никогда не смог бы так хорошо, как астронавты, собрать нужные образцы для исследования на Земле и что машины никогда не смогли бы, как люди, отремонтировать теплозащитный экран «Скайлэба», необходимый для продолжения ее миссии.
Но все эти заключения, естественно, написали люди. Мне интересно, не закралась ли в эти суждения доля самодовольства, оттенок человеческого шовинизма. Так же как белые могут иногда проявлять расизм, а мужчины – сексизм, не можем ли мы здесь страдать от какой-нибудь сравнимой болезни человеческого духа – болезни, у которой пока нет названия. Слово «антропоцентризм» сюда не подходит. Слово «гуманизм» уже используется в другой, более благовидной деятельности рода человеческого. По аналогии с сексизмом и расизмом, я предполагаю, название этой болезни должно быть «видизм» – предрассудок, что нет существ таких же прекрасных, таких же способных, таких же надежных, как люди.
Это предрассудок, потому что это по меньшей мере предубеждение, вывод, сделанный прежде, чем известны все факты. Такими являются сравнения людей и машин в космосе как умных людей и тупых машин. Мы не спрашивали, какие машины можно было бы сконструировать за 30 млрд долларов, в которые обошлись миссии «Аполлон» и «Скайлэб».
Каждый человек является прекрасно сконструированным, удивительно скомпонованным, самоходным компьютером, способным на независимое принятие решений и настоящий контроль над своей окружающей средой. И, как гласит старая шутка, чтобы создавать такие компьютеры, специальных знаний не требуется. Но есть серьезные ограничения для использования человеческого труда в определенной окружающей среде. Без хорошей защиты люди не смогут выжить на океанском дне, на поверхности Венеры, в глубоких внутренних слоях Юпитера или даже в длительных космических миссиях. Возможно, единственные интересные результаты «Скайлэба», которые не могли бы получить машины, – то, что у людей, проводящих в космосе несколько месяцев, происходит серьезная потеря кальция и фосфора в костях, то есть люди могут утратить трудоспособность в условиях невесомости в миссиях длительностью 6–9 и более месяцев. Но обычное время минимального межпланетного путешествия – год или два. Поскольку человеческая жизнь ценится высоко, мы нехотя посылаем людей в очень рискованные миссии. Если мы все же посылаем людей в экзотическую среду, их также нужно снабдить подходящей едой, воздухом, водой, развлечениями, обеспечить утилизацию отходов и компанию. Для сравнения: машины не требуют детально разработанной системы жизнеобеспечения, развлечений, компании, и мы пока не ощущаем этический запрет на то, чтобы посылать машины в невозвратные или самоубийственные миссии.
Безусловно, в простых миссиях машины проявляли себя неоднократно. Автоматические устройства сделали первую фотографию Земли из космоса и обратной стороны Луны, первыми опустились на Луну, Марс и Венеру и первыми облетели вокруг другой планеты в ходе миссий «Маринера-9» и «Викинга» на Марс. Здесь, на Земле, высокотехнологичное производство (например, на химических и фармацевтических заводах) осуществляется частично или полностью с помощью использования компьютеризированных систем управления. В подобной деятельности машины в какой-то степени способны находить ошибки, исправлять их, предупреждать находящихся на большом расстоянии операторов об обнаруженных проблемах.
Мощные способности вычислительных машин делать арифметические вычисления в сотни миллионов раз быстрее, чем человеческий мозг, хорошо известны. Но что насчет действительно сложных дел? Могут ли машины в любом смысле этого слова обдумывать новую проблему? Могут ли они анализировать разветвленную схему вариантов, которая, как мы считаем, характерна именно для человеческого мышления? (То есть я задаю вопрос 1, если ответ А, я задаю вопрос 2, но, если ответ В, я задаю вопрос 3 и так далее.) Несколько десятилетий назад английский математик А. Тьюринг описал, что ему необходимо, чтобы поверить в машинный разум. Условие заключалось просто в том, чтобы он мог общаться с машиной посредством телетайпа и не мог определить, что это не человек. Тьюринг сочинил воображаемый разговор между человеком и машиной:
«– В первой строке вашего сонета, которая звучит «Сравню ли с летним днем твои черты», не подойдет ли лучше «весенний день»?
– Размер не будет выдержан.
– А как насчет «зимнего дня»? Это бы подошло по размеру.
– Да, но никто не хочет, чтобы его сравнивали с зимним днем.
– Вы бы сказали, что мистер Пиквик напоминает вам Рождество?
– В некотором роде.
– Но Рождество – это зимний день, и я не думаю, что мистер Пиквик возражал бы против этого сравнения.
– Я не думаю, что вы всерьез. Под зимним днем подразумевают обычный зимний день, а не особенный, как Рождество».
Пока еще не сконструировали такое сложное устройство, хотя я не уверен, что все люди могут пройти этот тест Тьюринга на человечность. Но количество времени и денег, вкладываемых в искусственный интеллект, было довольно ограничено, и в мире насчитывается только около полудюжины главных центров такой деятельности. Одним из наиболее поразительных результатов, полученных в очень ограниченной области исследований – детском конструкторе, стали работы Терри Винограда, в то время работавшего в Массачусетском технологическом институте (МТИ). Вот диалог между человеком и машиной, машина была запрограммирована Виноградом:
– Что содержится в коробке?
– Голубая пирамидка и голубая коробка.
– Сколько кубиков находится не в коробке?
– Четыре.
– Действительно ли хотя бы один из них более узкий, чем тот, который я сказал тебе выбрать?
– Да, красный кубик.
– Есть там башенка?
– Простите, я не знаю слова «башенка».
– Башенка – это конструкция, которая содержит два зеленых кубика и пирамидку например.
– Понятно.
– Есть там башенки сейчас?
– Нет.
– Построй одну.
Машина так и делает. Она протягивает механическую руку, двигает кубики и строит конструкцию, которая только что была описана.
– Когда ты возвел пирамидку?
– В тот момент, когда я уложил красный кубик, большой красный кирпич и большой зеленый кубик.
– Зачем?
– Чтобы избавиться от него.
– Почему ты отставил этот кубик?
– Чтобы положить его на большой зеленый кубик.
В качестве другого примера Джозеф Вейценбаум, также из МТИ, разработал машину-психиатра. Это гораздо более простая программа, чем у Винограда, поскольку она задействует недирективную психотерапию, для которой, в общем, достаточно простых вычислительных программ. Вот потрясающий диалог между человеком и компьютером-психотерапевтом. (Безусловно, здесь присутствует эффект отбора. Многие другие подобные психиатрические диалоги машины с человеком далеко не столь поразительны. Но я предполагаю, что большинство психиатрических диалогов между людьми тоже не слишком поразительные.) В этом диалоге, чтобы четко выделить роли терапевта и пациента, компьютер-терапевт печатает в верхнем регистре, а пациент – в нижнем:
все мужчины одинаковы
В ЧЕМ ЭТО ВЫРАЖАЕТСЯ
они всегда донимают нас чем-то
МОЖЕШЬ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР
ну, мой парень вынудил меня прийти сюда
ТВОЙ ПАРЕНЬ ВЫНУДИЛ ТЕБЯ ПРИЙТИ СЮДА
он заметил, что я почти всегда подавлена
МНЕ ЖАЛЬ ЭТО СЛЫШАТЬ
он прав, я несчастна
ТЫ ДУМАЕШЬ, ЧТО ТВОЙ ВИЗИТ ПОМОЖЕТ ТЕБЕ ПЕРЕСТАТЬ БЫТЬ НЕСЧАСТНОЙ
мне нужна помощь, это ясно
ЧТО ТЕБЕ ДАСТ ПОМОЩЬ
возможно, я могла бы научиться ладить с матерью
РАССКАЖИ МНЕ БОЛЬШЕ О СВОИХ БЛИЖАЙШИХ РОДСТВЕННИКАХ
моя мать заботится обо мне
КТО ЕЩЕ ИЗ ТВОИХ РОДСТВЕННИКОВ ЗАБОТИТСЯ О ТЕБЕ
мой отец
ТВОЙ ОТЕЦ
ты похож на моего отца чем-то
В ЧЕМ ТЫ ВИДИШЬ СХОДСТВО
ты не очень агрессивен, но я не думаю, что ты хочешь, чтобы я это заметила
ПОЧЕМУ ТЫ ДУМАЕШЬ, ЧТО Я НЕ ОЧЕНЬ АГРЕССИВНЫЙ
ты не споришь со мной
КАК ТЫ ДУМАЕШЬ, ПОЧЕМУ Я НЕ СПОРЮ С ТОБОЙ
ты боишься меня
ТЕБЕ НРАВИТСЯ СЧИТАТЬ, ЧТО Я БОЮСЬ ТЕБЯ
моему отцу нравится считать, что я боюсь его
О ЧЕМ ТЫ ЕЩЕ ДУМАЕШЬ, ВСПОМИНАЯ ОБ ОТЦЕ
об угрозах
ЭТО КАК-ТО СВЯЗАНО С ТЕМ, ЧТО ТВОЙ ПАРЕНЬ ВЫНУДИЛ ТЕБЯ ПРИЙТИ СЮДА
Эта поразительная – очень хочется сказать «проницательная» – реакция компьютера, конечно, запрограммирована. Но, если на то пошло, таковы и ответы психотерапевтов. В то время, когда все больше и больше людей в нашем обществе, похоже, нуждаются в консультации психотерапевта и когда использование компьютеров широко распространено, я могу даже представить разработку сети компьютеризированных психотерапевтических терминалов – что-то вроде рядов больших телефонных будок, в которых за несколько долларов за сеанс мы сможем поговорить с внимательным, проверенным психотерапевтом, работающим в недирективном стиле. Обеспечение конфиденциальности психиатрического диалога – один из нескольких важных шагов, над которыми еще надо поработать.
Еще одним интеллектуальным достижением машин являются игры. Даже исключительно простые компьютеры – те, которыми способны управлять умные десятилетки – могут быть запрограммированы на игру в крестики-нолики. Некоторые компьютеры могут играть в шашки на уровне мирового класса. Шахматы, конечно, гораздо более сложная игра, чем крестики-нолики или шашки. Здесь запрограммировать машину на победу сложнее, и были использованы новые стратегии, включая несколько довольно успешных попыток заставить компьютер учиться на собственном опыте предыдущих шахматных турниров. Компьютеры могут эмпирическим путем усвоить, например, правило, что лучше в начале игры контролировать центр шахматной доски, а не периферию. Десяти лучшим шахматистам мира все еще нечего бояться любого современного компьютера. Но ситуация меняется. Недавно компьютер впервые смог попасть в Открытый чемпионат по шахматам в штате Миннесота. Возможно, первый раз в главном спортивном мероприятии на планете Земля участвует кто-то, не принадлежащий к человеческому роду (и я задумываюсь о том, не попробуют ли роботы в следующем десятилетии свои силы в гольфе и бейсболе, не говоря уже о дельфинах в соревнованиях по плаванию вольным стилем). Компьютер не победил в Открытом чемпионате, но впервые показал достаточно хорошие результаты, чтобы участвовать в таком соревновании. Компьютеры, играющие в шахматы, чрезвычайно быстро улучшают свое мастерство.
Я слышал уничижительные отзывы о машинах (часто сопровождавшиеся вздохом облегчения) насчет того, что шахматы остаются сферой деятельности, где люди все еще лучшие. Это напоминает мне старую шутку, в которой незнакомец с удивлением отмечает достижения собаки, играющей в шахматы. Собственник собаки отвечает: «О, все совсем не столь замечательно. Она проигрывает две партии из трех». Машина, которая играет в шахматы в среднем диапазоне человеческих умений, – очень способная машина, даже если среди людей лучше играют в шахматы тысячи, а тех, кто играет хуже, миллионы. Чтобы играть в шахматы, требуется стратегия, проницательность, аналитические способности и умение сравнивать большое количество переменных и учиться на собственном опыте. Это отличные качества для тех, чья работа связана с открытиями и исследованиями, а также для тех, кто присматривает за младенцем и выгуливает собаку.
С таким более или менее представительным рядом примеров состояния разработки искусственного интеллекта, я думаю, очевидно, что следующее десятилетие может принести гораздо более впечатляющие примеры. Так считают и большинство разработчиков искусственного интеллекта.
Размышляя о следующем поколении искусственного интеллекта, важно различать роботов с самоуправлением и с удаленным управлением. У роботов с самоуправлением интеллект находится внутри них, у роботов с удаленным управлением – в каком-то другом месте, и его успешное функционирование зависит от слаженной коммуникации между его центральным компьютером и им самим. Существуют, конечно, и промежуточные случаи, когда машина может быть отчасти самоактивируемая и отчасти с удаленным управлением. Именно это сочетание удаленного управления с самуправлением, похоже, станет самым эффективным в ближайшем будущем.
Например, мы можем представить машину, предназначенную для исследования океанского дна. В абиссальной зоне можно найти огромное количество марганцевой руды. Когда-то считалось, что она образовалась в результате падения метеорита на Землю, но сейчас утверждают, что она время от времени формируется в огромных марганцевых фонтанах, выходящих наружу вследствие внутренней тектонической активности Земли. На глубоком океанском дне можно найти также много других редких и ценных для промышленности минералов. Сейчас мы имеем возможность проектировать устройства, которые систематически плавают или ползают по океанскому дну и которые могут посредством спектрометрического и иного химического анализа изучать состав поверхности и автоматически передавать с помощью радиосигнала собранную информацию обратно на корабль или на сушу, а также могут отмечать залежи особо ценных месторождений (например, с помощью низкочастотных радиомаяков). Затем большие горные комбайны найдут эти залежи по радиомаяку. Уровень технического совершенства глубоководных аппаратов с дистанционным управлением и датчиков состояния окружающей среды в космических аппаратах в настоящее время явно соответствует требованиям, необходимым для создания таких устройств. То же самое можно сказать о прибрежной добыче нефти, добыче угля и других минеральных полезных ископаемых под землей и так далее. Возможная экономическая выгода от использования таких устройств окупит не только их разработку, но и несколько космических программ.
Когда машины сталкиваются с особенно сложными ситуациями, они могут быть запрограммированы на то, чтобы понять, что подобные обстоятельства находятся вне пределов их компетенции, и задать вопрос операторам, работающим в безопасной и комфортной среде, – что делать дальше. Примеры, приведенные выше, – это примеры в значительной мере самоуправляемых устройств. Также возможна и обратная ситуация, и в лабораториях Министерства энергетики США значительная часть предварительной работы по указанным соображениям была выполнена посредством удаленного управления высокорадиоактивными материалами. Здесь я представляю себе человека, который связан радиосвязью с мобильной машиной. Оператор находится, скажем, в Маниле, машина – во впадине Минданао. Оператор соединен с набором электронных реле, которые передают его движения машине и усиливают их и которые могут, наоборот, передать то, что машина обнаруживает, обратно к его сенсорным устройствам. Так что, когда оператор поворачивает голову налево, телевизионные камеры на машине поворачиваются налево и оператор видит на большом полусферическом телевизионном экране вокруг себя сцену, которую показывают прожекторы и камеры машины. Когда оператор в Маниле делает несколько шагов вперед в костюме, обмотанном проводами, машина в абиссали передвигается на несколько футов вперед. Когда оператор протягивает руку, механическая рука машины так же протягивается, а точность взаимодействия человека и машины такова, что позволяет производить точные манипуляции с веществом на дне океана пальцами машины. С помощью таких устройств люди могут войти в среду, которая иначе для них недоступна.
При исследовании Марса автоматические аппараты уже совершали мягкую посадку, и в недалеком будущем они будут бродить по поверхности Красной планеты, как сейчас по Луне. Мы не готовы к пилотируемой миссии на Марс. Некоторые из нас обеспокоены опасностью занесения земных микробов на Марс, а марсианских микробов, если они существуют, на Землю, но также огромной стоимостью таких миссий. Зонды «Викинга», приземлившиеся на Марсе летом 1976 г., оснащены очень интересными датчиками и научными инструментами, которые расширяют возможности человека в инопланетной среде.
Очевидное устройство для исследования Марса после «Викинга», которое использует технологию «Викинга», – марсоход «Викинг», который является эквивалентом целого космического аппарата «Викинг», но изготовлен по значительно усовершенствованной технологии и поставлен на колеса или гусеницы трактора, что позволяет ему медленно катиться по поверхности Марса. Но сейчас мы подходим к новой проблеме, с которой не сталкиваются при управлении машиной на поверхности Земли. Хотя Марс является второй ближайшей планетой, он находится так далеко, что время, которое требуется свету, чтобы достичь Земли, становится не пренебрежимо малым. При типичном относительном положении Марса и Земли планета находится на расстоянии 20 световых минут. Таким образом, если бы космический аппарат подъехал к крутому спуску, он мог послать сообщение с вопросом обратно на Землю. Сорок минут спустя пришел бы ответ в таком духе: «Ради бога, оставайся на месте». Но к тому времени, конечно, неискушенная машина опрокинулась бы в овраг. Следовательно, любой марсоход нужно снабдить датчиками, чувствительными к наклону и неровности почвы. К счастью, они легко доступны и даже есть в некоторых детских игрушках. Подъехав к крутому склону или большому валуну, космический аппарат или остановится до получения инструкций с Земли в ответ на его запрос (и изображение поверхности), или отъедет и поедет в другом, более безопасном направлении.
Гораздо более сложные системы принятия решений в непредвиденных ситуациях можно встроить в компьютеры на борту космических кораблей 1980-х гг. Для более удаленных объектов, которые будут исследованы в будущем, мы можем представить операторов на орбите вокруг целевой планеты или на одном из ее спутников. При исследовании Юпитера, например, я могу представить операторов на небольшом спутнике за пределами испускающих сильное излучение радиационных поясов Юпитера, которые обрабатывают с задержкой всего несколько секунд ответы космического корабля, плывущего в плотных облаках планеты.
Люди на Земле также могут взаимодействовать по такой схеме, если они хотят поучаствовать в этом деле. Если каждое решение при исследовании Марса должно пройти через оператора на Земле, марсоход может перемещаться только на пару метров в час. Но срок службы таких марсоходов столь долгий, что пара метров в час – это весьма значительная скорость продвижения. Однако, если мы представим экспедиции в более дальние точки Солнечной системы – и в конечном счете к звездам, – ясно, что самоуправляемый искусственный интеллект возьмет на себя более тяжелый груз ответственности.
При разработке таких машин мы видим своего рода конвергентную эволюцию. «Викинг» странным образом похож на какое-то очень большое, небрежно сконструированное насекомое. Он еще не может ходить и определенно не способен к самовоспроизводству. Но у него есть экзоскелет, целый ряд органов чувств, как у насекомого, и он примерно так же разумен, как стрекоза. Но у «Викинга» есть преимущество, которого нет у насекомых: он может время от времени, задавая вопросы своим операторам на Земле, перенимать разум человека – операторы могут перепрограммировать компьютер «Викинга» на основе решений, которые они принимают.
По мере того как сфера искусственного интеллекта будет развиваться и все больше далеких объектов в Солнечной системе будут доступны для исследования, мы увидим разработку все более сложных бортовых компьютеров, медленно взбирающихся по филогенетическому дереву от разума насекомого до разума крокодила, затем до разума белки и – в не очень отдаленном будущем, я думаю – до разума собаки. В любом полете к внешней Солнечной системе должен быть компьютер, способный определить, работает ли он должным образом. Нет возможности послать за ремонтным мастером. Машина должна быть способна чувствовать, когда она заболела, и квалифицированно лечить собственные болезни. Нужен компьютер, способный или починить, или заменить вышедший из строя компьютер, датчик или структурные компоненты. Такой компьютер, который был назван СТРК (самотестирующийся и -ремонтирующийся компьютер), находится в разработке. Он использует резервные компоненты, как в биологии: у нас два легких и две почки отчасти потому, что каждая является подстраховкой в случае потери другой. Но у компьютера может быть гораздо больше резервов, чем у человека, у которого, например, только одна голова и одно сердце.
Поскольку вес имеет критическое значение при исследовании глубокого космоса, нужно будет интенсивно продолжать миниатюризацию искусственного интеллекта. Очевидно, что уже есть впечатляющие результаты миниатюризации: электронные лампы заменили на транзисторы, схемы с проводным монтажом – на печатные схемы и компьютерные системы в целом – на кремниевую микросхему. Сегодня схему, которая была размером с радиоприемник 1930-х гг., можно напечатать на кончике иголки. Если разумные машины будут использоваться в добыче полезных ископаемых на Земле и в космических исследованиях, в скором времени в производство поступят и домашние роботы. В отличие от классических антропоидных роботов из научной фантастики, такие машины не должны выглядеть более человечно, чем пылесос. Они будут специализироваться по своим функциям. Но существует множество общих задач – от смешивания коктейлей до мытья полов, – которые требуют очень ограниченного ряда интеллектуальных способностей, хотя и недюжинной выносливости и терпения. Многозадачные ходячие домашние роботы, которые выполняют работу по дому так же, как английский дворецкий XIX столетия, вероятно, появятся только через много десятилетий. Но более специализированные машины, приспособленные под определенную хозяйственную функцию, вероятно, уже не за горами.
Можно представить и много других общественных задач и главных функций повседневной жизни, которые выполняют разумные машины. К началу 1970-х гг. мусорщики в Анкоридже, штат Аляска, и других городах добились соглашения о заработной плате, гарантирующего им зарплату около 20 000 долларов в год. Возможно, только экономические причины заставят проектировать мусороуборочные автоматы. Чтобы использование домашних и общественных роботов приносило пользу обществу, нужно, конечно, организовать эффективное обеспечение занятости тех людей, которых заменят роботы, но через поколение это не должно быть слишком сложно – особенно если провести реформы образования. Люди любят учиться.
Мы находимся на пороге разработки разнообразных разумных машин, способных выполнять задачи, слишком опасные, слишком дорогие, слишком трудные или слишком скучные для людей. Разработка таких машин является, на мой взгляд, одним из немногочисленных законных «побочных результатов» космической программы. Эффективное использование энергии в сельском хозяйстве, от которого зависит наше выживание как вида, может даже зависеть от разработки таких машин. Главным препятствием, по-видимому, является типично человеческая проблема – чувство, которое непроизвольно возникает у людей, что есть что-то угрожающее или «нечеловеческое» в том, что машины выполняют определенные задачи так же хорошо или лучше, чем люди, или чувство ненависти к созданиям, сделанным из кремния и германия, а не из белков и нуклеиновых кислот. Но во многих отношениях наше выживание как вида зависит от преодоления такого примитивного шовинизма. Отчасти наше приспособление к разумным машинам – вопрос привыкания. Уже существуют кардиостимуляторы, которые могут чувствовать биение человеческого сердца: только когда возникает малейший намек на фибрилляцию, аппарат стимулирует сердце. Это небольшой, но очень полезный вид искусственного интеллекта. Не могу представить, чтобы тот, кто носит это устройство, возмущался против его разума. Я думаю, через относительно короткий период времени также примут и гораздо более разумные и сложные машины. В искусственном интеллекте нет ничего нечеловеческого, на самом деле это выражение тех блестящих интеллектуальных способностей, которыми сейчас обладают из всех живых существ на нашей планете только люди.
