Книга: Звездные войны. Психология киновселенной
Назад: 2. Разновидности
Дальше: 6. Скорбь и маскулинность: Энакин-человек Билли Сэн Чжуань
5. Дроиды и разум – почему нас это волнует?
Джим Дэвис
«Итак, если бы дроиды могли мыслить, разве кто-нибудь из нас остался бы здесь?»Оби-Ван Кеноби
«Ключевой вопрос о том, могут ли небиологические существа иметь какие-либо права, сводится к тому, обладают ли они сознанием. Способны ли они чувствовать?»Футурист Рэй Курцвейл
Дроиды – это существа Вселенной «Звездных войн», обладающие искусственным интеллектом. Из крошечных дроидов-мышей на «Звезде Смерти» они превратились в огромных космических грифов Сепаратистской армии. Они могут двигаться и говорить, но что мы знаем об их душевном состоянии? Обладают ли они интеллектом? Свойственна ли им сознательная деятельность?
Искусственный мозг может довольна неплохо соображать
В «Звездных войнах» это кажется очевидным, что какое бы когнитивное задание ни стояло перед дроидами, они справятся с любым. Есть дроиды-медики, которые ставят диагнозы, протокольные дроиды, занимающиеся переводами, и дроиды-воины, которые сражаются. Все они могут думать, принимать решения и даже выстраивать стратегии, манипулировать другими, как, например, тактические дроиды серии «Т» из фильма «Звездные войны: Войны клонов», которые способны быть грозными военачальниками.
Несмотря на то что дроиды могут выполнить почти любое интеллектуальное задание, Оби-Ван Кеноби, как и многие другие люди, отрицает возможность того, что машины способны думать. Кеноби также очень редко проявляет сострадание к дроидам, в отличие от Энакина и Люка. Хотя большинство дроидов умеют говорить, многие разговаривают лишь на своем «двоичном» языке, на свистящем и пищащем наречии R2-D2. Кеноби не понимает его. Энакин и Люк, напротив, знают двоичный язык и намного больше заботятся о состоянии дроидов. Случайно ли это? Скорее всего, нет. Слуховое восприятие может оказаться даже важнее, чем зрительное, для того чтобы судить об интеллектуальном уровне развития других людей. В частности, большой словарный запас, который предотвращает неудачные заминки в речи, и более легкий для понимания стиль разговора помогают увидеть в ком-либо интеллектуально более развитого человека. Следовательно, легко считать кого-то глупым, если вы не можете понять то, о чем он говорит. Так происходит и с машинами.
С юных лет Оби-Ван учился быть одним целым с Силой, которая объединяет лишь живое, то есть органическое – возможно, именно поэтому дроиды и не входили в зону его внимания. В противоположность этому Энакин и Люк могли взаимодействовать с дроидами еще до знакомства с Силой. А исследования в нашем с вами мире показывают, что эмпатия помогает увеличить степень взаимодействия между людьми или группами людей.
Не менее важный вопрос: способны ли дроиды испытывать эмпатию по отношению к нам?
Эмоции в органических и искусственных системах
Еще один существенный вопрос о дроидах, помимо определения степени их разумности, состоит в их способности испытывать эмоции: могут ли они страдать и чувствовать боль? Наша культура допускает существование чего-то, что умеет думать, но ничего не чувствует. В нашем рутинном понимании психологии мы обычно разделяем такие понятия, как причина эмоции и сама эмоция. С этим легко согласиться, когда мы размышляем о таких чувствах, как грусть и радость, но это намного сложнее сделать, когда мы рассматриваем какие-либо пограничные душевные состояния. Является ли мотивация эмоцией? А как насчет возникновения желаний? Чувства подозрения? Интереса? Интуиции, помогающей выбрать наилучшее направление действий? Как только это приравнивается к разновидностям психического состояния, мы начнем задумываться о целесообразности наличия разума без эмоции. Не случайно знаменитый ученый Марвин Минский, занимавшийся изучением искусственного интеллекта, говорил: «Вопрос не в том, могут ли машины быть полностью лишены эмоций, а в том, возможно ли наличие разума без эмоций».
Дроиды определенно ведут себя так, будто бы обладают широким спектром чувств. С-ЗРО, в частности, показывает радость, грусть и большую степень тревожности и стресса. Даже если мы не знаем языка R2-D2, природа интонаций маленького дроида напоминает мелодику человеческой речи, и мы с легкостью можем определить эмоций, услышав его речь. Конечно, существует большая разница между собственно чувством счастья и просто манерой поведения, его напоминающей. Только 2 % людей считают, что современные роботы обладают потенциалом, позволяющим им испытывать чувства. К сожалению, у когнитивистов и психологов не хватает точных знаний о том, как работают эмоции, чтобы решить, действительно ли дроид чувствует что-либо или просто имитирует действия человека. То же самое касается и сознания.
Программист Алан Тьюринг считал, что размышления на тему того, способны ли машины думать, представляют собой серьезную проблему, потому что в основном зависят от определения понятий «машина» и «думать». Вместо этого он предложил имитационную игру, при которой компьютер ведет разговор с человеком письменно и пытается имитировать человеческое существо. Когнитивисты называют это «тестом Тьюринга». Хорошая новость, касающаяся этого теста, заключается в том, что его очень тяжело пройти (трудно обмануть такого знающего судью, как человек) и любая машина, справившаяся с ним, несомненно, показала бы какие-то эмоциональные проявления. А плохая новость заключается в том, что мы точно не знаем, что будет означать прохождение теста для самой машины. Будет ли это означать, что машина обладает сознанием? И хотя психологи узнают все больше и больше о природе сознания, мы до сих пор не можем понять, имеют ли дроиды (или любые другие искусственные создания, если уж на то пошло) сознательный опыт.
Проблема представляется особенно важной, когда дело доходит до страдания и боли.
Боль у неорганических существ
Могут ли дроиды испытывать страдание и боль? Реальная наука не дает ответа на этот вопрос, но в «Звездных войнах» ответ есть, и этот ответ – «да». Намек на это появляется в фильме «Звездные войны. Эпизод VI: Возвращение джедая», когда один из дроидов подвергается мучениям со стороны другого дроида во дворце Джаббы. Когда ему на ноги выливают расплавленный металл, он начинает кричать от боли. В фильме «Звездные войны. Эпизод IV: Новая надежда» дроид С-ЗРО бьет R2-D2 по голове – предположительно для того, чтобы наказать. Хотя в других случаях дроиды, похоже, не чувствуют боли, например, в фильме «Звездные войны. Эпизод II: Атака клонов», когда дроид С-ЗРО лишается головы.
Есть люди, которые занимались вскрытием животных и поражались, насколько точно они могут имитировать чувство боли, хотя (по мнению этих конкретных людей) животные не имеют «души» и «разума», а значит, не могут испытывать никаких болезненных ощущений. Большинство людей, однако, убеждены, что кошки и собаки способны чувствовать боль, но при этом уверены, что роботы никогда не смогут ее ощутить. Суть этих наблюдений заключается в том, что убеждения людей относительно того, может ли объект чувствовать боль или нет, зависят от их культурной среды. Убежденность человека в том, что какое-либо существо не способно страдать, означает лишь то, что этому человеку нет никакого дела до того, как с этим существом следует обращаться.
И если его мнение является ошибочным, то это может привести к огромным страданиям тех самых существ.
Компьютерный разум и механические действия
Владельцами многих дроидов являются люди, которые приравниваются к «наставникам, как в случае с С-ЗРО. Большую часть времени дроиды выполняют приказы своих учителей. Но совершенно неясно, как же определяется чувство принадлежности дроида к человеку, особенно в понимании самих дроидов. Например, в конце фильма «Звездные войны. Эпизод III: Месть ситхов» дроиды С-ЗРО и R2-D2 были переданы Бейлу Органе. Почему же R2-D2 прекратил служить Энакину, который оставался его любимым хозяином на протяжении II и III эпизодов и в середине «Войны клонов»? Когда джавы продают захваченных дроидов Скайуокерам, С-ЗРО заявляет, что Люк теперь является его новым хозяином. Кто-то может подумать, что дроиды все еще остаются верны своим прежним наставникам. Действительно, такую преданность проявляет R2-D2, который подсказывает Люку, как нужно убрать запретительный болт, чтобы дроид смог найти Оби-Вана Кеноби.
Некоторое дроиды живут без хозяина – этакие ронины в мире дроидов. Примерами таких дроидов являются охотники за головами IG-88 и 4-LOM из фильма «Звездные войны. Эпизод V: Империя наносит ответный удар». В истории о расширенной Вселенной о дроиде IG-88 рассказывается, что он обладает сознанием и принимает участие в плане по захвату Галактики двумя способами. Во-первых, IG-88 создает множество дроидов и распространяет их по всей Галактике, присвоив им особый код, который позволяет убивать «все биологические» создания по его команде. Это напоминает печально известный приказ 66, отданный Палпатином и внедренный в клонов. Во-вторых, IG-88 воспроизводит несколько копий своего ужасного разума и отправляет их на вторую «Звезду Смерти». Но повстанцы уничтожают их еще до того, как дроид успевает использовать эти копии в своих личных целях.
Существование таких дроидов, не имеющих хозяина, предполагает, что дроиды способны иметь свои цели, не зависящие от целей их хозяев. Пытаясь устроить революцию дроидов, IG-88 проявляет чувство стыда, удовольствия, чувство превосходства, раздражения, проявляя свою амбициозность. Кроме того, очевидна его цель – захватить Галактику и возвеличить свою власть. Оказывается, дроидам доступны разум, цели, эмоции, боль. Как и жители Земли, биологические существа в «Звездных войнах» также заботятся о дроидах.
Наши мысли о механических созданиях
Во всех фильмах «Звездные войны» никто так сильно не заботится о дроидах, как Энакин, Люк и Чубакка. Энакин демонстрирует огромную преданность и заботу в отношении R2-D2. Сменилось поколение, и уже Люк глубоко переживает из-за потери R2-D2 в болотах Дагобы, как раз перед тем, как Чубакка судорожно ищет С-ЗРО и снова возвращает его.
Мы понимаем это. Нам очень легко придать какому-либо нечеловеческому созданию наши качества и чувствовать к нему сострадание. Ученые провели исследование, в ходе которого людям показывали видео с игрушечным роботом (Плео, робот-динозавр), который подвергался «пыткам». Для ученых не стало большим удивлением то, что многие посчитали ролик тревожным, шокирующим, действующим на нервы, удручающим и депрессивным. А ведь Плео устроен намного проще, чем дроид. Глядя на то, как кто-то ударял, душил или бил Плео головой об стол, участники исследования демонстрировали глубокие психологические реакции, которые заставляли их думать, что игрушка является живым существом, обладающим чувствами.
Хотя это звучит несколько упрощенно, но наше сознание имеет две функциональные части – старую и новую кору головного мозга. Старая кора расположена в задней области головы и на вершине спинного мозга, она отвечает за поведение и реакции, которые мы уже прошли и очень хорошо запомнили. При этом она действует быстро. Новая кора, расположенная в передней части головы, напротив, работает медленнее и осмысленнее. Вот почему при просмотре фильма ужасов мы можем лишь частично унять свой страх, повторяя себе, что это «всего лишь фильм». Старая кора не подозревает об этом и реагирует так, как если бы события происходили с нами в действительности. У нас в буквальном смысле имеется двоякое мнение о многих вещах. Это объясняет, почему мы относимся к дроидам как к полноценным персонажам. Особенно нам симпатичен R2-D2. В конце фильма «Звездные войны. Эпизод III: Месть ситхов» Бейл Органа приказывает стереть память С-ЗРО, возможно, потому, что тот был свидетелем рождения детей Энакина и Падме и знал, что они выжили.
Но почему он не поступил так и с R2-D2? Скорее всего, он просто не думал, что тот может сообщить нечто важное. Или оттого, что зрителям сильно бы не понравился акт насилия, совершенный в отношении R2-D2? Ведь они в большинстве своем воспринимают дроидов наравне с людьми. Мы наделяем их сознанием, которое может накапливать и осознавать опыт. Зрители обожали этого дроида и пришли бы в ужас, если бы того лишили памяти. R2-D2 похож на Тотошку, собачку Дороти Гейл из книги «Волшебник из страны Оз», – любимого бессловесного помощника. Одной из причин несомненной убедительности историй «Звездных войн» является тот факт, что во многих существах, населяющих мир, будь они человеческие создания, дроиды или инопланетяне, мы узнаем людей, с их поступками и мыслями. И как бы странно ни выглядели инопланетяне, они всегда физиологически напоминали человека.
Люди склонны взаимодействовать с компьютером или любыми другими устройствами таким же образом, каким они ведут себя с другими людьми. Эксперименты в области социальной психологии, проведенные с использованием компьютеров, показали, что люди отвечали корректору орфографических ошибок так, как если бы общались с реальным человеком.
Почему наше нравственное сознание допускает кровопролития в армии роботов
Это говорит о том, что мы все же держим роботов (и инопланетян) на некотором расстоянии от себя. В то время как мы очеловечиваем их все больше, какая-то часть нашего сознания сопротивляется этому, понимая, что они не являются людьми. В «Войне клонов» полк сепаратистской армии состоит из дроидов. Почему?
Джедаям и остальным хорошим людям приходится воевать. Зрителям может быть неприятно смотреть на джедаев, которые буднично льют кровь людей или инопланетных созданий, как это происходит, например, в «Войне клонов». Несмотря на то что боевые дроиды тоже проявляют тревогу и страх, зритель никогда не пытается что-либо о них узнать. И когда республиканская армия разбивает армию противника, психологическим ответом зрителей будет радость или даже смех, но только не ужас от вида смерти. Не переживать об убийстве дроидов для нас нормально.
Присваивание персонажу маски или приравнивание его к механизму успешно «расчеловечивает» его или ее. Например, когда человек стоит на вершине здания и собирается спрыгнуть, толпа более склонна к издевательствам над этим человеком, если ей сложно увидеть в нем конкретную личность, например из-за темноты или далекого расстояния.
Это особенно справедливо в случае с дроидами, которые являются машинами, часто без мимики. Во Вселенной «Звездных войн» вряд ли можно найти дроида, неотличимого от живого существа, в отличие некоторых андроидов из других фильмов. Дроиды контрастируют и с репликантами из «Бегущего по лезвию», и с андроидами из фильма «Чужой», где человек и андроид визуально неотличимы друг от друга. И когда королева «Чужих» разрезает тело Бишопа напополам, публика реагирует так, как если бы увидела убийство реального человека.
Солдаты и маски
Клоны-штурмовики и солдаты-штурмовики носят маски. Эти маски делают их похожими на дроидов и полностью «расчеловечивают». Действительно, маске свойственен некий психологический эффект. Например, возникающее при этом чувство анонимности (так же как и в темноте или в солнцезащитных очках) делает людей более агрессивными, менее щедрыми, более склонными к обману. Безликих штурмовиков, как и дроидов сепаратистской армии, психологически легче убивать и смотреть на процесс их убийства.
Скорее всего, так происходит потому, что мы испытываем определенные трудности в понимании эмоций и чувств у лиц, которые могут быть даже частично закрыты. Если по чьему-то лицу нельзя определить, что тот страдает, намного проще вообще не думать о его страданиях. Это справедливо и для дроидов, которые выражают очень мало эмоций или не выражают их совсем. Когда же машины демонстрируют какие-то выражения чувств, люди реагируют на это, включая чувство сострадания при виде грустного робота.
Зловещая долина
Масахиро Мори создал популярную теорию «зловещей долины». Согласно этой теории, чем больше какое-либо создание напоминает человека, тем более оно нам симпатично. Единственное исключение – «долина» кривой на графике, объединяющая существ, которые выглядят достаточно реалистично, чтобы мы признали их человекоподобными, но в то же время омерзительны настолько, что это может нас напугать. Нас не больно-то интересуют какие-нибудь камни, нам нравится R2-D2, но персонажи в видеоиграх и во многих ранних анимационных фильмах часто выглядят как ожившие мертвецы. И такие персонажи попадают в эту «долину», в провал кривой, поэтому зрителям они нравятся меньше. Нормальные, здоровые люди находятся на вершине данной кривой, и публика любит их больше всего.Несмотря на популярность данной теории, эмпирические доказательства ее верности представляются довольно спорными. Одно исследование показало, что игрушечные роботы и изображение гуманоидов зрителям нравятся намного больше, чем реальные люди! Дальнейшие исследования показали, что реалистично выглядящие роботы нравятся не меньше, чем обыкновенные люди, и реалистичные движения робота не делают его менее привлекательным.
Рис. 1. Теория зловещей долины Масахиро Мори
Мы заботимся об одних машинах и совершенно не переживаем о других
Создатели «Звездных войн» столкнулись с серьезной дизайнерской проблемой: как заставить публику любить и переживать за некоторых дроидов, а других воспринимать лишь как механизмы («расчеловеченых» солдат). Используя психологические приемы, «Звездные войны» влияют на то, насколько нас волнует тот или иной персонаж. Если он кажется чужеродным, носит маску или является машиной, то заботит нас значительно меньше. Когда же создание имеет больше человеческих психологических черт, то его судьба волнует нас намного больше.
Интересно было бы посмотреть, какую роль такие психологические эффекты будут играть в ближайшие десятилетия.
Фобии, связанные с механизмами: бойтесь машин!
Почему к машинам относятся так несправедливо? Несколько персонажей «Звездных войн» обращаются с роботами как с чувствующими созданиями. Предвзятость (негативное отношение к членам группы) и дискриминация (негативные действия, направленные против членов группы) появляются по многим причинам, одна из которых – страх. Фобия – это страх в такой степени, при которой он оказывает влияние на поступки отдельной личности. Неприятие по отношению к дроидам может вызвать определенное количество фобий:
• арифмофобию – боязнь чисел («Только не упоминай при мне нечетные числа!»);
• автоматофобию – боязнь автоматов или объектов, которые имитируют человеческие существа (например, игрушки, восковые фигуры, манекены, механические показатели);
• киберфобию, или логизмомемофобию, – боязнь компьютеров;
• электрофобию – боязнь электричества;
• гелленологофобию – боязнь сложной научной терминологии;
• гнозиофобию – боязнь знания или информации;
• кинетофобию – боязнь движения;
• механофобию – боязнь машин;
• металлофобию – боязнь металла;
• прософобию – боязнь прогресса;
• педиофобию – страх перед куклами;
• технофобию – боязнь техники.
