Глава 7
О первых роботах
Вечером 25 января 1921 года в Праге люди познакомились с роботами, которым теперь было предначертано уничтожить все человечество как вид. Это событие произошло на премьерном показе научно-фантастической пьесы «Россумские универсальные роботы» (сокращенно «R.U.R.») Карела Чапека в Чешском национальном театре. Тогда же впервые прозвучал термин «робот», производное от чешского «robota», что значит «принудительный труд». Слово быстро вошло в повсеместное употребление, сближая научную фантастику и капитализм. Визуально роботы Чапека имеют не так много общего с более поздними, каноническими блестящими металлическими гуманоидами (от «Метрополиса» Фрица Ланга до «Звездных войн» Джорджа Лукаса и «Терминатора» Джеймса Кэмерона) и больше похожи на убедительных репликантов из фильма «Бегущий по лезвию». Они практически неотличимы от людей; они – существа не из схем и металла, а из плоти или подобной ей субстанции, произведенной в несколько этапов в пробирках из таинственного соединения, так называемого «теста». Сама пьеса – это странная вязкая смесь научной фантастики, политической аллегории и социальной сатиры, чьи полемические намерения лежат на границе критики капиталистической жадности и антикоммунистического страха перед организованной толпой.
Роботы Чапека – это «искусственные люди», созданные с целью повышения производительности труда. Своим появлением они обязаны угнетающе ограниченному взгляду на предназначение человека через призму обогащения. В первой сцене пьесы Домин, менеджер завода по производству роботов, произносит поучительный монолог о том, как изобретатель этих машин, Россум, придумал «упрощенного работника с минимальными потребностями. Он отбросил все, что не было связано непосредственно с работой – таким образом он почти полностью исключил Человека и создал Робота». Эти роботы, подобно монстру Франкенштейна, были готовы немедленно приступить к работе. «Человек – безнадежно несовершенная машина, – объяснял Домин. Природа не принимает современных темпов жизни. С технической точки зрения детство – полный бред. Просто потеря времени».
Неприкрытая идеология, стоящая у истоков создания таких роботов, в своей противоречивой смеси безжалостной глобализации и мессианской риторики сегодня наводит на размышления о технологическом прогрессивизме Силиконовой долины и о смелых предсказаниях о развитии искусственного интеллекта. Домин, сидящий за «большим американским столом» на сцене с плакатами, на которых красуются лозунги вроде «Самый дешевый труд – роботы Россума», утверждает, что эта технология полностью искоренит бедность, и, хотя люди останутся без работы, ведь все будет производиться машинами, они будут вольны жить в стремлении к самосовершенствованию. «О, Адам, Адам! – говорит он. – Тебе больше не придется зарабатывать на хлеб в поте лица; ты возвратишься в рай, где будешь кормиться с рук Господа».
Как обычно и случается с подобными идеями, она провалилась: во втором акте пьесы повсеместно распространившиеся роботы с отличной военной подготовкой отказываются подчиняться виду, который они считают ущербным, и решают уничтожить его с эффективностью и слаженным взаимодействием, которые так высоко ценились их создателями.
Помимо аллегорического описания механизации капитализма, пьеса в грубой преувеличенной манере оживляет связанный с Прометеем страх технологий, призванных воспроизвести человеческую жизнь. Восхождение роботов и следующее за ним почти полное уничтожение человечества представлены не иначе как месть богов, проклятие, неизбежный итог попытки вернуться в рай.
Роботы Чапека похожи на наших искаженных двойников. Согласно сценическим ремаркам, «одетые как люди», с «невыразительными» лицами и «застывшими» глазами они одновременно и машины, и трупы, удивительно похожие на живых мертвецов. Террор роботов в третьем акте пьесы, написанной сразу после Первой мировой войны, может быть интерпретирован как отражение европейского кровопролития; как действие, лишенное «человеческих ценностей», которому роботы научились у своих создателей. Когда Алквист, последний выживший человек, спрашивает, почему они уничтожили всех людей, главный робот отвечает: «Если вы хотите быть людьми, вам придется уничтожать и править. Читайте историю! Читайте человеческие книги! Если вы хотите быть людьми, вам придется захватывать и убивать!»
Роботы пьесы Чапека – это ночной кошмар технологий будущего, порожденный страхами человечества. «Нет ничего более странного для человека, – утверждает Алквист, – чем его собственное подобие». Эти первые фантастические роботы показывали, насколько технологии отражают забытые нами ценности, «еще более ужасные» от сходства с человеком, как говорил о себе монстр Франкенштейн.
Что это за увлечение, одержимость собственным разрушением, исходящим из нашей изобретательности? Дедал, этот древний инженер, является символом и духом нашего понимания самих себя и наших амбиций – стремительно падающая тень, брошенная во мраке истории.
Я неоднократно слышал мнение, что искусственный сверхинтеллект в перспективе может быть опасен именно из-за того, что слишком не похож на нас: он бесчеловечен, невосприимчив, в отличие от нас, к гневу, ненависти и сопереживанию. Но беглый взгляд на эту загадочную эсхатологию позволяет предположить, что этот страх перед возможностями наших самых современных технологий, наших последних изобретений – своего рода сублимированный ужас в отношении того, что мы уже сделали для мира и для себя. Мы, не замечая этого, уже находимся под контролем машин, которых не понимаем. История науки и техники и в лучшем, и в худшем случае является историей завоевания природы, лечения болезней и уничтожения огромного количества видов животных и растений. Возможно, поэтому появление подобного эволюционного наследника, несущего разрушения с новой силой, – это продолжение позора нашего существования. Возможно, это преображенная форма первородного греха, возвращение изгнанных, отражение более глубокого ужаса. Ничто не чуждо нам более, чем наше собственное подобие.
