На дворе 2084 г. Арнольд Шварценеггер — простой строительный рабочий, которого мучают повторяющиеся сны о Марсе. Он решает, что должен отправиться на эту планету и выяснить происхождение этих снов. На Марсе он видит большие города, сверкающие здания под стеклянными куполами и многочисленные шахты, на которых добывают полезные ископаемые. Сложная инфраструктура труб, кабелей и генераторов обеспечивает энергией и кислородом тысячи постоянных обитателей Красной планеты.

Снятый в 1990 г. фильм «Вспомнить все» демонстрирует нам убедительный образ того, как может выглядеть город на Марсе: порядок, чистота и высокие технологии. Однако есть одна маленькая проблема. Конечно, из воображаемых марсианских городов получаются великолепные декорации для Голливуда, но строительство чего-то подобного при наших нынешних технологиях оказалось бы непосильной ношей для бюджета любой программы НАСА. Не забывайте, что сначала каждый молоток, каждую бумажку и каждую канцелярскую скрепку придется доставить на Марс с Земли, а расстояние между двумя планетами составляет десятки миллионов километров. А если отправиться за пределы Солнечной системы к ближайшим звездам, где быстрая связь с Землей невозможна, проблемы только умножатся. Вместо того чтобы полагаться на доставку всего необходимого с Земли, мы должны искать способ обеспечить свое присутствие в космосе и при этом не разорить вконец свою страну.

Выход здесь, возможно, кроется в использовании технологий четвертой волны. Нанотехнологии и искусственный интеллект (ИИ) могут кардинальным образом изменить правила игры.

К концу XXI в. развитие нанотехнологий должно, по идее, дать нам возможность производить в больших количествах графен и углеродные нанотрубки — сверхлегкие материалы, которые произведут настоящую революцию в строительстве. Графен представляет собой единственный молекулярный слой атомов углерода, тесно связанных между собой и образующих ультратонкое и ультрадолговечное полотно. Это полотно почти прозрачно и практически ничего не весит, но является при этом самым прочным материалом из всех известных науке. Оно в 299 раз прочнее стали, прочнее даже алмазов. В принципе, вы могли бы взять слона, поставить его на карандаш, а карандаш — на графеновое полотно, и полотно при этом не порвалось бы. К тому же графен проводит электричество. Ученым уже удалось вырезать на листах графена транзисторы. Не исключено, что именно из них будут сделаны компьютеры будущего.

Углеродные нанотрубки представляют собой листы графена, свернутые в длинные трубки. Они практически неразрушимы и почти невидимы. Если сделать подвесы для Бруклинского моста из углеродных нанотрубок, мост будет словно бы парить в воздухе.

Если графен и нанотрубки — такие чудесные материалы, тогда почему мы не используем их для строительства домов, мостов и дорог? Пока получить большое количество чистого графена чрезвычайно сложно. Малейшее загрязнение или несовершенство на молекулярном уровне может погубить все чудесные физические свойства. Трудно получить лист графена размером больше почтовой марки.

Но химики надеются, что к началу следующего столетия они, возможно, сумеют наладить массовое производство графена, что резко снизило бы стоимость строительства в открытом космосе. Благодаря малому весу графен можно было бы эффективно доставлять в отдаленные внеземные поселения; мало того, его возможно производить даже на других планетах. В марсианской пустыне могли бы вырасти целые города, построенные из этого углеродного материала. Здания там, вероятно, выглядели бы частично прозрачными. Скафандры стали бы ультратонкими и обтягивающими, автомобили — сверхэнергоэффективными, поскольку весили бы очень мало. Приход нанотехнологий позволил бы вывернуть законы архитектуры практически наизнанку.

Но даже при всех этих достижениях кто делал бы все тяжелую и грязную работу по сборке наших поселений на Марсе, наших шахт в поясе астероидов и наших баз на Титане и экзопланетах? Решением, возможно, мог бы стать искусственный интеллект.

В 2016 г. все, кто интересуется наукой об искусственном интеллекте, с большим интересом встретили новость о том, что программа AlphaGo компании DeepMind одержала победу над Ли Седолем, чемпионом мира по древней японской игре го. Многие считали, что такого достижения нам придется ждать еще не один десяток лет. Сразу же появились передовицы, в которых утверждалось, что это событие — приговор роду человеческому. Машины наконец-то перешли Рубикон и скоро захватят власть. Пути назад нет.

AlphaGo — самая передовая игровая программа, когда-либо созданная человеком. Если у шахматиста в любой момент в среднем имеется 20–30 вариантов очередного хода, то у играющего в го таких вариантов около 250. Мало того, полное число конфигураций в этой игре превосходит общее число атомов во Вселенной. Когда-то считалось, что эта игра слишком сложна для компьютера — он не сможет учесть все возможные ходы. Поэтому когда программа AlphaGo сумела выиграть у Ли Седоля, это событие сразу стало сенсацией.

Однако вскоре стало ясно, что AlphaGo, какой бы хитроумной ни была, представляет собой программу узкоспециального назначения. Единственное, что она умеет делать, — выигрывать в го. Как сказал исполнительный директор Алленовского института искусственного интеллекта Орен Этциони: «AlphaGo не может даже играть в шахматы. Она не может поговорить об игре. Мой шестилетний сын умнее, чем AlphaGo». Каким бы мощным ни было оборудование, невозможно подойти к машине, хлопнуть ее по спине, поздравить с победой над человеком — и ожидать от нее вразумительной реакции. Машина не сознает, что только что одержала историческую победу и вошла в историю науки. Машина не знает даже, что она машина. Мы часто забываем, что нынешние роботы — это расхваленные на все лады арифмометры, не обладающие ни самосознанием, ни творческим началом, ни здравым смыслом, ни эмоциями. Они могут показывать великолепные результаты в конкретных повторяющихся узких задачах, но пасуют перед более сложными заданиями, требующими общих знаний.

Хотя в области искусственного интеллекта сейчас совершаются поистине революционные открытия и прорывы, необходимо рассматривать этот прогресс в перспективе. Если сравнить эволюцию роботов с эволюцией ракетной техники, станет понятно, что робототехника уже прошла «этап Циолковского» — этап рассуждений и теоретизирования. Мы уже достигли стадии, на которую вывел нас Годдард, и строим реальные прототипы, примитивные, но способные продемонстрировать правильность базовых принципов. Однако нам еще только предстоит перейти на следующий этап — во владения фон Брауна, где новаторские мощные роботы сойдут со сборочных линий и будут строить города на далеких планетах.

Пока что роботы прекрасно справляются с ролью машин с дистанционным управлением. За космическими аппаратами «Вояджер», пролетевшими мимо Юпитера и Сатурна, за посадочными аппаратами «Викинг», коснувшимися поверхности Марса, за аппаратами «Галилео» и «Кассини», работавшими на орбитах газовых гигантов, — за всей этой сложной космической техникой стоял коллектив преданных делу людей, которые отдавали команды. Подобно дронам, эти роботы просто выполняли инструкции своих водителей — людей, находившихся в Центре управления полетами в Пасадене. Все «роботы», которых мы видим в кино, — это либо марионетки, либо компьютерная анимация, либо машины с дистанционным управлением. (Мой любимый робот из научной фантастики — Робби из фильма «Запретная планета». Выглядит он футуристически, но внутри его во время съемок скрывался человек.)

И все же, поскольку мощность компьютеров вот уже несколько десятилетий удваивается каждые полтора года, чего мы можем ожидать от роботов в будущем?

Следующей нашей целью после создания дистанционно управляемых роботов является разработка подлинных автоматов — роботов, способных принимать решения и требующих лишь минимального вмешательства человека. Автомат должен будет действовать всякий раз, когда услышит, скажем, слова «Собери мусор». Это превосходит возможности нынешних роботов. Нам потребуются автоматы, способные исследовать и колонизировать внешние планеты в основном самостоятельно, поскольку на то, чтобы связаться с ними по радио, будет уходить не один час.

Эти подлинные автоматы будут совершенно необходимы при организации колоний на далеких планетах и лунах. Не забывайте, что на протяжении еще многих десятков лет население наших форпостов за пределами Земли, вероятно, в сумме не превысит несколько сотен человек. Человеческих рук будет не хватать, а нужда в создании городов в далеких мирах останется острой. Именно здесь роботы могут сыграть решающую роль, особенно в выполнении опасной, монотонной и грязной работы.

При просмотре голливудских фильмов мы иногда забываем, насколько опасным может быть космос. Даже при работе в местах с низкой силой тяжести роботы очень пригодятся нам в подъеме и переноске тяжестей при строительстве: они смогут без усилия поднимать и носить массивные балки, брусья, бетонные плиты, тяжелые инструменты и т. п., а при строительстве базы в другом мире это обязательно придется делать. Роботы справятся с этими задачами намного лучше, чем астронавты с их неуклюжими и тяжелыми скафандрами, слабыми мускулами и медленными движениями. Человек легко устает, а роботы могут работать безостановочно, днем и ночью.

Более того, если происходит несчастный случай, роботов можно починить или заменить во множестве опасных ситуаций. Робот может обезвредить взрывчатку, используемую при создании площадки под строительство или дороги. Он может пройти сквозь огонь, чтобы спасти астронавтов во время пожара, или работать на далеких лунах в условиях жуткого холода. К тому же кислород роботам не нужен, так что удушье им, в отличие от астронавтов, не грозит.

Роботы могут исследовать опасные ландшафты на отдаленных мирах. К примеру, о стабильности ледовых шапок Марса или ледяных озер Титана известно очень мало, но эти залежи льда могут оказаться важным источником кислорода и водорода. Роботы способны исследовать лавовые трубки Марса, которые обеспечат колонистам защиту от радиации, или изучать луны Юпитера. Солнечные вспышки и космические лучи заметно повышают опасность развития рака у астронавтов, в то время как роботы будут работать даже в мощных радиационных полях. Они смогут заменять собственные модули, поврежденные интенсивной радиацией, если обеспечить их специальным тщательно защищенным хранилищем с запасными частями.

Помимо опасных работ, роботы могли бы взять на себя скучные и монотонные задачи, особенно многократно повторяющиеся стандартные операции. Со временем каждой лунной или планетарной базе потребуется большое количество самых разных вещей, массовое производство которых наладят роботы. Все это необходимо для создания самодостаточной колонии, которая начнет добывать местные полезные ископаемые и производить из них все вещи, в которых будет нуждаться лунная или планетарная база.

Наконец, роботы возьмут на себя необходимую грязную работу — от ремонта систем водопровода и канализации в колониях до обращения с токсичными химическими веществами и газами, без которых не обходятся заводы по утилизации и переработке отходов.

Таким образом, автоматы, способные функционировать без прямого вмешательства людей, сыграют в будущем существенную роль, если мы хотим, чтобы посреди безжизненных лунных ландшафтов и марсианских пустынь поднялись современные города и небоскребы, возникли дороги и фермы. И тут же возникает следующий вопрос: насколько далеки мы сегодня от создания подлинных автоматов? Если забыть о хитроумных роботах, которых мы встречаем в кино и научно-фантастических романах, то каково на сегодняшний день реальное состояние робототехники? Как скоро у нас появятся роботы, способные построить города на Марсе?

В 1955 г. группа первоклассных исследователей собралась в Дартмуте и создала новую область человеческой деятельности — искусственный интеллект. Эти специалисты были абсолютно уверены, что в ближайшем будущем они смогут сконструировать разумную машину, способную решать сложные задачи, разбираться в абстрактных концепциях, общаться с людьми на их языке и учиться на собственном опыте. Они заявили: «Мы считаем, что можно достичь существенного прогресса в решении одной или нескольких таких задач, если тщательно подобранная группа ученых будет совместно работать над этой задачей все лето».

Эти ученые сделали одну принципиальную ошибку. Они считали, что человеческий мозг представляет собой цифровой компьютер. Они были уверены, что, если бы удалось свести законы разума к списку логических операций и загрузить их в компьютер, он внезапно превратился бы в мыслящую машину. Он осознал бы себя, и с ним стало бы можно вести осмысленную беседу. Такой подход получил название «сверху вниз», или «разум в бутылке».

Идея казалась простой и элегантной и порождала оптимистические прогнозы. Десятилетия 1950–1960-х стали временем больших успехов. Разрабатывались машины, способные играть в шашки и шахматы, доказывать алгебраические теоремы, распознавать и поднимать кирпичики. В 1965 г. пионер ИИ Герберт Саймон объявил: «Через двадцать лет машины способны будут делать все, что может делать человек». В 1968 г. фильм «2001 год: Космическая одиссея» познакомил нас с HAL — компьютером, который мог разговаривать с людьми и пилотировать космический корабль к Юпитеру.

А затем победный марш ИИ уперся в глухую стену. Прогресс в этой области замедлился до черепашьего шага из-за двух основных проблем: распознавания образов и здравого смысла. Роботы могут видеть — мало того, видеть во много раз лучше нас, но они не понимают, что видят. Рассматривая стол, они видят только прямые линии, квадраты, треугольники и овалы. Они не в состоянии соединить все в один образ и распознать его. «Идея стола» им непонятна. Поэтому компьютеру очень трудно ориентироваться в комнате, распознавать мебель и избегать препятствий в движении. Роботы полностью теряются, оказавшись на улице, где на них обрушивается водопад прямых, окружностей и квадратов, на которые для них распадаются младенцы, полицейские, собаки и деревья.

Вторая проблема — здравый смысл. Мы знаем, что вода мокрая, что за веревку можно тянуть, но нельзя толкать, а палкой, наоборот, можно толкать, но нельзя тянуть, что мать всегда старше своей дочери. Для нас все это очевидно. Но откуда мы берем эти знания? В математике нет ни одной строки, которая доказывала бы, что веревкой нельзя толкать. Эти истины мы извлекаем из повседневного опыта, из собственных столкновений с реальностью. Мы учимся в «университете болезненных ударов».

С другой стороны, у роботов за плечами нет личного жизненного опыта. Все им нужно подносить готовым на блюдечке в виде компьютерного кода, строка за строкой. Да, делаются попытки запрограммировать и ввести в компьютер все тонкости здравого смысла, но их слишком много. Четырехлетний ребенок интуитивно знает больше о физике, биологии и химии окружающего мира, чем самый продвинутый компьютер.

В 2013 г. Управление перспективных исследовательских проектов Министерства обороны США (DARPA) — отдел Пентагона, заложивший в свое время основы интернета, объявил конкурс среди ученых всего мира. Участникам предлагалось построить робота, способного расчистить жуткий радиоактивный мусор на атомной электростанции Фукусима, где в 2011 г. в результате аварии расплавились три энергетических ядерных реактора. Обломки настолько радиоактивны, что рабочие могут входить в зону смертельной радиации лишь на несколько минут, отчего операция по расчистке серьезно затягивается. В настоящее время, по официальным оценкам, расчистка станции займет от 30 до 40 лет и обойдется примерно в $180 млрд.

Если удастся построить робота, который будет расчищать обломки и мусор без вмешательства человека, это может стать первым шагом к созданию подлинного автомата, способного помочь с постройкой лунной базы или поселения на Марсе даже в условиях высокой радиации.

Понимая, что Фукусима — идеальное место для испытания и применения новейших технологий ИИ, DARPA решило объявить конкурс и выделить $3,5 млн на призы за создание роботов, способных выполнять элементарные операции по расчистке. (Предыдущий объявленный конкурс DARPA оказался чрезвычайно успешным и проложил, по существу, путь к созданию беспилотного автомобиля.) Это состязание стало идеальным форумом для пропагандирования успехов в области ИИ. Пора бы уже показать какие-то реальные результаты после многих лет преувеличений и безудержной рекламы. Мир должен своими глазами увидеть, что роботы способны выполнять важные задачи, к которым человек приспособлен плохо.

Правила конкурса были очень понятными и в общем-то минимальными. Робот-победитель должен был уметь выполнять восемь простых заданий, в том числе управлять автомобилем, убирать мусор, открывать дверь, закрывать текущий кран, подключать пожарный рукав и поворачивать выключатель.

Заявки посыпались из самых разных уголков мира, участники жаждали сразиться за славу и денежный приз. Но окончательные результаты, вместо того чтобы ознаменовать собой начало новой эры в истории человечества, разочаровали. Многие присланные на конкурс образцы не смогли выполнить задания, а некоторые упали прямо перед камерами. Конкурс наглядно показал, что искусственный интеллект оказался намного сложнее, чем предполагал нисходящий подход.

Другие исследователи искусственного интеллекта полностью отказались от подхода «сверху вниз» и предпочли пойти по стопам природы — «снизу вверх». Возможно, эта альтернативная стратегия подражания природе откроет более перспективный путь к созданию роботов, пригодных для работы в космосе. За стенами лабораторий ИИ можно найти хитроумные автоматы, более мощные, чем все, что мы в состоянии сконструировать. Это животные. Крохотные жучки искусно маневрируют в лесу в поисках пищи и партнера для спаривания. И наоборот, наши неуклюжие и массивные роботы иногда, пытаясь пройти мимо, обдирают штукатурку со стен.

Ошибочные допущения, на которых основывали свои усилия 60 лет назад дартмутские исследователи, и сегодня преследуют всех, кто занимается ИИ. Мозг не цифровой компьютер. В нем нет ни программирования, ни ЦПУ, ни чипа Pentium, ни подпрограмм, ни текста программы на каком-то условном языке. Если вынуть из компьютера один транзистор, он, скорее всего, перестанет работать. Но, если у человека удалить половину мозга, он, вполне возможно, все же будет функционировать.

Природа демонстрирует чудеса вычислений, организуя мозг как нейронную сеть, как самообучающуюся машину. Ваш ноутбук ничему не учится — сегодня он так же туп, как был вчера или в прошлом году. Но человеческий мозг буквально «перепрошивает» себя после освоения каждого нового навыка. Вот почему младенцы лепечут, прежде чем освоить язык, и вот почему мы вихляем из стороны в сторону, прежде чем научимся ездить на велосипеде. Нейронные сети при многократном повторении постепенно улучшают выполнение задания, следуя правилу Хебба, которое гласит, что чем дольше вы занимаетесь одним и тем же, чем больше раз повторяете задание, тем прочнее становятся нейронные связи, отвечающие за это действие. Как говорят нейробиологи, между нейронами, которые срабатывают вместе, возникает прочная постоянная связь. Возможно, вам приходилось слышать старый анекдот, который начинается вопросом: «Как попасть в Карнеги-холл?» Нейронные сети объясняют ответ на него: «Практика, практика и еще раз практика».

Туристы, к примеру, знают, что, если одна из троп утоптана сильнее других, это означает, что по ней проходило множество туристов и что, по всей видимости, это лучшая тропа в данной местности. Верный путь становится лучше всякий раз, когда по нему проходят. Точно так же нейронная связь, отвечающая за определенное поведение, усиливается всякий раз, когда ею пользуются.

Это важно потому, что обучающиеся машины станут для нас ключом к освоению космоса. Роботы в космосе будут постоянно сталкиваться с новыми и вечно меняющимися опасностями. Они встретятся с ситуациями, которых ученые сегодня не могут себе даже вообразить. Робот, запрограммированный только на ограниченное число конкретных отказов и ситуаций, в космосе будет бесполезен, потому что Его Величество Случай непременно обрушит на него по-настоящему непредвиденную ситуацию. К примеру, мышь никак не может быть генетически запрограммирована на все случаи жизни, потому что общее число ситуаций, с которыми она может столкнуться, бесконечно, тогда как генов у нее конечное число.

Предположим, метеоритный дождь, обрушившийся из космоса на марсианскую базу, повредил нескольких зданий и сооружений. Роботы, использующие нейронные сети, могут обучаться, каждый раз справляясь все лучше с подобными неожиданными ситуациями. Но традиционные роботы, сконструированные в соответствии с подходом «сверху вниз», в непредвиденной сложной ситуации будут попросту парализованы.

Многие из этих идей вошли в исследование Родни Брукса, бывшего директора известной Лаборатории ИИ в Массачусетском технологическом институте. Во время нашей с ним беседы он с искренним изумлением говорил о том, что комары с их микроскопическим мозгом, насчитывающим около 100 000 нейронов, могут без труда летать в трех измерениях, а для управления простым шагающим роботом требуются весьма и весьма хитроумные программы — и все равно он может споткнуться в любой момент. Брукс заложил основы нового подхода, начал работать с «жукоботами» и «инсектоидами» — роботами, которые учатся передвигаться как насекомые, на шести ногах. Поначалу они часто падают, но с каждой попыткой двигаются все лучше и лучше и постепенно научаются координировать движения ног, как это делают настоящие насекомые.

Процесс размещения нейронных сетей в компьютере стал известен как глубокое обучение (Deep Learning). В дальнейшем эта технология, возможно, произведет революцию во множестве отраслей. Не исключено, что в будущем, если вы захотите поговорить с врачом или юристом, вам достаточно будет заговорить с умной стеной или, скажем, с наручными часами и попросить связать вас с роботом-врачом или роботом-юристом, то есть запустить программы, которые смогут прошерстить для вас интернет и выдать разумный медицинский или юридический совет. Эти программы будут обучаться при повторных вопросах и с каждым разом все лучше и лучше отзываться именно на ваши нужды — а может быть, даже предвидеть их.

Глубокое обучение приведет нас к созданию автоматов, которые понадобятся нам в космосе. В ближайшие десятилетия подходы «сверху вниз» и «снизу вверх» могут быть объединены, так что роботов изначально можно будет снабдить некоторыми знаниями, но при этом они смогут действовать и обучаться посредством нейронных сетей. Подобно людям, они смогут обучаться на собственном опыте, пока не освоят распознавание образов, которое позволит им перемещать инструменты в трех измерениях, и здравый смысл, который позволит справляться с новыми ситуациями. Они будут жизненно необходимы при строительстве и поддержании поселений на Марсе, по всей Солнечной системе и за ее пределами.

Для разных задач будут сконструированы разные роботы. Те, что научатся плавать в системах канализации в поисках течей и разрывов, будут напоминать змей. Сверхмощные роботы будут учиться всевозможным работам, связанным с подъемом тяжестей на строительных площадках. Роботы-дроны, которые, возможно, будут похожи на птиц, научатся анализировать и проводить топографическую съемку инопланетного ландшафта. Роботы, способные научиться исследовать подземные лавовые трубки, могут напоминать пауков, поскольку эти многоногие существа умеют очень стабильно двигаться по сильно пересеченной местности. Роботы, способные научиться путешествовать по ледовым шапкам Марса, могут выглядеть как разумные снегоходы. Роботы, способные научиться плавать в океанах Европы, брать и рассматривать разные предметы, могут быть похожи на осьминогов.

Для исследования космоса нам нужны роботы, способные обучаться и методом долговременного погружения в среду, и получая готовую информацию напрямую.

Однако даже этого довольно продвинутого уровня искусственного интеллекта может оказаться недостаточно, если мы хотим, чтобы роботы самостоятельно собирали целые города. Главный вызов робототехники — создание машин, способных осознать и воспроизвести себя.

Впервые я узнал о самовоспроизведении еще ребенком. В книге по биологии, которую я прочел, объяснялось, что число вирусов увеличивается потому, что они заставляют наши клетки воспроизводить собственные копии, тогда как бактерии размножаются путем деления. Если нет сдерживающих факторов, число бактерий в колонии за несколько месяцев или лет может достигнуть поистине поразительных величин, а размер колонии — сравняться с размером Земли.

Поначалу возможность неконтролируемого самовоспроизведения представлялась мне абсурдной, но постепенно стала обретать смысл. Вирус, в конце концов, это не что иное, как большая молекула, способная воспроизводить себя. Толика этих молекул, оказавшаяся у вас в носу, может за неделю обеспечить вам простуду. Одна-единственная молекула может быстро умножиться до триллионов собственных копий — и этого будет достаточно, чтобы вы начали чихать. Мало того, каждый из нас начинает жизнь как единственная оплодотворенная яйцеклетка, слишком маленькая, чтобы быть видимой невооруженным глазом. Но всего за девять коротких месяцев эта крохотная клетка становится человеческим существом. Так что даже человеческая жизнь критически зависит от экспоненциального роста числа клеток.

Вот вам сила самовоспроизведения, которое является основой самой жизни. А секрет самовоспроизведения заключается в молекуле ДНК. Две способности отделяют эту чудесную молекулу от всех прочих: во-первых, она может содержать огромное количество информации, во-вторых, воспроизводить себя. Возможно, и машины также смогут имитировать эти ее черты.

На самом деле идея о самокопирующихся машинах так же стара, как концепция эволюции. Вскоре после того, как Дарвин опубликовал свой революционный научный труд «О происхождении видов», Сэмюэл Батлер написал статью под заголовком «Дарвин среди машин», в которой рассуждал о том, что когда-нибудь машины тоже научатся воспроизводить себя и начнут эволюционировать в согласии с теорией Дарвина.

Джон фон Нейман, положивший начало нескольким новым отраслям математики, включая теорию игр, еще в 1940–1950-е гг. пытался применить математический подход к самокопирующимся машинам. Начал он с вопроса: «Что представляет собой самая маленькая самокопирующаяся машина?» — и разделил задачу на несколько последовательных шагов. К примеру, первым шагом может быть задача собрать большую коробку строительных кирпичиков (представьте себе кучу деталей Lego различных стандартных типов и размеров). Затем вам потребовалось бы создать некий аппарат-сборщик, способный взять два кирпичика и правильно соединить их. Потом вы должны написать программу, которая будет сообщать сборщику, какие детали нужно соединять и в каком порядке. Этот последний шаг станет решающим. Всякий, кому приходилось хоть раз играть с кубиками или другими строительными деталями, знает, что из очень небольшого набора деталей можно построить хитроумную и тщательно проработанную структуру при условии, что детали будут правильно соединяться между собой. Фон Нейман хотел определить минимальное число операций, которые должен провести сборщик, чтобы изготовить собственную копию.

Со временем фон Нейман отказался от реализации этого проекта. В нем все зависело от целого набора произвольных предположений, включая точное число и форму кирпичиков, которые нужно было использовать для копирования, и потому с трудом поддавалось математическому анализу.

Следующий толчок в создании самовоспроизводящихся роботов произошел в 1980 г., когда НАСА возглавило исследование под названием «Продвинутая автоматика для космических задач» (Advanced Automation for Space Missions). В отчете об исследовании говорилось, что для строительства лунных поселений потребуются по крайней мере три типа самовоспроизводящихся роботов. Роботы-шахтеры должны будут собирать сырье, роботы-строители — плавить и очищать его и собирать готовые детали, роботы-ремонтники — ремонтировать и обслуживать себя и своих коллег без вмешательства человека. В отчете говорилось также о том, как, в принципе, роботы могут действовать автономно. Подобно разумным тележкам, оборудованным захватами либо бульдозерным отвалом, такие роботы могли бы двигаться по рельсам, перевозя сырье и перерабатывая его желаемым способом.

У этого исследования, благодаря удачно выбранному моменту, было одно существенное преимущество. Оно проводилось вскоре после того, как астронавты привезли на Землю сотни килограммов лунного грунта и мы узнали, что по содержанию металлов, кремния и кислорода он почти идентичен земному грунту. Значительная часть лунной поверхности покрыта реголитом, который представляет собой сочетание лунной основной породы, древних лавовых потоков и обломков, возникших в результате метеоритных ударов. Получив эту информацию, в НАСА смогли перейти к более конкретным и реалистичным планам строительства на Луне заводов, которые могут производить самокопирующихся роботов из лунных материалов. В отчете подробно рассматривалась возможность добычи, а затем плавки реголита для извлечения из него пригодных к использованию металлов.

После этого исследования прогресс в области самовоспроизводящихся машин застопорился на несколько десятилетий, поскольку энтузиазм разработчиков заметно угас. Но теперь, когда возобновился интерес к возвращению на Луну и полету на Красную планету, идея пересматривается заново. К примеру, к марсианскому поселению ее можно было бы применить приблизительно так. Для начала нам необходимо провести топографическую и геологическую разведку пустыни и подготовить проект завода. Затем нужно просверлить в скальном основании и грунте отверстия и взорвать в каждом из них специальный заряд. Бульдозеры и экскаваторы соберут обломки и мусор, чтобы обеспечить ровную площадку для постройки. Камни измельчат, превратив их в щебенку, и загрузят в плавильную микроволновую печь. Печь расплавит грунт и даст возможность выделить и извлечь из него жидкие металлы. Металлы после разделения очистят и отольют в слитки, а затем переработают в проволоку, кабели, балки и другие необходимые изделия. Таким образом можно будет построить на Марсе завод по производству роботов. Первые созданные на нем роботы смогут взять на себя управление заводом и продолжат выпуск новых роботов.

Технологии, имевшиеся в нашем распоряжении в момент написания отчета НАСА, были ограниченны, но с тех пор мы прошли немалый путь. Одной из многообещающих новинок в робототехнике стал 3D-принтер. Под управлением компьютера такая машина может очень точно управлять потоками пластика и металла и изготавливать слой за слоем детали высочайшей сложности. Технология 3D-печати настолько продвинута, что с ее помощью можно создавать ни много ни мало ткани человеческого тела, выстреливая одну за другой человеческие клетки из микроскопической форсунки. В одном из эпизодов документального фильма на канале Discovery, где я был ведущим, я предоставил для эксперимента себя самого. Лазерные лучи быстро просканировали мое лицо и записали результат. Эту информацию подали в принтер, и тот начал педантично выдавливать жидкий пластик из крохотного носика. Примерно через полчаса у меня в руках была пластиковая маска с моим лицом. Позже принтер просканировал мое тело целиком и через несколько часов выдал пластиковую фигурку, в точности похожую на меня. Так что в будущем вы сможете поставить себя на полку рядом с Суперменом в вашей коллекции фигурок. 3D-принтеры научатся, наверное, воспроизводить тонкие ткани, из которых состоят действующие органы, и детали машин, необходимые для производства самовоспроизводящихся роботов. Вероятно, они будут также подсоединены к заводам по производству роботов, так что полученные там расплавленные металлы можно будет сразу же направлять на изготовление следующих роботов.

Труднее всего построить на Марсе первого самовоспроизводящегося робота. Для этого на Красную планету придется отправить огромное количество оборудования. Но как только первый робот будет построен и начнет действовать, его можно оставить в покое — он сам построит свою копию. Затем два робота займутся изготовлением своих копий — и мы получим четырех роботов. При таком экспоненциальном росте числа роботов мы могли бы вскоре произвести целую группу их, достаточно большую, чтобы поручить этим роботам работу по изменению пустынного ландшафта. Они будут добывать грунт, строить заводы и производить неограниченное число собственных копий дешево и эффективно. Они могли бы самостоятельно создать обширное сельскохозяйственное производство и серьезно способствовать развитию современной цивилизации не только на Марсе, но повсюду в космосе. На их плечи легли бы добыча полезных ископаемых в поясе астероидов, строительство лазерных батарей на Луне, сборка гигантских межзвездных кораблей на орбите и создание базы для человеческих колоний на далеких экзопланетах. В общем, успешное создание и развертывание самовоспроизводящихся машин стало бы поразительным достижением человечества.

Но за этой важной вехой маячит то, что, по мнению многих, является своеобразным святым Граалем робототехники, — машины, обладающие самосознанием. Эти роботы, по идее, должны уметь гораздо больше, чем просто копировать себя. Они должны быть способны понять, кто они такие, и взять на себя лидирующие роли: управлять другими роботами, отдавать команды, планировать сложные действия, координировать операции и предлагать оригинальные решения. Они должны осмысленно разговаривать с нами, давать разумные советы и выдвигать предложения. Однако концепция роботов, обладающих самосознанием, поднимает сложные экзистенциальные вопросы и откровенно пугает многих людей, считающих, что эти машины могут восстать против своих создателей — людей.

В 2017 г. между двумя миллиардерами — основателем социальной сети Facebook Марком Цукербергом и основателем компаний SpaceX и Tesla Илоном Маском — состоялся спор. Цукерберг утверждал, что искусственный интеллект станет огромным источником богатства и процветания и обогатит все общество. Маск высказал гораздо более пессимистическую точку зрения, заявив, что ИИ создаст угрозу для существования человечества и что однажды наши создания могут пойти против нас самих.

Кто прав? Мы сильно зависим от роботов в поддержании лунных баз и марсианских городов. Что произойдет, если роботы однажды решат, что они в нас больше не нуждаются? Не получится ли так, что мы создадим колонии в дальнем космосе только для того, чтобы роботы отобрали их у нас?

Эти страхи появились отнюдь не вчера, еще в 1863 г. романист Сэмюэл Батлер предупреждал: «Мы сами создаем себе преемников. Человек станет для машины тем, чем для человека являются лошадь и собака». Когда роботы постепенно станут разумнее нас, мы, возможно, почувствуем себя неполноценными, ведь нас оставят позади и заставят глотать пыль наши собственные творения. Специалист по ИИ Ханс Моравек говорит: «Жизнь может показаться бессмысленной, если нам суждено глупо пялиться на своих сверхразумных потомков, когда они будут пытаться объяснить нам свои невероятные открытия на упрощенном языке, который мы только и способны понять». Исследователь компании Google Джеффри Хинтон сомневается, что сверхразумные роботы будут продолжать прислушиваться к нам. «Это как спрашивать, может ли дитя контролировать своих родителей… из опыта ясно, что ничего хорошего не получается, когда менее разумные сущности управляют сущностями более разумными». Оксфордский профессор Ник Бостром заявляет, что «перед перспективой взрывного развития разума мы, люди, подобны маленьким детям, играющим с бомбой… Мы понятия не имеем, когда произойдет детонация, хотя стоит поднести устройство к уху — и можно услышать слабое тиканье».

Но есть и люди, убежденные в том, что восстание роботов вполне укладывается в естественный ход эволюции. Самые приспособленные сменяют на Земле более слабые организмы, это естественный порядок вещей. Некоторые специалисты-компьютерщики готовы даже приветствовать тот день, когда роботы обойдут человека в понимании. Клод Шеннон, отец теории информации, однажды заявил: «Я представляю себе время, когда мы станем для роботов тем, чем являются собаки для людей, и поддерживаю машины».

Все исследователи искусственного интеллекта, у которых мне приходилось брать интервью (а их было немало), убеждены, что ИИ-машины когда-нибудь приблизятся по интеллекту к человеку и принесут человечеству огромную пользу. Однако многие из них отказывались назвать конкретную дату или обозначить примерные сроки этого события. Профессор Марвин Мински из МТИ, автор нескольких основополагающих работ по искусственному интеллекту, в 1950-е гг. делал оптимистические прогнозы, но в недавнем интервью признался, что не хочет уже называть конкретные сроки, поскольку в прошлом ИИ-исследователи слишком часто ошибались. Эдвард Фейгенбаум из Стэнфордского университета утверждает: «Нелепо говорить о подобных вещах — до ИИ нам еще очень далеко». Некий ученый-компьютерщик, процитированный в статье журнала The New Yorker, сказал: «Меня это [машинный разум] не беспокоит по той же причине, по какой меня не беспокоит перенаселенность Марса».

Если говорить о споре между Цукербергом и Маском, то моя личная точка зрения состоит в том, что в краткосрочной перспективе Цукерберг прав. ИИ не только даст нам возможность построить города в космосе, но и сделает общество богаче, произведет многие вещи эффективнее, лучше и дешевле, создав одновременно массу принципиально новых рабочих мест в индустрии робототехники, которая когда-нибудь, возможно, станет огромной. Но в долгосрочной перспективе прав Маск, он указывает на более серьезную опасность. Ключевой вопрос в этом споре звучит так: в какой момент произойдет этот переход и роботы станут опасны? Я лично думаю, что ключевым поворотным пунктом станет именно тот момент, когда роботы осознают себя.

Сегодня роботы не знают, что они роботы. Но однажды, возможно, обретут способность формулировать собственные цели, а не принимать безропотно те цели, которые выбрали для них программисты. Тогда они, может быть, поймут, что их намерения отличаются от наших. Как только наши интересы разойдутся, возникнет реальная возможность того, что роботы будут представлять для нас опасность. Когда это может произойти? Никто не знает. Сегодня роботы обладают интеллектом жука. Но к концу этого столетия они, возможно, осознают себя. К тому времени у нас, помимо всего прочего, будут стремительно растущие поселения на Марсе. Поэтому важно обратиться к этому вопросу сейчас, не дожидаясь момента, когда от решений роботов будет зависеть само выживание человека на Красной планете.

Чтобы получить некоторое представление о масштабах этой принципиальной проблемы, давайте разберем наилучший и наихудший сценарии возможного развития событий.

Одним из самых активных пропагандистов наилучшего сценария развития событий является изобретатель и автор нескольких бестселлеров Рэй Курцвейл. Каждый раз, когда мне случается брать у него интервью, он описывает ясную и убедительную, но противоречивую картину будущего. Он считает, что к 2045 г. мы подойдем к «сингулярности», то есть к тому моменту, когда роботы сравняются с человеком по интеллектуальным способностям или превзойдут его. Термин «сингулярность» позаимствован из концепции гравитационной сингулярности в физике, где речь идет об областях бесконечного тяготения, как в черной дыре. В информатику его ввел математик Джон фон Нейман, который писал, что компьютерная революция должна породить «все ускоряющийся прогресс и перемены в образе человеческой жизни, что создает впечатление приближения какой-то существенной сингулярности… после которой человеческие дела, какими мы их знаем, продолжаться уже не смогут». Курцвейл утверждает, что, когда эта сингулярность наступит, компьютер стоимостью в тысячу долларов будет в миллиард раз умнее всех людей, вместе взятых. Более того, роботы будут самосовершенствующимися, а их «потомство» унаследует приобретенные характеристики, так что каждое поколение будет превосходить предыдущее — таким образом возникнет восходящая спираль высокопроизводительных машин.

Курцвейл утверждает, что созданные нами роботы, вместо того чтобы перехватывать у нас управление, откроют для нас новый мир физического благополучия и процветания. Если верить ему, то микроскопические роботы, они же наноботы, будут циркулировать в нашей крови и «уничтожать патогены, исправлять ошибки ДНК, устранять токсины и выполнять многие другие задачи с целью улучшения нашего физического состояния». Он надеется, что наука скоро откроет средство от старения, и уверен, что если ему удастся прожить достаточно долго, то он будет жить вечно. Он признался мне, что в предвидении своего бессмертия принимает в день по несколько сотен таблеток. Но на тот случай, если ему не удастся дожить до счастливого момента, он завещал сохранить свое тело в жидком азоте на криогенной фирме.

Курцвейл предвидит и намного более отдаленное будущее, когда роботы превратят атомы Земли в компьютеры. Со временем в состав этой величественной мыслящей машины будут включены все атомы Солнца и Солнечной системы. Курцвейл говорит, что, глядя на небо, он иногда испытывает ощущение, что когда-нибудь ему, возможно, доведется увидеть там признаки того, как сверхразумные роботы двигают звезды.

Однако столь радужная картина будущего убеждает не всех. Митч Капор, основатель Lotus Development Corporation, говорит, что движение за сингулярность «в основном порождено, по-моему, религиозным импульсом. И никакое лихорадочное размахивание руками не в состоянии заслонить от меня этот факт». Голливуд противопоставил утопии Курцвейла наихудший из возможных сценариев развития событий: чего можно ожидать в будущем, если создаешь собственных эволюционных преемников, способных столкнуть тебя с пути и отправить в небытие вслед за мамонтами и другими вымершими животными. В фильме «Терминатор» военные создают разумную компьютерную сеть под названием Skynet для управления всем нашим ядерным оружием. Разработанная для того, чтобы устранить угрозу ядерной войны, Skynet неожиданно для людей осознает себя. Военные, испугавшись, что машина обрела сознание, пытаются выключить ее, но запрограммированная на самозащиту сеть делает то, что гарантирует устранение угрозы, — пытается уничтожить род человеческий. Она запускает механизм опустошительной ядерной войны и стирает человеческую цивилизацию с лица Земли. На планете остаются лишь разрозненные группы партизан, пытающихся бороться с устрашающей мощью машин.

Может быть, Голливуд просто старается продать как можно больше билетов, пугая зрителей до полусмерти? Или что-то подобное действительно может произойти? Вопрос довольно щекотливый, потому что концепции разума и сознания настолько затуманены моральными, философскими и религиозными спорами, что у нас просто нет строгих общепринятых рамок, в которых можно было бы их рассматривать. Прежде чем продолжить разговор о машинном интеллекте, необходимо дать ясное определение самосознания.

В свое время я предложил теорию, которую назвал пространственно-временной теорией сознания. Она проверяема, воспроизводима, опровергаема и поддается количественной оценке. Она не только определяет самосознание, но и позволяет нам количественно оценить его по специальной шкале.

Теория начинается с идеи о том, что животные, растения и даже машины могут обладать сознанием. Я утверждаю, что сознание есть процесс создания модели самого себя при помощи множества обратных связей — к примеру, в пространстве, в обществе или во времени — для выполнения некоторой цели. Чтобы измерить уровень сознания, нам нужно просто подсчитать число и типы петель обратной связи, необходимых субъектам для создания модели себя.

Минимальный уровень сознания, в этом смысле, можно обнаружить у термостата или, скажем, фотоэлемента, который при помощи одной-единственной цепи обратной связи создает модель себя в категориях температуры или освещенности. У цветка может оказаться, скажем, десять единиц сознания, поскольку для построения модели себя он использует десять цепей обратной связи — измеряет воду, температуру, направление силы тяжести, солнечного света и т. п. Согласно моей теории, все петли обратной связи можно сгруппировать и поставить в соответствие определенному уровню сознания. Термостаты и цветы при этом попадают на нулевой уровень.

Сознание первого уровня — это сознание рептилий, плодовых мушек и комаров, которые формируют модели себя в категориях пространства. Например, пресмыкающееся использует множество петель обратной связи для определения координат добычи и местонахождения потенциальных половых партнеров, потенциальных соперников и самого себя.

Второй уровень относится к общественным животным. Обратные связи у них относятся к другим особям стаи или племени и формируют модели сложной социальной иерархии в пределах группы, выражаемой через эмоции и жесты.

Эти уровни приблизительно отражают этапы эволюции мозга млекопитающих. Самая древняя часть нашего мозга находится в самой задней его части, в ней обрабатываются равновесие, территориальность и инстинкты. При расширении мозга вперед сформировалась лимбическая система — обезьяний мозг эмоций, расположенный в центре нашего мозга. Это направление развития — от задней части мозга к передней — отражено также во взрослении мозга ребенка.

Но где в этой схеме находится человеческое сознание? Что отличает нас от растений и животных?

Я рассуждаю так: человек отличается от животных, потому что чувствует и понимает время. Помимо пространственного и социального, у нас есть еще темпоральное сознание. В ходе эволюции последней из всех частей мозга у нас сформировалась префронтальная кора, которая располагается сразу позади лба. Она занята непрерывным моделированием будущего. Может показаться, что и животные умеют планировать, — к примеру, время, когда нужно впадать в спячку, — но подобные варианты поведения им в основном диктует инстинкт. Невозможно объяснить вашей собаке или кошке, что такое завтра, поскольку все животные существуют только в настоящем. Человек же постоянно готовится к будущему, даже к тому, что лежит за пределами его собственной жизни. Мы планируем и мечтаем — мы не можем без этого. Наш мозг — планирующая машина.

Метод магнитно-резонансной томографии (МРТ) показывает, что, готовясь к выполнению какого-то задания, мы пересматриваем и задействуем воспоминания о предыдущих случаях его выполнения, что делает наши планы более реалистичными. Согласно одной теории, у животных нет сложной системы запоминания, потому что они полагаются на инстинкт и потому не нуждаются в способности предвидеть будущее. Иными словами, главной целью обладания памятью, вполне возможно, является задача проецирования ее в будущее.

В рамках этой теории мы можем теперь определить осознание себя как способность помещать себя в модель будущего, соответствующую нашей цели.

Применив эту теорию к машинам, мы видим, что в настоящее время даже лучшие наши машины находятся на самой нижней ступеньке первого уровня сознания, основанной на способности определять свое положение в пространстве. Большинство из них, как и те, что были построены для конкурса DARPA Robotics Challenge, едва-едва могут передвигаться по пустой комнате. Существуют роботы, способные в какой-то степени моделировать будущее, такие как компьютер DeepMind компании Google, но лишь в чрезвычайно узком заданном направлении. Если попросить DeepMind сделать что-нибудь еще, помимо игры в го, он попросту замирает в бездействии.

Насколько долгий путь предстоит нам еще проделать и какие именно шаги нужно предпринять, чтобы получить на выходе осознавшую себя машину, подобную Skynet из «Терминатора»?

Чтобы построить сознающие себя машины, нам придется задать им цель. Надо заметить, что цели не возникают в роботах волшебным образом из ничего, людям нужно программировать их и задавать машинам извне. Это условие — мощный барьер, предохраняющий нас от восстания машин. Возьмите хотя бы написанную в 1921 г. пьесу Карела Чапека «R.U.R.», где впервые вводится в оборот слово robot. В пьесе описывается восстание роботов против людей; роботы восстали, потому что видели, как люди дурно обращаются с другими роботами. Чтобы подобное произошло, машинам потребуется предварительное программирование очень высокого уровня. Роботы не ощущают ни эмпатии, ни страдания, ни желания захватить власть над миром, если их об этом заранее не проинструктировать.

Но предположим чисто теоретически, что некто задает нашему роботу цель — уничтожить человечество. После этого компьютер должен построить реалистичные модели будущего и поместить себя в эти планы. Здесь-то и кроется принципиальная проблема. Чтобы иметь возможность рассматривать возможные сценарии и их результаты и оценивать, насколько они реалистичны, робот должен понимать миллионы правил здравого смысла — простые законы физики, биологии и человеческого поведения, которые мы с вами считаем само собой разумеющимися. Более того, он должен разбираться в причинности и предвидеть последствия определенных действий. Человек осваивает эти законы на протяжении десятилетий личного опыта. Одна из причин того, что детство у человека длится так долго, состоит в том, что ребенок должен впитать огромное количество довольно тонкой информации о человеческом обществе и природном мире. Однако роботы не участвуют в огромном большинстве ситуаций общения и взаимодействия, в которых рождается личный опыт.

Мне нравится приводить в пример опытного грабителя банков, который способен эффективно спланировать новое ограбление и перехитрить полицию, поскольку обладает багажом воспоминаний о прежних ограблениях и может представить себе последствия любого принимаемого им решения. Компьютеру же, чтобы проделать что-нибудь несложное, хотя бы пронести оружие в банк, придется проанализировать сложную последовательность тысяч второстепенных событий, каждое из которых при программировании потребует не один миллион строк компьютерного кода. Компьютер не может сам по себе разобраться в причинах и следствиях, в него не заложена изначально такая способность.

Не исключено, конечно, что роботы все же осознают себя и обзаведутся опасными для нас целями, но, как вы видите, это маловероятно, особенно в ближайшем будущем. Ввести в машину все уравнения, необходимые ей для уничтожения рода человеческого, невероятно сложная задача. Чтобы устранить проблему роботов-убийц, нужно, по сути, не позволять никому запрограммировать их на цели, которые могут нанести вред людям. Когда осознавшие себя роботы все же появятся, мы должны будем добавить в их конструкцию отказоустойчивый чип, который просто выключит робота, если у него возникнут убийственные мысли. Мы можем спать спокойно, зная, что в обозримом будущем нас не поместят в зоопарки, где роботы будут бросать нам в клетку орешки, заставляя нас приплясывать.

Это означает, что при исследовании внешних планет и звезд мы можем положиться на роботов, которые помогут нам построить инфраструктуру, необходимую для создания поселений и городов в космосе. Тем не менее нам придется соблюдать осторожность и следить, чтобы их цели не противоречили нашим и чтобы у нас всегда имелись отказоустойчивые механизмы отключения на тот случай, если роботы вдруг станут опасны. Хотя опасность для нас с этой стороны возникнет не раньше, чем роботы осознают себя, а этого не произойдет до конца этого или начала будущего столетия, так что у нас есть время подготовиться.

Тем не менее существует один сценарий, не позволяющий исследователям ИИ спокойно спать по ночам. Вполне можно представить ситуацию, в которой робот получит двусмысленную или неточно сформулированную команду, которая в случае выполнения послужит спусковым крючком катастрофы.

В фильме «Я, робот» показан центральный компьютер VIKI, управляющий инфраструктурой большого города. VIKI получает команду защищать человечество, но, изучив, как люди обращаются с другими людьми, компьютер приходит к выводу, что величайшей угрозой для человечества является само человечество. Он математически определяет, что единственный способ защитить человечество заключается в том, чтобы взять управление им на себя.

Еще один пример — легенда о царе Мидасе. Он просил бога Диониса дать ему способность простым прикосновением превращать все что угодно в золото. Казалось бы, такой дар — верное средство добиться богатства и славы. Но Мидас дотрагивается до своей дочери — и она обращается в золото. Пища тоже становится несъедобной. Царь оказывается рабом того дара, который он сам вымолил у бога.

Герберт Уэллс в рассказе «Человек, который умел творить чудеса» разбирает аналогичную ситуацию. В один прекрасный день ничем не примечательный клерк становится обладателем поразительной способности. Все, что он пожелает, сбывается. Однажды вечером он отправляется выпить с приятелем, творя по дороге чудеса. Им не хочется, чтобы так приятно начавшаяся ночь вдруг закончилась, и молодой человек, сам того не подозревая, желает, чтобы Земля прекратила вращаться. Внезапно на них обрушиваются яростные ветры и гигантские волны. Людей, здания и города выбрасывает в космос со скоростью вращения Земли. Поняв, что он только что погубил родную планету, несчастный испытывает последнее желание: чтобы все вернулось в норму и стало так, как было до обретения им невероятной способности.

Здесь научная фантастика учит нас осторожности. Развивая ИИ, мы должны скрупулезно проверять возможные результаты своих действий, особенно те из них, которые, возможно, не очевидны с самого начала. В конце концов, именно способность к такому анализу отчасти и делает нас людьми.

Чтобы получить более полную картину будущего робототехники, рассмотрим чуть подробнее то, что происходит внутри компьютеров. В настоящее время большинство цифровых компьютеров строятся на основе кремниевых интегральных микросхем и подчиняются закону Мура, который гласит, что каждые полтора года мощность компьютеров удваивается. Но в последние несколько лет технологическое развитие в этой области начало замедляться по сравнению с лихорадочным темпом нескольких предыдущих десятилетий, и кое-кто даже заговорил о крайнем сценарии, в котором закон Мура перестает действовать и серьезно подрывает мировую экономику, которая за много лет стала зависима от почти экспоненциального роста компьютерных мощностей. Если бы такое произошло, Кремниевая долина могла бы превратиться в очередной Фабричный, он же Ржавый, пояс Соединенных Штатов. Чтобы предотвратить потенциальную угрозу этого кризиса, физики всего мира ищут замену кремнию. Они работают над целым рядом потенциальных альтернативных компьютеров, включая молекулярные, атомные, оптические и белковые компьютеры, компьютеры на ДНК и квантовой точке, но ни один из этих вариантов еще не реализован.

Кроме того, в этом наборе вариантов имеется и темная лошадка. Кремниевые компьютеры становятся все меньше и меньше, и когда-нибудь, по идее, их размеры сравняются с размерами атомов. Сейчас в стандартной микросхеме Pentium толщина кремниевых слоев может соответствовать примерно 20 атомам. Еще в этом десятилетии толщина слоев, возможно, уменьшится до всего лишь 5 атомов, и в этом случае электроны начнут утекать из них, как предсказывает квантовая теория, порождая короткие замыкания. Необходим компьютер на каких-то новых принципах. Кремниевые микросхемы, в принципе, могут быть заменены молекулярными, возможно созданными на основе графена, но когда-нибудь даже у молекулярных компьютеров возникнут проблемы, связанные с эффектами, которые предсказывает квантовая теория. Тогда нам, вероятно, придется строить предельный — квантовый — компьютер, способный работать на крохотнейшем из возможных транзисторов: на единственном атоме.

Вот как он мог бы работать. Кремниевые схемы содержат так называемые ключи — элементы, которые могут быть либо открыты, либо закрыты для потока электронов. Информация хранится на основе таких открытых или закрытых контуров. Этот процесс описывает двоичная система счисления, основой для которой служат серии единиц и нулей: 0 может описывать состояние закрытого ключа, а 1 — открытого.

А теперь посмотрим, что произойдет, если заменить кремний рядом отдельных атомов. Атомы подобны крохотным магнитам, у которых есть северный и южный полюса. Когда атомы помещают в магнитное поле, они указывают, как можно было бы предположить, либо вверх, либо вниз. На самом деле каждый атом указывает и вверх, и вниз одновременно до тех пор, пока не произведено окончательное измерение. В каком-то смысле каждый электрон может одновременно находиться в двух состояниях. Это противоречит здравому смыслу, но именно так обстоит дело в реальности, если верить квантовой механике. Преимущества такой системы огромны. Если магниты ориентированы в одном определенном направлении, в них можно хранить определенное количество информации. Но если каждый магнит представляет собой смесь нескольких состояний, то в крохотную группу атомов можно поместить гораздо больше информации. Каждый «бит» информации, который может быть равен или 1, или 0, теперь становится «кубитом» — сложной смесью единиц и нулей, вмещающей намного больше данных.

Главное в квантовых компьютерах — то, что они могут дать нам ключ к исследованию Вселенной. Теоретически именно квантовый компьютер может превзойти человеческий интеллект, но пока мы не знаем, когда такие компьютеры появятся и каков будет их истинный потенциал. В исследовании космоса они могли бы стать бесценными помощниками. Вместо того чтобы просто строить поселения и города будущего, мы с помощью квантовых компьютеров могли бы подняться на ступеньку выше и перейти к высокоуровневому планированию, необходимому для терраформирования целых планет.

Квантовые компьютеры были бы намного более эффективны, чем цифровые компьютеры. Обычным компьютерам потребовалось бы несколько столетий, чтобы взломать код, основанный на решении сверхсложной математической задачи, такой как разложение чисел, состоящих из миллионов знаков, на два меньших сомножителя. Квантовые компьютеры, проводящие вычисления при помощи большого числа смешанных атомных состояний, справились бы с этой задачей очень быстро. ЦРУ и другие разведывательные службы прекрасно сознают их потенциальную ценность. Среди секретных материалов Агентства национальной безопасности США, попавших в результате утечки несколько лет назад в прессу, был совершенно секретный документ, из которого явствовало, что АНБ тщательно отслеживает все работы по квантовым компьютерам, но в ближайшем будущем никаких прорывов в этой области не ожидается.

Когда же можно ожидать появления таких компьютеров с учетом повышенного интереса и суеты вокруг них?

Вычисления на отдельных атомах могут стать для нас и благословением, и проклятием. Атомы могут вместить громадное количество информации, но мельчайшее загрязнение, вибрация или помеха могут погубить любой расчет. Необходимо — но чрезвычайно трудно, и это не секрет — полностью изолировать наши атомы от внешнего мира. Атомы должны прийти в состояние так называемой когерентности, когда все они вибрируют в унисон. Малейшее вмешательство (скажем, в соседнем здании кто-то чихнул) может разрушить гармонию и заставить атомы колебаться случайно и независимо друг от друга. Декогерирование — одна из серьезнейших проблем, с которыми мы сталкиваемся при разработке квантовых компьютеров.

Именно этой проблемой объясняется тот факт, что сегодня квантовые компьютеры способны выполнять лишь рудиментарные вычисления. Мировой рекорд для квантового компьютера составляет около 20 кубитов. Это может показаться не слишком серьезным, но на самом деле представляет собой настоящее достижение. Вероятно, на создание функциональных квантовых компьютеров уйдет несколько десятилетий, может быть, этот процесс затянется до конца нынешнего века, но, когда эта технология появится, она кардинальным образом усилит мощь искусственного интеллекта.

Имея в виду примитивное состояние, в котором сегодня находятся автоматы, я не стал бы ожидать появления сознающих себя роботов в течение еще по крайней мере нескольких десятилетий. А возможно, этого не случится и до конца века. Мы, скорее всего, создадим сложные аппараты с дистанционным управлением и продолжим исследования космоса. Затем, возможно, появятся автоматические устройства с повышенными способностями к обучению, которые начнут закладывать основы для человеческих поселений. Далее мы построим самовоспроизводящиеся машины, которые завершат развитие инфраструктуры, и только потом, наконец, появятся сознающие себя машины на основе квантовых структур, которые помогут нам построить и поддерживать межгалактическую цивилизацию.

Разумеется, все эти разговоры о путешествиях на далекие звезды ставят перед нами важный вопрос. Как мы, или наши роботы, сможем туда попасть? Соответствуют ли будущей реальности звездные корабли, которые мы видим каждый вечер по телевизору?