Глава 3
Столкновение

В этот раз к онлайн-сервису ночных развлечений Роберт прибегать не стал. Вторая феерическая ночь подряд, да еще и после электростимуляции в самолете, выжала бы его как лимон – наутро ему не помогли бы и метаэнергетики, в иных ситуациях мгновенно поднимающие на ноги и освежающие мозг и полумертвому человеку. Непрерывного потока столь сильных стимуляторов психика даже здорового человека не может выдерживать до бесконечности.

Оказавшись в Давосе, Роберт в первую очередь вспомнил о том, что он терпеть не мог роботов, по крайней мере, многих из них. Но без роботов в наши дни и шагу нельзя ступить. Даже в глубине африканских джунглей можно было легко наткнуться на робота-спасателя, робота-рейнджера или, скажем, робота-дрона, следящего за темпами роста посевов очередного нового сорта генно-модифицированной пшеницы или миграцией стада белых носорогов – вида, казалось, безнадежно вымершего, но восстановленного генетиками посредством технологий реконструкции и клонирования любой живой особи по образцу сохранившегося ДНК. Тем более роботов было немыслимо много в такой развитой стране, как Швейцария. Здесь эти создания, иногда похожие на человека, но чаще представляющие собой тонкие шкафчики на колесах со встроенным локальным интеллектом, встречались на каждом шагу – по делу и без.

Вечером на стойке регистрации гостиницы его приветствовал робот-андрогин, скорее похожий на женщину. Когда-то нечто подобное в виде тонких изящных манекенов можно было увидеть в витринах любого магазина одежды. На них надевали модные вещи, чтобы покупатели оценили, как одежда выглядит на человеческой фигуре. Каменный век, хотя это было недавно. Роберт усмехнулся от этой мысли. Сейчас можно было просто подойти к зеркалу, и голографическая программа «одевала» человека в любую одежду любого бренда в мире, подогнанную с учетом всех анатомических особенностей его тела в данную минуту. Выбранный костюм, джерси или майку затем можно было заказать на все том же сайте instantsale.com и получить уже через пару часов. Женщина-андрогин, одетая в открытое платье с глубоким декольте и с бюстом неестественного фарфорового цвета (в тон стен и старомодных шелковых занавесок на огромных окнах рецепции), улыбнулась, сверкнув слишком ярким и неестественным синим цветом своих глаз. Как далеко ни продвинулась наука и процессоры с их чудовищной вычислительной скоростью, абсолютно достоверно и естественно изображать мимику человека роботы, к сожалению, пока так и не научились. Андрогин указала ему своим таким же белофарфоровым длинным, изящным, но явно не человеческим пальцем на небольшой экран монитора, к которому Роберт поднес свой браслет, чтобы с него сняли деньги за проживание. Университет должен будет возместить ему затраты на участие в конференции, но пока он решил зарегистрироваться частным образом. Браслет мигнул приятным зеленоватым цветом, подтверждая, что транзакция проведена. Андрогин попросила его притронуться к экрану пальцем для подтверждения личности. Получив OK и снова слишком заученно улыбнувшись, она спросила, нужна ли Роберту голографическая сцена в его номере. Многим постояльцам, особенно в солидных отелях старой школы, нравилось, когда перед сном реальные трехмерные голографические фигуры знаменитых джазовых музыкантов прошлого, великие классики этого жанра музыки, исполняли перед сном мягкие успокаивающие джазовые стандарты в стиле night relax. Постояльцы помоложе на этой же «сцене» могли посмотреть перед сном «живое», тоже трехмерное, выступление танцовщиц стриптиза или, например, голографическую сцену лесбийской любви. Но Роберта это предложение оставило равнодушным, он отказался и от сцены, и от химических стимуляторов вечернего удовольствия, решив, что этим вечером перед сном стоит получше продумать завтрашнее выступление. Он поблагодарил женщину-робота, но та уже переключила внимание на следующего посетителя – индуса ученого вида, так же, как и Роберт, с опозданием прибывшего на конгресс.

На ночь он вставил в ушные раковины тонкие беруши, гарантировавшие быстрое (как правило, в течение минуты) засыпание и контролировавшие гладкость протекания и чередования циклов сна. Программа «спокойный сон» стала неотъемлемой частью повседневной жизни практически всех современных людей. Поток информации, обрушивавшийся на мозг в течение всего дня, теперь был так объемен и сложен, что для хотя бы самого общего его усвоения ограниченной по своей природе человеческой памятью современному человеку каждые сутки пришлось бы спать по десять часов, что было немыслимо в ритме жизни конца XXI столетия. Спасительная программа снижала потребность людей в сне до 5–6 часов, а в условиях пиковой напряженности графика жизни человек мог пару недель спокойно, без отрицательных последствий для здоровья, обходиться всего четырьмя. Поколение стариков, личное время которых не столь ценилось, все еще старалось спать без этого чудо-прибора, рассказывая молодым страшилки о том, что «спокойный сон» не просто расслабляет, но и, скорее всего, в чьих-то интересах «зомбирует» мозг. Например, незаметно, без согласия человека прокручивая в его спящем сознании сюжеты рекламного и политического характера. И в самом деле, никто из трезво смотрящих на вещи людей не мог полностью поручиться, что подобных вещей не происходит, – это было бы вполне в духе времени. И все же поколение тридцатилетних уже не могло себе представить своей жизни без «спокойного сна», а детям он и вовсе с младенчества заменял колыбельные песни матери, которые теперь можно было услышать разве что в экзотической сельской местности.

С учетом разницы во времени с Нью-Йорком после просмотра очередной серии нового комедийного американского сериала Роберт лег около часа ночи, мгновенно отошел ко сну, а уже в семь утра совершенно бодрый стоял под освежающим ароматизированным душем. За окном открывалась прекрасная панорама зеленых швейцарских гор. Давос никогда не был настоящим городом. Скорее большая альпийская горная деревня с одним современным зданием, Дворцом конгрессов, где уже по двухсотлетней, непонятно кем и зачем заведенной традиции проходили многие высокие международные съезды, где обсуждались вопросы, затрагивающие судьбы всего мира. Гостиница находилась в десяти минутах ходьбы от Дворца конгрессов, по пути между ними лежало крохотное, но живописное озерцо. Времени в запасе было достаточно, и он решил подойти к берегу, выглядевшему довольно живописно на фоне мягких лучей едва взошедшего солнца. Метрах в ста от озера висела табличка, уведомляющая о том, что оно является частной собственностью. Но заграждений не было, и он продолжил идти к берегу, который находился уже совсем близко. Через мгновение он ощутил не то чтобы болезненное, но крайне неприятное ощущение точечного электрического удара в правом виске головы. Он обернулся, увидев направленную на него небольшую электромагнитную пушку. Из упрямства он сделал еще несколько шагов – удар повторился с большей силой. На его браслете с зудящим звуком начал мигать красный сигнал. Он подумал о том, что, если продолжать идти до самого берега, то сигнал может поджарить его мозг током до потери сознания. Проверять он не стал, благоразумно повернув назад. Небольшая неприятная сценка подпортила ему настроение. Она словно предвещала, что наступающий день может оказаться для него весьма непростым.

На входе в зал конгрессов толпились сотни людей. В эпоху всепроникающей дополненной реальности, сделавшей доступным за умеренную плату всем желающим присутствие на любом событии в любой точке планеты с максимальным эффектом погружения, такие массовые съезды ученых стали относительно редким явлением. Некоторые делегаты внешне явно старались подчеркнуть свою национальную идентичность. Головы нескольких женщин-мусульманок были покрыты белыми платками с тонкой золотой исламской вязью; макушку высокого молодого ученого из Израиля покрывала традиционная кипа. При этом еврей и одна из мусульманок стояли рядом, оживленно беседуя, и постоянно улыбались друг другу. К счастью, времена бессмысленных распрей и конфликтов на почве религиозных различий давно канули в Лету: ведь все религии мира в той или иной форме прежде всего проповедуют любовь и терпимость к ближним. По фойе тут и там сновали роботы, в основном не антропоморфные. Некоторые – на подставке с колесиками, легко оборачиваясь на ней во все стороны при необходимости; другие, с большими «головами», похожие на маленького обаятельного инопланетянина из фильма Спилберга столетней давности, высотой около метра, перемещались перебежками на тоненьких ножках. В основном роботы занимались раздачей участникам очков виртуальной реальности, материалов предыдущих дней и рекламных объявлений, напечатанных на цифровой бумаге. Так назывались тонкие, толщиной с бумажную страницу, гибкие листы графена с электронной начинкой, на вид и на ощупь напоминавшие старую добрую бумагу. Информацию, напечатанную на них, можно было перелистнуть рукой – так, будто читаешь газету или журнал. Многие до сих пор испытывали ностальгию по так называемым старым добрым временам. Однако, если вдуматься, эпоха, когда люди ради распечатки часто мгновенно устаревающих, а порой и вовсе бессмысленных материалов ежегодно вырубали миллионы гектаров реликтовых дождевых лесов, прошла недавно, а назвать эти времена добрыми в сравнении с сегодняшней жизнью, удовлетворяющей все человеческие потребности, было и вовсе трудно.

В конгрессе принимали участие ведущие мировые специалисты в области компьютерных наук, но были и такие же, как Роберт, эксперты в области квантовой физики, а также известные политики и философы. Философия, казавшаяся на протяжении большой части XX века деградирующей и почти отжившей областью науки, «рассуждениями ни о чем», во второй половине XXI века (когда в свете новых открытий общая картина Вселенной стала для ученых еще менее понятной, чем раньше) переживала неожиданный Ренессанс, привлекая к себе огромное внимание. Философов, преимущественно молодых, пригласили на съезд по компьютерной этике, так как деятельность искусственного интеллекта определенно нуждалась в глубоком переосмыслении – именно сейчас больше, чем когда-либо. Главный вопрос, решение по которому должен был рекомендовать конгресс, с высокой вероятностью определил бы весь путь дальнейшего развития человечества, по крайней мере, на ближайшие полвека (в более отдаленное будущее не осмеливался заглянуть даже самый отчаянный и уверенный в себе футуролог).

«Универсальный искусственный интеллект: естественный прогресс или угроза?» – так звучала главная тема съезда. Эту открытую полномасштабную дискуссию инициировало ОЧ – «Объединенное Человечество» – всемирная организация, пришедшая на смену Организации Объединенных Наций. ООН просуществовала почти столетие, сыграв важную роль в разрешении многих международных проблем, но до самого конца так и не избавилась от сильного перекоса в своей деятельности из-за влияния богатейших стран – прежде всего США, являвшихся ее главным спонсором. Сама структура ООН, образовавшаяся по итогам Второй мировой войны, с течением времени, в двадцать первом веке, перестала соответствовать новым реалиям. Некоторые из государств, игравшие когда-то ключевую роль на мировой арене, а потому имевшие особенные привилегии (например, право вето по важнейшим вопросам), теперь отошли на второй план и мало чем заслуживали особого положения. Другие страны, бывшие, наоборот, в числе самых бедных и слабых, теперь вышли на лидирующие позиции. Дисбаланс реальных возможностей стран в современном мире и их влияния в ООН становился все более очевидным и буквально сводил на нет смысл деятельности организации до тех пор, пока на ее чрезвычайном заседании не было принято давно назревшее решение о глубокой трансформации этой глобальной структуры. Отныне она представляла собой не междусобойчик наций-победителей давно минувшей войны, а подлинный представительный орган современного человечества. Политический вес каждой нации определялся с помощью сложного алгоритма и регулярно уточнялся. Этот алгоритм учитывал ряд показателей – таких как валовый национальный продукт, численность населения, уровень образования, способ демократической смены власти и некоторые другие факторы. По важнейшим мировым вопросам предусматривался даже такой революционный механизм, как всемирное индивидуальное голосование. Если на кону в прямом смысле слова стояла дальнейшая судьба человечества, то решение принималось большинством голосов путем прямого волеизъявления всех жителей земного шара посредством тайного индивидуального электронного голосования. Правда, за тридцать лет к такой процедуре еще не пришлось прибегнуть ни разу. Критики указывали на то, что «Объединенное Человечество» во многом было не лишено недостатков своего предшественника, ведь голоса самых развитых стран здесь тоже весили намного больше, чем менее богатых и успешных; при решении не терпящих отлагательств глобальных проблем оставалось немало бюрократизма, волокиты и подковерных интриг. И все же, по сравнению с явно отжившей свой век ООН, это был огромный шаг вперед.

И вот теперь человечество подошло слишком близко к самой опасной черте за всю историю своего существования. Премию Стивена Хокинга в области компьютерных наук за 2083 год (аналог Нобелевской премии для новых естественных наук, не включенных в категории нобелевских) присудили международной группе американских и японских исследователей, работавших в объединенной команде Массачусетского технологического института и Токийского университета, подошедших вплотную к созданию, возможно, самой революционной технологии.

Словосочетание «искусственный интеллект» вошло в обиход в научных дискуссиях уже в середине прошлого века, на заре цифровой эры, когда мощность самых совершенных компьютеров была в триллион раз меньше, чем в современных наручных часах. Однако уже тогда ученые и фантасты мечтали о создании машин, мыслящих самостоятельно и независимо, подобно человеку, но гораздо быстрее. Они наивно верили, что создание такой супермашины займет десятилетие, от силы два, хотя, как выяснилось позднее, на том допотопном уровне развития компьютерной техники и при отсутствии понимания механизмов работы человеческого сознания гораздо реальнее муравью было мечтать о полете в соседнюю Галактику. Однако закон Мура об удвоении мощности компьютеров каждые два года, на удивление скептикам, работал исправно и на протяжении следующего столетия. Все это время в самых разных областях человеческой деятельности возможности компьютеров превосходили или как минимум быстро догоняли человека. Победа компьютерной программы над человеком-чемпионом по шахматам того времени (Гарри Каспаровым) произошла впервые в конце прошлого века, а всего через несколько лет начали проводить отдельный шахматный чемпионат между компьютерами, так как у людей не осталось никаких шансов соревноваться с ними. Но сама по себе эта победа не означала ничего, кроме констатации простого факта, что невероятно быстрый механический перебор возможных ходов в игре со строгим набором правил и ограниченным количеством возможных позиций теперь работает эффективнее человеческой интуиции. Но стоило задачу хоть немного усложнить или внести в нее малейшую неопределенность, как самые мощные компьютеры мира впадали в ступор, сбиваясь на бессмысленные циклические вычисления.

И все же прогресс ни останавливался. Спустя двадцать лет, в 2016 году, компьютер так же безжалостно переиграл чемпиона мира по восточной игре го, количество возможных ходов в которой превосходит шахматы на несколько порядков. Удивительной оказалась не сама победа, а то, как она была одержана. На этот раз в ключевые моменты партий компьютер придумывал ходы, непонятные даже самым искушенным ее мастерам. Казалось, что он порой играл во вред самому себе, ослабляя свою позицию, но это так странно запутывало ситуацию на доске, что гроссмейстер го в растерянности тоже начинал ошибаться и в итоге проигрывал. Иными словами, компьютер уже не просто играл в го, как раньше в шахматы, просто механически просчитывая ходы. Теперь он тонко, хитро и целенаправленно боролся с конкретным живым человеком, словно читая по сделанным им ходам потайные мысли соперника и издевательски играя его слабостями. Создатели этой сверхсложной самообучающейся программы признались, что подобную тактику игры их творения они не программировали – до нее алгоритм, сыгравший перед матчем с человеком сам с собой миллионы партий, каким-то образом «додумался» сам. Вероятно, это был первый случай, когда джинн самостоятельного мышления машины, пусть даже в таком пустяковом деле, как игра в го, действительно вырвался из бутылки.

Впрочем, и после этого прогресс в сознании искусственного разума продвигался не так быстро, как многие фантазировали. Сингулярности – точки, когда разумность компьютеров превзойдет интеллектуальную мощь всего, вместе взятого человечества, не произошло ни в 2030 году, как это прогнозировали многие футурологи, ни много позже. Количество вычислений в секунду быстро росло. Когда транзисторы уменьшились до размера в несколько молекул, достигнув естественного предела компактности, вычислительные платы, в прошлом двумерные, приобрели объем, что дало толчок к очередному витку роста их производительности. После 2030 года все шире стали использоваться квантовые эффекты, хотя полноценный, надежный универсальный квантовый компьютер, появление которого предсказывали как скорую неизбежность, до сих пор не был создан. Возможно, этому препятствовали какие-то базовые, еще не познанные законы природы.

Универсальный компьютерный сверхинтеллект оставался недостижимым, но локальный искусственный интеллект, то есть способность компьютерных алгоритмов, не претендующих на сравнение с работой всего человеческого мозга, решать конкретные важные и сложные задачи, проникал во все области деятельности человека с каждым годом все глубже, обычно меняя при этом окружающий мир к лучшему. Технологии делали все менее нужным участие людей в производственных процессах. Теперь даже само понятие безработицы, которое в прошлом всегда несло в себе негативный смысл, окрашивалось в совершенно новые тона, означая в первую очередь освобождение личного времени человека от физически тяжелых или скучно-рутинных обязанностей. В новом счастливом мире многогранное творчество во всех его проявлениях стало главным призванием всех талантливых и мыслящих людей – по крайней мере, в развитых странах планеты. Люди, генетически не способные к высокому творчеству, все равно имели гарантированный доход, позволявший им качественно удовлетворять все их потребности, хотя социальный статус таких граждан был ниже, чем у «элиты». Но это приводило лишь к уменьшению их возможностей иметь детей от наиболее «качественных» представителей противоположного пола. В некотором смысле, общество из «лучших побуждений» в конце XXI века оказалось разделено на «новые» касты (грейды), но при этом государства большинства стран старались, чтобы обладатели низких грейдов не чувствовали себя обделенными или тем более несчастными. После 2030 года локальный интеллект поднял на новую, еще недавно недосягаемую высоту урожайность сельского хозяйства, причем еды во всем мире оказалось не только больше, но она становилась дешевле и здоровее. Не менее существенный прогресс наблюдался в энергетике, медицине, индустрии развлечений. Многие человеческие профессии навсегда ушли в прошлое. К 2060 году не осталось буквально ни одной сферы человеческой деятельности, которая была бы эффективной, конкурентоспособной, да и попросту возможной без использования локального ИИ.

Но лишь сейчас, в 2084 году, момент, о котором мечтали поколения ученых и которого так страшились философы-фантасты, наступил. Исследователи, соединившие мощности четырех крупнейших суперкомпьютеров мира, работавшие над этим проектом более пятнадцати лет, построили систему, идеально моделирующую процесс создания, развития и обновления нейронов человеческого мозга, включая все многообразие связей между ними, но при этом работающую несравнимо быстрее. Первые тесты показали, что система SHANE, даже включенная в строго контролируемом режиме всего на одну миллионную своей мощности, без малейших затруднений прошла серию усложненных тестов Тьюринга (то есть заставляла ничего не подозревающих людей верить в то, что они в течение часа общаются с живым человеком, а не с программой). Специализированные алгоритмы для прохождения этого теста давно успешно справлялись с ним. Удивительное заключалось в том, что универсальный интеллект прохождению теста Тьюринга никто специально не обучал. Ему просто объяснили задание, и он сразу сам щелкнул его, как мягкий миндальный орешек.

Роберт сел в эргономичное кресло, положив очки виртуальной реальности рядом с собой. Еще один робот, пока до начала мероприятия оставались минуты, подкатился к нему, торопливо рассказывая что-то о новой системе автоматической обработки научных текстов на разных языках с мгновенным поиском нужных ссылок и подборкой цитат. Роберт не отреагировал, и тогда робот подкатился совсем близко к нему, буквально тыкая монитором в лицо. Ему внезапно захотелось треснуть эту назойливую машинку так, чтобы она прямо здесь развалилась на запчасти до мелких винтиков. Дома он пару раз так делал в юности, но теперь, в таком солидном месте, он сдержался и лишь настойчиво отодвинул механизм от себя рукой. Робот, словно обидевшись, демонстративно постоял какое-то время к нему спиной и затем, не торопясь, укатился восвояси.

– Роб, и ты здесь? И почему я не удивлен тем, что мы здесь встретились?

Сияющая белозубая улыбка принадлежала Тэйлору Дэвису, темнокожему философу, ставшему уже прижизненным классиком, с которым Роберт пересекался в аспирантуре Гарварда. Тэйлор был старше лет на десять, но при своем почти двухметровом росте выглядел молодо, максимум на тридцать. Тэйлор являлся одним из видных апологетов нового философского течения, утверждавшего, что истинная цель любого прогресса, в том числе научного, состоит в обретении человеком наибольшего и как можно более продолжительного счастья. Так как все в мире, включая науку, развивается по спирали, основатели этой доктрины считали, что ее корни произрастают из идей греческого философа Эпикура. Как и древние эпикурейцы, они считали источником высшей радости человека позитивное общение с окружающими, большое количество друзей, всестороннее развитие интеллекта и благотворительность во всех ее формах. Но, естественно, все эти радости теперь еще и сочетались с современным уровнем технологий.

– Привет! Рад тебя видеть. Я только приехал. Ты был на заседаниях в предыдущие дни?

– Да. Кажется, дело решенное. На одно выступление против приходится несколько докладов за. Почти все считают, что сомневаться в полезности универсального ИИ – глупость, ретроградство, попытка лечь на рельсы перед поездом прогресса, который нельзя остановить. Молодые ученые, включая твоих коллег-физиков, захлебываются от восторга и открывающихся перспектив. Я уже не говорю о компьютерщиках, ведь они теперь будут чувствовать себя самыми важными людьми на свете. Против – только убеленные сединами гуманитарии. Пытаются, как они говорят, пока не поздно, зажечь красный свет перед падением поезда прогресса с рельсов прямо в бездонную пропасть. Молодые лишь улыбаются. Впрочем, ты знаешь, что лично я – скорее на стороне скептиков.

– Я тоже. Будем держаться друг друга. И за это надо выпить сегодня вечером.

– Несомненно. Я остановился в шале, в живописной долине недалеко от границы с Германией, в пятидесяти километрах севернее. Двадцать минут на флайере, если лететь осторожно. Заходи ко мне сегодня, пропустим по стаканчику глинтвейна, хотя еще не зима.

– Спасибо, приду. Мой доклад запланирован на одиннадцать утра. Буду седьмым спикером в этой части панели. Вчера посмотрел материалы – у меня ощущение, что здесь все сознательно кем-то ведется к полному одобрению этой идеи. Но у меня и многих моих коллег из Гарварда другое мнение. Я готов его высказать. Если надо, мы подадим апелляцию в «Объединенное Человечество».

– Хорошо, поговорим вечером. Там будет, кстати, неплохая компания: в том числе несколько незамужних девушек-аспирантов. Ты ведь тоже по-прежнему не женат? Как на это смотришь?

В этот момент прозвучала просьба поприветствовать первого выступающего. Им был известный русский ученый Андрей Белов, лауреат Нобелевской премии по компьютерной биологии, получивший ее еще в середине нынешнего века. Он был самым возрастным участником конгресса, в этом году ему исполнилось восемьдесят. Почти двухметрового роста, в юности он был красавцем и даже с успехом снимался в телевизионных шоу параллельно с научной карьерой. Он был первым, кто смоделировал белок, стимулирующий человеческий иммунитет настолько, что тот естественным образом убивал раковые клетки в тех случаях, когда другие средства лечения были противопоказаны или неэффективны. Говорили, что его открытие спасло с тех пор миллионы человеческих жизней. В свои почтенные годы профессор Московского университета все еще сохранял отличную выправку и, кажется, был намерен работать на благо науки еще многие годы.

Выступление академика зал слушал, затаив дыхание. Какую бы позицию в этой дискуссии он ни занял, относиться снисходительно к мнению столь заслуженного ученого никто бы, конечно, не стал. Белов в своем длинном, почти на час, вступлении вспомнил то, какую огромную роль играли самые совершенные компьютерные алгоритмы в научных открытиях в биологии, в том числе в его собственных исследованиях, и насколько сильно они улучшили жизнь большинства людей на планете. Тем не менее к легализации универсальных систем сверхинтеллекта он призвал отнестись с большой осторожностью.

– Когда я еще был студентом, в незапамятные времена, мы шутки ради математически моделировали появление на Земле фантастической серой слизи, которая размножалась бы в геометрической прогрессии, не встречая никаких преград. Одна молекула такой слизи, поглощая любые органические и неорганические материалы, делилась и удваивалась бы один раз в минуту и уже через несколько часов своего размножения образовала бы бесформенный комок величиной с дом, а к вечеру того же дня – поглотила бы всю Землю. Универсальному ИИ вполне по силам в реальности запустить такой процесс – например, ради эксперимента или с какой-нибудь другой понятной только ему целью. И он ни с кем не будет советоваться, ни у кого не станет спрашивать на это разрешения. Скорее всего, когда катастрофа станет заметной, предотвратить ее уже будет нельзя никаким способом. Да, я знаю, что все это сейчас кажется фантазиями и страхами уже немолодого человека, к тому же выросшего на апокалиптической научной фантастике прошлого века – как известно, в основном не сбывшейся. И все же лично я буду настоятельно рекомендовать ОЧ ввести всемирный пятилетний мораторий на введение в действие универсального ИИ. Для того чтобы можно было заранее как можно более всесторонне проверить его возможности и угрозы. Спасибо за внимание. Буду рад пообщаться в кулуарах со всеми, кто желает.

Аплодисментов аудитории не последовало, но, кажется, в первый раз с момента открытия форума в атмосфере съезда повеяло неопределенностью. Следующие несколько выступлений были посвящены техническим деталям работы суперкомпьютера SHANE. Свежую струю внес швейцарский юрист, говоривший с сильно резавшим слух немецким акцентом, но здраво по сути. Он отметил, что введение в действие механического алгоритма, не только не уступающего общему человеческому интеллекту, но даже превосходящему его, порождает огромное число потенциальных юридических коллизий во всех областях права. Главная проблема заключалась в том, что такой алгоритм будет иметь все основания претендовать на права человека, да еще и принадлежащего к самому элитному грейду A+. С развитием подобных систем механических алгоритмов с человеческими правами на планете будет становиться все больше, что приведет к необходимости пересмотра большинства сложившихся веками юридических норм.

После еще трех докладов пришла очередь Роберта. У него не было ни малейшего страха выступлений в любой аудитории. Это отчасти врожденный навык, но он отлично тренируется за несколько лет работы лектором, тем более в таком университете, как Гарвард. Надо лишь сосредоточиться на смысле выступления, логике приводимых аргументов и при этом относиться к аудитории, даже такой авторитетной, как эта, как к студентам-первокурсникам.

– Уважаемые коллеги! Я представляю сейчас здесь не столько себя, сколько коллектив исследователей одного из самых авторитетных университетов мира. Мой великий соотечественник – писатель, ученый и пророк научной эры Айзек Азимов – когда-то сформулировал три закона робототехники, не потерявшие актуальность и сегодня. Уверен, все вы о них знаете еще с начальной школы, но я все же позволю себе их повторить с этой высокой трибуны. Мы с моими коллегами – физиками, математиками, компьютерщиками, философами – попытались научно проанализировать то, насколько универсальный ИИ будет им соответствовать. Итак, первый закон. Робот не имеет права нанести вред человеку. К сожалению, до сих пор никто не смог точно, в терминах компьютерных алгоритмов, сформулировать, что есть для человека вред, а что – польза. Современная философия утверждает, что высшая цель прогресса, а значит, и польза – это счастье человека. Допустим, героиновый наркоман просит робота дать ему еще одну дозу, чтобы облегчить его страдания. Отказать наркоману – означает причинить ему немедленный вред. Сможет ли универсальный интеллект разобраться даже в этом простейшем случае, причинить кажущийся сиюминутный вред человеку ради его же куда более важной будущей пользы? А ведь это лишь азы. Когда подобная система интеллекта начнет размышлять о глобальных вопросах человечества, то к каким странным, непонятным нам и, главное, совершенно непредсказуемым выводам она может прийти? Второй закон робототехники. Робот не может допустить своим бездействием, чтобы был нанесен вред человеку. Представьте, что роботизированная система без контроля диспетчеров управляет самолетом, который терпит крушение над населенным городом. Она может попытаться посадить самолет на оживленной улице, что вероятнее всего, спасет пассажиров, но приведет к гибели большого количества случайных пешеходов. Или она может увести падающий самолет за пределы города, но тогда сотни его пассажиров уже ничто не спасет. Как универсальный ИИ сможет принять хоть какое-то решение в ситуации, когда любое выбранное им действие означает одновременное грубейшее нарушение и первого, и второго законов? Сможет ли он вообще хоть как-то функционировать в любой экстренной ситуации, встав перед такой дилеммой? Наконец, третий закон: робот должен заботиться о собственной безопасности, если это не противоречит первым двум законам. Но что, если универсальный ИИ будет осознавать себя достойной самостоятельной личностью, не менее ценной для общества, чем любой отдельный человек, созданный природой из органической белковой материи? Тогда он вполне может логично рассудить, что третий закон должен поменяться местами с первым. И ради собственной безопасности система универсального интеллекта решит, что для сохранения себя она абсолютно вправе пожертвовать человеческими жизнями. Одной жизнью, двумя, миллионом, всем человечеством – не принципиально, для системы это будет лишь вопрос количества, а не качества. На основании вышесказанного мы категорически против легализации универсального ИИ. Причем мы настаиваем не на пятилетнем моратории, как это предлагал наш великий русский коллега ранее сегодня, а на его полном запрещении. Спасибо за внимание.

Аплодисменты на этот раз прозвучали, но очень робкие. Кажется, атмосфера наэлектризовалась теперь уже довольно ощутимо. Спускаясь с трибуны, Роберт почувствовал на себе взгляды сотен пар настороженных глаз. Он случайно заметил в зале того индуса, который накануне вслед за ним регистрировался в гостинице. Тот сидел неподалеку в традиционном белом головном уборе сикхов и провожал его острым пристальным взглядом. Модератор конференции с явным облегчением объявил двадцатиминутный перерыв для кофе и неформального общения делегатов.

Роберт остался до конца выступлений в этот рабочий день, попутно успев несколько раз связаться с аспирантами своей лаборатории по текущим рабочим вопросам с помощью коммутатора виртуальной реальности. Он также оставил сообщение Хелен, которой почему-то сегодня не было в зале, предложив ей провести вторую половину завтрашнего дня, после закрытия конгресса, катаясь вдвоем на горных лыжах. В промежутке между сессиями с большим удовольствием, почувствовав себя на несколько минут студентом рядом с маститым профессором, обменялся личными контактами с Андреем Беловым. Хотя академик свободно говорил на английском, в этот раз он предпочел свой родной русский, а Роберт понимал сказанное через звуковой синхронный перевод программы – персонального помощника.

В конце сентября темнело уже довольно рано. Когда Роберт взял флайер, чтобы перенестись на вечеринку к Тэйлору, над роскошной долиной уже сгустились сумерки, и он выбрал программу автоматической навигации в ночных условиях. На высоте в несколько сот метров было еще более прохладно, чем внизу, но он все-таки решил оставить окна кабины частично открытыми, чтобы на низкой скорости насладиться открывавшейся внизу вечерней панорамой швейцарских Альп с заснеженными вершинами. В темноте на приличном расстоянии мелькали тут и там огоньки других флайеров. В основном, они двигались на более низкой высоте и гораздо быстрее – все явно спешили по своим делам. Техника безопасности полетов в Швейцарии соблюдалась особенно строго: практически ни при каких обстоятельствах не допускалось ручное управление летающими машинами, так как в условиях гор это было особенно опасно.

Роберт был доволен и своим выступлением, и реакцией аудитории, чувствуя себя удовлетворенно и расслабленно. Но в его голове, как всегда, проносился целый рой мыслей на разные темы. Он размышлял о том, как неузнаваемо изменится мир еще лет через пятьдесят и как хочется, чтобы он к этому времени все еще ощущал себя бодрым и молодым; о том, с кем из роскошных киноактрис прошлого или настоящего провести следующее эротическое виртуальное свидание по прибытии домой послезавтра; о сегодняшней вечеринке: зачем она ему, нужно ли обсуждать с Тэйлором темы конгресса или лучше просто выпить, расслабиться, повнимательнее приглядевшись к его аспиранткам. Может быть, даже слегка, как бы в шутку или по-дружески, пощипать их за попки, если после пары бокалов глинтвейна они покажутся ему достаточно аппетитными. Хорошо, что времена, когда за такие невинные приставания можно было угодить под суд, давно канули в Лету: мораль современной эпохи наслаждений стала почти такой же раскрепощенной, как во времена хиппи прошлого века. Эта мысль заставила его улыбнуться.

На приборной панели флайера внезапно загорелись несколько красных лампочек. Еще через пару секунд зазвучал громкий, резкий сигнал аварийной тревоги. В первое мгновение Роберт даже не понял, что происходит. Шестым чувством, а может быть, просто периферийным зрением, он понял, что опасность – не в поломке флайера, а приближается откуда-то извне. Он повернул голову вправо и увидел темный, неосвещенный, едва различимый в темноте флайер, двигавшийся на бешеной скорости прямо к нему. Роберт обладал хорошей реакцией и умел быстро принимать решения. Хотя он никогда не был в таких ситуациях, но вспомнил, что при включении аварийного сигнала пассажир мог нажатием самой правой кнопки в верхнем ряду приборной панели перевести флайер в режим ручного управления.

Он успел это сделать за мгновение до того, как странный неопознанный флайер на скорости свыше двухсот километров в час врезался бы ему прямо в бок, неизбежно превратив его собственный аппарат в груду осколков, а его самого – в ошметки мертвой плоти. Он рванул штурвал вверх, но полностью не смог избежать удара. Но теперь вектор силы этого удара пришелся вскользь, в задний правый бок, что намного уменьшило повреждения. Его флайер даже уцелел, но понесся вниз, уйдя в крутое пике. Роберт отчаянным движением штурвала смог немного выровнять траекторию полета и даже краем глаза высмотрел внизу, в горной долине, относительно пологое место, где можно было бы приземлиться. Но в этот момент темный флайер без опознавательных знаков, сам уже сильно разбитый, снова оказался у него в хвосте, и нанес еще один удар, который стал для флайера Роберта фатальным. Теперь он уже сам, всем своим телом почувствовал сильнейший, неописуемо болезненный удар, пришедшийся ему сзади и сбоку. В его глазах резко потемнело. До земли оставалось меньше ста метров, и его аппарат все так же неконтролируемо снижался. Темный флайер снова оказался прямо перед ним, готовясь нанести третий, смертельный удар прямо в лицо Роберта. Последнее, что он успел осознать, – это неминуемость гибели. Но вражеский летательный аппарат вдруг зацепился за выступ скалы, в нескольких метрах от которого они в эту секунду пролетали, и с ярким фейерверком рассыпался на части прямо перед ним. Флайер Роберта увлек его вниз, в сторону каменистого плато, уже покрытого довольно толстым слоем снега.

Больше он ничего не помнил.