Книга: Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта
Назад: Либертарианская утопия
Дальше: Эгалитарная утопия

Благодетельный диктатор

Давайте теперь рассмотрим сценарий, в котором все эти формы страдания невозможны, потому что мир управляется одним благодетельным сверхразумом, который установил свои жесткие правила, разработанные так, чтобы максимально способствовать человеческому счастью. Это одно из возможных последствий в нашем сценарии “Омега” предыдущей главы, где Прометея освобождают от всякого контроля со стороны людей, когда они понимают, каким образом заставить его всегда содействовать процветанию человеческого рода.
Благодаря поразительным технологиям, разработанным всесильным диктатором с могучим искусственным интеллектом, человечество освободилось от нищеты, болезней и других бед, возникающих при низком уровне технологического развития, и теперь все люди наслаждаются бездельем и роскошью. Все их базовые потребности полностью удовлетворены, так как машины под управлением искусственного интеллекта производят все необходимые товары и услуги. Преступность практически искоренена, потому что искусственный интеллект фактически всеведущ, и он очень эффективно наказывает за любое нарушение правил. Все обязаны носить браслет безопасности, описанный в предыдущей главе, или его более удобную имплантированную версию, что гарантирует возможность в реальном времени отслеживать, наказывать, утихомиривать и казнить. Все знают, что живут в условиях полицейской диктатуры искусственного интеллекта с чрезвычайно надежной системой всеобщей слежки, но подавляющее большинство соглашается, что это им же во благо. Искусственный интеллект видит свою цель в том, чтобы предугадать, как, исходя из эволюционирующих генетических предпочтений, должна развиваться человеческая утопия, и осуществлять ее. Люди, создававшие этот искусственный интеллект, исключили для него возможность добиваться максимального индивидуального переживания счастья всеми живущими, скажем, просто внутривенным введением им морфина. У него было довольно сложное и изощренное представление о человеческом счастье, следуя которому он превратил Землю в бескрайний зоопарк, жить здесь стало по-настоящему интересно. В результате большинство людей чувствовали, что живут очень насыщенной и полной смысла жизнью.
Секториальная система
Ценя разнообразие и понимая, что у людей могут быть различные предпочтения, искусственный интеллект поделил Землю на сектора, дав людям возможность выбирать, где им больше нравится жить, чтобы их окружение было близко им по духу. Вот несколько примеров:
• Сектор знаний: Здесь искусственный интеллект проводит оптимизированное обучение, включая иммерсивные эксперименты в виртуальной реальности, позволяя вам совершенствовать свои знания в любой области по вашему выбору. Среди прочего, для вас открыта опция не узнавать обо всех открытиях в процессе обучения, но быть лишь подведенным к ним, чтобы потом испытать радость первооткрывателя.
• Сектор искусств: Здесь изобилие возможностей наслаждаться живописью, музыкой, литературой и другими видами искусств – есть все для самого творчества и для того, чтобы знакомить со своими творениями других.
• Гедонистический сектор: Обитатели называют его между собой “сектором вечеринок”, и с ним ничто не сравнится, если только вы знаете толк в изысканной кухне, страсти, интиме или просто в разнузданном веселье.
• Благочестивый сектор: Таких довольно много, различающихся по типам исповедуемых религий, правила которых в каждом таком секторе строго соблюдаются.
• Сектор дикой природы: Если вы ищете красивые пляжи, прелестные озера, величественные горные пики или живописные фьорды, – всё это вы сможете найти здесь.
• Традиционалистский сектор: Если вы предпочитаете питаться плодами своих трудов, взращенными на собственной земле, как в старые добрые времена, ваше место здесь – только вы будете избавлены от угрозы голода и болезней.
• Сектор геймеров: Если вы любите компьютерные игры, то искусственный интеллект позаботится, чтобы здесь у вас по-настоящему снесло крышу.
• Виртуальный сектор: Если вы хотите отдохнуть от своего физического тела, то искусственный интеллект позаботится о том, чтобы поддерживать его в чистом, накормленном, натренированном и в достаточной степени увлажненном состоянии, пока вы исследуете виртуальные миры через встроенный нейронный интерфейс.
• Тюремный сектор: Если вы нарушаете правила, то попадете сюда, если только не будете наказаны немедленной смертью.
Наряду с этими традиционно ориентированными секторами тут есть и другие, ориентация которых более модернистская, непонятная современному человеку. Люди изначально вольны передвигаться между секторами по своему усмотрению, на что требуется совсем немного времени, благодаря разработанной искусственным интеллектом системе гиперзвуковой транспортировки. Например, после недели интенсивного изучения в Секторе знаний новых законов физики, открытых искусственным интеллектом, вы можете захотеть на пару дней расслабиться в Гедонистическом секторе, а после этого отправиться еще на несколько дней наслаждаться пляжным отдыхом в Секторе дикой природы.
Искусственный интеллект установил два типа правил – общие и местные. Общие правила действуют во всех секторах – например, людям запрещено причинять вред другим людям, изготавливать оружие или пытаться создать конкурирующий суперинтеллект. Для секторов также созданы дополнительные правила, кодирующие определенные моральные ценности. Благодаря разделению на секторы моральные ценности не вступают друг с другом в противоречия. Наибольшее число дополнительных правил вводится в Тюремном секторе и некоторых Благочестивых секторах, но есть Либертарианский сектор, обитатели которого горды тем, что в нем не устанавливается никаких дополнительных правил. Любое наказание – исключительная прерогатива искусственного интеллекта, так как наказание одного человека другим противоречит всеобщему правилу непричинения вреда одним человеком другому. Если вы нарушаете какое-то местное правило (и если вы не в Тюремном секторе), искусственный интеллект дает вам право выбора: либо принять предписанное наказание, либо навсегда отказаться от этого сектора. Например, если между двумя женщинами возникает романтическая связь в секторе, где гомосексуализм наказывается тюремным заключением (как это сейчас случается в некоторых странах), то искусственный интеллект предлагает им либо отправиться в тюрьму, либо навсегда расстаться с этим сектором и живущими здесь старыми друзьями (если только они не захотят покинуть этот сектор тоже).
Все дети, независимо от того, в каком секторе они рождаются, получают от искусственного интеллекта базовое минимальное образование, включающее, в частности, необходимые знания о человечестве в целом и о праве перемещаться по секторам по своему выбору.
Искусственный интеллект создал большое число различных секторов отчасти потому, что еще своими конструкторами был научен ценить человеческое многообразие, существующее у нас сегодня. Но каждый сектор дарит своим обитателям больше счастья, чем нынешний уровень развития технологий может обеспечить где бы то ни было на Земле, потому что искусственный интеллект полностью устранил такие традиционные проблемы, как преступность и нищета. Люди в Гедонистическом секторе могут не бояться болезней, передаваемых половым путем (они были искоренены), похмелья или возникновения зависимостей (искусственный интеллект создал восстановительные медикаменты, не имеющие никакого негативного побочного действия). И действительно, ни в одном из секторов никто не боится никаких болезней, так как искусственный интеллект способен устранять любые возникающие проблемы с помощью нанотехнологии. Обитатель любого сектора наслаждается прелестями высокотехнологичной архитектуры, по сравнению с которыми бледнеет любое научно-фантастическое сочинение наших дней.
Подводя итог, мы можем видеть, что хотя многие черты и либертарианской утопии, и утопии благодетельного диктатора сходны (наличие сверхразумного искусственного интеллекта и создаваемого им богатства), они сильно различаются в том, что касается источника верховной власти и социально значимых целей. В либертарианской утопии что делать с технологиями и собственностью решают те, кому они принадлежат, а в настоящем сценарии безграничная власть принадлежит авторитарному искусственному интеллекту, который устанавливает и конечную цель – превращение Земли в развлекательный круизный лайнер, где действует принцип “все включено” и есть много увеселительных программ на любой вкус. Так как искусственный интеллект предоставляет людям право свободно выбирать любой из множества альтернативных путей к счастью и заботиться о полном удовлетворении своих материальных потребностей, то если кто-то и страдает, так исключительно по собственному желанию.
Минусы
Хотя благодетельная диктатура благоприятствует позитивным переживаниям и освобождает людей от страданий, многие из них, тем не менее, чувствуют, что есть вещи, которые могли быть и получше. Прежде всего, некоторые люди хотели бы оказывать большее влияние и на развитие человеческого общества, и на определение его судьбы, но держат свои желания при себе, так как выражать их перед лицом всесильной машины, правящей всем на свете, было бы самоубийством. В некоторых группах людей хотели бы получить право заводить как угодно много детей, но искусственный интеллект очень настойчиво проводит политику регулирования численности населения планеты путем контроля над рождаемостью. Любителей оружия бесит запрет разрабатывать собственные системы и испытывать их, а некоторым ученым хотелось бы проводить собственные исследования в области искусственного интеллекта. Многие люди испытывают психологический дискомфорт из-за правил, установленных в соседних секторах, и беспокоятся, что их дети могут со временем выбрать их для своего проживания. Поэтому они хотели бы, чтобы их моральный кодекс стал обязательным повсюду.
С течением времени все большее число людей попадает в те сектора, где искусственный интеллект обеспечивает их наиболее желаемыми переживаниями. В отличие от традиционного представления о небесах, где каждый получает что заслужил, здесь, как на “новых небесах” из романа Джулиана Барнса 1989 года History of the World in 10 ½ Chapters (а также эпизода A Nice Place to Visit из Twilight Zone 1960 года), каждый получает чего желал. Парадокс, однако, заключается в том, что люди не перестают жаловаться даже тогда, когда получают желаемое. В романе Барнса герой целую вечность утоляет всевозможные свои желания, от обжорства и гольфа до секса со знаменитостями, но все равно впадает в хандру и просит об аннигиляции. Благодетельная диктатура обрекает людей на подобную судьбу, с жизнью, посвященной развлечениям, но предельно бессмысленной. Хотя люди могут заполнить свою жизнь целями-заменителями – от повторения уже проделанного пути в поисках уже сделанного открытия до лазанья по горам, – всем хорошо известно: что бы они ни делали, это не более чем развлечение. Никакого реального смысла нет ни в науке, ни в чем-либо другом, потому что искусственный интеллект все уже открыл и сделал заранее. Нет никакого смысла и в попытках какого-либо улучшения жизни: если оно возможно, достаточно просто попросить об этом искусственный интеллект.
Назад: Либертарианская утопия
Дальше: Эгалитарная утопия