8. Унаследуют ли машины Землю?

Как сверхразумные машины изменят наш мир

В течение десятилетий у нас были машины, способные превзойти нас по части вычислений. Но быстрый рост ИИ и новый спектр задач, решаемых программами, застали нас врасплох. Некоторые люди верят в неизбежность того, что машины станут умнее нас, причем произойдет это довольно скоро. Такие сверхразумные машины смогут кардинально изменить все, начиная с климатических прогнозов и заканчивая здравоохранением и социальным обеспечением. Но с развитием ИИ возникают каверзные вопросы обо всем на свете: от теологии до будущего всего человечества.

Расцвет сверхразума

Понятие «сверхразумная машина» – то есть способная во всем превзойти человеческое мышление – было введено в обиход в 1965 году математиком И. Дж. Гудом, который работал с Аланом Тьюрингом в Блетчли-парке. Гуд отметил, что «первая сверхразумная машина станет последним изобретением, которое потребуется от человека». Ведь с тех пор машины начнут самостоятельно разрабатывать другие, более совершенные машины.

В зависимости от того, каких взглядов придерживается ваш собеседник, последнее изобретение человечества может оказаться не за горами. Потенциальное появление самосовершенствующихся машин окутано идеей сингулярности, согласно которой искусственный интеллект должен превзойти человеческий. Футуристы, включая Рэя Курцвейла, уверены, что данное событие произойдет всего лишь через пару десятилетий. Другие же считают, что сверхразум и сопровождающие его страхи о том, чем это обернется для людей, – не более чем фантазия общества, взращенного на научной фантастике.

И все же научно-фантастические страшилки упускают главное. Нам нужно позабыть все страхи о том, что ИИ выйдет из-под контроля: с появлением сверхразумных машин наш мир станет куда более странным местом, чем это показывают фильмы.

Интервью. Сингулярность не за горами

Рэй Курцвейл – ученый, изобретатель и футурист. В 2009 году он стал соучредителем Университета сингулярности, расположенного в Исследовательском парке NASA в Калифорнии и специализирующегося на «экспоненциальных технологиях». С 2012 года он занимает постоянную должность в Google. Каждый день Курцвейл принимает более 150 добавок, чтобы предотвратить старение организма до появления сингулярности.

Курцвейлу мало быть просто человеком с ограниченными интеллектуальными возможностями и телом, обладающим определенным сроком годности. Идея сингулярности гласит о том, что в обозримом будущем, когда машинный интеллект превзойдет человеческий, ИИ начнет самосовершенствоваться в геометрической прогрессии. В интервью 2009 года для New Scientist Курцвейл рассказал, что люди начнут сливаться с машинами, чтобы идти в ногу со временем, становясь сверхразумными существами, способными жить вечно. И все, от Массачусетского технологического института до Белого дома, либо ненавидят эту идею, либо не могут дождаться ее реализации.

Когда наступит сингулярность?

– Примерно к 2045 году. Мы уже являемся гибридом биологических и небиологических технологий. Например, у небольшой группы людей есть электронные устройства, вживленные в мозг. Последнее поколение таких устройств позволяет закачивать медицинские программы прямо в компьютер внутри вашего мозга. Учитывая, что через 15–20 лет эти технологии будут в 100 000 раз меньше и в миллиард раз мощнее, вы можете себе представить всю практическую осуществимость данного метода. И хотя в теле большинства из нас нет никакого компьютера, эти устройства уже стали частью нас самих.

– А как насчет людей, которые не захотят стать «сверхлюдьми» и откажутся сливаться с технологиями?

– Сколько людей полностью отвергают всю медицину и медицинские технологии? Сколько из них не носят очки или не принимают лекарства? Люди говорят, что не хотят менять себя, но при наступлении болезни делают все возможное для скорейшего выздоровления. Мы не сможем перепрыгнуть в мир 2030 или 2040 года одним прыжком. Нас ждут тысячи маленьких шагов. Соедините эти шаги в единый путь, и в итоге мир совершенно изменится.

– Можем ли мы как-то решить наши текущие экологические проблемы до 2045 года?

– Да. Ресурсов намного больше, чем кажется. Для получения всей необходимой энергии нам нужно только заполучить 1 из 10 000 солнечных лучей. Нанотехнологии применяются к технологии аккумуляции солнечной энергии и экспоненциально растут. Такие новые наработки весьма экономичны, поскольку на них распространяется закон ускоряющейся отдачи.

– Что вы подразумеваете под законом ускоряющейся отдачи?

– Мощность идей по изменению мира увеличивается, но мало кто полностью осознает все последствия. Люди не мыслят экспоненциально. В то же время экспоненциальные изменения затрагивают все, что связано с изменением объемов информации. Возьмите генетическое секвенирование. Когда в 1990 году был объявлен запуск проекта «Геном человека», скептики говорили: «Вы ни за что не реализуете его за 15 лет». В процессе работы над проектом скептики не утихали, говоря, что вы завершили лишь 1 % от всего проекта. Но в реальности все идет точно по графику: получив 1 % результата, вы лишь в 7 удвоениях от поставленной цели.

– У вас отличные результаты по прогнозированию. Помогает ли экспоненциальное мышление правильно выбирать временные рамки?

– В середине 1980-х я предсказал, что Всемирная паутина появится к середине 1990-х. Тогда это звучало нелепо, поскольку весь военный бюджет США мог связать по сети лишь несколько тысяч ученых. Но я видел, как данная цифра удваивалась из года в год, и все шло точно по графику. Занятно, насколько предсказуемыми оказываются показатели мощности информационных технологий. Несмотря на это, миллионы новаторов готовы поделиться неожиданными идеями. Кто мог предвидеть появление социальных сетей? Если бы лет 20 назад я сказал, что мы создадим энциклопедию, которую каждый сможет дописать и отредактировать, то вы бы подумали: «Боже мой, да это будет сплошное и совершенно бесполезное граффити». А коллективная мудрость действительно оказалась на удивление полезной.

– Все эти достижения выглядят весьма утопично.

– Они не утопичны, потому что технология – это палка о двух концах. Ей сопутствуют и новые проблемы. Однако в целом я считаю, что плюсы технологий значительно перевешивают тот ущерб, который они могут нанести. Но с этим согласны далеко не все.

– Зачем вы основали Университет сингулярности?

– Питер Диамандис является основателем и председателем фонда X Prize. И я решил, что пришло время основать университет, который объединил бы ведущих специалистов в областях искусственного интеллекта, нанотехнологий, биотехнологий и передовых вычислений и помог бы решить проблемы будущего, поскольку они весьма сложны и многомерны. NASA и Ларри Пейдж из Google также поддерживают университет. Это очень интенсивный девятинедельный курс.

– Вы сказали, что хотели бы вернуть к жизни своего отца, поскольку сильно по нему скучаете.

– Да, это так. ДНК отца, собранная с его могилы наноботами, будет добавлена ко всей информации, которую ИИ извлечет из моих собственных воспоминаний и воспоминаний знакомых ему людей. Кроме того, можно будет загрузить все памятные сувениры из жизни отца, которые я храню в коробках. Отец может стать аватаром, роботом или принять какую-то другую форму.

Вопрос ценностей

Страх возможного уничтожения людей умными машинами зародился еще в момент появления современных компьютеров в 1950-х годах, однако ранее затрагивал лишь отдаленные области ИИ. В последние годы научная школа, возглавляемая философом Ником Бостромом, превратила этот «экзистенциальный риск» в главный предмет обсуждения. Его книга «Искусственный интеллект. Этапы, угрозы, стратегии» 2014 года завоевала признание множества технократов, среди которых оказались Билл Гейтс, Илон Маск и сооснователь Apple Стив Возняк.

Вскоре к ним присоединились и другие общественные деятели, включая Стивена Хокинга. Хокинг рассказал ВВС, что «развитие полнофункционального искусственного интеллекта может означать конец человеческой расы… Он будет сам по себе и начнет перестаиваться со все возрастающей скоростью. Люди, ограниченные медленной биологической эволюцией, окажутся не в состоянии с ним конкурировать, поэтому будут вытеснены искусственными системами». В 2016 году он продолжил развивать эту тему, сказав, что, скорее всего, ИИ – это «лучшее или худшее, что когда-либо случалось с человечеством».

Один из самых известных примеров Бострома – ИИ, помешанный на создании скрепок. Для достижения своей цели он мог пустить в расход все ресурсы на планете. С другой стороны, если поручить ИИ задачу делать людей счастливыми, то он может начать вырезать части нашего мозга, связанные с неприятными переживаниями. Поэтому нужно сделать так, чтобы цели ИИ совпадали с нашими.

В июле 2016 года несколько десятков исследователей, философов и специалистов по этике собрались на закрытое заседание в Колледже Иисуса (Кембридж, Великобритания), чтобы обсудить все эти проблемы. «Экзистенциальный риск сводится к вопросу о ценностях», – заявил Джон Нотон, заслуженный профессор общественного понимания техники в Открытом университете (Великобритания). По мнению Нотона, ситуацию омрачает то, что люди, стоящие во главе развития ИИ, обычно отличаются технократическим отношением, в котором принятие решений на основе больших данных априори считается правильным. И точка.

Итак, как же нам правильно задать цели и ценности для будущих машин?

Ответ прост: пока что мы не знаем этого. Несмотря на то, что нынешние ИИ обучаются на наборах данных, необходимых для выполнения конкретных задач, их преемники, как и мы с вами, смогут определять собственные цели. Таким образом, они научатся находить наилучшее решение проблемы. Но если мы наделим их подобной свободой, то понадобятся некие ограничители, чтобы они не «сбились с пути». Отсюда и пошли разговоры об «аварийных выключателях», которые можно будет встраивать в будущие ИИ.

Еще одно распространенное мнение заключается в том, что ИИ должен стремиться к великому благу для наибольшего количества людей. Изначально сама идея звучит привлекательно. Например, экономически выгоднее покупать противомоскитные сетки от малярии, нежели создавать лекарства от редких болезней. Но в то же время склонность к массовости может означать отказ от тех индивидуальных жестов, которые нам дороги и важны для социальной сплоченности. Теоретически ИИ сможет «перешагнуть через наши этические принципы», принимая за нас хладнокровные рациональные решения. Но не факт, что его результаты нам понравятся. Серьезность проблемы еще больше возрастет, когда ИИ доберется до областей, с которыми сейчас взаимодействуют только люди.

Что случится, если ИИ станет умнее нас?

Философ Ник Бостром – директор Института будущего человечества в Оксфордском университете и автор книги «Искусственный интеллект. Этапы, угрозы, стратегии» (2014). Он считает, что однажды мы создадим искусственный разум, в разы превосходящий нас по уровню интеллекта. В своей книге он объясняет, почему разумное проектирование искусственных систем окажется важнейшей проблемой из всех, с которыми приходилось иметь дело человеку. Далее приводим его текст.

«Люди никогда раньше не сталкивались с более разумной формой жизни. Но это изменится, как только мы создадим машины, значительно превосходящие нас по когнитивным способностям. Тогда наша судьба будет зависеть от воли такого "сверхразума". Почти как у горилл, судьба которых сейчас больше зависит от наших действий, чем от самих животных.

Поэтому нам стоит поинтересоваться о том, чего же могут захотеть сверхразумные системы. Есть ли способ, позволяющий нам спроектировать системы мотивации ИИ в соответствии с нашими? Предположим, что сначала сверхразум окажется дружелюбным к человеку. Но есть ли гарантии того, что он сохранит свое дружелюбие даже после создания более способных версий-преемников?

Пожалуй, именно эти вопросы являются важнейшими из всех, с которыми когда-либо сталкивались наш вид; они требуют создания новой науки о передовых искусственных агентах. Нам предстоит проделать колоссальную работу по поиску ответов на данные вопросы. Однако за последнее десятилетие группа математиков, философов и компьютерных ученых продемонстрировала завидные успехи. В моей книге "Искусственный интеллект. Этапы, угрозы, стратегии" рассказывается о том, почему результаты их работы одновременно тревожат и завораживают. Если говорить в общих чертах, то мы уже видим, что подготовка к переходу на машинный интеллект является основной задачей нашего времени.

Но давайте сделаем шаг назад и посмотрим, почему машины с высоким уровнем общего интеллекта станут настолько важными. Под сверхразумом я подразумеваю любой интеллект, который значительно превосходит когнитивные способности человека практически во всех областях. По сути, ни одна из наших текущих программ ИИ не соответствует этому определению и, к сожалению, во много уступает даже мыши.

Поэтому мы сейчас не говорим о текущих системах и версиях из ближайшего будущего. Никто не знает, сколько времени потребуется для развития искусственного интеллекта, который сможет соответствовать человеческим способностям по части обучения и умения логически мыслить. Весьма вероятно, что на это потребуется несколько десятилетий. Но как только ИИ достигнет, а затем превзойдет этот уровень, он сможет быстро взлететь до совершенно сверхразумных высот.

После того, как ученые-ИИ станут способнее ученых-людей, исследования в области искусственного интеллекта продолжатся на машинах, работающих в цифровом масштабе времени, и, соответственно, прогресс значительно ускорится. Таким образом, существует вероятность "взрыва разумности", в результате которого мы перейдем от отсутствия компьютера с человекоподобном интеллектом сразу к машинному сверхразуму, превосходящему интеллект всех известных видов.

Первая система ИИ, подвергшаяся такому интеллектуальному взрыву, может оказаться чрезвычайно мощной. Это был бы единственный во всем мире сверхразум, способный молниеносно развивать множество различных технологий (например, наномолекулярную робототехнику) и использовать их для создания будущего в соответствии со своими предпочтениями.

Мы можем выделить три формы сверхразума.

Быстрый сверхразум может делать все, на что способен человеческий разум, но гораздо быстрее – интеллектуальная система, которая работает в 10 000 раз быстрее человеческого разума. Она сможет прочесть книгу за пару секунд и написать диссертацию к обеду. Внешний мир для столь быстрого разума как будто движется слишком медленно.

Коллективный сверхразум – это система, состоящая из большого количества человекоподобных интеллектов, организованных таким образом, что общая производительность системы значительно превосходит производительность любой современной когнитивной системы. Человекоподобный разум, работающий как программа на компьютере; его легко скопировать и запустить на нескольких машинах. Если каждая копия программы окажется достаточно ценной, чтобы окупить затраты на оборудование и электроэнергию, то это может привести к массовой популяризации. В мире с триллионами подобных разумов технический процесс будет идти намного быстрее, чем сейчас, ведь ученых и изобретателей станет в тысячи раз больше.

И, наконец, качественный сверхразум, который будет как минимум так же быстр, как и человеческий разум, но значительно умнее. Это более сложное понятие. Концепция базируется на возможности существования различных интеллектов, которые будут умнее людей – точно так же, как мы умнее других животных. С точки зрения одной только вычислительной мощности, человеческий мозг не превосходит, скажем, мозг кашалота – обладателя самого большого по объему мозга весом в 7,8 кг (для сравнения, мозг среднестатистического человека весит 1,5 кг). Разумеется, ведь мозг животного идеально приспособлен к своим экологическим потребностям.

Тем не менее человеческий мозг обладает способностями к абстрактному мышлению, сложным языковым представлениям и долгосрочному планированию, что позволяет нам лучше реализовать себя в науке, технологиях и инженерии. В то же время нет никаких оснований полагать, будто наш мозг умнее остальных. Вполне возможно, что мы можем оказаться самым глупым биологическим видом, способным создать технологическую цивилизацию. И эту нишу мы заняли только потому, что оказались в ней первыми, а не потому, что были к ней оптимально адаптированы.

У различных типов сверхразума есть свои сильные и слабые стороны. Например, коллективный сверхразум отлично решает проблемы, которые можно разложить на независимые подзадачи. А качественный сверхразум лучше подходит для задач, требующих новых семантических представлений или сложноорганизованных рассуждений.

Непрямой охват различных типов сверхразума вполне идентичен. Если первая итерация компетентна в научных исследованиях, то она быстро превращается в общий сверхразум, поскольку сможет завершить компьютерное или когнитивное научное исследование и разработку программы, которые потребуются для создания собственных когнитивных способностей, отсутствовавших в системе ранее.

Как только машинный мозг разовьется до такого уровня, он будет иметь фундаментальные преимущества перед биологическим мозгом – равно как механизмы имеют преимущества перед биологическими мышцами. Что касается аппаратного обеспечения, то оно включает в себя значительно большее количество обрабатывающих элементов, повышенную частоту работы этих элементов, ускоренную внутреннюю коммуникацию и превосходную емкость хранения.

Сильные стороны программ сложнее выразить количественно. Однако здесь это все-таки необходимо. Рассмотрим, например, возможность копирования. Сделать точную копию программы довольно просто, но «копирование» человека – это куда более медленный процесс. К тому же так мы не сможем передать потомку навыки и знания, которые его родители приобрели в течение своей жизни. Поэтому намного проще редактировать код цифрового разума: это позволяет экспериментировать и разрабатывать улучшенные ментальные архитектуры и алгоритмы. Мы можем редактировать информацию о синаптических связях в нашем мозге – это как раз то, что мы называем обучением, – но мы не можем изменять общие принципы, по которым работают наши нейронные сети.

Нам не стоит даже надеяться на успешное конкурирование с такими машинными мозгами. Остается лишь уповать на то, что мы сумеем спроектировать машины так, чтобы их цели совпадали с нашими. Но понять, как это сделать, – очень сложная задача. Еще не ясно, удастся ли нам решить данную проблему до того, как кому-то удастся создать сверхразум. Судьба человечества может зависеть от правильности порядка решения этих двух проблем».

Суперсоздатели

Проблеск новых проблем ИИ наметился за пару месяцев до Кембриджской встречи в 2016 году. Победа AlphaGo над чемпионом мира Ли Седолем в чрезвычайно сложной настольной игре го напоминала состязание Гарри Каспарова с суперкомпьютером Deep Blue от IBM в 1997 году.

Но если давняя победа демонстрировала превосходство машин в хладнокровных вычислениях, то достижение AlphaGo заключалось в другом – творчестве и интуиции. На этой встрече Демис Хассабис, соучредитель «создателя» AlphaGo – DeepMind, предложил определять творчество как способность к синтезированию знаний для создания новой идеи, а интуицией считать неявное знание, полученное в результате опыта и которое невозможно выразить сознательно.

AlphaGo выиграл партию, разыграв ход, в корне отличающийся от многовековых традиционных представлений. Алгоритм не смог объяснить, почему он сделал это ход, но имел для него логическое обоснование. Так можно ли считать его действие творческим и интуитивным, пусть даже в весьма узком смысле слова? Если да, то AlphaGo положил начало новому классу разумных машин: «суперсоздателей», а не суперкомпьютеров.

Но, как считает Саймон Колтон, изучающий моделирование творчества в Голдсмитском колледже Лондонского университета, если мы будем воспринимать творчество как врожденное свойство, то упустим из вида самое главное. С нетерпением ожидая будущего, в котором, скажем, ваш телефон безостановочно сочиняет музыку, Колтон перестает считать, что творчество – это некий социальный компонент, даруемый человеку (или сущности) другими. Колтон создал машины, которые умеют рисовать картины и сочинять сюжеты. Однако ученый утверждает, что невозможно оценить работы, созданные компьютером, не пропустив их через предвзятый «человеческий фильтр».

Так как быть с качествами, которые мы по сей день считаем сугубо человеческими: воображение, эмоции и, прежде всего, сознание? Пробующие себя в данных областях машины еще находятся в стадии разработки. Однако ИИ, попадающие в заголовки новостей, к ним явно не относятся.

Систему можно научить выполнению новых задач. Но она, в отличие от людей, как правило, не сможет передать полученные в одной области знания в другую.

Разнообразие будущих машин

Многие исследователи сходятся во мнении о том, что распространенное представление людей об ИИ (как о машине, способной мыслить на уровне человека) – лишь отдаленная перспектива, которую невозможно будет достичь без лучшего понимания принципов работы нашего разума. Многие придерживаются мнения, что общий искусственный интеллект (ОИИ) подобного уровня достижим уже в этом столетии, но мало кто верит, что подобное возможно, если мы будем двигаться в том же русле. История изучения ИИ уже проходила зимы ИИ, когда после быстрого прогресса наступал период спада.

Сверхразумной машине не обязательно имитировать все аспекты человечности (см. рис. 8.1). «Спектр будущих машин может включать в себя как ОИИ-“зомби”, похожие на человека, но не обладающие сознанием, так и ИИ с более развитым сознанием, чем у человека», – рассказывает Мюррей Шанахан, изучающий когнитивную робототехнику в Имперском колледже Лондона. Это объединяет их с внеземным разумом, который также может оказаться чрезвычайно умным, но совершенно бесчеловечным.

Рис. 8.1. Сверхумные машины, известные как общий искусственный интеллект, не обязательно должны думать, как мы, или обладать такими человеческими чертами, как сострадание

Остается главный вопрос: насколько сильно создание таких умных и/или сознательных машин изменит наше представление о собственном месте во Вселенной? Может показаться удивительным, однако религиозный человек меньше нуждается в моральной подготовке. По словам кембриджского теолога Эндрю Дэвисона, у авраамических конфессий не должно возникнуть проблем с фактом существованием нечеловеческого разума, поскольку его красочными примерами служат голем из еврейского фольклора и бестелесные сверхсущества из Библии.

Мы только начали жить рядом с умными машинами. И сейчас, когда мы больше обеспокоены роботами-убийцами, предстоящие проблемы кажутся нам более чем странными. Однажды мы можем обнаружить, что живем бок о бок с ангелами и пришельцами.

Может ли программа страдать?

Андрес Сандберг, футуролог и специалист в области вычислительной нейробиологии из Оксфордского Института будущего человечества, изучает этические и социальные проблемы, связанные с улучшением человека и новыми технологиями. Однажды мы создадим виртуальные умы, считает он. Но смогут ли они чувствовать боль? Вот как он отвечает на этот вопрос.

«Уходя из офиса, я выключил компьютер и удалил симуляцию нейронной сети, над которой работал. Затем меня озарила мысль: а вдруг я что-то убил? Умом я понимал, что симуляция была проще бактерий, которых я нещадно давил на полу. Если они были не важны, то что уж говорить о нейронной сети. Однако сомнения все-таки остались…

В науке существует одна проблема. Если мы хотим узнать, что на самом деле происходит с живыми существами или как излечить болезни, то зачастую приходится ставить над ними эксперименты. Цифровое моделирование предлагает обойтись без этого.

Наша способность к симуляции биологических систем колоссально возросла с тех пор, как в 1950-х годах мы смоделировали гигантского аксона кальмара с помощью механического калькулятора. Сегодня мы можем выполнять нейросетевое моделирование на суперкомпьютерах, содержащих сотни миллионов реалистичных нейронов и миллиарды синапсов. В той же степени нам удалось смоделировать клетки и их внутреннее взаимодействие.

У нас появляется потенциальная альтернатива экспериментам над животными. Почему бы вместо того, чтобы подвергать живое существо боли при тестировании обезболивающего средства, не смоделировать систему болевых ощущений и не проверить, работает ли лечение? Логичным ожидаемым результатом станет симуляция, в которой каждая часть мозга и тела будет смоделирована в цифровом виде.

Довольно трудно отобразить взаимосвязи в реальном мозге. Пройдут годы, прежде чем мы сможем создать хотя бы полноценный мозг насекомого. Но уже ведется работа по созданию виртуальной модели мозга нематодов C. elegansin. Червь является отличным кандидатом для решения задачи, поскольку обладает одной из простейших мозговых форм, состоящей всего из 302 нервных клеток. В 2012 году исследователи из Университета Уотерлоо (Канада) объявили о создании крупной функционирующей модели мозга – SPAUN, состоящей из 2,5 миллионов нейронов. Европейское сотрудничество по проекту Human Brain Project также ставит своей конечной целью моделирование всего человеческого мозга.

Эти цифровые эмуляции смогут разрешить множество существующих этических дилемм, но они также породят и новые. Во-первых, для создания виртуальной модели придется пожертвовать многими животными. Однажды мы сможем отсканировать последнюю лабораторную крысу по имени "Лабораторная крыса обыкновенная 1.0" и с того момента полагаться только на моделирование. Но на получение такой модели уйдут годы фундаментальной нейробиологической работы. Вторая проблема заключается в том, что если мы хотим полагаться на искусственные модели при тестировании лекарств и прочих исследованиях, то должны быть уверены в их точности.

Меня же особенно интересует третья проблема. Будут ли модели чувствовать боль? Должны ли мы заботиться о них, как о животных или людях, участвующих в медицинских исследованиях? Это зависит от того, способны ли программы страдать. Например, Sniffy the Virtual Rat позволяет пользователям наблюдать за поведением крыс, подвергающимся ударам электротока. Так студенты могут обучаться психологии без использования живых существ. И все же мало кто из нас верит в «реальность» такой боли. Это, скорее, интерактивный мультфильм, как виртуальная игрушка-питомец. Мы можем сопереживать ему, но по сути это не более чем говорящая кукла. Совсем другое дело – эмуляция всего мозга с воссозданием нервных связей животных и даже людей.

Философ Дэниел Деннетт в своей статье 1978 года "Почему вы не можете создать компьютер, чувствующий боль" утверждал, что у нас отсутствует четкое определение боли. Именно поэтому мы не можем создать машину, способную чувствовать боль. Он также верил в то, что со временем мы с этим разберемся, и в какой-то момент здравомыслящие люди перестанут мучить роботов.

Другие философы, например Джон Сирл, наоборот утверждали, что независимо от сложности симуляция всегда останется не более чем числами с трудоемкими процессами обновления, а сама по себе программа не способна обладать настоящим сознанием или намерениями. И для "закрепления" такой системы в реальном мире ей может потребоваться физическое тело.

А как же CyberChild, созданный нейробиологом Родни Коттерилом в качестве модели его теории сознания? Это виртуальная эмуляция младенца с умственной (мозг) и физической (тело) моделью, основанной на практической биологии. Эмуляция обладает такими внутренними состояниями, как уровень сахара в крови и активность в различных областях мозга. Она способна реагировать на внутренние состояния, ей нужна еда (если уровень питательных веществ становится слишком низким, модель "умирает"), она может плакать и размахивать руками. Да, это очень простой организм, но он нацелен на разумность. Есть в этом нечто жуткое: если предположить, что теория Коттерила верна, то это существо может иметь собственный опыт.

Мы знаем, что мозги существуют для побуждения к действиям, которые ведут к получению наилучшего результата для всего организма. В этом и сокрыт смысл боли, удовольствия и планирования. Если бы мы смогли создать идеальную копию активности мозга, то получили бы то же самое поведение, основанное на том же шаблоне внутренних взаимодействий. Нет способов, позволяющих узнать извне, обладал ли такой смоделированный мозг каким-либо опытом.

Существуют значительные расхождения во мнениях о том, способны ли программы страдать и имеет ли это какое-либо моральное значение. Так что же нам делать?

На мой взгляд, лучше быть в безопасности, чем мучиться сожалениями. Допустим, любая смоделированная система может не только обладать теми же психическими свойствами, что и организм или биологическая структура, на основе которых система была построена, но и одинаково с ними обращаться. Если ваша модель только производит нейронный шум, то у вас есть веские основания полагать, что никакой опасности здесь нет. Но если вы создадите эмуляцию мыши, которая ведет себя как настоящая, то и обращаться с ней следует так же, как с лабораторным животным.

Я согласен, что для вычислительной нейробиологии это окажется крайне неудобным. Но с моральной точки зрения так будет правильно. Как только мы дойдем до эмуляций позвоночных, нужно будет руководствоваться государственными законами об испытаниях на животных. Мы должны будем избегать виртуальных страданий и отказаться от экспериментов, которые генерируют болевые сигналы.

Но еще мы можем улучшить биологию. Ведь в симуляциях можно отключить болевые системы, моделировать идеальные обезболивающие средства без побочных эффектов или просто блокировать нейронную активность, связанную со страданием. В принципе, мы можем следить за эмуляцией мозга на предмет возможных страданий и прекращать эксперимент сразу после их обнаружения. Есть еще и проблема качества жизни. Мы стали в полной мере осознавать всю важность создания благоприятных условий для животных. Однако создание столь же хороших виртуальных сред станет существенной преградой. Например, для большего комфорта виртуальным крысам может надобиться виртуальная шерсть, усы и обоняние.

Что же можно сказать об эвтаназии? Живые организмы умирают навсегда. Смерть означает потерю единственного шанса остаться в живых. Но эмулированный мозг можно восстановить из резервной копии: "Лабораторная крыса обыкновенная 1.0" просыпалась бы одинаково вне зависимости от того, сколько ее копий было протестировано в прошлом. И единственное, чего бы она лишилась при восстановлении, – это память о предыдущем эксперименте. Причем там могли оказаться как приятные, так и болезненные воспоминания. С этической точки зрения, миллион чрезвычайно счастливых моделей крысы в прошлом может оказаться «моральной компенсацией» за то, что одной из моделей придется пройти через болезненный опыт.

Я верю, что в долгосрочной перспективе мы создадим эмуляцию человеческого мозга. Определить моральный статус человеческих моделей будет легче, чем у животных – мы сможем просто спросить их об этом. Возьмите выдающегося философа, который бы сомневался в разумности программ, просканируйте его мозг и спросите финальную модель, чувствует ли она себя разумной. Если ее ответом будет: "Да, черт побери. Мне нужно написать статью!" – то мы получим убедительное доказательство того, что создали существо с достаточным интеллектом, интроспекцией (самоанализом) и моральными ценностями. Такая модель может иметь собственные права. Но до тех пор давайте будем относиться к подопытным программам хорошо. Просто так, на всякий случай».