Серьезные проблемы

Сегодняшние машины не чувствуют боли. Это не кажется удивительным, ведь они не имеют сознания, а боль тесно связана с этим свойством. Права человека можно представить как своеобразные способы не допускать причинения боли и страданий. То есть если машины не чувствуют боли, то они не должны иметь никаких прав?

С технологической точки зрения умение ощущать боль может оказаться полезным для машин в 2062 году. Должна ли это быть реальная боль или искусственная – вопрос, который остается открытым. Боль имеет внушительную эволюционную историю и, похоже, пошла на пользу не только людям, но и другим животным. Она может помочь роботам быстрее учиться на собственных ошибках. Мы убираем руку от огня не потому, что осознаём ущерб, который он нам причиняет, а потому, что нам становится очень больно. Возможно, роботам тоже не помешали бы подобные механизмы.

Однако наделение машин способностью чувствовать боль может иметь неоднозначные последствия. Они смогут страдать, а потому заслуживать прав, которые бы защищали их от этого. Это может ограничить сферу их применения, так как невозможно будет заставлять их выполнять грязную или опасную работу. К тому же, вместе со способностью ощущать боль мы должны будем дать им страх, который часто предваряет боль и не дает получить травму. Но и это еще не всё. Почему бы не наделить их другими человеческими эмоциями, такими как желание, счастье, интерес, удивление, недоумение или даже печаль?

Человек ведет эмоционально насыщенную жизнь. Эмоции, конечно же, тесно связаны с интеллектом. В большинстве случаев именно эмоции управляют нашим поведением. Именно они дают нам такое важное эволюционное преимущество: удивление помогает нам распознать нечто новое и потенциально опасное, а любопытство – совершать открытия и править миром. Хотим ли мы поделиться этими преимуществами с машинами?

Сегодня они не способны испытывать эмоции. Однако процесс ознакомления их с основами человеческих эмоций уже начался. Они могут, к примеру, определить агрессивность электронного письма. Это поможет им взаимодействовать с нами в долгосрочных отношениях.

Фильм «Она» в этом смысле попал в яблочко. В 2062 году ИИ будет действовать в качестве операционной системы. Мы постепенно придем к тому, чтобы взаимодействие между нами и ИИ велось в речевой форме. Исчезнут клавиатуры, информация начнет поступать к нему и выводиться обратно только с помощью речи. Этот диалог будет происходить везде: в разных комнатах квартиры, в машине, в офисе.

Для того чтобы сделать это общение более увлекательным, разработчики, вероятно, решат наделять машины собственной эмоциональной жизнью. Будут ли это реальные или поддельные эмоции – все еще неясно. Однако тот факт, что компьютеры, с которыми нам предстоит взаимодействовать в 2062 году, будут способны чувствовать, не вызывает сомнений.

Марвин, параноидальный робот из романа «Автостопом по галактике» Дугласа Адамса, очень здорово выразил эту мысль: «Ну и, конечно, у меня болят все диоды с левой стороны…».

Кроме болящих диодов, он также отличался некоторой депрессивностью:

Артур Дент: [Земля] была прекрасным местом.

Марвин: А там были океаны?

Артур Дент: О да! Великолепные огромные раскатистые океаны.

Марвин: Терпеть их не могу.

Эти вполне человечные черты сделали Марвина столь любимым читателями героем романа. К 2062 году мы можем рассчитывать на то, что подобные эмоции будут испытывать многие машины.

Проблема свободы воли

Даже в том случае, если сознание не станет такой большой проблемой для ИИ, нам придется обратиться к другому, не менее сложному, философскому вопросу. Это проблема свободы воли. ИИ освещает эту знакомую проблему совершенно с другого угла. Компьютеры – детерминированные машины. Они следуют четким инструкциям. Вероятно, цифровые приспособления (в частности, компьютеры) – наши самые детерминированные изобретения.

В аналоговом устройстве, таком, например, как термостат, есть погрешности и неопределенности, которые говорят нам о том, что он может повести себя непредсказуемо. Даже простейшие системы могут иметь настолько хаотичные петли обратной связи, что предсказать их поведение будет невозможно. В цифровом девайсе подобной неоднозначности нет. Либо ноль, либо единица. Нет никакого элемента непредсказуемости или случайности. Компьютеры – физическое воплощение математической логики, поэтому они точны и однозначны, как она сама. Один плюс один всегда будет равняться двум. Квадратный корень из девяти всегда будет равен трем.

Как же в таком случае ИИ, программа, запущенная на детерминированном компьютере, может обладать свободой воли? Этой темы большинство ученых старается избегать. Как ученые мы понимаем, что не вполне способны объяснить ее. Мы составляем математические уравнения для точного расчета времени, в которое произойдет вспышка нейрона. Мы определяем химические способы добиться того или иного результата. Мы обсуждаем перенос ионов, который описывается точными дифференциальными уравнениями. Есть ли среди этих моделей место для свободы воли?

Но эта проблема существует не только в области ИИ. Наука до сих пор пытается описать тот же феномен применительно к нашему собственному мозгу. Свободная воля может прятаться в лакунах, оставленных нашими научными познаниями о мозге. Квантовая неопределенность – одна из таких лакун.

Сэр Роджер Пенроуз, один из самых известных критиков идеи искусственного интеллекта, утверждал, что мозг не действует на основании алгоритмов, а потому не может быть смоделирован в цифровом виде. Он предполагал, что квантовые эффекты играют важную роль в работе нашего мозга. Ученые пока не пришли к единому выводу относительно этого предположения. Однако даже если все действительно так, то ничего не мешает компьютеру смоделировать эти квантовые эффекты. Следовательно, встает вопрос: нашел Пенроуз то место, где прячется свободная воля?

Другим таким местом может быть сложность мира, внутри которого мы взаимодействуем. Возможно, свобода воли – это что-то, что возникает от контакта человека с окружающей средой. Как утверждал Дэниэл Деннет, свобода воли может быть иллюзией, рождающейся от этой сложности.

Мы регулярно забываем, что причины принимаемых нами решений часто обусловлены сложностью нашего мира. То, что видится как свободный выбор, на деле оказывается результатом огромной запутанной схемы, в которой мы в действительности мелкие фигурки. Искусственный интеллект может помочь решить этот вопрос и выяснить, является ли свобода воли иллюзией.