Глава 6. Утопия, антиутопия и реальный кризис искусственного интеллекта
Все продукты и услуги ИИ, описанные в предыдущих главах, просты, понятны и основаны на ныне существующих технологиях. Чтобы выйти с ними на рынок, не требуется никаких масштабных прорывов в исследованиях ИИ, достаточно обычной повседневной работы по их адаптации: сбора данных, корректировки формул, экспериментов по итерации алгоритмов в различных сочетаниях, прототипирования продуктов и экспериментов с бизнес-моделями. Но эпоха внедрения принесла нам нечто большее, чем возможность создавать продукты для практического применения. Она разожгла интерес людей ко всему, что относится к ИИ. Поэтому мы верим, что совсем скоро можем обнаружить «святой Грааль» исследований ИИ – сильный искусственный интеллект (СИИ), и начать создавать мыслящие машины, способные выполнять любые интеллектуальные задачи, с которыми справляется человек, и делать многое из того, что человеку недоступно.
Существует мнение, что с появлением СИИ у машин, способных к самосовершенствованию, начнется стремительное развитие компьютерного интеллекта. Это явление часто называют сингулярностью или эрой искусственного сверхразума. Если так и произойдет, мир могут заполнить компьютеры, превосходящие нас в интеллектуальном плане настолько же, насколько мы превосходим насекомых. Столь фантастические предсказания разделили большую часть интеллектуального сообщества на два лагеря: утописты и сторонники антиутопии. Утописты видят в расцвете СИИ и наступлении сингулярности последний рубеж, отделяющий нас от светлого будущего, в котором человечество раздвинет границы сознания и победит смерть. Рэй Курцвейл – эксцентричный изобретатель и крупнейший идеолог Google – считает, что в будущем люди и машины сольются воедино. По его представлению, люди будут «загружать» свой разум в облака и постоянно обновлять ткани тела с помощью специально обученных нанороботов, введенных в кровоток. Курцвейл предсказывает, что к 2029 году мы получим компьютеры с интеллектом, сопоставимым с человеческим (т. е. СИИ), а точка сингулярности будет достигнута к 2045 году.
Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы, наконец, разрешим задачи, казавшиеся неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры, понимающие Вселенную на немыслимых уровнях сознания, помогут человечеству справиться с его бедами, и люди приблизятся к божественному всеведению и всемогуществу.
Однако не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация», сравнивая его создание с «призыванием демонов». Многие выдающиеся интеллектуалы, в том числе покойный космолог Стивен Хокинг, присоединились к лагерю антиутопистов Маска, некоторые из них – вдохновившись работой оксфордского философа Ника Бострома, чья книга «Искусственный интеллект. Этапы. Угрозы. Стратегии», вышедшая в 2014 году, захватила воображение значительного числа футуристов.
По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество. Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть тех инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он просто будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность состоит в том, что если люди окажутся препятствием для достижения одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть их с лица земли.
Чтобы сделать это, компьютерной программе, чей разум и воображение намного превосходят человеческие, не потребуется никаких вооруженных роботов. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь своих целей, используя гораздо более изобретательные способы. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», и она беспокоит даже тех, кто относится к СИИ с оптимизмом.
Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Бостром в своей книге приводит ответы специалистов по ИИ, которые склоняются к тому, что СИИ появится в 2040 году, а суперинтеллект, скорее всего, – в течение трех десятилетий после этого. Но не будем спешить с выводами.
