Заключение

Напомним вкратце логику наших размышлений об эволюции человеческого и машинного разума. Мы ставили своей целью придать современным рассуждениям об искусственном интеллекте несколько большую глубину за счет систематического использования исторического метода: вписать зарождение машинного интеллекта в эволюцию человеческого разума как ее закономерный этап и проследить его развитие до сверхчеловеческого уровня в рамках того же самого процесса, а именно эволюции разума и его перехода из органической материи в неорганическую, свидетелями которого станем если и не мы сами, то наши дети и внуки.

Мы начали с описания человеческой истории как серии переходов между технологическими укладами со все более сложной системой разделения труда и все большим разнообразием продуктов для все большего числа людей. Так мы добрались до последнего перехода – от индустриального к цифровому укладу, в некоторой точке которого мы сегодня и находимся. Этот переход, по нашему мнению, обусловлен тем, что сложность индустриальной экономики в определенный момент превысила возможности человеческого разума и людям понадобились усилители мозга – компьютеры.

Далее мы проследили развитие компьютерных технологий с момента их появления – как они все глубже проникали в нашу жизнь, до определенного момента не слишком влияя на глобальную производительность труда. Это объясняется тем, что суммарные компьютерные мощности до недавнего времени на порядки отставали от мощности коллективного человеческого мышления. Но расширенный закон Мура – увеличение суммарных компьютерных мощностей в 100 раз каждые 10 лет – делает неизбежным наступление момента, в который эти мощности наконец-то превзойдут человеческие. И похоже, что эту точку невозврата мы сегодня уже прошли.

В этой точке закономерно появляется замыкающая технология нового технологического пакета – машинное обучение. Используя все более обильные и дешевые компьютерные мощности, оно снимает ограничение на сложность программ, а тем самым и на сложность машинного интеллекта. Он уже больше не скован ограниченным программистским ресурсом – компьютеры обретают способность к самопрограммированию. Открывается путь к созданию базовой технологии нового уклада – искусственного интеллекта, о котором так долго и страстно спорили в прошлом и время которого наконец-то пришло.

Оценивая роль ИИ в новой цифровой экономике, мы попытались представить себе, за счет чего эффективность мировой экономики сможет подняться на новый уровень. Наш ответ: за счет перехода от массового производства к экономике «длинного хвоста» продуктов и услуг, нацеленных на индивидуальные потребности. Это увеличит емкость рынка и поможет рационально использовать творческий потенциал людей, работающих бок о бок сначала с интеллектуальными агентами, а потом и с разумными роботами.

Как и всякий резкий скачок в развитии, становление человеко-машинной цивилизации порождает массу рисков, вызванных неизбежными противоречиями между теми, кто выигрывает, и теми, кто проигрывает от ожидаемых в скором будущем перемен. Мы считаем, что последствия массовой безработицы, связанной с одновременным внедрением роботов во множестве отраслей, можно будет преодолеть за счет введения специальных «налогов на роботов». Гораздо большую опасность, с нашей точки зрения, представляет повышение социального напряжения и уровня агрессии в обществе, разделение человечества на враждующие лагеря, насаждение атмосферы осажденной крепости и новая гонка вооружений – развитие национальных систем полицейского и военного интеллекта, контроль над которыми в конечном итоге может быть утерян, причем с самыми печальными последствиями для всей нашей цивилизации с ее ядерными арсеналами.

Для минимизации этих рисков человеко-машинной цивилизации потребуется гораздо более совершенная, чем нынешняя, система коллективной безопасности, гармонизации групповых интересов и мирного разрешения конфликтов. Должны появиться платформы цифровой демократии, разрешающие все спорные вопросы в реальном времени с учетом мнения всех заинтересованных сторон с гарантированным исполнением решений и соблюдением принятых в обществе социальных норм. Механизмы подавления агрессии и контроля общечеловеческих ценностей должны быть встроены в будущую цифровую инфраструктуру человечества, подобно системам самозащищенности и саморегулирования в современных ядерных реакторах.

Отсюда возникают требования для разработчиков ИИ: они должны создать не просто ИИ человеческого уровня для роботов, заменяющих людей на производстве, но и «ИИ с человеческим лицом», а точнее – с человеческими ценностями и понятиями о жизни. Мы формулируем эту задачу как создание искусственной психики роботов, архитектурно как можно более близкой к человеческой со встроенными общественными инстинктами.

Это возвращает нас к исходной цели разработки ИИ: более глубокое понимание человеческого разума путем создания все более сложных действующих моделей искусственного разума. Соответственно мы попытались представить себе и читателю, как может выглядеть практическая программа по формированию человекоподобной искусственной психики и развитию новой науки машинного воспитания.

Прочертив вчерне план разработки ИИ, мы наконец получили возможность заглянуть в не столь отдаленное будущее, естественно, с разной степенью подробности и уверенности на разных временных масштабах. Мы выделили три фазы развития ИИ: дочеловеческого, человеческого и сверхчеловеческого уровня. В ближайшие годы будут внедряться и развиваться существующие технологии глубокого обучения. Затем произойдет большой скачок, связанный с появлением роботов с искусственной психикой. Начнется период воспитания в роботах человеческой системы ценностей в рамках единой человеко-машинной цивилизации.

В какой-то момент лет через 20–40 машинная компонента вырвется вперед, и долгосрочное планирование развития цивилизации перейдет под контроль искусственных стратегов. Однако если все будет хорошо, управление обществом будет по-прежнему определяться человеческими ценностями, унаследованными машинным разумом. Таким образом, отдаленное будущее человечества будет зависеть от того, какими ценностями в жизни будут руководствоваться наши дети и внуки, то есть во многом – и от нас с вами.