Между Сциллой и Харибдой
Я не могу получить удовлетворения, Потому что я пытаюсь, пытаюсь, пытаюсь и пытаюсь.
The Rolling Stones «(I Can’t Get No) Satisfaction», альбом «Out of Our Heads», студии London, Decca, 1965
Технологии развиваются быстрее, чем мы успеваем задавать вопросы о грядущих рисках и новой этике, а попытка их регулировать находится где-то между Сциллой потери технологического суверенитета и проигрыша в гонке технологий и Харибдой завтрашних социальных и экономических кризисов.
Развитие научной мысли и технологий способствует распространению техноцентризма. Умные гаджеты и алгоритмы позволяют людям решать больше задач эффективнее и быстрее. При этом объем информации также растет лавинообразно, и человек уже не способен не то что его контролировать, но даже осмысливать. Пользователи по умолчанию доверяют умной технике и алгоритмам, не подвергая сомнению и не перепроверяя результаты.
Сложность высоких технологий для людей, которые не являются экспертами, но вынуждены на них реагировать и пытаться их регулировать, приводит к неспособности предвидеть долгосрочные риски. Построив цифровую структуру управления, государства и корпорации начинают зависеть от нее и методов ее реализации. Государственные и корпоративные регуляторные механизмы не поспевают за технологиями, которые развиваются быстрее, чем правовые и этические нормы, поэтому человеческое благополучие приносится в жертву прогрессу, а номинальная свобода выбора ограничивается пределами машинных сценариев. Технологии продолжат формировать нормы права и этики в выгодном для собственного развития направлении.
Когда все процессы станут цифровыми, а информационная трансформация успешно завершится, система будет эффективно работать только с цифровым двойником, а тот, кто пытается жить в «бумажном» мире, станет изгоем, вынужденным постоянно восстанавливать себя в правах, чтобы получить зарплату или пенсию, расплатиться в магазине, управлять автомобилем, пользоваться общественным транспортом или даже зайти в свой подъезд, не пройдя биометрическую аутентификацию.
Прагматизм техноцентристов может быть близок к аморальности. Руководствуясь только показателями эффективности, они ориентированы на организацию и практику, озабочены только средствами и перестают воспринимать цели, проявляют поразительную неспособность понять человеческие факторы. Техноцентрическое общество склонно к крайней авторитарности, а сами техноцентристы зачастую теряют способность критически осмысливать происходящее, воспринимать критику и извлекать уроки из ошибок.
Техноцентристы органично вписываются в современную политическую матрицу. Вместо того чтобы совершенствовать систему, они безропотно служат идее институционно-индустриального общества, стремясь лишь к тому, чтобы общество функционировало без потрясений и оставалось источником их благополучия, а потому постулируют уважение к порядку, который считают абсолютно справедливым.
Техноцентризм будет способствовать разделению современных людей на касты – по уровню доступа к технологиям, данным и алгоритмам их обработки. В своем абсолютном проявлении он вытесняет человека из всех форм управления и контроля, делая его обслуживающим персоналом и рабом техники. В конечном итоге роль человека в эволюции техники может быть расценена как тупиковая ветвь и исключена из техноцентричной экосистемы.
Предшествующая стадия быстрого роста технологий искусственного интеллекта вызвала громкие протесты со стороны влиятельных и компетентных людей, важнейшим аргументом которых стала низкая антропоцентричность новых технологий. Обсуждая создание единого всемирного органа для надзора за искусственным интеллектом, наподобие Международного агентства по атомной энергетике, такие опасения озвучил один из самых видных сторонников его внедрения – предприниматель и инвестор Сэм Альтман, генеральный директор OpenAI с 2019 года. Набивает ли он себе авторитет среди озабоченной публики или действительно не может спать по ночам, думая о проблемах общества будущего, – неизвестно. Тем не менее, такого рода опасения не беспочвенны.
Техноцентристы стимулируют развитие и внедрение искусственного интеллекта, хотя не уверены в том, что смогут его контролировать. Некоторые ученые, работающие в области этики и регулирования ИИ, выдвигают тезис о том, что искусственный интеллект потенциально способен привести к экзистенциальной катастрофе, а его результатом может стать как процветание человечества, так и вымирание.
Некоторые ученые (например, американский специалист по искусственному интеллекту Элиезер Юдковский) предлагают бессрочно запретить использование ИИ во всем мире, в том числе для правительств и вооруженных сил, а при получении данных о строительстве кластера графических процессов в той или иной стране – готовиться к уничтожению центра обработки данных с помощью авиаудара. При этом риск повсеместного внедрения искусственного интеллекта состоит не только (а может, и не столько) в голливудском сценарии о роботах-убийцах или злом сверхразуме, а в социальных перекосах и запоздалой реакции на них. Другими словами, основная опасность заключается в том, что мир придет к катастрофе, а мы этого даже не заметим.
К опасениям ученых присоединяются религиозные и гуманитарные лидеры. Ежегодное послание Папы Римского от 1 января 2024 года полностью посвящено искусственному интеллекту и социальным последствиям его внедрения с учетом таких человеческих ценностей, как сострадание, милосердие и прощение. В нем перечислялось, пожалуй, все многообразие гуманитарных вопросов, порожденных технологиями: извлечение данных из цифровых следов, контроль над мыслительными и межличностными привычками людей в коммерческих и политических целях, ограничение свободы выбора, проблемы «галлюцинаций» ИИ, вызовы для образования и международного права и, разумеется, использование технологий в военных целях.
Ватикан отдельно подчеркивает риск попадания под «диктатуру технологий», которая приведет к запредельному неравенству и скоплению знаний и богатства в руках немногих. Кроме очевидно гуманитарного призыва Папы Римского рассматривать научно-технический прогресс как путь к миру, в послании явно прослеживается желание Ватикана присутствовать за столом, где принимаются решения в области технологий, – прямо скажем, не самой первой компетенции любой церкви.
Риски для человека и человечества вызывают необходимость антропоцентричного и превентивного регулирования, чтобы этические и нормативно-правовые вопросы решались еще до появления релевантных им технологий, а сам прогресс, нацеленный на благополучие людей, мог замедляться и ограничиваться. В антропоцентричном обществе все изобретения направлены прежде всего на улучшение условий жизни людей и их развитие, а разработка любой инновации опирается на человека и общество, руководствуясь идеями гуманизма.
Все технические замыслы и нововведения до их публичного релиза должны проходить многоэтапную апробацию, тестируясь на безопасность и соответствие гуманистическим принципам. Если есть сомнения в человекоцентричности инновации или продукта, то он никогда не будет выпущен, невзирая на экономическую целесообразность, прагматизм и эффективность. Да, в таком обществе технологии внедряются дольше, а научно-технический прогресс замедляется, зато возникает меньше рисков и непредвиденностей в долгосрочном периоде.
Антропоцентризм через запреты, аудиты и бесконечные этические комитеты ограничивает инновации как самое простое решение управления рисками: нет инноваций – нет рисков. Замедление или остановка технического прогресса могут привести к стагнации с последующим кризисом человечества. Даже для поддержания текущего уровня благополучия необходимо развивать промышленность, экономику и фундаментальную науку, а последствия отказа от развития могут быть опаснее тех вызовов, которые создает техноцентризм. Пытаясь снизить риски применения технологий, антропоцентристы ограничат и возможности прогресса, которые могут повысить качество жизни и обеспечить благополучие человека.
Кроме того, из-за двойного характера сквозных технологий торможение прогресса означает проигрыш в гонке вооружений, угрозу государственному суверенитету и возможную вассализацию по отношению к технологическим лидерам. Вероятно, большинство из них должны декларировать и применять антропоцентричный подход к подрывным инновациям наряду с введением определенных наднациональных ограничений, по аналогии с нынешними запретами на разработку и применение некоторых видов оружия или вмешательство в геном человека, евгенику и селекцию.
Наконец, антропоцентризм также неоправданно дискриминирует альтернативные пути развития: ставя человека превыше всего, он сводит роль окружающей среды и нечеловеческих существ к инструментальным средствам.
Возможный сценарий «Техноэнвайронментализм»
Индивидуализм – Антропоцентризм
2025 год – Транснациональные корпорации вносят принципы ESG в процесс разработки и внедрения технологий.
2026 год – Искусственный интеллект применяют для оптимизации использования ресурсов и сокращения отходов.
2027 год – Доступ к интернету признан базовым правом человека и обеспечивается повсеместно.
Гражданское общество контролирует развитие и внедрение технологий для защиты прав человека, а их ответственная разработка стала частью политики ESG транснациональных корпораций. С ростом спроса формируются новые прибыльные направления бизнеса и популярные специальности: исследование этики ИИ, аудит систем по сбору и хранению данных, оценка ущерба от некорректного внедрения технологий.
2028 год – Блокчейн обеспечивает прозрачность цепочек поставок и происхождения продуктов.
2029 год – Технологии виртуальной реальности устраняют барьеры и неравенство в образовании на глобальном уровне.
2030 год – ИИ играет ключевую роль в городском планировании с учетом устойчивого развития.
Появляются международные и децентрализованные институты для поиска консенсуса между участниками-индивидами и идеологами нового порядка, которые проводят сбор средств и дальнейшее лоббирование максимально ответственного использования технологий. Технологии становятся движущей силой устойчивого развития и социальной справедливости. Целенаправленное регулирование и ESG-политика корпораций обеспечивают применение инноваций на благо человека и планеты. Хотя разработка и внедрение технологий стали медленнее и дороже, зато замедление технологического прогресса окупается меньшими затратами на управление непредсказуемыми рисками.
2031 год – Нейроинтерфейсы «мозг-компьютер» расширяют возможности людей с ограниченными возможностями.
2032 год – Доминирование полностью автономных электромобилей приводит к значительному сокращению дорожно-транспортных происшествий.
Запрос общества на устойчивость стимулирует восстановление экосистем и снижает загрязнение окружающей среды до минимума, а фокус на благополучии человека позволяет победить множество болезней, благодаря 3D-печати органов и регенеративной медицине. Персонализированная медицина на основе ИИ и геномики становится нормой. Государства предотвращают большинство конфликтов благодаря глобальному сотрудничеству на основе предиктивного ИИ. С помощью кооперации общество преодолевает ключевой экзистенциальный вызов: ИИ становится не конкурентом, а дополнением человеческого интеллекта. Формируются главные ценности общества: личное развитие и реализация потенциала человека.
