Контроль над технологиями как инструмент пропаганды и идеологического воздействия
В видеоигре Roblox прошел марш в поддержку Палестины, после которого некоторые игроки получили предупреждения, а пользователям Angry Birds, мобильной игры для аудитории 9+, демонстрируют пропагандистские рекламные ролики Израиля. Видеоигры давно перестали быть только развлекательным инструментом: современный генеративный ИИ, встроенный в популярные игровые движки, через игровых персонажей может отвечать на политические вопросы пользователей, формируя их мировоззрение и помогая сделать «правильный» выбор. Почему современная пропаганда работает на детские аудитории? И, пожалуй, еще более важный вопрос: кто на самом деле воспитывает наших детей? Чьи нарративы заложены в ответы умных колонок и какие ценности они продвигают?
Важность политической пропаганды известна с древних времен. Римские легионы приносили на завоеванные земли свою инфраструктуру и деньги с лицами императоров на монетах: символы власти и военной мощи Рима становились для местного населения частью культуры и коллективного сознания. В мире неграмотных людей, где не было средств массовых коммуникаций, монеты стали для правителей одним из немногих способов ежедневно присутствовать в руках и умах своих подданых. Это делало деньги эффективным политическим инструментом и механизмом унификации для растущей и многонациональной империи.
Кроме того, в Древнем Риме активно использовали деньги для продвижения и влияния политических фигур, например, с помощью финансирования общественных игр, включавших атлетические состязания, гонки колесниц, кулачный и звериные бои, театральные постановки и даже сценическое разыгрывание сражений. Игры проводили в честь богов, военных побед или дней рождения императоров, но объединяло их одно: они формировали позитивную репутацию правителей и их популярность среди населения.
Сегодня позитивная и негативная репутация формируется подконтрольными медиа, алгоритмами социальных сетей и возможностями таргетированной рекламы, а с использованием генеративного ИИ эффективность воздействия повысится, упростив и ускорив подачу и продвижение информации под нужным соусом.
Например, компания The Economist Intelligence Unit ежегодно публикует глобальный индекс состояния демократий по всему миру – The State of Democracy. Страны на карте мира окрашены в разные цвета по уровню проникновения демократических принципов: демократические – синим, не очень демократические – фиолетовым и сиреневым, гибридные режимы – оттенками желтого, а совсем не демократические и авторитарные – розовым, красным и бордовым. Стоит иметь в виду, что это дочерняя компания британской The Economist, принадлежащей европейской семье Ротшильдов, британским семьям Кэдбери, Шредер и Лейтон, и голландской компании Exor N.V., которой на 53,6 % владеет итальянская семья Аньелли.
Поэтому, по данным на 2022 год, в Великобритании, Голландии, Италии и в целом в Европе – демократия хорошая, зато в России, Венесуэле и на Кубе – плохая, а в Белоруссии и Китае – ужасная. Скандинавские страны – недостижимый идеал, но это и без The Economist понятно любому. Единственное красное пятнышко в Европе – это авторитарный Калининград. А где же дела обстоят лучше, чем в России? Например, к «розовым» странам отнесены:
• Буркина Фасо – два военных переворота в 2022 году;
• Мали – военный переворот в 2020 году;
• Нигер – попытка переворота в 2021 году и военный переворот в 2023 году;
• Ангола – гражданская война перетекает в протесты и обратно последние десятилетия;
• Габон – путч в 2019 году и военный переворот в 2023 году;
• Эфиопия – гражданская война с 2020 по 2022 годы.
Еще лучше ситуация в Мавритании, где власть находится в руках одной группы со времен военного переворота в 2008 году, или Уганде, где президент у власти с 1986 года, – они сиреневые и фиолетовые, как демократии в Восточной Европе или Турции.
Помимо подобных манипуляций общественным мнением, государства могут использовать виртуальное пространство для контроля. Уже сейчас некоторые пользователи жалуются на поведение других людей в метавселенных. Не успела Meta открыть доступ к своей социальной платформе Horizon Worlds, как появились первые свидетельства сексуальных домогательств: «В перерыве между волной зомби и демонов, которых нужно было расстрелять, я тусовался рядом с BigBro442, ожидая нашей следующей атаки. Внезапно бестелесный шлем BigBro442 оказался прямо передо мной. Его парящая рука приблизилась к моему телу, и он начал тереть мою грудь». Вопрос виртуального сексуального домогательства сам по себе – беспрецедентный, но становится еще сложнее из-за идентификации личности в метавселенных, где кто угодно может быть кем угодно.
В случае массового принятия виртуальной реальности государствам придется решить, где находится грань дозволенного, используя возможности метавселенных для контроля населения. Вполне возможно, что метавселенные будут менее регулируемым местом, чем физическое пространство, чтобы человек мог выйти за рамки возможного или дозволенного в реальности. Метамиры станут пространствами для снятия социального напряжения через отсутствие или послабление законов. Но как ограничить контент 18+, когда неизвестно, сколько лет пользователю – ребенок он или взрослый, потому что и тот и другой в одинаковом костюме панды?
По данным на 2022 год, собственный профиль в социальных сетях имееют 62 % детей и подростков от 3 до 17 лет, из них 33 % – в возрасте 5–7 лет. «Цифровые аборигены» гораздо активнее своих родителей в использовании гаджетов и взаимодействуют с ними глубже. Цифровой след современных детей формируется с рождения, а иногда даже до него, например, фотографии УЗИ при беременности и особенности развития эмбриона. Покупка датасетов (легальная или на черном рынке) и их дальнейшее сопоставление позволит компаниям (и не только) отслеживать и анализировать весь жизненный путь потенциального клиента.
По данным опроса более 1000 работодателей, проведенного в 2024 году, 43 % компаний планировали использовать алгоритмы для интервью с кандидатами до конца года, а один из семи даже был готов предоставить искусственному интеллекту принятие финального решения. В погоне за эффективностью работодатели начнут покупать все более расширенные досье на кандидатов, анализируя их в автоматическом режиме. Проступки и неудачи фиксируются с раннего детства: видео шалостей, попавших в социальные сети, и резкие высказывания юности станут основанием для принятия решений и зачастую препятствием для трудоустройства или получения образования. Страховые компании и банки начнут использовать «детские» данные для оценки рисков и персональных тарифов, а также учитывать их в социальном скоринге при определении ставки на ипотеку, доступа к жилью или услугам.
Людям из неблагополучных семей станет еще сложнее получить доступ и к финансам, и к социальным лифтам, потому что они с детства связаны с «дурной компанией». Данные о раннем возрасте будут повсеместно применяться для установления социальных связей – не только в алгоритмах социальных сетей и сайтов знакомств, но и в бизнес-предложениях, усугубляя сегрегацию и социальное расслоение. Неблагоприятное прошлое уже не стереть, не забыть, любой проступок оставит след на всю оставшуюся жизнь, определяя жизненные траектории и навсегда закрывая некоторые двери.
Продвинутые модели ИИ научатся надежно предсказывать вероятность преступлений и антиобщественного поведения на основе данных о развитии ребенка, а это грозит особо пристальным профилированием людей из «зоны риска» и даже открывает возможности для превентивного наказания. Взрослые, чья жизнь записана с самого рождения, будут более уязвимы к атакам мошенников и социальной инженерии, а также к идеологическому воздействию. Рекламодатели и политики смогут использовать детские травмы и страхи, а негативная реклама не только гиперкастомизируется, но и станет очень личной, попадая в самое больное место. Смерть любимого щенка под колесами автомобиля, увиденную в пятилетнем возрасте, будут использовать все, кто об этом узнает.
Еще один вызов для государств – вопросы суверенности и надзора в неподконтрольных виртуальных средах:
• Кто будет стоять за метавселенными?
• Возможна ли глобальная метавселенная, которой будет владеть некая мега-ИТ-корпорация?
• Или она должна быть децентрализована и принадлежать самим пользователям, чтобы избежать всевозможных рисков, связанных с геополитическими изменениями?
В таком случае люди могут решить, что внутри их общей метавселенной нет никаких правил и никакие государственные или правоохранительные органы не могут никому ничего запретить.
• Как в такой ситуации бороться с рисками?
• Можно ли передавать зарубежной компании обеспечение таких систем, базирующихся на территории государства?
• Где будет находиться граница допустимого присутствия зарубежных организаций в расширенной реальности на территории страны?
• Что будет, если метавселенная сломается?
• Как это повлияет на жизни привыкших к ней пользователей?
• Как противостоять использованию расширенной реальности и метавселенных для коммуникации между ячейками радикальных или криминальных организаций?
Если человечество пойдет по пути еще более глубокого погружения в смешанную реальность, то будет ли это одна метавселенная, несколько или очень много? Возможно, мы придем к тому, что каждый станет одновременно жить в нескольких виртуальных мирах. В любом случае, люди, организации и государственные органы в этих мирах будут взаимодействовать как-то иначе: по-другому общаться, работать, развлекаться и проводить свободное время. И хотя метавселенная откроет безграничные возможности для новых взаимодействий, давая возможность стать кем угодно, скорее всего, мы перенесем туда все проблемы сегодняшнего дня, связанные с рисками кибербезопасности и утечками персональных данных.
Пока мы остаемся в физической реальности, но виртуализация отношений уже проникает даже в политику: еще в 2023 году была создана нейросеть на основе публичных выступлений и интервью покойного российского политика В. В. Жириновского, а в 2024 году несколько гражданских инициатив выдвинули кандидатом в депутаты белорусского парламента «виртуального политика» по имени Ясь Гаспадар, который «живет» на платформе «Новая Беларусь» и фактически является лицом политической программы, а его представителями и «советниками» стали известные белорусские политики.
В отличие от предыдущих поколений цифровых аватаров, за которыми стояли команды маркетологов, сценаристов, аниматоров и копирайтеров, генеративный ИИ позволяет создавать полноценных диалоговых агентов, действующих довольно самостоятельно. Несмотря на зачаточное состояние подобных инструментов, «виртуальные политики» могут драматически изменить подходы к политической коммуникации и однозначно окажутся в фокусе внимания регуляторов:
1. Виртуальный политик – это не человек, а часть информационной кампании, продвигающей те или иные идеи, в отличие от гражданина, который участвует в принятии решений. Ни цифровые аватары, ни диалоговое агенты на основе ИИ пока что не могут являться гражданами ни одной страны.
2. Виртуальные политики не заменяют реальных, но могут быть более эффективным инструментом взаимодействия с определенными аудиториями, представители которых сильно отличаются от рядового избирателя. Казалось бы, цифровые аватары и «виртуальные личности» могут рассчитывать на популярность среди энтузиастов технологий, однако ввиду своей провокационности они также привлекут людей, относящихся к контркультуре.
3. Виртуальные политики могут охватывать гораздо более широкую аудиторию, чем живые, выражая взгляды как современников («виртуальный Жириновский»), так и идеологов прошлого («виртуальный Ленин»). Более того, они априори способны общаться с любой аудиторией: на различных языках, с людьми разных культур, возраста и т. д. Живой политик не может обладать настолько же широкими способностями коммуникации, как его виртуальный двойник.
4. Виртуальный политик не ограничен логистикой и может быть во множестве мест одновременно: давать интервью, выступать на пресс-конференциях, участвовать в дебатах, играть с избирателем в видеоигру и вести диалог на любые темы, в любом месте и в любое время, причем все одновременно.
5. Виртуального политика гораздо сложнее «отменить» и деанонимизировать. Он не может быть замешан в скандалах, связанных с его личной жизнью, которой у него просто нет, в отличие от человека. У него нет адреса и банковской карты, ему сложнее отказать в предоставлении услуг. Его создатель и спонсор может действовать через виртуального посредника, не рискуя собственной репутацией и подставляя под недовольство общественности несуществующую личность.
Все вышеперечисленное позволяет реализовывать ранее невозможные политические сценарии. Учитывая столь мощный потенциал для проведения информационных кампаний и манипуляции общественным мнением, можно ожидать законодательных ограничений на использование диалоговых агентов и цифровых аватаров в политических кампаниях.
Отсутствие репутационных рисков для заинтересованных лиц позволяет использовать виртуального политика как «однодневку» в качестве инструмента для тестирования гипотез в информационном поле. По обратной связи можно замерять и оценивать реакцию общественности на высказанные позиции и мнения, в дальнейшем применяя этот опыт на реальной политической фигуре. При этом можно автоматизировать весь процесс тестирования – от создания и запуска до оценки эффективности политической кампании. Проводя такое быстрое, дешевое и безопасное с репутационной точки зрения тестирование, заинтересованные лица смогут «поднимать на флаг» успешные нарративы и взгляды, избегая тех, которые вызвали негативную реакцию со стороны общественности и политических конкурентов.
Даже на ранних этапах развития этого феномена очевидно, что виртуальных политиков будут использовать для манипуляций общественным мнением. Благодаря особенностям больших языковых моделей, виртуальный политик может апеллировать к сторонникам любых политических взглядов и даже к конкретным личностям. Подобная гиперкастомизация особенно опасна, так как общественность зачастую ожидает от политической фигуры отражения собственных взглядов. Виртуальный политик может склонять людей поддерживать его, давая идеальные обещания, заточенные под «информационные пузыри» конкретной группы людей, и выражая именно те мнения, которых придерживается целевая аудитория.
Таким манипуляциям будут особенно подвержены уязвимые слои населения: пожилые, одинокие и психически нездоровые люди. Способности виртуальных политиков быть повсюду и апеллировать к любой аудитории влекут за собой риски парасоциальных отношений людей с цифровыми аватарами. Часто видя виртуального политика на экране, пользователь может перестать отличать его от реальных людей, относясь к нему, как к живому человеку.
Иностранное политическое влияние тоже будет осуществляться быстрее, дешевле и эффективнее, ведь информационные кампании не потребуют физической инфраструктуры, логистики, найма кадров и документооборота. Достаточно развитый ИИ даже не нужно будет переобучать, чтобы он менял личины: его изначально можно разрабатывать с учетом мимикрии под множество аудиторий. Эффективность политических кампаний виртуальных политиков ограничена только объемом финансирования вычислительных мощностей и входных данных, ведь ИИ фактически превращает инвестиции в компетенции.
Можно прогнозировать скоординированное внедрение нескольких виртуальных политиков для формирования в обществе конкретных нарративов. Тот, кто готов выделить достаточно средств на разработку информационных операций с участием группы виртуальных политиков и инфлюенсеров, сможет в значительной степени контролировать информационное пространство.
При достаточном объеме инвестиций можно запустить десятки или даже сотни цифровых аватаров, которые будут формировать любые нарративы, создавая видимость популярности определенных мнений и взглядов в обществе. Влияние нескольких цифровых лидеров мнений сформирует микросообщества, имеющие отличные друг от друга взгляды, но фактически поддерживающие один и тот же нарратив или потенциально радикальные взгляды и мнения.
Наконец, виртуальные политики могут стать инструментом продвижения олигархических структур, которые не готовы открыто афишировать свои политические интересы. Разработка и популяризация подконтрольных виртуальных политиков может привлечь крупные корпорации и их собственников, которых интересует не столько влияние на политические взгляды избирателей, сколько лоббирование своего бизнеса и формирование у публики запроса и согласия на невыгодные государству решения и законопроекты. Принцип работы такой системы похож на СМИ, которыми владеют корпорации и олигархи, обеспечивая замаскированный источник выгодной собственникам информации, но с одним нюансом: реальный владелец и заказчик будет скрыт, что многим развяжет руки.
Политики уже используют ИИ-системы для анализа соцсетей и выявления предпочтений электората, чтобы оптимизировать предвыборные программы и агитационные кампании. Сколько времени пройдет до активного использования политическими партиями ИИ-систем для выработки своих программ, стратегий и принятия решений? И как скоро появятся полностью виртуальные ИИ-политики, которые будут успешно избираться на высокие посты?
С ростом качества и убедительности агитации, благодаря применению алгоритмов, интерес к искусственному интеллекту будет только расти, особенно в персонализированных коммуникациях с конкретными группами избирателей. Уже проводят первые эксперименты по использованию ИИ для выработки законопроектов: в конце 2023 года бразильский город Порту-Алегри первым в мире принял закон, текст которого был полностью подготовлен ChatGPT. Дальше – больше, но на первых порах ИИ будет только моделировать последствия различных решений, а их принятие все еще останется за человеком.
Не исключено, что следующим шагом станет появление в некоторых странах мира «цифровых партий», в которых ключевые решения будет принимать ИИ на основе анализа данных и опросов членов партии. Тезис о том, что «решения принимают алгоритмы, а не коррумпированные политики» может оказаться привлекательным для многих избирателей. Рано или поздно случится выдвижение первого полностью автономного виртуального ИИ-политика, который организует сбор средств в криптовалютах и проведет предвыборную онлайн-кампанию, лично пообщавшись с каждым избирателем, чего еще не было никогда в истории.
Конечно, разгорятся ожесточенные дебаты о праве искусственного интеллекта занимать выборные должности, но среди технологически развитых государств обязательно найдется несколько пионеров, готовых провести политический эксперимент. В одних странах «власть алгоритмов» будут продвигать под предлогом преодоления человеческих пороков и борьбы с коррупцией, а в других – запрещать как угрозу демократии.
Вероятно, наибольшее распространение получит модель «гибридной демократии» в виде тандема ИИ с человеком, в котором у каждого возможна определенная специализация: например, алгоритм занимается экономикой и здравоохранением, а человек – обороной и социальной политикой. Такой тандем удобен тем, что человек может пожинать лавры за победы, а вину за ошибки – свалить на бездушную машину.
Из-за невозможности принимать эффективные решения без помощи ИИ вся большая политика рано или поздно превратится в технологическую отрасль, зависящую от компетенций и вычислений. Власть корпораций станет еще больше, ведь именно они будут выдвигать виртуальных политиков, построенных на их алгоритмах, потребляющих их электричество и «живущих» в их центрах обработки данных.
Не обойдется и без шпионских скандалов: иностранных хакеров обвинят в попытках повлиять на демократические процессы через искусственный интеллект. Поднимут вопрос о взломе ИИ-политиков для манипуляций их решениями и найдут способ проверки алгоритмов с помощью специального антивируса.
Рано или поздно возникнет вопрос о первом ИИ-президенте, что станет еще одним поводом для разделения общества на сторонников и противников алгоритмов во власти. За всей этой дискуссией об этике и легитимности мы даже не заметим, что те или иные формы искусственного интеллекта уже повсеместно используются в политическом процессе.
Возможный сценарий «Дивергенция техно-метрополий»
Локализация – Полная цифровизация
2025 год – Крупные города получают беспрецедентную автономию на фоне кризиса национальных государств.
При всем многообразии технологических возможностей количество ресурсов и компетенций остается ограниченным, а нарастающая конкуренция заставляет крупные города сделать выбор и специализироваться. Формируются первые техно-метрополии со специализацией в различных инновациях, учитывая исторический опыт и имеющуюся инфраструктуру: Нью-Йорк фокусируется на финтехе, Лос-Анджелес – на биохакинге и нейротехнологиях, Шэньчжэнь – на ИИ и робототехнике, Дубай – на космических технологиях и промышленной 3D-печати, а Токио – на «зеленых» технологиях и биоинженерии. Экономическое и технологическое соперничество только нарастает, поэтому Буэнос-Айрес и другие города даже проводят эксперименты с радикальными социотехническими моделями общества, отменяя традиционные государственные институты.
2030 год – Техно-метрополии становятся полноценными городами-государствами со своими законами и укладом.
Формально оставаясь в границах своих государств, техно-метрополии расширяют право принимать решения на своей территории, а их население фактически получает еще одно гражданство. Технологическая специализация городов приводит к расхождению путей развития, отдаляя их друг от друга. Так, Сингапур развивает «цифровую диктатуру» тотальной оптимизации и надзора, а Лагос – децентрализованные сети и криптовалюты. Это влияет на мировоззрение населения, не одобряющего «неправильный» путь развития соседей.
2032 год – Первые города объявляют о создании собственных «постчеловеческих» обществ будущего.
Лидерство в своих областях становится для метрополий техно-фетишем, а их население первыми испытывает на себе все новшества, одновременно являясь и бенефициарами новых возможностей, и подопытными кроликами в анклавах инноваций. Сан-Франциско внедряет генетическую селекцию и инвазивные нейроинтерфейсы, а Москва – ИИ для городского управления и киборгизацию. Города-государства начинают ограничивать миграцию и коммуникации между собой, да это уже и не требуется: мигрантам все сложнее встроиться в чуждые культуры и технологические правила.
2035 год – Технологическая дивергенция городов-государств достигает апогея.
В Лондоне доминирует виртуальная реальность и погоня за цифровым бессмертием, в Гонконге – промышленные нанотехнологии и клонирование. Города становятся окончательно несовместимыми друг с другом технологическими анклавами, а человечество фрагментируется на множество локальных постчеловеческих цивилизаций, и общей траектории развития больше не существует.
