Раньше распространение информации перед важными выборами по большей части происходило путем раскидывания листовок и расклеивания постеров. Сегодня же данная информация все чаще переходит в цифровую форму с использованием продвинутых технологий, которые могли бы повлиять на мнение голосующих на более личном уровне.

Благодаря огромным объемам данных, доступных от таких сервисов, как Facebook, становится возможным определение конкретных характеристик потенциальных избирателей, например их хобби, этнической принадлежности и даже эмоций, которые они испытывают при тех или иных обстоятельствах. Такую информацию затем можно использовать для написания персонализированных сообщений и таргетированной рекламы при проведении политических кампаний.

Есть два неудачных примера таких манипуляций, которые проводились с использованием огромного массива данных Facebook: референдум о выходе Великобритании из ЕС в 2016 году (Brexit) и президентские выборы в США в том же году.

В обоих случаях алгоритмы с искусственным интеллектом, созданные компанией Cambridge Analytica, использовались для обеспечения преимущества в гонке и влияния на отдельных избирателей. По словам бывшего сотрудника Cambridge Analytica Кристофера Вайли, который первым раскрыл недобросовестное поведение Cambridge Analytica, результаты референдума по Брекзиту были бы другими, если бы Cambridge Analytica не использовала доступ к данным Faceboook в качестве оружия политической пропаганды.

Оба этих скандала стали результатом злоупотребления Cambridge Analytica доступом к миллионам профилей пользователей Facebook. В ответ на это в Facebook заявили об ограничении доступа сторонних компаний к данным социальной сети, пытаясь таким образом предотвратить распространение информационных вбросов на Facebook в целях политической рекламы. Это является показательным примером того, почему таким крупным технологическим компаниям, как Facebook, необходимо заблаговременно попытаться исключить возможность использования ИИ для недобрых целей, например для политической пропаганды.

Понятно, что такой вид злоупотребления данными нельзя исключить полностью, и в будущем ИИ будет и дальше использоваться для создания и распространения информационных вбросов и других видов пропаганды и оказания влияния на людей в политических целях. Конечно, такие практики поднимают множество этических и моральных вопросов, и будет необходимо применять определенные правила и законы, чтобы подобных практик не существовало.