Эпоха манипуляций на максималках
МАНИПУЛЯЦИЯ. Уже слишком поздно, Они собираются забрать Мою свободу, Ампутировать мой разум.
Six Feet Under «Manipulation», альбом «Warpath», студия Metal Blade, 1997
У каждого из нас есть много идентификаторов: номер паспорта, телефона, электронный адрес – все, что можно связать с нами лично. Также вы оставляете цифровой след, даже если, как настоящий панк и анархист, не нажимаете кнопку «принять cookies». Идентификаторы и модели ваших устройств, IP-адреса, язык и геолокация, разрешение экрана, браузер и операционная система, особенности железа и установленного на нем программного обеспечения все равно фиксируются.
Кроме того, цифровой след формируется из вашего поведения: что вы покупаете, что ищете, что лайкаете, чем интересуетесь, что говорите в микрофон, кого фотографируете, что и кому пишете, с кем общаетесь, вплоть до паттерна набора на клавиатуре и движения мышкой по страницам. Учитываются все ваши платежи за что угодно – от заправки до ресторана, а также покупки алмазов в мобильных играх.
Чтобы осознать масштаб знаний крупных ИТ-компаний о нас, предлагаю простое упражнение. Посмотрите статистику «экранного времени» в своем смартфоне и пару минут поразмышляйте о том, какие выводы вы могли бы сделать о себе на основании следующих вопросов:
• Как выглядит ваш портфель приложений и какую долю занимают разные категории (общение, продуктивность)?
• Какими именно приложениями в каждой из категорий вы пользуетесь?
• На какие приложения вы тратите больше времени?
• В какое время суток вы берете смартфон (и после каких триггеров берете, а после каких – нет)?
• Сколько уведомлений вам присылают те или иные приложения?
• Чем отличаются ваши шаблоны использования смартфона по будням и в выходные?
• В какое время вы вызываете такси, а в какое – листаете новостную ленту?
Добавьте к этому еще тысячу более специфичных вопросов, возможность сравнивать пользователей по полу, возрасту, региону, обогащая ответы данными из внешних агрегаторов, применение моделей искусственного интеллекта, в которые вложены миллионы долларов, – и получите примерное представление о масштабах профилирования.
Агрегаторы данных собирают каждый свою часть информации, а потом обогащают друг друга. Для наглядности представим поведение пользователя с кодовым номером 12345, на самом деле – Ивана Ивановича. Есть много информации, которую можно добывать и связывать с ним: уникальное лицо, особенности потоотделения, кардиограмма… А еще его вегетативная нервная система особым образом расширяет зрачки, когда он смотрит на Машу. Или на черный мерседес. А вот на Петю такой реакции нет, хоть до вечера смотри.
Более того, лицо Ивана Ивановича – это пропуск на работу и оплата «улыбкой» в магазинах, идентификация (и аутентификация) в банке, а также удобный признак, связывающий его номер паспорта со всем этим разрозненным цифровым следом, например, для камеры наружного наблюдения, которая ищет преступников и следит за общественным порядком.
Таким образом, крайне важны не только объемы новых данных (биометрических, генетических, поведенческих), но и возможность связать их с конкретным человеком. Поэтому, когда вы загружаете собственное фото, чтобы нейросеть нарисовала ваш портрет в стиле Ван Гога, Барби или Кена (или что там сегодня актуально выкладывать в сторис), то связываете свою биометрическую информацию со всеми уже накопленными, тщательно собранными и сохраненными данными. И не думайте, что это вас не коснется, потому что «все так делают». Вас это коснется, как и всех.
Исследователи из Индии разработали систему, биометрически идентифицирующую посетителя здания через напольные датчики, которые замеряют структурную вибрацию, создаваемую при ходьбе, а подключенная к ним программа позволяет сопоставить эти данные с ранее полученным биометрическим образцом и уже после семи шагов установить или подтвердить личность с точностью от 93 % до 98 % в зависимости от материала полов. Авторы отмечают возможность скрытной установки датчиков и сложность намеренной имитации чужой походки.
Гарнитура дополненной реальности Vision Pro от компании Apple идентифицирует и аутентифицирует пользователя уже не по пальцу или лицу, а по сетчатке глаза. Зачем нужны имя или номер паспорта, если пользовательский профиль можно привязать к биометрии? Это даст Apple беспрецедентные возможности по продаже и обогащению данных. За любой идентификацией в магазине, банке или полиции подтянется весь профиль человека – за всю его жизнь. Потому что глаза не поменяешь.
Apple получит обратную связь от пользователя в реальном времени и сможет фиксировать изменение вашего поведения после увиденного (рекламы, выступления политика или новой брендовой сумки), причем на уровне вегетативной нервной системы: давление, частота сердечных сокращений, температура тела, реакция зрачков и т. д.
Следующим шагом станет получение доступа к телу (в буквальном смысле) миллионами разработчиков приложений по всему миру. Если вы знаете, как человек реагирует на какие-то стрессоры, то можно формировать их специально для него, чтобы провоцировать реакцию. Начинается эпоха манипуляций на максималках. Это касается и рекламы, и политики, и идеологии.
Искусственный интеллект можно использовать в агрессивных информационных кампаниях, как для обмана конкретного пользователя, так и для манипуляций общественным мнением. Алгоритмы могут создавать видимость популярности того или иного мнения. По уровню качества и незаметности такой способ лучше обычных спам-ботов, так как способен адаптировать сообщения и вести диалог. Искусственный интеллект также способен анализировать нарративы и оценивать вероятный ущерб от них, например, влияние новостей на акции компаний.
Одни модели можно использовать для планирования и осуществления информационных атак, а другие – чтобы таргетировать пользователей согласно их предпочтениям. Например, система оценки публичных скандалов от финансового рейтингового агентства S&P ведет мониторинг постов в соцсетях и СМИ, анализируя финансовые показатели компаний. Если происходит скандал, то система способна предсказать его финансовые последствия. При модификации такое решение может использоваться для предсказания событий, способных нанести наибольший ущерб в будущем.
При всех достижениях искусственного интеллекта социальная сеть Instagram так и не научилась выявлять фейки и спам. И дело не в том, что это невозможно, просто приоритеты другие. Сегодняшний расклад сил демонстрирует недостаточное количество сдержек и противовесов, а пользователь оказался самым незащищенным существом в интернете – у него все больше обязанностей и все меньше прав. Хотя некоторые имеют чуть больше прав на защиту: в 2024 году в Шотландии вступил в силу принятый еще в 2021 году закон о криминализации «разжигания ненависти» в отношении возраста, инвалидности, религии, сексуальной ориентации, трансгендерной идентичности и интерсексуальности. Преступление предусматривает максимальное наказание в виде тюремного заключения сроком до семи лет. По мнению шотландского правительства, этот закон обеспечивает защиту от ненависти и предрассудков, не подавляя при этом индивидуальное самовыражение.
Десятилетия коммерциализации интернета демонстрируют, что если можно еще глубже залезть к человеку в голову, то туда обязательно залезут. А учитывая переплетение политики с корпорациями, залезут и с идеологическими намерениями. У компании Sony аж с 2012 года есть патент на технологию, которая предполагает, что зритель должен произносить название бренда, чтобы реклама закончилась. Вполне возможно, что безусловный базовый доход на самом деле будет с условиями: сдать свои персональные данные (уже сдали) и биометрию (что не сдали, сами соберут), телеметрию со всех устройств (почти все устройства и так это делают), а по команде из телевизора придется приседать и два раза говорить «ку». Зато все будут получать свои пару тысяч долларов, чтобы рекламодатели могли побороться за эти деньги. Конечно, сначала эксперимент будет проведен на самых бесправных – белых гетеросексуальных мужчинах. Немым придется отправить справку от врача в службу поддержки. От рекламного оброка будут также частично освобождены все меньшинства – по цвету кожи, религиозному признаку или сексуальным предпочтениям.
Вполне допускаю сценарий, в котором подобные взаимодействия станут частью программы продвижения либеральных ценностей: если ты сильно либеральный и всячески просветленный, то можно произносить название бренда через раз. А если из какой-нибудь отсталой по части либеральных ценностей страны, то никаких исключений – холопы пусть отрабатывают по полной. После создания цифрового двойника каждого зрителя станет понятно, от какой рекламы требовать произнесения названия бренда, а от какой нет, чтобы не ранить чувства и убеждения. Например, от рекламы пекарни будут освобождены люди с аллергией на глютен, а от рекламы стейков – веганы. Зато телевизоры будут раздавать бесплатно!
Транскраниальная магнитная стимуляция (ТМС) позволяет неинвазивно возбуждать кору головного мозга при помощи коротких магнитных импульсов. Бразильский авиаконцерн Embraer аж шесть лет (с 2016 по 2022 годы) ждал выдачи патента на свою технологию стимуляции пассажиров при помощи ТМС. В выданном патенте описывается модуль распознавания лиц, который анализирует эмоциональное состояние человека, а затем предлагает ТМС для облегчения дискомфорта или беспокойства, вызывая ощущение благополучия. Эту систему можно использовать на рабочем месте, в автомобиле, поезде, самолете или другом транспорте.
Если пойти дальше, то можно точечно стимулировать кору головного мозга не только в самолете или на приеме у стоматолога, но и на унылых концертах, предвыборных мероприятиях, митингах, демонстрациях и даже во время скучных пленарных заседаний на деловых конференциях! Другими словами, если такую штуку упаковать в небольшую, но мощную ТМС-пушку, то любые культурно-массовые мероприятия станут менее дискомфортными и более успешными. И когда видишь, что 31,4 % продаж компании Embraer связаны с обороной и системами наблюдения, больше 50 % выручки – из США, а крупные пакеты акций – у американских фондов Vanguard, Brandes и BlackRock, то неизбежно возникают некоторые гипотезы и предположения.
В 2024 году человек с первым вживленным нейроимплантом от Neuralink смог силой мысли двигать курсор мыши и даже играть в видеоигру. С ростом возможностей ментального управления гаджетами будут совершенствоваться и технологии «чтения мозга» – расшифровки мыслей, образов и нейроданных. А когда нейроинтерфейсы получат массовое распространение, то накопятся огромные базы данных нейроактивности пользователей – по аналогии с большими данными из нашей поведенческой активности. Эти нейроданные послужат основой для создания детальных цифровых моделей личности каждого пользователя, с учетом предпочтений, скрытых желаний и страхов.
Фантаст Филип Дик еще в 1954 году написал замечательный рассказ «Спешите приобрести!» о пилоте космического корабля, возвращавшемся домой на Землю после тяжелого рабочего дня, но вынужденном лететь через бесконечные радиоволны и голограммы неконтролируемой космической рекламы, которую невозможно заблокировать. С трудом пробравшись через рекламных агентов из космопорта к любимой супруге, главный герой обнаруживает дома робота, который предлагает купить себя через шантаж и применение силы. Эта хлесткая сатира середины XX века воплощается в жизнь, но, к сожалению, без космических полетов.
Как бы ни пытались регуляторы всего мира обуздать антиутопический потенциал такой информации, невзирая на скандалы вокруг злоупотреблений нейроданными и скрытого воздействия на сознание, рекламные компании все равно получат доступ к этим моделям, чтобы использовать их для сверхточного таргетинга. ИИ-алгоритмы будут анализировать мозговую активность в реальном времени, чтобы показывать привязанную к текущим мыслям и эмоциям пользователя рекламу, внедряя образы прямо в сознание или сны.
Исследование американского Университета Западной Виргинии установило связь между использованием социальных платформ и уровнем депрессии у подростков. Важный вопрос заключается в том, можно ли эту связь разорвать или, наоборот, умышленно усилить. Другими словами, насколько наше настроение, психологическое здоровье и даже характер формируется решениями CEO крупных соцсетей?
Корпорации научились эффективно стимулировать выработку дофамина от просмотра ленты социальной сети, эпизода сериала и прохождения очередного уровня мобильной игры. А когда нейроинтерфейсы смогут незаметно стимулировать отделы мозга, отвечающие за удовольствие, то пользователи начнут испытывать непреодолимое желание купить предлагаемый продукт или даже проголосовать за имплантированного в сознание политика. Инвазивная реклама станет доминирующей формой маркетинга, потому что все остальные древние механики резко окажутся неэффективными.
Переход в расширенную реальность даст больше инструментов и в руки мошенникам, которые занимаются социальной инженерией: в их арсенале появятся не только видео-дипфейки и подделка голоса, но и алгоритмы для слежки и анализа активности, а также способность перехватывать контроль за органами чувств жертвы. Хакеры смогут манипулировать не информационными системами, а человеческим опытом и переживаниями. Слои расширенной реальности с дополнительными потоками обратной связи от пользователей усугубят текущие проблемы и создадут новые, а защита конфиденциальности станет сложнее из-за доступа к данным об эмоциональном состоянии или поведении людей.
Возможный сценарий «Элитаризм меньшинств»
Техноцентризм – Индивидуализм
2026 год – Количество официально признанных гендеров в некоторых странах перевалило за сотню.
После обучения алгоритмов политкорректности происходит качественный прорыв в соблюдении прав меньшинств. Компании проводят подбор персонала с учетом строгих квот разнообразия, а социальные сети отдают предпочтение воук-нарративам. Если онлайн-платформы уличают в теневой блокировке постов и аккаунтов, выражающих традиционалистские взгляды, то эти эпизоды «заметаются под ковер» как проявления теорий заговора. Для учета перечня меньшинств, их требований, особенностей и запретных тем, в компаниях создают специальные отделы толерантности, которые изучают культуру меньшинств, формируют корпоративные словари, организуют встречи взаимной интеграции и адаптируют образовательные программы взаимного принятия.
2027 год – Массовое внедрение ИИ в управлении контентом социальных сетей приводит к непропорциональной цензуре.
Соискатели все чаще ощущают на себе «обратную дискриминацию», когда работодатели отдают предпочтение кандидатам из числа меньшинств в ущерб более квалифицированным представителям большинства. После принятия прогрессивными государствами законов «на почве ненависти» критика новых идентичностей криминализирована, несогласие с любой самоидентификацией грозит штрафом и даже тюремным заключением, а нарушитель получает черную метку и попадает в исправительную систему, которая по сути занимается индоктринацией.
2030 год – Политическая система парализована бесконечными спорами об идентичности.
Технологии распознавания лиц и большие данные используют для выявления и публичного осуждения людей за совершенные в далеком прошлом «проступки», связанные с идентичностью. Культура отмены полностью автоматизирована, уничтожая репутацию и карьеру миллионов человек. Люди склонны к максимальной самоцензуре, не остается ни малейшей возможности высказываться в публичном пространстве без риска быть «отмененным».
Насущные проблемы игнорируются, политики опираются на поддержку меньшинств с правом голоса, а не на большинство с ограниченной свободой слова. Расширенная реальность позволяет продвигать невообразимые ранее нарративы идентичности, маргинализируя традиционные взгляды. ИИ становится неотъемлемой частью основных государственных и общественных институтов, и с подачи алгоритмов нормы «позитивной дискриминации» необратимо изменяют социальную инфраструктуру, усиливая предвзятость и разобщение.
С каждым годом разногласия вокруг идентичности усугубляются и конструктивный диалог между людьми становится все менее возможным, а универсальные ценности уступают место идеалам отдельных групп, живущих в информационных пузырях. Это приводит к росту популярности реакционных движений, а общество разделяется на трайбы со множеством взаимно антагонистических фракций идентичности. Без открытого обсуждения и уважения индивидуальных свобод увлечение политикой идентичности только усугубляет социальные разногласия и нетерпимость.
