Игра на раздевание с незнакомцами
Сейчас ты меня видишь, а сейчас – нет. Разрушаю стены, я выхожу. Не заключенный, я – свободный человек.
Iron Maiden «The Prisoner», альбом «The Number of the Beast», студия EMI, 1982
Опыт Facebook доказывает, что можно быть ценным для общества, но при этом совершенно антиутопическим инструментом. Компания переименовалась в Meta и сделала ставку на метавселенную по двум причинам:
1. Смена бренда – отличный PR-ход, чтобы отвлечь внимание от реальных проблем с безответственной эксплуатацией и торговлей персональными данными пользователей, вторжением в их личное пространство, многочисленными правовыми и этическими нарушениями и вопиющим пренебрежением элементарным человеческим достоинством.
2. Сеть стремительно теряет молодых пользователей, уступая TikTok, поэтому гигант Web 2.0 должен переизобрестись, чтобы не остаться на задворках истории, как Kodak или Nokia, а продолжать зарабатывать и растить капитализацию. Если еще десять лет назад доля подростков на платформе составляла более 94 %, то сегодня их менее 27 %, при том что вовлеченность молодежи у TikTok гораздо выше. Один из элементов такой стратегии – владеть всеми элементами создания стоимости: от оборудования и инфраструктуры до контента, по примеру Apple.
Однако если за метавселенными будут стоять корпорации, которые доказали свою непособность держать себя не только в этических, но и правовых рамках, то каким образом наши данные будут использованы против нас? Предположим, Meta сможет повсеместно внедрить собственную метавселенную, но что будет, если Марк Цукерберг сойдет с ума? И не будут ли в этом новом мире приближенные к его владельцу получать больше возможностей для самореализации? Не войдет ли он в так называемый «режим бога», лично принимающего решения за все население метавселенной?
Бизнес-модель подобных компаний построена на продаже пользовательских данных рекламодателям, бизнес-аналитикам и политической разведке. Вспомним громкий скандал с компанией Cambridge Analytica, которая использовала данные Facebook в предвыборной кампании Дональда Трампа в 2016 году. Полученные сведения используют для манипулирования общественностью, воздействия на покупательское поведение, запуска дезинформационных кампаний, а порой и вовсе для подталкивания к экстремизму.
Биометрические, генетические и поведенческие данные позволяют установить, что человек знает и во что верит, его этническую принадлежность, репутацию в отдельных сообществах, особенности отношений в семье, страхи, фобии, триггеры, сексуальные предпочтения и многое другое. Увеличение количества данных о человеке приведет к росту злоупотреблений с более тяжкими последствиями:
1. Появится больше возможностей для идентификации человека – негласной и против его воли, связанной с выражением его интересов или политической позиции.
Например, идентификация участников митинга по остросоциальному вопросу возле посольства иностранного государства может привести к их дальнейшему ограничению в правах – эти люди не получат визу или вид на жительство, подвергнутся дополнительным проверкам на идеологическое соответствие и т. д. Другой пример – в США с 2021 года ведется активная дискуссия о запрете абортов, а в ряде штатов они уже серьезно ограничены. В то же время, более миллиона человек в США используют «женские календари» и аналогичные мобильные приложения. Неизбежно возникает вопрос о том, можно ли данные с таких приложений обернуть против пользователей в рамках гражданских и уголовных дел?
Индийский брокер данных Near Intelligence, с офисами в США и Франции, продал информацию о посетителях 600 клиник компании Planned Parenthood, предоставляющей услуги по прерыванию беременности, группе активистов Veritas Society, выступающих в защиту жизни. В результате пациенты начали получать таргетированную рекламу с дезинформацией о репродуктивном здоровье. Сенатор от демократической партии США Рон Вайден прямо сказал, что такие данные могут использоваться для преследования: «Если брокер данных смог отслеживать сотовые телефоны американцев, чтобы помочь экстремистам распространять дезинформацию среди людей в сотнях центров планирования семьи по всей территории страны, то прокурор с правыми политическими взглядами мог бы использовать эту же информацию, чтобы сажать женщин в тюрьму».
Согласно расследованию The Wall Street Journal, Near Intelligence также поставляла информацию об американцах Министерству обороны и спецслужбам США. Журналисты ссылаются на письмо главного юрисконсульта и директора по конфиденциальности Джея Анджело, направленное генеральному директору компании Аните Мэтьюс, в котором поднимались три проблемы конфиденциальности: «Мы продаем данные геолокации, на которые у нас нет согласия. Мы делимся данными идентификаторов устройств, на что у нас нет согласия. Мы продаем данные за пределы ЕС, на что у нас нет согласия». При этом сообщают, что Near Intelligence располагает данными о более чем миллиарде устройств.
2. Опасен доступ не только к первичным данным о человеке, но и к итогам их обработки, например, к результатам генетических тестов или базе поведенческих паттернов.
В конце 2023 года компания 23andMe подтвердила утечку полученных в результате генетического анализа данных о происхождении 6,9 млн пользователей. Двумя месяцами позже хакер опубликовал на подпольном форуме Hydra данные одного миллиона пользователей еврейского происхождения и 100 тысяч китайского, предлагая их к продаже по стоимости от $1 до $10 за учетную запись. По утверждению хакера, ему удалось похитить 300 терабайт данных компании. Подобные базы людей, принадлежащих к определенной этнической группе, могут использовать радикалы для преследования по причине религиозной или национальной ненависти. Не за горами и первые наследственные споры, связанные с претензиями внезапно возникших и ранее неизвестных наследников.
Другими словами, данные – это товар, на который найдется множество покупателей с самыми разными целями, а риски пользователей или соблюдение требований законодательства превращаются из этического вопроса в экономический, ведь выручка превыше всего.
Под маскировкой популистских нарративов об общественном благе людей могут обязать передавать еще больше данных о себе, причем в контексте таких взаимодействий, которые физические лица не хотели бы афишировать. Например, в начале 2024 года консервативный канадский политик предложил обязать порносайты досконально верифицировать возраст пользователей. Доступ к порносайтам «по паспорту» вряд ли обрадует посещающих их людей, которые хотели бы сохранять хотя бы иллюзию анонимности. А в штате Флорида на рассмотрение был вынесен законопроект, запрещающий детям до 16 лет пользоваться социальными сетями. Практически все подобные законодательные инициативы проталкивают под соусом защиты детей от порнографического или иного вредного контента.
Неизбежно встанет вопрос, как именно будет верифицироваться возраст пользователей? Реализация подобных инициатив практически невозможна без нарушения приватности в той или иной форме. Даже если законодатели действуют из лучших побуждений, в итоге у социальных сетей и сервисов окажется еще больше чувствительной информации о пользователях, стекающейся из разных ручейков: часть они получат от «согласия» пользователя принять cookies, часть – от брокеров данных, а еще часть – из-за требований законодательства.
Как и любой другой вызов, связанные с данными риски неизбежно породят новые предложения и даже бизнес-модели, основанные на анонимизации. При запуске ИИ-ассистента Leo в браузере Brave основной акцент делается на приватность: производитель обещает не записывать чаты с пользователями, не использовать их данные для обучения и оптимизации своих моделей, не сохранять никакие идентификаторы пользователей (например, IP-адреса), а также предпринимает ряд мер для их дополнительной анонимизации.
Рынок услуг по удалению персональных данных или даже полного удаления цифрового следа также постепенно заполняется предложениями. Так, за $9 в месяц пользователь сервиса от Mozilla может рассчитывать на отслеживание раскрытия личной информации брокерам данных и удаление любых раскрытых сведений. В более комплексном решении могут быть заинтересованы публичные лица, которые по тем или иным причинам стали жертвами «культуры отмены», а с неизбежным увеличением количества рисков будет расти спрос и стоимость подобных услуг.
В контексте эволюции метавселенных подобный сценарий начинает играть новыми красками: анонимизация может предлагаться в виде полноценных цифровых масок. Многие будут готовы заплатить за полную отвязку цифрового аватара от реальной личности. В этом случае таргетированная реклама и другие алгоритмы будут нацелены на интересы и профиль аватара, а не реального человека, который сможет одновременно проживать две или более цифровых жизней, и связь между ними будет сложно отследить. Вполне вероятно, что мы даже увидим гонку вооружений между сервисами-анонимизаторами и структурами, заинтересованными в использовании данных об их пользователях.
Растущее из-за утечек данных, злоупотреблений и шпионских скандалов недоверие к корпорациям и государствам может стимулировать массовый исход в анонимное общество и миграцию от тотального надзора. Запуск множества локальных сообществ, построенных на принципах приватности (как в виртуальных мирах и метавселенных, так и в физических поселениях вне публичного контроля), потребует развития параллельной экономики на базе криптовалют и анонимных транзакций, приватных коммуникационных сетей и мессенджеров, локальных производств на базе 3D-печати и роботизации.
Общество может расколоться на два параллельных мира: прозрачный мейнстрим и анонимный андеграунд. Мейнстримный социум поначалу будет пытаться контролировать беглецов, но автономность и самодостаточность анонимной экономики сократит количество рычагов воздействия. Андеграунд сделает ставку на алгоритмы шифрования и защиты данных, обеспечивая своим гражданам высокую степень личной свободы, но ценой технологического отставания. Освоение «дикого запада» неизбежно будет сопровождаться ростом теневых рынков, черной и серой экономики. На первый план выйдет поиск новых форм сосуществования анонимного и публичного социумов.
Возможный сценарий «Тотальная прозрачность»
Коллективизм – Прозрачность
2027 год – Корпорации обязаны раскрывать всю внутреннюю информацию.
Передача в руки общества продвинутых алгоритмов ИИ приводит к техногенной дестабилизации экономики и политических сил: люди становятся эффективнее не только в решении производственных задач, но и в уходе от налогов, обмане и манипуляциях, влиянии на дискуссии в интернете и мнение публики. Поэтому новый общественный договор повышает экономическую и политическую безопасность путем внедрения систем, обеспечивающих максимальную прозрачность взаимодействий различных акторов. Государства переводят все процессы на блокчейн, доступный каждому, а ИИ применяют для анализа огромных массивов данных, выявляя скрытые закономерности.
2029 год – Приняты законы о полной публичности всех данных.
Внедрение инфраструктуры прозрачности не всегда проходит принудительно. В отдельных странах люди, компании и государственные структуры могут получить дополнительные возможности, зависящие от уровня прозрачности: льготы, специальные налоговые планы или расширение бюджета. Человек, открывший значительный объем личных данных для окружающих, меньше платит за проезд в общественном транспорте, имеет гарантию поступления в вуз, пользуется бесплатными медицинскими услугами. А гражданин, решивший стать политиком, обязан подключиться к системам биомониторинга, чтобы публиковать свой интернет-трафик на специальных ресурсах, доступных для общественного аудита. Когда радикальная честность становится социальной нормой, репутационные системы определяют статус людей и организаций.
2032 год – Общество самоорганизуется через открытые сетевые структуры.
Прозрачность искореняет коррупцию и преступность, выводя экономику из тени, фейковые новости и дезинформация исчезают, а ложь и манипуляции остаются только в учебниках истории. Такие системы позволяют не только заглянуть «под капот» ТНК для анализа их финансовых операций и структуры зарубежных партнеров, но и раскрыть невидимые ранее взаимодействия людей: определить настоящее имя каждого участника дискуссии в интернете или перечень программного обеспечения, которым пользуется миллионер в частной жизни. Подобная степень прозрачности, с одной стороны, позволяет быстро отслеживать противоправные действия и привлекать к ответственности злоумышленников, а с другой – приводит к публичному порицанию, отмене и остракизму отдельных людей. Навык самоцензуры становится критически важным и даже формирует отдельные научные и образовательные дисциплины.
2034 год – Личные данные граждан становятся открытыми по умолчанию.
Массовое внедрение нейроинтерфейсов, позволяющих загружать воспоминания и мысли в облако, приводит к первым экономическим экспериментам по замене денег репутационными кредитами при расчетах. Раскопки личных, ранее конфиденциальных данных становятся новой формой контента. Понятие частной жизни постепенно исчезает, но при достаточном количестве ресурсов еще можно ухватиться за последнюю соломинку: появляется рынок легальных и нелегальных услуг по обеспечению приватности для людей, бизнеса и даже целых государств. Некоторые страны не принимают резолюции ООН, принуждающие к обеспечению прозрачности, и становятся технологическими убежищами для несогласных. Многие не выдерживают жизни под микроскопом и уходят в цифровые миры или в изолированные коммуны и религиозные культы. Давление постоянной публичности огромно, специалисты бьют тревогу, говоря о пандемии «публичной психологической перегрузки», которую лечат в инкогнито-симуляциях.
