Закручивание гаек во имя общественного блага
Доктор, доктор, пожалуйста! Ох, в каком бардаке я нахожусь. Доктор, доктор, пожалуйста! Ох, я просто не могу победить.
UFO «Doctor, Doctor», альбом «Phenomenon», студия Chrysalis, 1974
Жительнице штата Аризона позвонила плачущая дочь и сказала, что попала в беду, а затем трубку взял мужчина и сообщил, что сделает с девочкой нехорошие вещи, если не получит выкуп. Все обошлось, девочка была в безопасности, просто мошенники сгенерировали ее речь при помощи искусственного интеллекта. Но мать была уверена, что голос и плач – в точности как у ее дочери. Похожая ситуация произошла с мужчиной из штата Огайо, у которого требовали выкуп в размере $5000 за «похищенную» дочь. Хорошо, что его коллега не растерялся и позвонил девочке, чтобы убедиться, что она в школе и с ней в все порядке.
Публикации в социальных сетях предоставляют виртуальным «похитителям» достаточно образцов голоса, чтобы выдать себя за родственника практически любого современного человека. Кроме выкупа они могут требовать совершить диверсию или иное преступление, ведь родитель в состоянии аффекта пойдет на что угодно. Поэтому в США (а потом и по всему миру) подобные шокирующие истории, связанные со злоупотреблениями персональными данными и кражей личности, будут максимально использоваться для усиления контроля за гражданами под видом заботы о национальной безопасности. Ну действительно, почему бы не собрать базу данных голосов всех граждан, чтобы установить у телеком-операторов оборудование для их идентификации? Разумеется, все ради защиты детей.
С одной стороны, защита данных граждан – это вопрос национальной безопасности. С другой стороны, государства реагируют на запрос, появившийся в результате скандалов, связанных с утечками и злоупотреблениями. Наконец, они ощущают все возрастающую конкуренцию со стороны корпораций.
В 2021 году российская компания Xsolla, предоставляющая платежные услуги, уволила сразу 150 сотрудников. Ее генеральный директор и основатель Александр Агапитов разослал работникам письмо, в котором говорилось, что они уволены на основании анализа больших данных об их деятельности. Многие осудили действия компании, расценив это как тайный шпионаж за сотрудниками.
В 2022 году регулирующие органы Великобритании оштрафовали на $9,4 млн американскую компанию Clearview AI, создающую ПО для распознавания лиц. Она собирала изображения людей из Великобритании и других стран в интернете и социальных сетях для глобальной онлайн-базы, которую правоохранительные органы могут использовать для распознавания лиц, что оказалось нарушением закона Великобритании о защите данных.
В США государственным служащим запрещено устанавливать на рабочие устройства TikTok из-за сомнений в политике использования личных данных. Резкий скачок популярности сервиса и недоверие к китайским компаниям привели к тому, что генерального директора видеоплатформы Шоу Ци Чу вызвали на слушание в Конгресс США. Несмотря на то, что конгрессмены показали себя не самыми технически подкованными участниками диалога, TikTok и правда собирает огромное количество данных о пользователях.
Государства встают на путь ужесточения регуляции, и хотя разные страны делают это по-разному, но к зарубежным акторам все относятся более жестко, чем к отечественным.
Еще в 2018 году в ЕС вступил в силу Общий регламент по защите данных (GDPR), направленный прежде всего на предоставление гражданам контроля над собственными персональными данными и упрощение нормативной базы для международных экономических отношений путем унификации регулирования в рамках ЕС. В США, в зависимости от штата, действует несколько различных регуляторных актов, но самые заметные из них были введены в 1998 году. Закон Грэмма – Лича – Блайли требует защиты конфиденциальности данных пользователей от любой финансовой организации, а «Закон о защите конфиденциальности детей в интернете» запрещает собирать персональные данные детей до 13 лет без ведома их родителей.
В Китае с 2021 года действует «Закон о защите персональной информации» (PIPL), направленный на защиту физических лиц, общества и национальной безопасности от вреда, который может быть причинен злоупотреблениями и нарушениями при обработке информации, относящейся к личности человека. Также на территории КНР действует «Закон о безопасности данных» (DSL), требующий локализации данных, собранных иностранными и отечественными организациями о китайских гражданах, и запрещающий их экспорт технологическими компаниями без предварительной «проверки кибербезопасности», процесс которой остается неясен.
Закон, принятый летом 2023 года после массовых беспорядков в Париже, позволяет французской полиции удаленно включать камеры, микрофоны и геолокацию на любых девайсах. Разумеется, он касается не добропорядочных граждан, а только злых подозреваемых и всяких там преступников. Но самое интересное – это «чувствительные профессии», которые исключаются из действия закона, например, члены парламента, принимающие эти самые законы. Являются ли преступниками люди, выходящие протестовать на улицы, пока непонятно.
Если вы читали изданный в 1949 году роман-антиутопию Джорджа Оруэлла «1984», то наверняка помните про двоемыслие: «Война – это мир, свобода – это рабство, незнание – сила». Мне кажется, прогрессивные государства уже близки к реализации первых двух пунктов. А третий успешно реализует генеративный искусственный интеллект в течение ближайших нескольких лет.
Французский министр юстиции, убеждая, что закон будет применяться максимум пару десятков раз в году, добавляет (я не шучу, это практически цитата): «Мы далеки от Оруэлловского тоталитаризма, закон спасет жизни людей». Закручивание гаек всегда происходит во имя общественного блага, и в этом направлении «демократии» будут бежать быстрее «авторитарных режимов», потому что для них общественное благо ценнее – вот такой парадокс.
В Германии набирает обороты националистическая, правопопулистская и евроскептическая (Брексит, похоже, был первым звоночком) партия «Альтернатива для Германии». Пока французы жгут автомобили, глава немецкого профсоюза полиции прогнозирует беспорядки, ссылаясь на «преобразования на рынке труда, цифровизацию или интеграционные вызовы». Топ-менеджеры уже открыто заявляют, что их работники не успевают адаптироваться к стремительному развитию искусственного интеллекта, и непонятно, что с этим делать, кроме введения глобальных ограничений на разработку, которые вряд ли будут приняты (и даже в случае принятия все равно найдется способ их обойти).
Кажется, вся эта турбулентность сводится к одному простому тезису: люди хотят кушать регулярно, поэтому недовольны игрищами политиков, забывающими об интересах своих избирателей. Что нас может ожидать в среднесрочной перспективе?
1. Климатические мигранты и обострение проблем мирового голода. Люди поедут из тех мест, где очень жарко и не растет еда, в страны с другой культурой.
2. Потеря рабочих мест самыми незащищенными, за которых придется кому-то заплатить, иначе они выйдут с вилами на улицы. Ну и опыт 2007–2008 годов подсказывает, что когда незащищенные перестают платить по кредитам, может случиться ипотечный кризис, перерастающий в мировой финансовый.
3. Обострение проблем ментального здоровья по целому ряду причин. Есть вероятность, что когда начнутся массовые бесконтрольные манипуляции с применением ИИ, у многих «кукуха» просто не справится.
Государства будут стараться не допустить социальных взрывов по-разному:
1. Очевидный и проверенный временем путь – раздавать вертолетные деньги, поставляемые печатным станком, а с инфляцией пусть разбираются следующие администрации.
2. Огораживаться от «чужих», чтобы своим больше досталось. Проще всего это делать под соусом национальной безопасности, потому что не пускать к себе в страну по этническому или национальному признаку пока еще неприлично, хотя с россиянами точечные эксперименты проводятся.
3. Закручивать гайки и усиливать меры контроля. При хорошей реализации общество получает безопасность в обмен на щепотку гражданских свобод, при плохой – идет прямой дорогой в гетто.
Проблема в том, что на завтрашние вызовы контрпродуктивно отвечать вчерашними инструментами. Вот простой пример: роботы уволили людей и производят продукцию эффективнее, но у людей без зарплаты не будет денег, чтобы ее покупать. В таком случае придется принять какие-то меры:
• продавать товары людям с зарплатами в другие страны, куда цифровизация не добралась;
• раздавать бесплатные деньги, что потребует повышения налогов и приведет к снижению покупательной способности валюты из-за печатного станка;
• придумывать механизмы бартера и взаимозачета, что означает плановую экономику и – вперед к коммунизму.
Возможный сценарий «Госкапитализм»
Национализация – Коллективизм
2025 год – Правительства ужесточают антимонопольное законодательство и усиливают регулирование корпораций.
2026 год – Государства национализируют стратегические отрасли экономики: энергетику, связь, транспорт.
Для контроля над крупным бизнесом и предотвращения злоупотреблений создают дополнительные регулирующие и контролирующие органы, облагают корпорации все более высокими налогами на прибыль, а возможности лоббистской деятельности ограничивают. Установка лимитов на размеры и рыночную долю корпораций и принудительное дробление монополий позволяет вытеснить частные компании из стратегических сфер, а их активы перевести под контроль государства.
2028 год – Государства берут под контроль финансовый сектор и ограничивают трансграничное движение капиталов.
2030 год – Формируется модель «государственного капитализма» с доминированием госсектора в экономике.
Независимость коммерческих банков и финансовых институтов ограничивают, их функционал остается только на уровне пользовательских интерфейсов. Центробанки напрямую кредитуют госкомпании и стратегические проекты, а частные компании вынуждены конкурировать за госзаказы и доступ к ресурсам. Рыночные механизмы отходят на второй план – экономическое развитие определяется госпланами и госпрограммами.
2032 год – Государства расширяют социальные программы, финансируемые за счет доходов госкомпаний.
2034 год – Госкапитализм переходит в тоталитарную фазу со всеобъемлющим контролем государства над экономикой.
Повсеместно вводятся системы бесплатного образования, медицины и жилья для лояльных режиму граждан, а редкое инакомыслие подавляют увольнениями и отказом в доступе к благам. Частный бизнес и частная инициатива практически исчезают, а свободный рынок заменяется прямым распределением ресурсов по госплану. Цифровые системы учета и распределения благ охватывают все аспекты жизни граждан и, благодаря предиктивным алгоритмам, полной оцифровке общества и средств производства, работают гораздо эффективнее, чем бюрократические попытки построения коммунизма XX века.
