Книга: Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами
Назад: Будущее киберколониализма
Дальше: Глава 3 Техноанархизм или цифровое рабство?

Переговоры с Зевсом и технологическая суверенность

Ты можешь пойти к доктору, Ты можешь кашлянуть ему в лицо, Заразить все человечество, Но ты не можешь игнорировать мое техно.
Electric Six «Synthesizer», альбом «Fire», студия XL, 2003
Абсолютно всем государствам придется наращивать технологический уровень, чтобы обеспечить контроль, эффективное распределение ресурсов и свой суверенитет. Без собственных технологий (или доступа к политически-нейтральным разработкам) государству может быть опасно, затруднительно и дорого принимать решения в интересах своих граждан. В долгосрочной же перспективе без доступа к технологиям страна слабеет и становится жертвой киберколонизаторов.
В то же время единолично осуществить технологический прорыв могут только единицы, а у большинства стран нет возможности обучить типовую модель ИИ или построить квантовый компьютер – на это не хватит ни компетенции, ни ресурсов. Более того, создание и удержание собственных компетенций – отдельный важный вопрос, неизбежно упирающийся в проблему «утечки мозгов», для купирования которой нужно выстроить сложные организационные системы репатриации образованных кадров.
Чтобы талантливый гражданин Уганды, выучившийся на инженера в Германии, хотел вернуться на родину, ему нужно предложить целый набор преимуществ, включающих гарантии трудоустройства и хороший социальный пакет. Помимо создания центров компетенций в развивающихся регионах, подобные механизмы могли бы способствовать решению миграционного кризиса, который чиновники некоторых развитых стран признают следствием ошибочной политики, но только за закрытыми дверями.
Какими путями можно реализовать доступ к технологиям? Возможны несколько сценариев:
1. Обмен природных или человеческих ресурсов на алгоритмы и вычисления.
Этот сценарий аналогичен программе «Нефть в обмен на продовольствие», позволявшей Ираку с 1995 года продавать ограниченное количество нефти, чтобы оплатить гуманитарные поставки. Вполне вероятно, что подобные механизмы будут запущены по инициативам технологических лидеров (как стран, так и крупнейших корпораций) или в рамках международных программ. Технологическое знание может быть централизовано на уровне международного института, который заботится о всеобщем благоденствии. Институты поддержки ближайшего будущего станут продвигать достижения искусственного интеллекта в развивающихся странах, а может быть, даже предоставлять кредиты на вычисления, по аналогии с деятельностью Международного валютного фонда ООН.
Вне зависимости от способа реализации, развивающимся странам глобального Юга фактически предложат протекторат в обмен на технологии и доступ к вычислениям. Кому больше нужен такой протекторат – вассалу или сюзерену? На первый взгляд, обоим, но у высокотехнологичного сюзерена гораздо больший выбор потенциальных вассалов, а когда спрос превышает предложение, то с точки зрения рыночных отношений паритет выглядит невозможным.
Как будет определяться «справедливый» курс обмена, какие условия придется соблюсти, чтобы попасть в международную программу по распределению бесплатных вычислений? Стоит учитывать, что технологии принадлежат корпорациям, базирующимся в определенных странах, а значит, политически ангажированным. За кого потребуется проголосовать, какие реформы придется провести, какими ценностями поступиться и флаги каких движений развесить перед школами?
2. Коллаборация в рамках экономического или военного блока.
Собирать ресурсы и компетенции вместе значительно выгоднее, чем самостоятельно разрабатывать все с нуля. К тому же в блоки изначально объединяются государства с общими интересами в области безопасности, экономики, социальной стабильности или культуры. Так, в экономическом блоке БРИКС или военном блоке НАТО могут централизоваться необходимые для технологических инноваций ресурсы и компетенции, а все члены станут их бенефициарами, взамен отдавая на нужды блока часть своего ВВП деньгами или природными ресурсами (например литием), временем (например, размечая данные для обучения нейросетей) или информацией (например, позволяя получать данные своих граждан). Пока страна остается членом блока и делает взносы, ее допускают к технологиям, обеспечивающим необходимый уровень социального, экономического и военного развития.
Принадлежность к блоку может быть и неформальной: при совпадении интересов отдельным странам или организациям могут позволить пользоваться технологическими разработками. Каперы средневековья были частными лицами, которые с разрешения верховной власти воюющего государства использовали вооруженное судно для захвата торговых кораблей неприятеля. Достаточно поцеловать королеве ручку – и получаешь право ходить под ее флагом, и если уж зарезал человека на море, то не как пират и бандит, а во имя интересов империи. Так, хакерскую группировку Lazarus, которая стоит за атакой на компанию Sony Pictures в 2014 году и эпидемией компьютерного вируса-шифровальщика WannaCry в 2017 году, в совокупности похитившую более $3 млрд евро, многие аналитики связывают с правительством Северной Кореи. Такие вот кибер-каперы.
Возможный сценарий «Преимущество технопримитивизма»
Отказ от цифровизации – Локализация
2025 год – Ряд стран ограничивает внедрение иностранных технологий в критической инфраструктуре.
2026 год – Усиливается цензура и контроль над интернетом, создаются локальные сегменты сети.
Неспособность отдельных стран конкурировать в области высокотехнологичных разработок, а также высокие риски отдельных технологий для стабильности и суверенитета приводят к отказу от технологической интеграции с внешними партнерами. В связи с активной разработкой отечественного программного обеспечения и оборудования и переходом на локальную версию интернета, а также из-за отсутствия продвинутых систем цифровой связи с внешним миром, критически важные предприятия таких стран становятся гораздо устойчивее ко взлому, а население – к пропаганде стран-оппонентов.
2027 год – Формируются региональные технологические альянсы для совместных разработок.
Этим странам приходится самостоятельно (либо при поддержке доверенных, более развитых партнеров) разрабатывать военные технологии, чтобы обеспечить свою суверенность. Несмотря на увеличение объемов инвестиций в развитие собственной микроэлектроники и телекоммуникаций, они отстают в области высоких технологий, достигнув базового технологического суверенитета только в ограниченном перечне ключевых отраслей. «Примитивисты» делают ставку на «мягкую силу» и становятся лидерами в дипломатии и внешней коммуникации.
Высококвалифицированные дипломатические миссии и институты позволяют таким странам заручиться военной поддержкой одного из политических блоков, а медиа обеспечивают их видимость на карте мира для населения геополитических противников, что делает любое силовое давление на них крайне рискованным с репутационной и экономической точек зрения. На международной арене формируются альтернативные институты глобального управления, а новая модель сдерживания основывается не на технологическом и военном лидерстве, а на дипломатическом балансе и доминировании в медиа-пространстве.
3. Использование общедоступных технологий и открытого исходного кода.
В попытке сохранить суверенитет государства будут пытаться получить технологии бесплатно, например, пользоваться общественными технологическими достижениями, разрабатываемыми компьютерными энтузиастами и волонтерами на принципах открытого исходного кода.
Корпорации тоже могут предоставлять технологии по принципу бесплатного сыра в комплекте с мышеловкой. Механизмы влияния корпораций работают в обществе, которое находится на определенном этапе технологического развития, соответствующего его запросам и ценностям. Поэтому корпорации заинтересованы в расширении своего влияния для формирования новых рынков, увеличения числа потребителей, роста капитализации, получения новых ресурсов и авторитета. Так, компания Microsoft многие годы закрывала глаза на распространение пиратских версий своих операционных систем и программного обеспечения, понимая, что их использование привязывает будущего платежеспособного потребителя к программным продуктам корпорации, а сегодняшний домашний пользователь завтра станет корпоративным.
Современные технологии также могут распространяться условно или даже полностью бесплатно для обучения пользовательской базы и привязки персональных и бизнес-процессов к инфраструктуре оператора. Распробовав возможности технологии, бенефициары в будущем не захотят или не смогут от нее отказываться, и капкан захлопнется.
Будут ли общедоступные технологии достаточно эффективными по сравнению с проприетарными? Какую степень отставания от лидеров нужно соблюдать, чтобы не привлекать внимания или даже агрессии со стороны более сильных и влиятельных конкурентов? Согласно древнегреческому мифу, Прометей похитил огонь у олимпийских богов и передал его людям. За это Зевс – верховный бог, повелевающий громом и молниями, – приказал приковать бессмертного Прометея к скале, куда каждый день прилетал орел и выклевывал его печень, которая за ночь вырастала снова. Какие из современных технологий можно даровать людям, не разгневав богов современного Олимпа?
Официальным поводом для вторжения США и их союзников в Ирак в 2003 году стали поиск и уничтожение оружия массового поражения. В результате вторжения иракская армия была разгромлена, Саддам Хуссейн – свергнут и казнен на виселице, а в стране сформирована лояльная США администрация. И хотя спустя полтора года комиссия из 1400 американских, британских и австралийских экспертов так и не обнаружила в Ираке оружия массового поражения, она признала, что режим Хуссейна представлял угрозу для всего мира, так как планировал сразу же после снятия санкций вернуться к его производству. Одним из аргументом было то, что Хуссейн даже в самые тяжелые для экономики страны времена инвестировал в технологии, развивал инфраструктуру и удерживал квалифицированных ученых в стране, постоянно повышая зарплату научным сотрудникам в интересовавших его отраслях. Коварный, коварный Саддам Хуссейн финансировал науку! А как известно, что дозволено Юпитеру – не дозволено быку.
Насколько далеко отдельные государства, общества или корпорации готовы зайти, чтобы удержать контроль за технологиями? Вероятно, мы увидим прецеденты введения санкций или даже военных интервенций против целых стран, вызванных незаконным использованием чужих технологий в области прогрессивных алгоритмов, искусственного интеллекта и квантовых вычислений. То есть всего, что имеет двойное назначение и должно контролироваться ограниченной группой стран или организаций, разумеется, по их собственному мнению.
Такое вторжение может начаться из-за «вычислений массового поражения», несущих угрозу человечеству или ключевой инфраструктуре. Например, для пресечения разработки искусственного интеллекта, способного создавать новые вирусы или биологическое оружие. Случится ли отключение интеллектуальной инфраструктуры отдельного города из-за того, что его администрация посмела украсть и применять запатентованные, защищенные авторским правом, находящиеся в собственности корпораций-небожителей технологии? Когда современный Зевс проведет публичную порку Прометея, чтобы другим было неповадно?
Способные договориться с Зевсом получат право пользоваться огнем без негативных последствий, а остальные будут сталкиваться с противодействием и отставать. Разница в финансах и навыках, необходимых для работы с различными технологиями, может привести к социальному, экономическому и цифровому неравенству. В итоге такие разрывы углубятся настолько, что станут основой для новой структуры общества.
Возможный сценарий «Олигополия техногигантов»
Локализация – Киберколониализм
2025 год – Усиление технологического соперничества США и Китая, гонка ИИ-вооружений.
2026 год – Консолидация ИТ-индустрии, формирование пяти глобальных ИИ-конгломератов.
2027 год – Разделение глобального цифрового пространства на зоны влияния.
2028 год – Большинство развивающихся стран входит в цифровые неоколониальные блоки.
В результате ряда социальных, политических и военных кризисов мир разделяется на блоки и объединения, согласно геополитическим интересам и выбранной идеологии. В борьбе за влияние крупные союзы становятся поставщиками бесплатных решений высокотехнологичной инфраструктуры для менее развитых стран – сначала для обеспечения лояльности, а потом для привязки к собственным продуктам. Технологии становятся настолько сложными и дорогостоящими для самостоятельной разработки, что развивать их вне крупных блоков невозможно. Чтобы избежать экзистенциальных угроз для цивилизации, запускают международные инициативы по демократическому аудиту, коллаборативной ИИ-безопасности, равномерному глобальному распределению выгод и рисков передовых ИИ-технологий, но они оказываются несостоятельными.
2029 год – Военные конфликты за стратегические ИИ-активы и передовые вычислительные мощности.
2030 год – Запуск конкурирующих орбитальных группировок ИИ-спутников и милитаризация космоса.
2031 год – Геополитика редуцирована до ИИ-алгоритмов и гиперавтоматизированных платформ.
Технологические решения в разных блоках намеренно разрабатываются так, чтобы их было невозможно интегрировать с технологиями оппонентов. Международный бизнес с недружественными странами и блоками затруднен или невозможен. Частным корпорациям приходится показывать лояльность тому блоку, в юрисдикции которого находятся их штаб-квартиры. Растет конкуренция государственных корпораций, от успехов которых зависят политические решения мировых и региональных масштабов, а также влияние на покупателей – не только технологическое, но и культурное. Корпорации, по сути, становятся и новыми армиями, и инструментами «мягкой силы».
2032 год – Дипломатия заменяется соперничеством ИИ-систем, поддерживающих решения лидеров блоков.
2033 год – Принудительная интеграция стран-аутсайдеров в сферы влияния ИИ-альянсов.
2034 год – Мир разделен на три замкнутые технологические зоны с жестким когнитивным контролем ИИ.
Идеологии и институты вытесняются алгоритмическими механизмами контроля и оптимизации деятельности населения. Тотальный ИИ-надзор и предиктивное нормирование подавляют индивидуальную свободу и творчество. Мир стоит на грани самоуничтожения из-за потери контроля над рекурсивно самоулучшающимся военным ИИ.
Назад: Будущее киберколониализма
Дальше: Глава 3 Техноанархизм или цифровое рабство?