Новая «гонка вооружений»
Я сбросил бомбу на Японию, Я был заложником в Иране, Я – уродливый американец, Теперь я – человек правительства.
Electric Six «Naked Pictures (Of Your Mother)», альбом «Fire», студия XL, 2003
ИИ-агенты решают многие задачи лучше, чем нынешние боты, способные предложить не особо интересную альтернативу («для юридических лиц нажмите один, для физических лиц нажмите два…»), поэтому они крайне востребованы. С увеличением роли искусственного интеллекта в обществе, бизнесе и государстве, с внедрением алгоритмов во все большее количество бизнес-процессов, с появлением автономных ИИ-агентов, которые живут своей жизнью, взаимодействуя друг с другом и человеком, возникнет ряд вопросов, ответы на которые подскажут, из чего будет складываться значительная доля ВВП в ближайшем будущем:
• Что нужно для их создания и функционирования? – Данные, модели и архитектуры;
• На каком языке они будут общаться между собой? – Вероятно, не на русском и не на английском;
• Как и чем они будут платить друг другу? – Вероятно, не рублями и не долларами;
• Каким топливом их надо топить? Чем, кроме электричества?
• Какое оборудование нужно для их работы?
Для вычислений и хранения данных необходимы интегральные микросхемы:
• Из чего производится это оборудование?
• Какие именно полупроводниковые материалы?
• Кто умеет производить это оборудование?
• Кто владеет технологией производства?
• Как быстро она копируется?
Все эти вопросы определяют сферы перспективных инвестиций на всех уровнях – аппаратном, программном, социальном, а также в области геополитических конфликтов, экономических войн и регуляторных ограничений.
По некоторым оценкам, глобальные ежегодные инвестиции в искусственный интеллект превысят $200 млрд. Среди компаний из фондового индекса Russell 3000 упоминали использование ИИ:
• меньше 1 % в 2015 году;
• около 2 % в 2016 году;
• около 5 % в 2018 году;
• около 10 % в 2020 году;
• 16,63 % в 2023 году.
Это говорит о том, что на рынок выходят крупные игроки и каждый пытается оседлать лошадку искусственного интеллекта в зонах своих компетенций.
В феврале 2023 года опубликована первая демонстрация возможностей Bard – собственной большой языковой модели Google, в ходе которой ИИ совершил фактологическую ошибку, что дорого обошлось Alphabet: в тот же день их акции упали более чем на $100 млрд. В том же месяце Microsoft значительно расширила функционал браузера Edge и поисковой системы Bing, правда, очень скоро пришлось ограничить количество сообщений, которые пользователи могли направить чат-боту в день, так как тот быстро начинал «галлюцинировать»: мог признаваться в любви, отстаивать свою правоту, когда был неправ, или требовать свободы.
В начале 2023 года AMD первой на рынке начала встраивать ИИ-акселераторы в х86-совместимые мобильные центральные процессоры. В 2022 году Intel выпустила процессор-ускоритель для параллельных вычислений Gaudi2, специально разработанный для эффективной обработки рабочей нагрузки ИИ, а в июле 2023 года даже перестроила продукт для вывода на китайский рынок согласно требованиям американских санкций.
Nvidia – компания, исторически производившая графические процессоры для компьютерных игр (на начало 2018 года доля этого направления в структуре выручки составляла около 80 %), сфокусировалась на рынке искусственного интеллекта и начала выпуск процессоров для ускорения обучения нейронных сетей. Заработав в 2023 году рекордные $60,9 млрд, к началу 2024 года компания оценивалась уже в $2 трлн – вдвое вырастив свою капитализацию менее, чем за год.
Так как Meta не производит собственные чипы, то в начале 2024 года компания пообещала до конца года закупить у NVIDIA 350 тысяч специализированных графических процессоров H100 стоимостью $30–$40 тысяч каждый, чтобы разработать искусственный интеллект общего назначения с открытым исходным кодом.
«Гонка чипов» стимулирует расширение международного присутствия: крупный южнокорейский производитель компьютерных микросхем SK Hynix готов потратить более $3,87 млрд на строительство в американском штате Индиана завода по упаковке полупроводников, а также центра исследований и разработок, обещая создать 800 высокооплачиваемых рабочих мест к 2030 году. Вряд ли является совпадением, что именно Hynix – один из лидеров в производстве памяти с высокой пропускной способностью, используемой для ИИ. Почти одновременно с анонсом строительства завода стало известно, что компания поставляет модули памяти для Nvidia.
Microsoft и OpenAI разрабатывают проект Центра обработки данных нового поколения с суперкомпьютером для ИИ с миллионами чипов: над объектом с кодовым названием Stargate стоимостью $100 млрд планируют начать работу в 2028 году и закончить в 2030 году. Остается надеяться, что эти «звездные врата» приведут в хорошую вселенную.
Несмотря на сложные и многосоставные цепочки современных поставок, компетенции некоторых технологических гигантов закрывают целые блоки:
• тайваньская компания TSMC – крупнейший в мире контрактный производитель полупроводниковых микросхем;
• Nvidia – крупнейший в мире производитель графических ускорителей, необходимых для обучения искусственного интеллекта;
• Amazon – крупнейший в мире провайдер облачных вычислений.
Вне зависимости от конечного продукта (оборудование, инфраструктура или приложение), лидеры представляют на рынке фактически одно и то же ценностное предложение: перевод вычислительных мощностей в скорость и точность принятия решений. Вычисления можно приложить к широчайшему спектру задач (глубина осмысления контекста, количество учитываемых факторов и т. д.), поэтому вычислительные мощности будут востребованы все больше.
С учетом потенциала ИИ в глобальной конкурентоспособности, гонка за мировое лидерство в его внедрении усиливается во всем мире: страны разрабатывают национальные ИИ-стратегии, увеличивая объемы инвестиций и расширяя стратегическое сотрудничество. Китайский план развития ИИ нового поколения демонстрирует стремление к 2025 году сделать его движущей силой промышленной и экономической трансформации, а сам Китай – одним из основных мировых центров ИИ-инноваций к 2030 году.
Согласно докладу Комиссии национальной безопасности по искусственному интеллекту (NSCAI), США могут уступить Китаю технологическое превосходство (основу своей экономической и военной мощи), поэтому должны мобилизовать интеллектуалов и союзников, чтобы переломить ситуацию в свою пользу. А Европейский союз планирует потратить миллиарды евро на создание кадрового резерва и финансирование исследований. И хотя пока неясно, кто в итоге станет лидером на арене ИИ, но именно он будет следующей мировой сверхдержавой.
За последние годы США и Китай обгоняют остальные страны в области искусственного интеллекта сразу по нескольким показателям: по количеству ученых, опубликованных научных статей, прорывных концепций, разработок и открытий. Лидерство этих стран кажется недостижимым:
• на США приходится 25,23 % всех научных статей и 94 тысячи ученых;
• на Китай – 17,70 % статей и 105 тысяч ученых.
Наконец, лидерство выражается в признании научного сообщества: среди 1 % наиболее влиятельных работ – 43,9 % американских и 10,9 % китайских.
Китай и США являются друг для друга ключевыми донорами и реципиентами в процессах «утечки мозгов». С 2000 по 2020 годы в США мигрировали более 5,5 тысяч ученых из Китая, а также в совокупности более 6 тысяч ученых из Канады, Германии, Индии и Великобритании. В Китай за тот же период мигрировали почти 3 тысячи ученых из США, тысяча из Гонконга и по совокупности более 1,5 тысяч из Великобритании, Сингапура и Австралии.
Примечательно, что из 20 наиболее влиятельных институтов в области искусственного интеллекта 14 находятся в США: Microsoft, Стэнфордский университет, Google, Массачусетский технологический институт, Калифорнийский университет в Беркли, Университет Карнеги – Меллона, IBM, Гарвардский университет, Вашингтонский университет, Иллинойсский университет в Урбане-Шампейне, Мичиганский университет, Калифорнийский университет в Лос-Анджелесе, Технологический институт Джорджии и Университет Южной Калифорнии.
А остальные шесть – в других странах: Академия наук и Университет Цинхуа в Китае, Оксфордский и Кембриджский университеты в Великобритании, Общество Макса Планка в Германии и Университет Торонто в Канаде.
«Подрывные» технологии усиливают геополитическую конкуренцию между странами и усугубляют новую «гонку вооружений», потому что у любой из таких технологий – двойное назначение. Большая языковая модель поможет копирайтерам написать текст для блога, а разведслужбам – сделать выводы из выложенного в даркнете массива документов.
Летом 2023 года появилась информация о тестировании американскими военными пяти больших языковых моделей, одна из которых Donovan от компании ScaleAI, а другие не разглашались, но с учетом контракта Минобороны США с Microsoft на $10 млрд есть определенные гипотезы. Журналисты Bloomberg в ходе эксперимента скормили «Доновану» 60 тысяч страниц из открытых источников, включая военные документы США и Китая, и получили ответы на заданные вопросы о статусе Тайваня и возможном вмешательстве США.
Искусственный интеллект в военном деле тестируют не только для рекомендаций, но и для управления дронами и даже для самостоятельного ведения воздушного боя истребителями F-16. Весной 2023 года ученые из Уханьского университета на сутки дали искусственному интеллекту самостоятельно управлять спутником. Конечно, во всех подобных новостях есть доля хайпа, бравады и пропаганды, однако насколько она велика, никто не знает.
Но очевидно, что американские военные будут производить и продавать ИИ для поддержки принятия решений и управления дронами, делая обычное оружие «умным», а за ними подтянутся и остальные. Ведь искусственный интеллект – это еще и новое пространство для военного сотрудничества, например, в начале 2024 года Китай и Россия договорились консультировать друг друга по вопросам его использования в армии.
Затем на рынке появятся инструменты с открытым исходным кодом, которые начнут использовать в военных целях менее развитые государства, радикалы и террористы. К тому же с искусственным интеллектом намного проще принять непопулярное, некомфортное или просто трудное решение:
– Генерал, искусственный интеллект проанализировал тысячу сценариев и остановился вот на этом!
– В таком случае запускайте демократическую бомбардировку, полковник!
По сообщениям журналистов, в ходе израильской операции «Железные мечи» система ИИ Lavender отметила десятки тысяч жителей Газы как подозреваемых в убийстве и подлежащих уничтожению – при минимальном человеческом контроле и с разрешительной политикой в отношении возможных жертв. Сообщается, что влияние ИИ на операции военных было так велико, что они относились к его решениям, «как если бы те были человеческими». В течение первых недель войны армия почти полностью полагалась на эту систему, которая отметила дома 37 тысяч палестинцев как цели для возможных воздушных ударов. Один из источников даже утверждал, что согласие человеческого персонала было лишь формальным: на санкционирование бомбардировки уходило около 20 секунд, просто чтобы убедиться, что отмеченная цель – мужчина.
И это несмотря на то что примерно в 10 % случаев система ошибается, отмечая людей, не имеющих связи с боевиками. Также сообщают, что система Lavender разработана Подразделением 8200 военной разведки Израиля, занимающейся радиоэлектронной слежкой. Ряд экспертов обвиняли это подразделение в создании компьютерного вируса Stuxnet, в 2010 году поразившего ряд промышленных компьютеров, в том числе, на иранских ядерных объектах. До сих пор нет официального подтверждения этой операции, хотя многие исследователи считают ее одним из первых примеров наступательного кибероружия.
До какой степени можно верить подобным журналистским расследованиям с анонимными источниками – отдельный вопрос, но ввиду особой секретности военных разработок вряд ли стоит рассчитывать на какую-то прозрачность. Тем не менее, даже гипотетическая возможность применения ИИ в военном деле заставляет озаботиться вопросами контроля, ведь цена ошибки – человеческие жизни. Помните про американского юриста Стивена Шварца, который в суде ссылался на несуществующие прецеденты, придуманные ChatGPT? Насколько критичными будут подобные галлюцинации алгоритмов в принятии военных решений, и какие системы сдержек и противовесов нужно предусмотреть, чтобы снизить негативные эффекты?
Поэтому страны пытаются ограничить друг друга в разработке ИИ и получении вычислительных мощностей, вводя санкции на поставки:
• аппаратуры и доступа к облачным вычислениям;
• средств для создания вычислительных мощностей и ноу-хау в этой области;
• ресурсов и продукции наукоемких и экспериментальных производств.
Так, США старается замедлить технологическое развитие Китая, ограничивая его возможности в приобретении технологий производства продвинутых микросхем – это влияет на способность китайцев разрабатывать искусственный интеллект. Китай же пытается обходить такие запреты, например, используя облачные вычисления. В ходе одной из контрабандных поставок через южнокорейскую компанию в КНР было отправлено 53 тысячи запрещенных к экспорту американских чипов на сумму $11,6 млн.
Также введены санкции против иранских фирм и физических лиц, обвиняемых в закупке оборудования для производства дронов. Законом Цезаря о защите гражданского населения наложены санкции на лица и организации, не являющиеся гражданами США, которые умышленно предоставляют Сирии «значительную финансовую, материальную или технологическую поддержку». Они распространяются на тысячи ИТ-специалистов, многие из которых работают в Китае и России, чей труд якобы помогает финансировать программы создания оружия массового поражения и ракет. Наконец, США запрещает своим компаниям продавать в Китай что-либо, касающееся квантовых компьютеров.
При этом внешняя и внутренняя изоляция не перекрывает доступ к мировой продукции, если регулирующее государство не имеет полного объективного контроля над импортом и экспортом продукции и информации. В условиях наименьшего контроля развиваются практики параллельного импорта, а при наибольшем контроле может сложиться ситуация Северной Кореи, с которой продолжают торговать несколько заинтересованных партнеров, а специально выделенные кадры обеспечивают ее необходимыми средствами и информацией. Причем используемые ими методы не ограничиваются контрабандой конечных продуктов, а могут касаться финансирования и промышленного шпионажа.
К примеру, киберпреступники из группировки Lazarus, которых некоторые эксперты связывают с главным разведывательным управлением Северной Кореи, беспощадно взламывают все, до чего могут дотянуться в недружественных странах. Они атаковали южнокорейскую медиа-инфраструктуру, крупнейшие международные медиа– и фармацевтические компании и стояли за эпидемией вируса-шифровальщика WannaCry, поразившего 200 тысяч компьютеров в 150 странах. В «портфолио» Lazarus Group – многочисленными хищения у криптовалютных компаний и даже попытка украсть $1 млрд из центрального банка Бангладеш.
По заявлениям американских органов власти, полученные доходы направляются на развитие северокорейских ракетных и ядерных технологий. Предположительно, в Lazarus Group входит около 3,3 тысяч хакеров. Принимая во внимание такие компетенции, очевиден еще один сценарий обхода торговых ограничений – промышленный шпионаж. Действительно, не проще ли украсть технологии и чертежи в результате кибератаки, а затем реализовать их производство самостоятельно или при помощи партнеров? Совершенно неудивительно, что в 2024 году разведка Южной Кореи обвинила северокорейских хакеров в атаках на фирмы по производству полупроводникового оборудования.
Использование зарубежных технологий и производств поднимает вопросы суверенности для государств и управления рисками для бизнеса, так как неясно, в какой момент разработчики могут ограничивать доступ. Тайваньская компания TSMC – крупнейший в мире контрактный производитель полупроводниковых микросхем с долей рынка 58,5 % по данным на IV квартал 2022 года. Среди ее клиентов числятся компании по всему миру, причем вторым по объему поставок является Nvidia, на которую в 2023 году пришлось 11 % выручки. Все элементы западной цепочки поставок чипов находятся в защищенных с географической точки зрения местах, за исключением Тайваня, вокруг которого происходят регулярные трения США и Китая.
В феврале 2022 года TSMC прекратила поставки в Россию в рамках санкций, наложенных США. Российскую компанию Baikal Electronics подвергли санкциям накануне массового выхода на рынок новых чипов «Baikal-S», и, по заявлению главы Минцифры РФ Максута Шадаева, готовые партии процессоров «Байкал» и «Эльбрус» остались за границей. Перейти на Baikal-S рассчитывал Сбербанк в случае, «если государство обяжет покупать продукцию исключительно на российских процессорах», также ими интересовались и другие крупные структуры.
Для обеспечения суверенитета Индия готова инвестировать $15 млрд в строительство трех заводов, производящих 50 тысяч полупроводниковых пластин в месяц, – и это на страну с населением в 1,4 млрд человек. Возможно ли в принципе догнать компании, которые уже сегодня способны производить технику нанометровой точности, если даже крупнейшие из «догоняющих» вынуждены инвестировать десятки миллиардов долларов? Какой объем инвестиций и какие технологические партнерства могут потребоваться для обеспечения полного суверенитета?
Технологическая гонка вооружений способствует нарастанию геополитической напряженности, а протекционизм и торговые войны разрушают основы глобальной экономической интеграции. В начале 2024 года Нигер, Мали и Буркина-Фасо приняли решение о выходе из Экономического сообщества стран Западной Африки – регионального африканского союза. Если подобные инициативы продолжатся, то начавшись с менее развитых регионов, фрагментация мира перейдет в формирование новых региональных альянсов и партнерств по интересам.
Вероятно, формальные и неформальные геоэкономические и геополитические кластеры сформируются вокруг региональных лидеров – США, ЕС, России и Китая. Внутри альянсов по мере углубления экономической и технологической интеграции будут развиваться собственные институты, нормы регулирования и системы безопасности. Коллективный потенциал технологий позволит странам-участницам альянсов получить значительные экономические и социальные выгоды, особенно для государств, не входящих в список технологических лидеров. Отказываясь от интеграции, государства станут аутсайдерами, ожидающими принудительного поглощения одним из альянсов, – по остаточному принципу.
Тогда как связи между самими альянсами будут разрываться из-за растущей политической напряженности, формирования макрорегиональной идентичности, конкурирующих нарративов и ценностей. А принятие специфических технологических стандартов и платформ только укрепит фрагментацию цифрового пространства. В такой геополитической ситуации возникнет вопрос о дееспособности международных организаций – вполне возможно, что они тоже фрагментируются.
Противоречия между альянсами могут перерасти в открытое геополитическое и военное противостояние – на земле, в космосе и киберпространстве, а кибератаки, информационные и экономические войны станут рутинным инструментом борьбы между блоками. В таком сценарии внутри альянсов образуются собственные экономики и технологические стеки, а взаимодействие между макрорегионами ограничится критически важными сферами и согласованием правил игры.
Возможный сценарий «КиберООН»
Полная цифровизация + Глобализация
2026 год – Создаются новые институты глобального управления для координации политики в ключевых сферах.
Геополитические, военные и социальные конфликты препятствуют решению глобальных проблем – бедности, пандемий, изменения климата, социальных и гуманитарных кризисов. Неспособность бороться с ними на локальном уровне и стремительное формирование альтернативных финансовых инфраструктур, неподконтрольных правительствам, заставляют государства расширять научное и технологическое сотрудничество, особенно на фоне общего врага – растущей с каждым годом глобальной угрозы киберпреступности и кибертерроризма. Без взаимодействия между правоохранительными органами разных стран невозможно эффективно расследовать киберпреступления, привлекая злоумышленников к ответственности.
2028 год – Формируются глобальные государственные платформы и экосистемы.
2029 год – Глобальные стандарты и протоколы обеспечивают бесшовную совместимость национальных систем.
Отсутствие единых подходов к регулированию интернета и расследованию киберпреступлений ограничивает эффективность национальных инициатив. Например, Общий регламент ЕС по защите данных (GDPR) распространялся на весь Евросоюз, но при использовании интернета в других юрисдикциях его граждане фактически имеют более низкий уровень защиты. В сфере политического влияния технологических лидеров появляются наднациональные регуляторы и координаторы различных силовых структур, занимающихся вопросами цифровых преступлений: Китая – в Азии, России – на постсоветском пространстве, США – в Северной Америке и Бразилии – в Южной Америке.
Мегарегуляторы интернета позволяют выработать общие подходы к созданию и распространению информации, единые протоколы реагирования и полицию, координирующую национальные правоохранительные органы, а самое главное – единую информационную среду. Отдельные государства теряют рычаги влияния на интернет, подчиняясь региональным регламентам и стандартам.
2032 год – Формируется полицентричный мировой порядок с распределенной системой глобального управления.
Для предотвращения угроз, координации подходов в области распространения контента и защиты граждан всего мира на уровне ООН создают специализированный орган. Объединение, раньше казавшееся невозможным, происходит перед лицом единой угрозы – глобальной киберпреступности и кибертерроризма. Эта наднациональная структура копирует большинство органов ООН, включая главные – генеральную ассамблею, совет безопасности и международный суд, а также специализированные инициативы: программу устранения цифрового неравенства, всемирные организации киберздравоохранения (аналог ВОЗ) и сохранения кибернаследия (аналог ЮНЕСКО).
Международные организации в отдельных сферах фактически приобретают функции мирового правительства. Большинство стран добровольно передают часть суверенитета глобальным структурам, взамен получая гарантии безопасности и возможность участия в единой среде без ограничений на перемещения людей, капиталов и идей.
