На пути к паноптикону
Ты просто еще один клон, Так что сбрось свою кожу.
The Kovenant «Mannequin», альбом «Animatronik», студия Nuclear Blast, 1999
В моем детстве самыми ходовыми были дискеты 3,5 дюйма (на них помещалось 1,44 мегабайта данных). Пятидюймовые дискеты (до 1200 килобайт данных) уже тогда казались мне архаичными, а про перфоленту и перфокарты я слышал только от старших товарищей, обычно в роговых очках с толстыми линзами. Прошло всего несколько десятилетий, и человечество преодолело серьезный рубеж.
По мнению некоторых экспертов, в том числе из американской военно-промышленной компании Northrop Grumman, где-то в середине 2010-х мы перешли в так называемую «зеттабайтную эру», когда объем данных растет даже не в цифрах, а в математических порядках. По некоторым оценкам, к 2025 году совокупные объемы генерируемых, потребляемых, копируемых и хранимых данных должны составлять около 180 зеттабайт, но ученые уже предвещают, что в течение десятилетия нам придется измерять данные во всем мире йоттабайтами.
Бизнес много лет повторял мантру о том, что «данные – это новая нефть», но лишь недавно пришло осознание, что речь не о бесконечном складировании данных, чтобы чахнуть над ними как Кощей. Они дают возможность принимать решения быстрее, точнее и дешевле, чем конкуренты. Сегодня собраны огромные массивы данных и появились алгоритмы, которые позволяют извлекать из них решения. От их корректного использования зависит способность компании к адаптации.
С внедрением современных технологий появляются новые формы и виды данных: снимки или сканы лица и сетчатки глаза, записи голоса, видеозаписи походки и иных рутинных движений, отпечатки пальцев, ДНК и другие виды биометрии. Данные становятся фундаментом множества технологий, внедрение которых улучшает методы и инструменты для работы с ними, что ускоряет появление новых данных. Благодаря им становятся возможными новые бизнес-процессы и появляется необходимость в новых партнерствах.
Данные нужны, чтобы точнее оценивать динамику различных параметров предприятия и эффект от внедряемых инициатив в реальном времени: коэффициент удержания, стоимость покупателя, ключевые показатели эффективности можно наблюдать на протяжении всего существования предприятия. Данные также позволяют бизнесу мониторить особенно важные или рискованные сферы деятельности. Наконец, они помогают разрабатывать и совершенствовать продукты и сервисы, адаптируя их под потребителя для повышения конкурентоспособности компании и выхода на новые рынки. Поэтому данные собираются повсюду – их легко монетизировать и производить: даже информация о том, в какую видеоигру вы играете, может пригодиться при анализе поведения.
В опубликованном в 2022 году патенте Bank of America описана система, обрабатывающая данные о клиенте (из базы банка или внешних источников, например социальных сетей) и создающая на их основе персонализированные по содержанию и времени отправки уведомления. Алгоритм также способен корректировать свою работу, анализируя историю реакций пользователя на уведомления: стал ли он больше или меньше пользоваться приложением, игнорирует ли оповещения или кликает на них и т. п. То есть даже если пользователь не взаимодействует с системой, он все равно кормит ее данными об эффективности подходов.
Безусловно, существуют и более глубокие модели персонализации, которые возможны благодаря обилию данных и достижениям в области алгоритмов. Например, одни компании предлагают разные версии одного и того же продукта в зависимости от поведения клиента, а другие – адаптируют кредитные ставки и стратегии управления активами согласно клиентским предпочтениям.
Скорость увеличения объема данных становится постоянным вызовом для техногигантов. С ростом объемов и видов данных потребуется новая инфраструктура и другие подходы к их обработке, нормализации и анализу. С каждым новым видом данных усложняются алгоритмы их анализа и увеличиваются требования к вычислительным мощностям и пропускной способности оборудования и сетей. Операции с этими данными требуют постройки и последующей поддержки центров обработки, крупнейшие из которых уже потребляют столько электроэнергии, что хватило бы на целый город, а также аппаратуры и программного обеспечения для их функционирования.
Одно из перспективных направлений в этой области связано с синтетическими данными, созданными искусственно, а не в результате реальных событий. Они генерируются с помощью компьютерных алгоритмов или моделирования, что позволяет получать столько данных, сколько требуется. Кроме того, это помогает создавать данные, которые опасно или затруднительно собирать в реальности. Как скоро мы достигнем точки, когда машины смогут сами учить друг друга, обходясь без услуг жителей Ганы или Кении по разметке датасетов?
Разумеется, с большими объемами и разнообразием данных приходят и новые угрозы. Предпочтения, психологические особенности, доходы и иные элементы персональной тайны могут использовать злоумышленники для подбора ключей к наиболее уязвимым или богатым гражданам. При достаточной глубине анализа взломщик может скорректировать свой подход под конкретного человека. И чем больше логинов, паролей и личной информации о человеке есть на руках у преступника, тем проще взломать его аккаунты или создать качественную подделку документов. Поэтому каждая новая утечка данных от корпораций пополняет арсенал хакеров. А получив доступ к данным клиентов организации, преступники не всегда атакуют самих людей – нередко они угрожают компании, у которой произошла утечка, опубликовать эту информацию и требуют выкуп.
Данные открывают возможности для принципиально новых атак. Например, глубокий анализ значительных объемов утекших или опубликованных данных может позволить получить конфиденциальную информацию, которая вовсе не подвергалась утечке. Если будет украден достаточный объем индустриальных данных «умного» завода, то злоумышленники получат производственные секреты, включая чертежи, параметры товаров и сырья, последовательность сборки на конвейере и т. д.
Наконец, большой объем генетических и медицинских данных позволяет разрабатывать штаммы бактерий, вирусов или грибков, которые будут вредить только определенной группе людей (например, отобранной по этническому признаку) либо атаковать конкретные сорта растений и породы животных, связанные с рыночными конкурентами или продовольственной безопасностью неприятеля.
В 2021 году компания Ford подала заявку на регистрацию патента, описывающего способы и технологии возврата автомобиля законному владельцу. Так, в случае просрочки по автокредиту система заблокирует пилотируемый автомобиль, а беспилотный – направит на парковку банка. В патенте обозначены точки взаимодействия с банками, страховыми компаниями, правоохранительными органами, коллекторскими агентствами и медицинскими организациями. В подобной системе заинтересован вовсе не среднестатистический водитель, а именно эти организации, получающие дополнительную степень надежности операций и транзакций. Учитывая объемы информации, которой будет обмениваться эта система, Ford получает не только новых партнеров в лице, скажем, страховых компаний, но и новую роль: агрегатора данных о финансовых операциях в индустрии автомобилей.
Не нужно быть пророком, чтобы предсказать, что хакеры воспользуются этой «системой восстановления в имущественных правах» для угона автомобилей, и за взломом банка или лизинговой компании последует не просто утечка персональных данных клиентов, а массовый угон всех автомобилей, находящихся в залоге или лизинге. Совсем непонятно, как эта инновация повлияет на безопасность автовладельцев и пассажиров. Будет ли этот функционал использоваться для совершения преступлений против личности? Увидел за рулем симпатичную девушку на светофоре – отправил ее на точку эвакуации, а сам туда же – с букетом цветов. Кто-то подрезал на дороге – отправил его на свалку. Партнеры не исполняют обязательства – отправил их в лес. Вероятно, подобные системы будут интегрированы с правоохранительными органами, хотя если вспомнить сюжеты голливудских фильмов про полицейских будущего, то невольно представляется гипотетический сценарий, в котором такой автомобиль сам отвезет владельца в тюрьму, а пока он едет, судья вынесет приговор онлайн.
Однако инновации порождают не только новые риски, но и новые рынки. Появится рынок страхования ущерба от таких систем, например, если «восстанавливаемый в имущественных правах» автомобиль протаранил двери закрытого гаража. Автовладельцы будут покупать серые прошивки для автомобилей, хакерские автосервисы – их устанавливать, а Ford – платить юристам. Работы хватит всем! Если смотреть еще шире, то собранные данные порождают новые рынки: самих данных как товара, инфраструктурных решений для их хранения и обработки, услуг по их обработке и анализу и, наконец, безопасности данных.
Существуют компании, у которых доступ к данным критичен для их бизнес-моделей. Например, Uber использует данные не только для предсказания спроса на такси с привязкой к геолокации, но и чтобы следить за работниками: не нарушают ли они правила дорожного движения и не подрабатывают ли на стороне у конкурентов.
Визитной карточкой TikTok является рекомендательная система, механизмы которой до сих пор скрыты. Именно благодаря продвинутым рекомендательным алгоритмам, уже к 2021 году сервис набрал более миллиарда активных пользователей – всего за пять лет после запуска. Вся система направлена на работу с пользовательским контентом, усиливая вовлечение как его создателей, так и потребителей.
Один из главных элементов бизнес-модели китайского техногиганта Tencent – грамотное включение управления данными в свои процессы. Собирая сведения о пользователях на своей платформе, компания способна принять решение об инвестировании в тот или иной бизнес, продукты которого впоследствии выводятся в топ поисковой выдачи и рекомендательных алгоритмов внутри многофункциональной платформы WeChat.
Компания Palantir, основанная создателем PayPal Питером Тилем и на конец 2023 года оцениваемая в $38 млрд, предоставляет систему сбора, упорядочивания и анализа данных, применяемую силовыми структурами США. Известно, что система использует алгоритмы машинного обучения в антитеррористических операциях, а также помогает странам-сателлитам США в различных военных и политических конфликтах.
При этом даже международному лидеру порой не удается переломить традиционные модели, особенно если неэффективность и непрозрачность являются основой бизнеса других игроков. В 2016 году главный логистический оператор A.P. Moller-Maersk и крупнейшая ИТ-компания IBM создали систему TradeLens для оцифровки документооборота на базе блокчейна. К системе, в которой еженедельно обрабатывалось около 100 тысяч документов и более 13 миллионов событий, было подключено более 150 компаний – от операторов портов до логистических подрядчиков.
Несмотря на колоссальные возможности обоих партнеров по продвижению нового подхода к документообороту, далеко не все игроки считали выгодным открывать о себе информацию (а может, просто не хотели подчиняться новой очевидной монополии), и в конце 2022 года TradeLens была закрыта. Тем не менее, если бы внедрение этой системы прошло успешно, то компания A.P. Moller-Maersk из грузоперевозчика превратилась бы в глобального агрегатора данных в области логистики, торговли и экономики, что позволило бы ей торговать этими данными и строить новые сервисы.
Важный фактор «переизобретения себя» – корректный анализ точек роста. Компания Илона Маска SpaceX разрабатывает ракеты-носители с возможностью многоразового использования для удешевления доставок на орбиту Земли. Проект Hyperloop и покупка Илоном Маском соцсети Twitter с последующим ребрендингом в X подразумевают интерес к наземной логистике и медиа-платформам, а присутствие в группе компании Starlink гарантирует частную спутниковую инфраструктуру. SpaceX из компании, занимающейся исключительно космическими технологиями, превращается в корпорацию, которой принадлежит доля рынка телекоммуникаций, а Илон Маск начинает контролировать сразу несколько видов потребительских взаимодействий: перевозку пассажиров и грузов, средства связи и даже формирование общественных настроений. После покупки Twitter Маск дал сотрудникам год на то, чтобы платформа вышла на рынок банкинга и финансовых услуг.
Казалось бы, вывод очевиден: бизнес должен меняться в соответствии с клиентскими потребностями, которые изменяются под влиянием перемен и открывающихся возможностей. Но как угадать, что будет востребовано у клиентов завтра? Телеком-операторы продавали голосовую связь, а когда мы стали звонить друг другу в мессенджерах, начали торговать доступом в интернет. Лавинообразный рост телефонного спама и утечек персональных данных привел к появлению двух новых продуктов: фильтров от непрошеных звонков и уведомлений о рисках. Например, телеком-оператор МТС предлагает сервисы «Защитник», оберегающий от спам-звонков, и «ФинЗащита», позволяющий получить уведомление, если произойдет утечка данных или от имени клиента будет подана заявка на кредит.
Функционал коротких СМС все еще существует, но ими практически никто не пользуется по назначению: папка с сообщениями превратилась в клоаку для СМС-спама и шаблонных уведомлений от оператора связи. Голосовые сообщения в сотовой связи существуют, но они почти бесполезны, потому что прослушивание голосовой почты от телеком-оператора – неприемлемо долгий клиентский путь. Можно позвонить по телефону, но это на крайний случай – если не работает звонок в интернет-мессенджере. Входящий звонок с незнакомого номера – вероятнее всего рекламный или мошеннический.
Электронная почта постепенно движется в сторону склада уведомлений о назначенных встречах и изменениях пароля, а также почтовых рассылок, которые мы не читаем. Телевизор все еще существует, но эфирные каналы отходят на второй план, уступая всему многообразию онлайн-платформ. Наши привычки меняются очень быстро: заказ такси через приложение, домашний стриминг вместо кинотеатра, бизнес-коммуникация через мессенджер, общение с банком через чат-бота, голосовое сообщение вместо звонка и т. д. Сами сообщения, голос и письма никуда не делись, просто старая инфраструктура не смогла адаптироваться под натиском новых форматов.
Что мы продолжим делать и через пять, и через десять лет, но иначе – удобнее, быстрее, специализированнее, в другом месте, иными инструментами? На этот вопрос множество ответов, и каждый правильный ценится на миллиард долларов. Скажем, если завтра мы столкнемся с беспрецедентным уровнем фейковых новостей и повышением уровня недоверия в обществе, могут ли телеком-операторы в своей естественной эволюции стать поставщиками правды?
А может, такими фактчекерами и поставщиками правды могут стать банки? Судите сами: ключевые функции банка – хранение, поиск и верификация информации, а процедуры оценки рисков и сбора данных фигурируют во многих финансовых бизнес-процессах. Так как банкам выгодно благополучие клиента, которое зависит в том числе от принимаемых им решений, то они могут быть заинтересованы в информационной поддержке, особенно когда это касается финансов, карьеры, образования и здоровья.
Таким образом, банковская сфера имеет значительный потенциал и комплекс точек роста в области фактчекинга и медиа. Банки могут разрабатывать сервисы проверки фактов для повышения узнаваемости бренда и поддержания чистоты информационного поля клиентов. Эти же сервисы можно будет использовать для реагирования на инфоповоды в области экономики и финансов. У банков может появиться интерес к инвестициям в соцсети и интернет-медиа, что позволит им получать большой объем новых данных, даст доступ к площадкам для PR и рычаги контроля над распространяемыми в интернете нарративами.
Интернет стал общественным благом: он не просто повышает уровень нашей жизни – без него мы уже не можем нормально существовать. И разрыв в доступе к технологиям (микрочипам, вычислениям, передовым разработкам) сказывается на отдельных странах и целых регионах. При этом мы оказались в мире, где международная коммерческая компания может в одночасье уйти из целой страны, прекратив обслуживание сотен миллионов человек. Даже если она продолжит оказывать услуги, то может исчезнуть возможность за них заплатить, потому что другая компания, которая обеспечивает платежи по кредитным картам, больше не обслуживает эти миллионы людей.
Парадоксальная ситуация: при колоссальном потенциальном влиянии ИИ на человечество, его разработки находятся в руках организаций и структур, которые одномоментно могут принять (самостоятельно или под давлением) решение о том, чтобы одних обслуживать, а других нет. Искусственный интеллект, как суперпрорывная технология, доступен далеко не всем, но это еще полбеды. Куда страшнее то, что он доступен именно тем, кто и так уже контролирует интернет и многократно злоупотреблял нашим доверием. Информация, которую мы получаем, ранжируется и формируется не по степени полезности, а чтобы удержать внимание пользователя в ленте еще на несколько секунд и показать еще немного релевантной рекламы.
Рост объема и детализации данных ведет цивилизацию к паноптикону, в котором возможность наблюдения находится в руках у государств и корпораций, но не у граждан. Из-за подробности и обширности цифрового следа уже сейчас есть люди, которые знают о себе меньше, чем корпорации.