Если не появятся способы фильтровать информацию и отделять правду от лжи, то мы перейдем в мир «постправды 2.0» с таким уровнем дезинформации и манипуляции, что вообще перестанем верить чему-либо. В какой эхо-камере вы находитесь сегодня? Вы уверены, что ваша позиция по любому актуальному вопросу – именно ваша, а не эхо от стен информационного пузыря, в который вас посадили рекомендательные алгоритмы?

Алгоритмы усваивают, что человеку нравится, и поставляют ему контент, в котором дискуссия может быть однобокой, а неприятные пользователю точки зрения не подсвечиваются, если корпорации в этом не заинтересованы. Генеративный искусственный интеллект может значительно ухудшить эту ситуацию: неограниченные объемы качественного контента будут создавать под конкретного человека, его взгляды и вкусы.

К примеру, как будет работать производство и распространение фильмов и сериалов в будущем?

1. Контент будет персонализированным.

Десятки макроаудиторий получат свою версию условного «человека-паука». Для республиканцев он будет хранить и носить огнестрельное оружие, подтверждая святость Второй поправки к Конституции США. Для демократов – курить легализованную марихуану, для феминисток – яростно отстаивать гражданские права женщин, для религиозных людей – руководствоваться словом Божьим, для любителей заговоров – наматывать паутину на вышки 5G. И все это в десятках разных версий одного фильма.

2. Контент будут локализовать сразу в момент производства.

В китайской версии будет играть один актер, в европейской – другой, в американской – третий (с поправкой на требуемый цвет кожи и принадлежность к актуальным меньшинствам). Кроме разных актеров, сделают акцент и на культурные ценности: в Канаде у человека-паука будет нетрадиционная сексуальная ориентация, а в России он станет отцом-патриархом семейства. Кроме того, контент будет производиться сразу на целевых языках – без необходимости дубляжа, идеально синхронизируясь с движениями губ персонажей.

3. Фильм будет выходить сразу для всех возрастных аудиторий.

Несмотря на основную сюжетную линию, контент 6+ будет отличаться от 18+ диалогами, второстепенными персонажами, наличием и детализацией любовных сцен.

Компания Netflix добавила генеративный искусственный интеллект к числу конкурентных рисков в годовом отчете за 2023 год со следующей формулировкой: «Если наши конкуренты получат преимущество за счет использования таких технологий, то это может отрицательно сказаться на нашей способности эффективно конкурировать и результатах нашей деятельности». В 4-м квартале 2023 года количество подписчиков студии перевалило за 260 млн, и необходимо идти в ногу со временем, чтобы не только их удерживать, но и продолжать наращивать пользовательскую базу.

Уже сейчас адаптивная система рекомендаций от Netflix учитывает действия пользователя на сайте в реальном времени для составления наиболее релевантной панели рекомендаций. Новые пользователи Netflix обычно тратят около часа на просмотр возможных вариантов, а действующие рекомендательные системы сокращают это время до 17-ти минут. Контент будет становиться все более гиперкастомизированным, пока каждый из нас не получит свой персональный видеопоток. В зависимости от профиля зрителя, сценарий и видеоряд будут генерировать на лету. Мы получим бесконечные персональные сериалы с учетом обратной связи от зрителя на любую тему. Добро пожаловать в эхо-камеру от Netflix!

Известные актеры перестанут сниматься и начнут лицензировать свой образ. Сама профессия станет менее востребованной, так как для «съемок» нужны будут узнаваемые люди или виртуальные аватары – бренды с миллионами подписчиков. Дорога к славе через Голливуд со временем закроется и для актеров, и для сценаристов. Зато понадобятся креативные директора – для валидации новых идей, продюсеры – для извлечения денег из инвесторов и менеджеры – для запуска и проработки многочисленных субфраншиз.

Появятся люди, живущие в сформированных специально под них информационных пузырях. Их восприимчивость к манипуляциям со стороны заинтересованных лиц и владельцев алгоритмов значительно повысится. В результате общество стремительно атомизируется на фоне усиления информационных пузырей, новых цифровых и социальных разрывов, а также поляризации сторонников и противников повсеместного внедрения ИИ.

Например, крупное СМИ о криптовалютах (100 тысяч подписчиков) со ссылкой на твит трейдера (43,9 тысяч подписчиков), ссылающегося на ChatGPT (обученный на том, что СМИ и трейдеры писали в интернете), заявляет, что «биткоин может подорожать до $5 млн к 2050 году». Вот круг и замкнулся! Мы начинаем принимать финансовые решения, опираясь на авторитетные алгоритмы, в основе которых лежат неавторитетные данные. В ближайшем будущем количество синтетических (созданных не человеком, а алгоритмами) данных вырастет беспрецедентно.

Гиперперсонализированный контент может привести к кластеризации культуры и изменениям в потреблении медиа. Галлюцинации и ошибки искусственного интеллекта могут привести к распространению фактически некорректных новостей и нарративов, усиливая дальнейшую сегментацию и поляризацию общества. Даже сами предпочтения людей изменятся в зависимости от их отношения к искусственному интеллекту. Вместо выбора производителей контента, люди могут сместить фокус в сторону библиотек моделей ИИ. Уже сейчас некоторые отказываются потреблять контент, созданный с минимальным участием человека. Все это, кстати, может сделать пиратство крайне затруднительным. Пиратить придется не контент, а модели для его производства.

Принимаемые искусственным интеллектом решения сильно зависят от того, насколько качественный датасет использовали при его обучении и как он был размечен. В некоторых случаях манипуляция с датасетом может привести к принятию искусственным интеллектом решений, нужных злоумышленнику, но не предусмотренных разработчиком модели. Таким образом можно будет влиять на принятие решений через создание данных, приводящих к неправильным выводам, а также через уязвимости в самом алгоритме.

Уже практически сложился отдельный вид спорта, в котором люди по всему миру соревнуются, пытаясь заставить чат-ботов выдать ответы, выходящие за рамки этических ограничений. Манипулировать принятием решения можно будет, как и прежде, через отсылку к авторитету, только таким авторитетом в умах обывателей станет уже не человек, а искусственный интеллект: «ИИ рекомендовал сократить выплаты», «ИИ рекомендовал повысить налоги», «ИИ признал Василия Пупкина виновным во всех смертных грехах», – это снимет ответственность с человека и многим развяжет руки.

Мы можем оказаться в мире с миллиардами субъективных реальностей, где каждый из нас заперт в персональном информационном пузыре и его «правда» – единственная. В этом мире каждый сможет проживать сразу несколько ролей и цифровых альтер-эго, борясь с последствиями такого множественного «я». А наш жизненный опыт будет отличаться настолько, что мы окончательно перестанем понимать друг друга.

Современные корпорации стандартизировали наши способы общаться, получать признание, работать и развлекаться. Корпорации завтрашнего дня стандартизируют нашу любовь, ненависть и сценарии нашей жизни, то есть окончательно унифицируют нас самих. Компании, владеющие алгоритмами, смогут влиять на формирование универсальных подходов человечества к любым вопросам, зашивая свои коммерческие интересы в стандарты поведения.

ChatGPT и аналоги стандартизируют нашу жизнь, давая «рецепт успеха» и ту самую долгожданную кнопку «бабло». Многие вопросы людей повторяются: «Как стать счастливым? Как заработать много денег? Как вложить $100 с максимальным возвратом? Как найти свою любовь? Какой бизнес начать – автомойку или салон красоты? Как сварить яйцо вкрутую?» Если на эти типовые вопросы давать полезные, но стандартные ответы, то пользователи начнут действовать эффективно, но по стандартным схемам. У вас появится книга рецептов на все случаи жизни. Но и у всех вокруг появится точно такая же книга.

Так уж устроен наш мозг, что он старается меньше напрягаться, чтобы не тратить калории. С универсальным ответчиком на все вопросы у нас будет все меньше желания думать самостоятельно. Люди, использующие роботов, сами добровольно станут роботами, живущими по алгоритмам. Но при этом нестандартное, неожиданное, неочевидное станет цениться еще больше.