Микроманипуляция

Мы однобоко оцениваем силу воздействия политической агитации на целевую аудиторию. Сами-то мы, как нам кажется, мыслим самостоятельно и не поддаемся на происки манипуляторов, а вот другие – особенно те, кто придерживается иных политических взглядов, – наивны, как малые дети! Наверное, истина кроется где-то посередине.

Мы знаем, что посты в соцсети способны влиять на наши чувства. В 2013 году сотрудники Facebook провели спорный эксперимент: они пытались управлять эмоциями и настроением людей, а для этого подтасовывали публикации в лентах 689 003 пользователей без их ведома и согласия. Они скрыли оптимистичные посты их друзей, а затем повторили тот же фокус с публикациями, в которых преобладала минорная лексика, и стали наблюдать за реакцией ничего не подозревавших участников тайного исследования. Те, кто видел у себя в ленте меньше плохих новостей, и сами писали более радостные посты. Если же от людей прятали хорошие новости, они выбирали слова с негативным оттенком. Вывод: нам кажется, что нашими чувствами никто не может управлять, но, вероятно, мы ошибаемся.

Из описанного в главе “Власть” опыта Эпштейна мы знаем и то, что достаточно правильно расположить страницы в поисковике – и неопределившиеся избиратели отдадут голос нужному кандидату. Из результатов тех самых научных работ, откуда Cambridge Analytica позаимствовала алгоритмы, мы знаем также, что реклама, в которой учитываются индивидуальные особенности адресата, более эффективна.

Сопоставив факты, можно с уверенностью утверждать, что такими способами можно повлиять как на денежные траты людей, так и на их решение во время выборов. Но – и это важно – чтобы принять решение, вы должны еще кое-что знать.

Все, о чем мы говорили, – чистая правда, но на самом деле эффект крайне слабый. Пользователи Facebook, которых ограждали от неприятных новостей, действительно начинали писать более оптимистичные посты. Однако разница не превышала одной десятой процента.

Точно так же в примере с индивидуально ориентированной рекламой интроверты активнее приобретали косметику, если учитывались особенности их характера, но рост продаж был несущественным. Реклама общего назначения обеспечила магазину 31 покупку на тысячу переходов по ссылке. Адресная реклама привлекла 35 клиентов из тысячи человек, кликнувших на нее. Даже пятидесятипроцентный прирост продаж, о котором шла речь выше и в выделенной жирным шрифтом аннотации академической статьи, на деле означал 16 эффективных кликов из тысячи по сравнению с прежними 11.

Да, эти методы работают. Но рекламодатели не загоняют свои слоганы непосредственно в мозг пассивной аудитории. Не такая уж мы легкая добыча. Мы гораздо чаще склонны критически относиться к агитации и пропускать рекламу мимо глаз и ушей, чем хотелось бы тем, кто к нам обращается. В итоге при самой действенной и тонко настроенной рекламной кампании повлиять на целевую аудиторию удастся лишь в самой незначительной степени.

И все-таки даже столь легкие толчки могут сдвинуть равновесие сил на выборах. Если численность населения составляет десятки, а то и сотни миллионов человек, один голос из тысячи – это заметный прирост. И если вспомнить, что Трамп, как сообщил Джейми Бартлетт в английском еженедельнике Spectator, победил в Пенсильвании с перевесом в 44 000 голосов при шести миллионах избирателей, в Висконсине – в 22 000 голосов, а в Мичигане – в 11 000, пожалуй, преимущества менее чем в 1 % будет вполне достаточно.

Вообще-то мы не знаем, в какой степени все это повлияло на выборы президента США. Даже если бы мы располагали информацией в полном объеме, невозможно вернуться в те дни и разобраться в сложнейших причинно-следственных связях, чтобы понять, почему тот или иной человек принял то или иное решение. Что было, то прошло. Для нас важно наше будущее.

Оцените меня

Не забывайте, что интернет в его нынешнем виде приносит пользу нам всем. Любой человек в любой точке мира легко и беспрепятственно, в режиме реального времени подключается к мировым коммуникационным сетям, в его распоряжении богатейший запас накопленных человечеством знаний, он узнает самые свежие новости обо всем, что происходит в разных уголках нашей планеты, и пользуется последними достижениями техники и новейшим программным обеспечением, разработанным частными компаниями и оплаченным за счет рекламы. Мы согласились на условия договора. Бесплатные технологии в обмен на персональные данные и возможность с их помощью влиять на наше мнение и зарабатывать на нас. Плюсы и минусы капитализма в одной бартерной сделке.

Казалось бы, мы должны быть довольны обменом. Вроде ни к чему не придерешься. Но если и так, самое главное – помнить о сопряженных со сбором данных опасностях. Надо понимать, какие риски таят в себе базы данных, даже если не брать в расчет проблемы приватности и потенциальной угрозы демократии – как будто уже одного этого мало. В этой антиутопии есть еще один острый момент. Один из вариантов применения обширных баз данных со множественными перекрестными ссылками показан в популярном сериале “Черное зеркало” на канале Netflix, однако в жизни он тоже реализован. Это система рейтинговой оценки граждан, известная под названием Sesam Credit и взятая на вооружение китайскими властями.

Представьте себе, что вся информация о вас, собранная по крупицам брокерами данных, сконцентрирована в обобщенном рейтинговом показателе. Учтено буквально все. Не только обычные сведения о вас – ваша кредитная история, номер мобильного телефона, адрес, – но и подробности повседневной жизни. Ваши публикации в соцсетях, данные из приложения поиска попутчиков, даже “выписка” с сайта знакомств. На основании досье выводится единый численный показатель от 350 до 950.

Sesame Credit не раскрывает детали расчета “суммарной” оценки, но технический директор компании Ли Инъюнь в интервью изданию пекинской медиагруппы Caixin Media рассказал, о чем, в частности, можно узнать из этих рейтингов: “Например, если кто-то по десять часов в день играет на компьютере, то, скорее всего, этот человек – бездельник. Часто покупают детские подгузники, скорее всего, родители маленьких детей, а они, должно быть, люди ответственные”.

Если вы китаец, то ваш рейтинг – отнюдь не пустой звук. Если вы удостоились более чем 600 баллов, сможете получить специальную кредитную карту. Заслужили больше 666 – в награду вам повысят лимит кредитования. С рейтингом выше 650 баллов можно взять в аренду автомобиль без залога и воспользоваться услугами VIP-зала в пекинском аэропорту. С оценкой выше 750 баллов смело рассчитывайте на ускоренное оформление визы в Европу.

При условии добровольного участия в программе все очень весело и увлекательно. Но к концу 2020 года рейтингование граждан станет всеобщим и обязательным, что отразится буквально на всех сторонах жизни обладателей низких оценок. В государственном документе об этой системе приведены примеры наказаний, которые может понести гражданин, признанный неблагонадежным: “Запрет на выезд за границу, ограничения при покупке… недвижимости, авиабилетов и туров, при бронировании номеров в отелях, имеющих категорию звездности-”. Предупреждается также, что в случае “действий, серьезно подрывающих доверие… коммерческим банкам рекомендуется ограничить предоставление кредитов, услуг страхования и предложение прочих банковских услуг таким гражданам”. Законопослушание одобряется и поощряется. Утрата доверия влечет за собой санкции. Как говорит Рогир Кремерс, ученый из Института Ван Волленховена Лейденского университета, специалист по китайскому праву и госуправлению, “самое подходящее сравнение для этой системы – нежеланное дитя программы – лояльности”.

Не знаю, что хорошего можно сказать о Sesame Credit, но я бы не хотела, чтобы вы жили с ощущением неминуемого конца света. Всегда есть проблески надежды. Каким бы мрачным ни представлялось вам ближайшее будущее, судя по отдельным признакам, ситуация постепенно меняется. Многие аналитики данных и раньше отлично знали об эксплуатации сведений о личной жизни людей и выступали против их использования в корыстных целях. Но до шумихи с Cambridge Analytica эти вопросы не привлекали к себе столь пристального внимания мировой общественности. В начале 2018 года, когда вспыхнул скандал, люди впервые отчетливо увидели, как алгоритмы исподтишка собирают их персональные данные, и признали, что без контроля и регулирования последствия могут быть тяжелыми.

Контроль и регулирование не заставили себя ждать. Для граждан Евросоюза недавно был принят новый нормативно-правовой акт – “Общий регламент защиты данных” (General Data Protection Regulation, GDPR), – согласно которому деятельность брокеров данных во многих отношениях поставлена вне закона. Теоретически они больше не вправе собирать информацию о вас, не имея специальной цели. Не вправе обрабатывать информацию о вас без вашего согласия. И не вправе без вашего ведома собирать информацию о вас в каких-либо иных целях, кроме тех, на которые вы дали согласие. Однако отсюда не следует, что деятельность такого рода прекращается. Во-первых, мы сами, гуляя в интернете, часто игнорируем опубликованные на сайтах правила и условия, поэтому можем незаметно для себя согласиться с ними. Во-вторых, когда данные обрабатываются и передаются главным образом втихую, не так-то просто обнаружить такие действия и применить закон. Нам остается только ждать и наблюдать за ходом событий.

Повезло европейцам, но и в Америке тоже раздаются призывы к регулированию сбора данных. Еще в 2014 году Федеральная комиссия по труду опубликовала отчет о сомнительной деятельности брокеров данных и с тех пор активно выступает за права потребителей. Компания Apple встроила в браузер Safari систему “Умного предотвращения отслеживания” (Intelligent tracking prevention, ITP). То же самое сделал Firefox. Facebook разрывает отношения с брокерами данных. Внедрения обязательной защиты персональных данных добиваются в Аргентине, Бразилии, Южной Корее и многих других странах. Лидирует в этой области Европа, однако мировые тенденции складываются в нужном направлении.

Если данные – это новое золото, то сейчас мы с вами живем на Диком Западе. Впрочем, я смотрю на все это с оптимизмом и думаю, что, по крайней мере, для многих из нас худшее уже позади.

Все же надо держать в уме, что совсем бесплатного сыра не бывает. Пока закон пытается наверстать упущенное, а общественное благо жестко конфликтует с прибылями корпораций, мы должны быть начеку и не поддаваться обманчивому ощущению личной безопасности. Всякий раз, когда мы пользуемся какой-нибудь программой – особенно бесплатной, – мы должны подумать о чьих-либо возможных интересах. Почему это приложение не требует с меня денег? Что на самом деле оно делает? Устраивает ли меня такой обмен? А может, лучше я обойдусь без нее?

Это предостережение актуально не только в виртуальном пространстве, ибо такие расчеты проникают во все без исключения сферы жизни общества. Прогнозирование нашего покупательского поведения – не все, на что способны алгоритмы с базами данных. Они еще и посягают на нашу свободу.