ИИ следит за тобой

В 2062 году одной из главных проблем станет защита тайны частной жизни. Журнал The Economist установил, что только Facebook просмотрел, сохранил и может распознать 1,2 миллиарда разных лиц. Задумайтесь об этом на секунду. Это практически одна шестая всех людей на планете. Через несколько десятков лет, скорее всего, будет существовать база, стремящаяся к тому, чтобы хранить данные о каждом лице.

Даже наши домашние животные в опасности: в октябре 2017 года «Google Фото» начал распознавать и определять кошек и собак. Теперь, когда Google видит вашего пуделя, он готов искать вас неподалеку. В следующий раз, когда будете отмечать друга или его домашнего питомца в социальных сетях, помните, что выдаете личность не только животного, но и своего друга.

Кремниевая долина тоже вполне представляет себе не только кто вы такой, но и как вы проголосуете. А также такую личную информацию, как, например, ваша сексуальная ориентация. В 2017 году команда из Стэнфордского университета продемонстрировала, что способна спрогнозировать ваш голос на выборах, просто используя изображения из Google Street View. Даже простой лайк на Facebook может предоставить достаточно информации, чтобы предсказать, как человек будет голосовать. Другая команда из Стэнфордского университета в ответ заявила, что научила алгоритм машинного обучения различать гомосексуальных и гетеросексуальных людей по лицам.

Технологические компании мало перед чем остановятся в процессе сбора данных. Брюс Шнайер, эксперт по компьютерной безопасности, заметил, что «наблюдение – бизнес-модель интернета». Эл Гор сформулировал мысль еще короче и назвал это «экономикой преследования». Почему Google считает, что может отслеживать ваш смартфон с Android, когда вы выключаете геолокацию и даже вытаскиваете SIM-карту? Почему Uber считает, что это нормально – следить за вашим местоположением через пять минут после окончания поездки? Почему Pokemon Go считала, что у нее должен быть доступ ко всей учетной записи Google на iOS, включая электронную почту и историю браузера?

Разумеется, границы частной жизни нарушают не только технологические компании. Государства тоже используют новые технологии, чтобы за нами следить. Правительство американского штата Делавэр, например, устанавливает «умные» камеры на полицейские машины, чтобы обнаруживать транспортные средства беглецов, похищенных детей или пропавших взрослых. Подобное использование сейчас может быть вполне безобидным, но что случится, когда государство начнет использовать те же технологии для отслеживания политических активистов или беженцев? В Китае полиция Чжэнчжоу начала тестировать очки с функцией распознавания лиц. Эти очки могут обработать 100 000 лиц за секунду. При использовании такой технологии в толпе демонстрантов не спрячешься.

Связанные данные

Даже в том случае, если компании ответственно анонимизируют собранные данные, они могут ошибаться. Одна из проблем – связанные данные с разных ресурсов. Сам по себе набор данных может не выдавать ничего приватного. Однако при сочетании двух или более наборов данных частная жизнь может оказаться под угрозой. Хороший пример – случай Netflix.

В 2006 году Netflix запустил конкурс на миллион долларов, чтобы разработать лучшую систему рекомендации фильмов. Компания опубликовала 100 480 507 оценок от 480 189 пользователей, которые они поставили 17 770 разным фильмам. Для того чтобы защитить приватность пользователей, Netflix тщательно их анонимизировала, удаляя персональные данные и заменяя имена случайными числами. Однако не сработало. Исследователи Техасского университета в Остине смогли идентифицировать пользователей из набора данных Netflix, сопоставляя их с оценками и отметками времени в интернет-базе данных фильмов (IMDb). Получается, если удалить из набора данных самые популярные фильмы, которые нравятся всем, можно много кого идентифицировать благодаря комбинациям менее популярных фильмов, которые им нравятся.

Netflix могла бы усложнить задачу распознавания пользователей, удалив подразделы данных, изменив временны́е отметки или внедрив туда намеренные ошибки. Однако даже частичные данные, или измененные, или данные с ошибкой ненамного осложняют процесс идентификации некоторых пользователей. Небольшого количества неанонимных сведений оказалось достаточно, чтобы свести на нет анонимизацию солидного набора данных Netflix.

Правительства хорошо осведомлены о возможностях связанных данных. В 2015 году в Австралии вступил в силу закон об удержании данных. Он обязывает телекоммуникационные компании удерживать определенные виды метаданных. Для телефонных звонков – это номер входящего вызова, местоположение устройства и уникальный идентификационный номер, присвоенный каждому мобильному телефону. Для электронных писем – это адрес отправителя, размер и дата сообщения.

С этими метаданными мало что можно сделать, так как они не включают в себя содержание звонка или электронного письма. Однако при сочетании их с другими данными государственные органы могут многое узнать о том, с кем вы общаетесь и чем занимаетесь.

Частная жизнь офлайн

Даже когда мы не находимся в Сети, за нами все равно все больше следят. Одна частная американская компания Vigilant Solutions имеет в своем распоряжении более 2,2 миллиарда фотографий номеров машин и мест. Каждый месяц она фотографирует и сохраняет около 80 миллионов записей. Vigilant Solutions продает эти данные тысячам силовых структур по всей стране, которые хотят кого-либо отследить. Сейчас эта компания имеет контракт с Департаментом внутренней безопасности, чтобы предоставлять им услугу отслеживания автомобильных номеров в реальном времени.

Неудивительно, что за вашими покупками тоже тщательно следят. Google, например, собирает маркетинговые данные с помощью AdWords, Google Analytics и DoubleClick Search и геоданных с мобильных телефонов, чтобы узнать, когда люди посещают магазины. Каждый год они отслеживают миллиарды посещений магазинов, после того как пользователи кликнули на конкретную рекламу. Google также начал сопоставлять походы в магазин с данными о покупках. Их «третьи стороны партнерства» уже фиксируют практически семьдесят процентов всех транзакций с кредитных и дебетовых карт в США. К 2062 году мы можем ожидать, что такие компании, как Google, будут отслеживать наши покупки онлайн и офлайн и что будет существовать база данных, в которую попадет каждый потраченный нами доллар.

Как только города станут «умнее», будут собирать и анализировать данные своих жителей, мы можем рассчитывать на то, что наблюдение вне Сети станет еще более детальным. Не стать жертвой этого сбора данных не получится. За всеми людьми, занимающимися своими делами, будет установлена слежка. Например, в 2013-м обнаружилось, что «умные мусорные баки» в Лондоне отслеживали мобильные телефоны. Кевах Мемари, CEO компании, которая изготовила эти баки, вполне откровенно высказался о намерениях своей фирмы: «С нашей точки зрения, это открытая информация, ее может купить любой. Лондон – один из самых наблюдаемых городов мира… Пока мы не указываем имя и домашний адрес, это легально».

Его аргумент имеет любопытную логику: по той причине, что другие следят за людьми, мы тоже можем это делать. После скандала в СМИ «умные баки» заставили перестать отслеживать телефоны – пока. Однако к 2062 году отслеживать нас будут не только мусорные баки. За нами будет следить весь город.