Один из аргументов в пользу того, чтобы позволить технологиям продолжать действовать в подобном ключе, – эти данные смотрят не человеческими глазами. До 2017 года серверы Google читали входящие письма пользователей, чтобы предлагать персонализированную рекламу. Разумеется, ваши письма читал не человек, а алгоритм. Тем не менее это не очень приятное чувство. Эрик Шмидт, исполнительный директор Google, сказал: «Политика Google заключается в том, чтобы подойти к этой неприятной линии и не пересечь ее». Однако недавнее решение компании перестать читать электронные письма пользователей намекает на то, что, возможно, они поняли, что перешли эту черту.
Ранее Google защищала свою практику чтения писем пользователей с помощью такого аргумента: «Так же, как и отправитель делового письма коллеге, не удивится, если его письмо откроет ассистент получателя, люди, которые сегодня пользуются электронными письмами, не должны удивляться, что их письма обрабатываются провайдером электронных систем связи в процессе доставки». Однако логика этого аргумента нарушена. Вы же не рассчитываете на то, что почтовый работник станет читать ваши письма, прежде чем их доставить. А если он прочтет что-то, кроме адреса, вы, вероятно, будете несколько огорчены. Поэтому мы должны быть удивлены и расстроены тем, что содержимое наших электронных писем прочитывается в процессе доставки. Пока ИИ становится все лучше и лучше, нам стоит больше беспокоиться по поводу этих нечеловеческих глаз, читающих нашу почту.
Одна компания попыталась выделиться на фоне других именно в плане уважительного отношения к частной жизни своих пользователей. Заявление о конфиденциальности Apple гласит:
«Продукты Apple разработаны для того, чтобы делать удивительные вещи. А также для того, чтобы защищать вашу приватность.
В Apple мы верим, что каждый человек имеет неотъемлемое право на частную жизнь.
Так много вашей личной информации – информации, которую вы имеете право скрывать, – хранится на ваших устройствах Apple.
Ваше сердцебиение после пробежки. Какие новости вы читаете в первую очередь. Где вы купили ваш последний кофе. Какие сайты посещаете. Кому вы звоните или пишете.
Каждый продукт Apple разработан так, чтобы защищать эту информацию. И чтобы дать вам выбрать, чем вы делитесь и с кем.
Мы не раз доказывали, что ради великих вещей необязательно жертвовать приватностью и безопасностью. Наоборот, мы их поддерживаем».
В поддержку своих сильных заявлений о конфиденциальности Apple ответила отказом на десятки запросов на предоставление доступа к данным, хранящимся на защищенных паролями устройствах Apple, от правительства США. Даже в случае, когда одно из этих устройств принадлежало террористу. За это я им аплодирую.
Однако когда речь заходила о выборе между приватностью пользователя и прибылью, Apple поступала не так добродетельно. В феврале 2018 года для соблюдения китайских законов о данных все данные пользователей iCloud на материковом Китае были перемещены на серверы компании, принадлежащей китайскому правительству. Условия Apple были изменены для того, чтобы открыть этой компании доступ к данным.
Это не первый случай, когда Apple подчинилась требованиям Китая. В 2017 году программы VPN, позволяющие получать доступ к сайтам, заблокированным в Китае, были удалены из App Store на территории страны. Очевидно, что Apple уступает китайскому правительству, чтобы не терять столь ценный рынок. Для сравнения, компания Google отказала правительству Китая в том, чтобы применять цензуру к поисковым запросам. В результате Google потеряла большую долю на этом рынке. В отличие от Apple, Google можно похвалить за смелый отказ и выбор в пользу принципов, а не доходов.
Вероятно, самая тревожная угроза нашей частной жизни в 2062 году – это социальная кредитная рейтинговая система, которую разрабатывают в Китае. К 2020 году Китай планирует собрать всю информацию о компаниях и гражданах, доступную в Сети, в одном хранилище, а затем оценит их по критерию благонадежности. Конечная цель – «поощрить благонадежных и наказать неблагонадежных… [так, чтобы] достоинство стало распространенной общественной ценностью». Официальные документы об этой инициативе содержат мало конкретики, однако подразумевают, что «неблагонадежные» будут наказаны с помощью ограничений в сфере профессиональной деятельности, путешествий, проживания и финансовых операций.
Прошедшее недавно тестовое применение не слишком помогло развеять опасения. Один из самых заметных пробных проектов – Sesame Credit – кредитная рейтинговая схема, запущенная компанией Alibaba. В то время как на Amazon содержится 310 миллионов учетных записей клиентов, Alibaba имеет почти полмиллиарда пользователей ежемесячно. Через нее проходит больше одиннадцати процентов всех розничных продаж в Китае. Детали того, как рассчитывается кредитный рейтинг, неизвестны. Однако он учитывает пять факторов: покупки, сделанные с телефона компании или платежной онлайн-платформы Alipay, личную информацию, своевременность оплаты счетов, своевременность выплат по кредитной карте, а также друзей. Лучше не иметь неблагонадежных друзей!
На сегодняшний день эта схема действует скорее как пряник, нежели как кнут. Например, люди с хорошим рейтингом могут бронировать номера в отелях и велосипеды без внесения залога. Какое-то время они могли пользоваться приоритетной полосой в аэропорту Пекина. Самый большой сервис знакомств в Китае также рекламирует людей с хорошим рейтингом. Однако Китай объявил, что с мая 2018 года людям с плохим рейтингом нельзя будет пользоваться поездами и самолетами. Потенциал для вредного использования этой системы велик, а Китай уж точно не самая обеспокоенная правами человека страна.