Кремниевая долина переросла породившую ее контркультуру; но не до конца. Все провозглашаемые в ней ценности принадлежат 60-м. Все крупные технологические компании подают себя в качестве инструментов личного освобождения, в точности как проповедовал Стюарт Бранд. Каждый имеет право свободно высказываться в социальных медиа, реализовывать свой интеллектуальный и избирательный потенциал, выражать свою индивидуальность. Телевидение как носитель информации предполагало пассивность зрителя и создавало инертных граждан, а Facebook предполагает вовлеченность, делает граждан сильнее. Благодаря ему подписчики расширяют круг чтения, мыслят самостоятельно, формируют свое собственное мнение.

Какая-то доля истины в этой риторике есть. Есть уголки мира – и некоторые из них даже находятся в Соединенных Штатах, – где Facebook придает гражданам решимости и дает им средство организоваться для сопротивления властям. Но и принимать этот словесный автопортрет Facebook за истину тоже не стоит. Facebook – это хорошо управляемая иерархическая система, а не форум. Она копирует некоторые внешние черты беседы, но это поверхностное сходство.

На самом деле Facebook всегда следит за пользователями, контролирует их, использует их как лабораторных крыс в поведенческих экспериментах. Создавая впечатление, будто она предлагает выбор, Facebook решительно подталкивает пользователей в направлении, которое она полагает наилучшим для них – и которое одновременно формирует наиболее труднопреодолимую зависимость. Эта фальшь очевидна в краткой, хотя и исторической карьере его вдохновителя и руководителя.

Марк Цукерберг – хороший мальчик, однако он хотел быть плохим, ну хотя бы чуть-чуть. Героями его подросткового периода были хакеры в первоначальном смысле слова. Давайте определим этот термин точно. Его кумиры не были злоумышленниками: похитителями чужих данных или кибертеррористами. Жаргон хакерской культуры отводит подобным преступникам название «кракеров». Цукерберг никогда не поклонялся им. В то же время его герои презирали власть в любой ее форме. Они были виртуозами в своем деле, бесконечно изобретательные ковбои от мира технологий, не связывавшие себя условностями традиционного мышления. В лабораториях Массачусетского технологического института в 60-е и 70-е годы они умудрялись нарушать все правила, хоть как-то мешавшие делать такие чудесные вещи ранней компьютерной эпохи, как первые видеоигры или текстовые процессоры. В свободное время они устраивали фантастические розыгрыши, в свою очередь привлекавшие еще больше внимания к их ловкости, – например, поместить живую корову на крышу студенческого общежития в Кембридже, или запустить метеозонд с буквами “MIT” на оболочке прямо из-под футбольного поля посреди матча Гарвард-Йель.

Заклятыми врагами хакеров были бюрократы, управлявшие университетами, корпорациями и государствами. Бюрократы говорили о том, чтобы сделать мир более эффективным, в точности как хакеры. Но на деле они были ограниченными перекладывателями бумажек, яростно защищавшими информацию, которой обладали, даже если эта информация буквально сама просила о распространении. Всякий раз, когда хакеры изобретали способ улучшить жизнь – например, изготавливали коробочку, позволявшую совершать междугородние и международные звонки, или находили команду процессора, способную улучшить работу операционной системы, – бюрократы становились у них на пути, грозя пальчиком. Хакеры устраивали себе развлечение и получали эстетическое удовольствие всякий раз, когда им удавалось перехитрить людей в строгих костюмах.

Когда Цукерберг поступил в Гарвард осенью 2002 года, лучшие дни хакерства давно были в прошлом. Их герои стали старше, о них рассказывали истории, а некоторые так и застыли в своей полуподпольной борьбе с государством. Но Цукерберг хотел делать то же, что делали когда-то они, с тем же безразличием к общепринятым нормам. В средней школе, взяв себе ник Zuck Fader, он взломал защиту, не позволявшую пользователям изменять программное обеспечение AOL, и усовершенствовал на свое усмотрение программу мгновенного обмена сообщениями. На втором курсе колледжа он сделал сайт Facemash, решавший весьма важную задачу – выбрать самую сексуальную девушку в кампусе. Цукерберг просил пользователей сравнить фото двух студенток и выбрать ту, которая выглядит привлекательней. Победительница в каждой паре переходила на следующий раунд этого гормонального турнира. Для сайта Цукербергу нужны были фотографии, и он позаимствовал их на серверах факультетов Гарварда, где они накапливались. «Одно совершенно точно, – писал он в блоге, нанося последние штрихи в свое создание, – ну и сволочь же я, что сделал этот сайт. Да и ладно».

Его краткий опыт бунтаря закончился принесением извинений дисциплинарному комитету Гарварда и студенческим женским организациям, а потом – обдумыванием способов восстановить подмоченную репутацию. Последующие годы показали, что вызывающее поведение не в его природе. Он попросил Дона Грэма, уважаемого председателя компании Washington Post, быть его ментором – вот каким было его недоверие к авторитету. Основав Facebook, он буквально ходил за крупными фигурами корпоративной Америки по пятам, чтобы наблюдать их стиль руководства вблизи. Хоть и не преодолев стеснительность до конца, он все же справился с ней достаточно, чтобы появляться на шикарных вечеринках, на интервью у Чарли Роуза, или на обложке Vanity Fair.

И все-таки его юношеское восхищение хакерами не умерло окончательно, или, лучше сказать, он перенес его в свое следующее, более взрослое воплощение. Когда у него наконец появился свой собственный корпоративный кампус, он сумел организовать для него приятный своему слуху адрес: “One Hacker Way”, «улица Хакеров, 1». Он спроектировал площадь с вмурованными в бетон буквами “h-a-c-k”. В центре кампуса он создал открытое пространство для встреч, назвав его Хакерской площадью, Hacker Square. Разумеется, именно там проводятся хакатоны для сотрудников, длящиеся всю ночь. Как выразился сам Цукерберг, выступая перед группой начинающих предпринимателей: «Наш идеал состоит в том, чтобы построить хакерскую культуру».

Многие компании подобным образом пытались присвоить хакерскую культуру – хакеры были первыми новаторами, но ни одна не пошла так далеко, как Facebook. Разумеется, этот подход не лишен опасностей. «Хакерство» – это нагруженный смыслами термин, который потенциально способен отпугнуть многих, и в первую очередь – акционеров, предпочитающих разумное и следующее общепринятым правилам руководство. Но к тому времени, как Цукерберг стал превозносить достоинства хакерства, он почти целиком лишил этот термин первоначального смысла и свел его к управленческой философии, окрашенной еле заметной примесью бунтарства и непокорности. Можно даже сказать, она противоположна бунтарству. В одном из своих интервью он заявил: хакеры – «это всего лишь группа программистов, старавшаяся быстро изготавливать прототипы, чтобы таким образом определять границы возможного. Именно такой подход я стараюсь стимулировать». Быть хакером означает быть хорошим работником, ответственным гражданином страны по имени Facebook – вот яркий пример того, как компания поставила язык радикального индивидуализма на службу конформизму.

Цукерберг утверждает, что свел этот хакерский дух к девизу: «Двигайтесь быстро и ломайте вещи». Что ж, Facebook в этом преуспел. Правда состоит в том, что Facebook двигался быстрее, чем Цукерберг мог себе представить. Он даже не намеревался создавать что-либо подобное. По тому, что нам известно, его компания появилась в университетском общежитии как сервис, который он собрал в вызванном Red Bull приступе бессонницы. По мере того, как его создание росло, Цукербергу нужно было оправдать его новые масштабы перед инвесторами, пользователями и всем миром. Ему нужно было расти быстро. Как говорит Дастин Московитц, основавший Facebook вместе с Цукербергом в Гарварде: «Для нашего бренда всегда было очень важно избавиться от фривольного имиджа, который он имел в Кремниевой долине». На протяжении своей короткой жизни компания постоянно перескакивала от одного описания собственной задачи к другому. Она называла себя инструментом, услугой, платформой. Она говорила об открытости и связности. Предпринимая одну за другой все эти попытки определить саму себя, она в результате прояснила свои намерения для других.

Хотя руководители Facebook время от времени говорят о «прозрачности» правительств и корпораций, их действительная цель состоит в том, чтобы добиться большей прозрачности совсем другого – нашей с вами частной жизни, достичь того, что иногда называют «радикальной прозрачностью» или «окончательной прозрачностью». Теоретически это обосновывается так: если вынести на свет все подробности наших жизней, даже самые тайные, сегодняшнему моральному хаосу придет конец. Нам не хочется, чтобы наши секреты становились всеобщим достоянием, но невозможность что-либо скрыть улучшила бы нравы. Постоянно находясь под угрозой того, что постыдные для нас вещи станут известны всему миру, мы будем вести себя лучше. Не исключено, что обилие компрометирующих фотографий и постыдных разоблачений сделает нас более терпимыми к чужим грехам. Кроме того, жить в чистоте благоразумно и добродетельно. «Времена, когда у вас было два образа себя: один для коллег, а второй для всех остальных, подходят к концу, и довольно быстро, – сказал как-то Цукерберг. – Две личины для одного человека – пример недостатка целостности».

Главный вывод из этого – у Facebook есть вполне определенный, патерналистский взгляд на то, что хорошо для вас, и он пытается загнать вас в прокрустово ложе своих представлений. «Привести людей к большей открытости – трудная задача, но, думаю, она нам по плечу», – говорил Цукерберг. У него есть все основания для такой уверенности. Благодаря своему размеру Facebook сосредоточил в своих руках огромную силу. Она так велика, что Цукерберг не считает нужным это отрицать. «Во многих смыслах Facebook представляет собой скорее правительство, чем компанию. Нам принадлежит гигантское сообщество людей, и мы, в гораздо большей степени чем какая-либо другая технологическая компания, устанавливаем свои правила».

Не осознавая того, Цукерберг наследует давней политической традиции. На протяжении двух последних столетий Запад не находил в себе сил расстаться с непреодолимой фантазией, завораживающей мечтой, в которой ленивых и бездарных политиков вышвыривают вон и сажают на их место инженеров, чтобы те пасли народы не железным жезлом, а логарифмической линейкой. Французы были первыми, кто попытался воплотить эту идею в кровавой, сотрясшей основы тогдашнего мира революции. Тесный круг наиболее влиятельных философов своего времени (из которых в первую очередь следует упомянуть Анри де Сен-Симона и Огюста Конта) буквально разрывался на части, пытаясь определить будущую судьбу страны. Они ненавидели старые бастионы паразитической власти: феодальных владык, церковь, армию, – но точно так же боялись стихии толпы. В качестве компромисса они предложили своего рода технократию: пусть инженеры и технические специалисты разных отраслей правят незаинтересованно и ради всеобщего блага.

С тех пор эта мечта всегда завораживала интеллектуалов, особенно в Америке. Выдающийся социолог Торстейн Веблен был одержим идеей ввести инженеров во власть и в 1921 году написал книгу в ее защиту. Ненадолго его мечта воплотилась в жизнь. После Первой мировой войны американская элита находилась в растерянности перед лицом чудовищных эмоций, вырвавшихся на свободу: ксенофобии, расизма, потребности линчевать и бунтовать. Американцы, независимо от убеждений, страстно желали восхождения к власти самого известного из инженеров: Герберта Гувера. Во время войны Гувер организовал систему, при помощи которой удалось прокормить голодающую Европу, каким бы невозможным это ни казалось. В 1920 году Франклин Рузвельт – тот самый, кто впоследствии изгонит Гувера из политики, – организовал движение за его выдвижение кандидатом в президенты.

Эксперимент с Гувером вряд ли можно назвать счастливым воплощением мечты о короле-инженере. Тем не менее та же самая мечта возродилась в измененном виде: как власть президентов крупных технологических компаний. Нами не правят инженеры, во всяком случае пока, но они стали господствующей силой в жизни Америки, высшим и наиболее влиятельным слоем элиты. Марк Андриссен стал автором знаменитого афоризма: «ПО съедает мир». В нем намеренно допущена неточность: это авторы ПО съедают мир.

Эти исторические перемены можно описать по-другому. Автоматизация шла волнами. Во время Промышленной революции машины заменили ручной труд рабочих. Вначале им требовался человек-оператор. Постепенно нужда во вмешательстве человека практически исчезла. На протяжении столетий инженеры автоматизировали ручной труд, а сегодня новая инженерная элита автоматизировала мышление. Они довели до совершенства технологии, способные осуществлять интеллектуальную деятельность, делающие мозг ненужным. Или, как заявила однажды Марисса Майер: «Нужно сделать слова менее человечными и более похожими на деталь машины». В самом деле мы начали поручать интеллектуальную деятельность компаниям, решающим за нас, чему нам учиться, на какие темы обратить внимание, что именно следует купить. Эти компании могли бы оправдать свое вмешательство в наши дела при помощи тех же самых доводов, которыми пользовались Сен-Симон и Конт: таким образом они делают наш труд эффективнее, они привносят порядок в человеческую жизнь.

Никто не выражает современную веру в способность инженерии изменить общество лучше, чем Цукерберг. Он высказался перед группой разработчиков ПО следующим образом: «Знаете, я инженер и считаю важнейшим компонентом инженерного мышления веру, что можно взять любую из существующих систем и сделать ее гораздо, гораздо лучше. Любую систему, будь то аппаратное или программное обеспечение, частная компания или сообщество разработчиков, – можно сделать гораздо, гораздо лучше». Мир станет совершеннее, если только доводы Цукерберга победят – а так и будет.

Источник силы Facebook – алгоритмы. Этот тезис непременно повторяется почти в каждой статье о технологических гигантах, но для многочисленных пользователей сайтов он остается в лучшем случае туманным. С момента изобретения алгоритма можно было увидеть его мощь, его революционный потенциал. Алгоритм был придуман, чтобы автоматизировать мышление, избавить человека от необходимости принимать трудные решения, прекратить полемику. Чтобы понять суть алгоритма и его претензии быть инструментом строительства утопии, следует вернуться к месту его рождения, в голову одного из несомненных гениев, Готфрида Лейбница.

Будучи на пятьдесят лет младше Декарта, он вырос в такой же среде религиозного конфликта. Его родная Германия, земля Мартина Лютера, превратилась в арену одной из самых страшных боен в истории, спорную территорию в самом сердце Тридцатилетней войны. Хотя на полях сражений смерть собрала свою дань, последствия боев тоже были ужасны. Дизентерия, тиф, чума охватили немецкие княжества. За битвами последовали голод и демографический коллапс, унеся еще примерно четыре миллиона жизней. Наиболее пострадавшие из немецких городов потеряли больше половины населения.

Лейбниц родился, когда Европа обсуждала условия Вестфальского мира, кладущего конец резне, поэтому неудивительно, что он тренировал свой могучий интеллект, изобретая способы примирения католиков с протестантами и создавая планы объединения человечества. Эпитет «могучий», вероятно, слишком слаб для описания умственных возможностей Лейбница. Не погрешив против истины можно сказать, что он был способен генерировать новый план с каждым вдохом и выдохом. Его архивы, до сих пор не опубликованные полностью, содержат около двухсот тысяч страниц, заполненных великолепными творениями. Он открыл дифференциальное и интегральное исчисление, не зная, что Ньютон опередил его, но именно нотацией Лейбница мы пользуемся до сих пор. Он оставил ценные работы по метафизике и теологии, проектировал часовые механизмы и ветряные мельницы, отстаивал необходимость создания всеобщей системы здравоохранения и разработки подводных лодок. Будучи в Париже в качестве дипломата, он убеждал Людовика XIV вторгнуться в Египет.

Разумеется, это был хитрый план втравить могучего соперника Германии в заморскую авантюру, чтобы ему стало труднее направить свои армии на восток. Дени Дидро, сам далеко не бездарность, жаловался: «Когда пытаешься сравнить свои скромные таланты с дарованием Лейбница, возникает искушение забросить свои книги, забиться в укромный уголок и умереть там».

Из всех построений Лейбница дороже всех ему было понятие, которое он сам называл «универсальной наукой», – и оно тоже возникло из его стремления к миру. На протяжении всей человеческой истории далекие от жизни ученые конструировали языки с нуля, рассчитывая, что их творения упростят взаимопонимание между людьми и создадут таким образом предпосылки для всемирного единства. Для Лейбница эта причина также имела вес, но он возлагал на свое творение и более возвышенные надежды. Он утверждал, что новый набор условных знаков и выражений приведет науку и философию к новым истинам, в новую эру разума, к более глубокому пониманию изящества и гармонии вселенной, наконец, к божественному.

Он представлял себе нечто вроде «алфавита человеческой мысли». Впервые он обратился к этой идее в юности, и она послужила основой для его докторской диссертации в Альтдорфском университете. Со временем он разработал детальный план превращения своей мечты в реальность. Группа ученых должна составить энциклопедию, содержащую фундаментальные, неоспоримые понятия из области знаний об окружающем нас мире, из физики, философии, геометрии – отовсюду. Он называл эти понятия «примитивами», и они должны были включать в себя, например, почву, красный цвет и Бога. Каждому из примитивов предполагалось присвоить численное значение, и таким образом их можно было бы комбинировать с целью создания новых понятий или выражения сложных из числа существующих. Все эти численные значения должны были заложить основу нового «исчисления мысли», которое он называл “calculus ratiocinator”.

Лейбниц иллюстрировал свое построение на следующем примере: что такое человек? Рациональное животное, разумеется. Эту идею можно записать следующим образом:

Рациональное × Животное = Человек

Но Лейбниц пошел дальше и предложил придать этому высказыванию еще более математическую форму. Понятию «животное», говорил он, может быть присвоено число два, понятию «рациональный» – число три. Таким образом, получаем:

2 × 3 = 6

Мысль облекается в форму математического выражения, и так мы приходим к новому, непогрешимому методу доказательства тех или иных истин. «Все ли люди обезьяны?» – спрашивал, например, Лейбниц. Что ж, присвоенное понятию «обезьяна» числовое значение было ему известно – десять.

И если десять не делится нацело на шесть, а шесть – на десять, то получаем: в состав понятия «человек» не входит понятие «обезьяна», и наоборот.

В этом была главная идея его исчисления: знание, причем все знание, может быть в конечном счете получено путем вычисления. Это должно было получаться само собой, без усилий, слепым рассуждением (“cogitacio caeca”). Чтобы порождать новые идеи, больше не были нужны люди. Это могла делать машина, комбинируя и разделяя примитивы. На самом деле Лейбниц даже построил прототип такой машины, великолепное и сложное устройство, сияющее полированной латунью и сталью рычажков и циферблатов. Он называл его «Устройством для пошагового рассуждения» и потратил на него целое состояние. Поворот рычажка в одну сторону заставлял машину умножать, в другую – делить. Лейбниц продумал ее пользовательский интерфейс столь тщательно, что сам Стив Джобс склонился бы перед ней. К сожалению, всякий раз, когда он пытался продемонстрировать свою машину перед зрителями, как, например, перед Королевским обществом в Лондоне в 1673 году, она не работала. Упрямый Лейбниц всякий раз прощал себе эти постыдные демонстрации. Важность «универсальной науки» заставляла его двигаться дальше. «Когда она будет завершена, даже если между учеными и останутся противоречия, то между двумя философами будет не больше причин для разногласий, чем между двумя вычислителями». Интеллектуальные и моральные споры можно будет разрешать, просто предложив сторонам подсчитать ответ. Война окажется не нужна, не говоря уже о теологических спорах, поскольку истина будет помещена на твердую почву математики.

Лейбниц был пророком цифровой эры, хотя его идеям пришлось столетиями ждать своего часа. Он предложил систему счисления, состоящую из нулей и единиц – ту самую двоичную систему, которую компьютеры используют сейчас. Он объяснил, каким образом автоматизация офисной работы (в те времена сказали бы «конторской») повышает производительность труда. Но важнейшей из его идей была идея механического мышления, автоматизации рассуждения – то есть то самое, что делает Интернет великолепным изобретением, а мощь технологических компаний – столь угрожающей.

Процедуры, делающие возможным механическое мышление, со временем получили имя. Их стали называть «алгоритмами». Суть алгоритма предельно проста. В учебниках их сравнивают с кулинарным рецептом, четко определенной последовательностью шагов, выполнение которой не требует умственных усилий. Этим они отличаются от уравнений, имеющих единственный правильный ответ. Алгоритмы просто фиксируют процесс решения задачи и не говорят, куда эти шаги в конечном счете ведут.

Эти рецепты – основной строительный материал компьютерных программ. Программист не может просто сказать компьютеру, например, найти что-нибудь в Интернете. Он должен дать машине набор конкретных инструкций, приводящих к решению задачи, а эти инструкции должны выразить человеческую задачу «найти нужную информацию» в виде четкой последовательности шагов, которую затем можно переписать в виде программного кода: «сначала сделай это, потом то». Процесс перехода от концепции к процедуре, а от процедуры к коду – редукция по природе своей. Сложные процессы должны быть сведены к последовательному выбору из двух вариантов.

Механическое мышление – как раз то, что представлял себе Алан Тьюринг, когда потерял сознание во время пробежки через луга в Кембридже, и ему предстало видение фантастической новой машины для вычислений. В первые десятилетия информатики термин «алгоритм» почти не употреблялся. Но по мере того как в университетах повсюду стали возникать факультеты информатики, он обрел новую жизнь. Модным он стал по соображениям статуса. Программисты, особенно в академических кругах, стремились показать, что они не просто техники при машине. Они стали называть свою работу «алгоритмической», отчасти потому что это связывало их с одним из величайших математиков всех времен – энциклопедистом Мухаммадом ибн-Мусой аль-Хорезми, или, как его называли по-латыни, «Алгоритми». В XII столетии переводы аль-Хорезми познакомили Запад с арабскими цифрами, его научные работы дали начало алгебре и тригонометрии. Определяя алгоритм в качестве краеугольного камня информатики, программисты связывали происхождение своего занятия с великими событиями истории науки. Подобная игра именами была весьма остроумна: «Смотрите, мы не какие-то выскочки, мы работаем с абстракциями и теориями, в точности как математики!»

И тем не менее в подобном представлении себя миру присутствовала определенная ловкость рук. Алгоритм, возможно, и представляет собой суть информатики, но при этом он не является научной концепцией в точном смысле слова. Алгоритм – это система, подобная водопроводу и канализации или субординации у военных. Чтобы заставить систему работать как следует, требуется знание методов и технологий, расчет и творческое мышление. Но некоторые системы, как и некоторые армии, значительно надежнее других. Система – это артефакт, а не научный трюизм. Истоки алгоритма определенно человеческие, но мы не связываем с ним присущую человеку привычку ошибаться. Когда алгоритм отклоняет кредитную заявку или устанавливает цену авиабилета, он кажется безличным и непреклонным. Мы предполагаем, что алгоритм лишен пристрастий, интуиции, эмоций и умения прощать.

В конце концов, мы говорим «поисковая машина» и делаем кивок в сторону поршней, шестерней и вообще всей промышленности XX века с ее машинами, на блестящих поверхностях которых отсутствуют отпечатки человеческих пальцев.

Энтузиасты алгоритмов из Кремниевой долины не отличались скромностью, когда говорили о революционном потенциале предмета своего обожания. Алгоритмы всегда были интересными и ценными, но прогресс вычислительной техники сделал их бесконечно более мощными. Решающим фактором стала стоимость вычислений. Она резко упала, и в это же время быстродействие вычислительных машин значительно возросло, а сами машины стало возможно соединить в глобальную сеть. Компьютеры теперь могли хранить огромные массивы неупорядоченных данных, в то время как алгоритмы – набрасываться на эти данные, чтобы находить в них закономерности и связи, ускользнувшие от аналитических способностей человека. В руках Google и Facebook эти алгоритмы стали еще более могущественными. По мере того как они выполняли поиск за поиском, они накапливали больше и больше данных. Их машины усваивали уроки прошлых поисков, используя приобретенные знания, чтобы давать все более точные ответы.

На протяжении всей истории человечества знание накапливалось методом проб и ошибок, подчас трудных. Люди изобретали очередную теорию устройства мира, а затем проверяли ее опытом, выясняя, способна ли гипотеза выдержать столкновение с реальностью. Алгоритм ставит научный метод с ног на голову: закономерности возникают из данных, из корреляции, и никакие гипотезы при этом не используются. Они устраняют человека из процесса познания. Как писал Крис Андерсон в Wired: «Можно больше не искать модели. Можно анализировать данные, не строя гипотез относительно результатов анализа. Можно бросить числа в недра крупнейших вычислительных кластеров, которые когда-либо видел мир, и посмотреть, какие закономерности смогут найти статистические алгоритмы там, где не смогла наука».

На определенном уровне опровергнуть такой подход невозможно. Алгоритмы способны переводить с одного человеческого языка на другой, не понимая значения текста, руководствуясь только закономерностями организации слов в предложения. Они могут найти совпадения там, где человеку не придет в голову искать. Алгоритмы торговой сети Walmart обнаружили всплеск спроса на клубничное печенье марки Pop-Tarts перед каждым ураганом. И хотя алгоритм бездумно реализует заложенные в него процедуры – даже по мере того, как он учится видеть новые закономерности в данных, он тем не менее отражает логику своих создателей, мотивы тех, кто обучал его. Amazon, как и Netflix, использует рекомендательные системы для книг и фильмов. (И они генерируют одну треть продаж Amazon). Алгоритмы этих систем пытаются распознать наши вкусы, а также вкусы потребителей культуры, думающих примерно как мы. И все же эти алгоритмы выдают принципиально разные рекомендации. Amazon направляет внимание на книги, похожие на уже просмотренные, а Netflix – в сторону незнакомого. Эта разница не случайна, а обоснована интересами бизнеса. Прокат блокбастеров обходится Netflix дороже, и потому, если им удается направить интерес зрителя в сторону более экзотической продукции, их доход растет. У специалистов по информатике есть поговорка, говорящая, как безжалостно алгоритмы охотятся за закономерностями. Они говорят, что данные «пытают, пока те не сознаются». В этом сравнении есть, однако, скрытый обертон.

Иногда алгоритм отражает бессознательное своих создателей. Позвольте мне прибегнуть к экстремальному примеру. Профессор Гарвардского университета Латания Суини предприняла исследование и пришла к выводу, что Google выделял пользователей с афроамериканскими именами и показывал им рекламу, предполагающую, что они нуждаются в снятии судимости. Google не сообщает, отчего происходит подобное. Их алгоритм – один из наиболее тщательно охраняемых секретов. Тем не менее мы знаем, что они построили свою поисковую машину таким образом, чтобы она отражала их представления о мире. Инженеры Google предполагали, что популярность веб-сайта явно отражает его полезность; поисковая машина старается понижать приоритет порнографии, но не, скажем, сторонников еврейского заговора; она также полагает, что пользователи выиграют от новых материалов, а не от старого доброго контента. Все это разумные предпочтения и, возможно, оправданные с точки зрения бизнеса, но это предпочтения, а не наука.

Как и в экономике, в информатике есть предпочтительные модели и неявные предположения об устройстве мира. Когда программистов обучают алгоритмическому мышлению, их учат ценить эффективность превыше всего. Это полностью понятно: алгоритм с большим количеством шагов затормозит машину, а подобная машина бесполезна. Тем не менее эффективность тоже имеет цену. Ускоряя алгоритм, мы обязательно срезаем углы, обобщаем задачу.

Алгоритмы могут быть великолепным продуктом логического мышления, не говоря уже о том, что они делают нашу жизнь удобнее и способны удовлетворять наше любопытство. Они находят копию давно забытой книги XIX века за несколько миллисекунд, связывают нас с давно забытыми друзьями по начальной школе, дают магазинам возможность доставлять покупки к нашему порогу в мгновение ока. Скоро они поведут беспилотные автомобили и смогут находить раковые опухоли внутри нас. Однако, чтобы делать все это, алгоритмы безостановочно вытесняют нас. Они принимают решения о нас и за нас. Проблема в том, что, перепоручая мышление машинам, мы на деле перепоручаем его компаниям, которым принадлежат машины.

Марк Цукерберг притворно представляется критиком алгоритмов, хоть и из их собственного лагеря. Таким образом он отделяет себя от соперников из Google. Там, в цехах Ларри Пейджа, алгоритм – король, холодный и бессердечный владыка. Там нет ни следа жизни и практически нет понимания человека, набирающего поисковый запрос. Facebook создает льстящий своему собственному самолюбию автопортрет, на котором он предстает оазисом в этом автоматизированном и все более атомизированном мире: «Какой бы продукт вы ни использовали, всегда лучше делать это с друзьями».

Говорит он при этом о ленте новостей Facebook. Вот краткое объяснение для той небольшой части человечества, которая, по-видимому, еще сопротивляется: лента новостей содержит в обратном хронологическом порядке все обновления статусов, статьи и фотографии, опубликованные вашими друзьями в Facebook. Лента новостей должна нравиться, но при этом решать одну из фундаментальных проблем современности: нашу неспособность справиться с постоянно растущим, вечно стоящим перед нашими глазами массивом информации. Кто, говорит теория, лучше посоветует нам, что читать и смотреть, чем наши друзья? Цукерберг хвастался, что лента новостей превратила Facebook в «газету, настроенную на вкусы конкретного читателя».

К сожалению, наши друзья полезны нам в качестве информационных фильтров только до определенной степени. Оказывается, они публикуют многое. Если бы мы просто читали все их рассуждения и проходили бы по ссылкам на рекомендуемые статьи, мы были бы перегружены информацией почти так же, как раньше. Поэтому Facebook решает за нас, что нам следует читать. Алгоритмы компании фильтруют тысячи записей, потенциально доступных нам. Затем решают, что мы могли бы захотеть прочесть в первую очередь из отобранных ими нескольких десятков источников.

Алгоритмы невидимы по определению. Но как правило, мы можем почувствовать их присутствие – ощутить, что где-то на глубине мы все-таки взаимодействуем с машиной. Именно это сообщает алгоритму Facebook его силу. Многие пользователи – 60 % согласно лучшим исследованиям – ни в какой мере не подозревают о его существовании. Но даже если они и догадываются, это не имеет значения. Он непрозрачен до предела. Когда компания признает его существование перед журналистами, она умудряется непрозрачными описаниями затуманить предмет еще больше. Например, мы знаем, что когда-то алгоритм назывался EdgeRank, но Facebook этот термин больше не использует. Быть безымянным для этого алгоритма нормально. Он разросся до состояния практически непроницаемых джунглей. Чтобы определить, что увидят пользователи, он интерпретирует свыше ста тысяч так называемых «сигналов». Некоторые сигналы относятся ко всем пользователям Facebook, некоторые определяют привычки конкретного пользователя и его друзей. Может быть, Facebook сам уже не до конца понимает работу своих алгоритмов: код, все шестьдесят миллионов строк, представляет собой палимпсест, на который инженеры записывают новые команды слой за слоем. (Это не является чем-то присущим исключительно Facebook. Джон Кляйнберг, специалист по информатике из Корнеллского университета, был соавтором статьи, где говорилось: «Мы, вероятно впервые в истории, создали машины, работу которых не понимаем сами… На глубинном уровне мы не понимаем, каким образом они производят наблюдаемое нами поведение. Именно в этом состоит суть их непонятности». Более всего поразительно, что «мы» в этой цитате относится к авторам кода).

В качестве аналога этого алгоритма полезно представить себе один из первых компьютеров – с нервно мигающими лампочками и длинными рядами рукояток на передней панели. Чтобы регулировать работу алгоритма, инженеры постоянно вносят небольшие изменения, поворачивая рукоятку то здесь, то там на один-два щелчка. Малейшим сдвигом воображаемого колесика Facebook меняет то, что пользователи читают и видят. Он может заполнить всю ленту фотографиями, сделанными друзьями, может понизить посты с саморекламой, исключить то, что считает фальшивкой, может отдать предпочтение текстам или видео или же обратить внимание на статьи из New York Times, BuzzFeed и тому подобных изданий. Взяв мелодраматический тон, можно было бы сказать, что Facebook постоянно определяет нашу картину мира: регулирует качество новостей и мнений, пропускаемых через фильтр, меняет качество предлагаемых нам материалов из области политики и культуры, чтобы удержать наше внимание еще немного.

Но каким же образом инженеры определяют, какое именно колесико повернуть и на сколько? Существует целая дисциплина, «наука о данных», цель которой – указать пути написания и совершенствования алгоритмов. В Facebook есть целое подразделение, куда людей переманивали из академических кругов, и его задача – ставить эксперименты на пользователях. Это предел мечтаний статистика: одни из самых крупных за всю историю человечества наборы данных, возможность экспериментировать на математически значимых выборках. Когда Кэмерон Марлоу, бывший глава этого подразделения, описывал открывшиеся ему возможности, он просто светился от удовольствия. «Впервые, – говорил он, – у нас есть микроскоп, не только позволяющий исследовать социальное поведение с очень высокой избирательностью, но и экспериментировать на миллионах пользователей».

Facebook предпочитает хвалиться своими экспериментами в принципе, а не сообщать их подробности. Но примеры, утекшие за пределы лабораторий, существуют. Так Facebook решила выяснить, заразны ли эмоции. В рамках этого эксперимента компания пыталась манипулировать эмоциональным состоянием пользователей: для этого она удаляла из ленты одной группы пользователей слова с позитивной окраской, а из ленты другой – с негативной. Опыт показал, что обе группы писали посты, отражавшие настроение соответствующей ленты. Этот эксперимент был единодушно осужден как бесчеловечный, но он не выбивался из череды остальных. Один из членов группы, занимающейся наукой о данных, признавался: «Эксперимент мог поставить любой наш сотрудник. Они все время пытаются изменить человеческое поведение».

Нет никаких сомнений в том, что Facebook сосредоточила в своих руках огромную эмоциональную и психологическую власть. По крайней мере у самой компании сомнений в этом нет. Facebook хвасталась, как увеличила в одном случае явку на выборы, а в другом – донорство органов, чуть усилив воздействие, вызывающее «добродетельное» поведение. Она даже публиковала свои результаты в рецензируемых журналах: «Возможно, что увеличение явки избирателей на 0,6 % между 2006 и 2010 гг. было вызвано одним сообщением на Facebook». Ни одна другая компания не хвалилась так открыто своим влиянием на механизмы демократии, и по понятным причинам. Это слишком большая власть, чтобы доверить ее корпорации.

Результаты всех этих экспериментов Facebook складываются друг с другом. Компания считает, что овладела социальной психологией и знает о своих пользователях больше, чем они знают о себе самих. Для любого из них Facebook может предсказать расу, сексуальную ориентацию, семейное положение и отношение к наркотикам по одним только лайкам. Мечта Цукерберга – проанализировать эти данные таким образом, чтобы сделать главное открытие: «фундаментальный математический закон, определяющий социальные отношения между людьми и устанавливающий, кто и в какой мере кому небезразличен». Это, конечно, задача на далекую перспективу. В ближайшее же время Facebook будет ставить опыты, постоянно выясняя, к чему мы стремимся всей душой и что предпочитаем не замечать, безостановочно совершенствуя свою способность показывать нам то, что мы хотим, и даже то, что мы еще сами не знаем, что хотим. Компанию, похоже, мало заботит, достоверная это информация или нет, сообщение из авторитетного источника или текст очередного сторонника теории заговора. Толпа получает то, чего хочет и чего заслуживает.

Автоматизация мышления: конечно, сейчас эта революция только начинается. Но можно предвидеть, к чему она приведет. Алгоритмы заменили людей во многих бюрократических, конторских задачах и скоро начнут вытеснять их из более творческих областей. В Netflix они определяют, фильмы каких жанров лицензировать для проката. Некоторые службы новостей используют алгоритмы для написания заметок о преступлениях, бейсбольных матчах и землетрясениях – то есть для решения наиболее механических репортерских задач. Алгоритмы создавали произведения изобразительного искусства, сочиняли симфоническую музыку – во всяком случае, создавали нечто приближенное.

Это в высшей степени пугающее развитие событий, во всяком случае для тех, кто работает в перечисленных областях. Если алгоритм способен воспроизвести акт творческого мышления, нет необходимости ценить его в человеке. Зачем терять время и силы на мучительный и неэффективный процесс написания картины или стихотворения, если компьютер может создать произведение, выглядящее на первый взгляд не хуже, но при этом без усилий и за долю секунды? К чему рынок высокого искусства с его вздутыми ценами, если оно может быть дешево и доступно? Ни одна сфера деятельности человека не устояла перед автоматизацией, так почему же дела в искусстве должны обстоять иначе?

Инженерный ум не в состоянии смириться с фетишизацией слов и изображений; ее не смогут оправдать ссылки ни на таинство искусства, ни на моральную сложность, ни на яркость эмоционального выражения. Он воспринимает людей как данные, как элементы системы, как абстракции. Вот почему Facebook не испытывает сомнений относительно своих постоянных экспериментов на пользователях. Цель всей этой работы – сделать людей предсказуемыми, предвидеть их поведение и упростить таким образом задачу манипулирования ими. Если представить себе это хладнокровное отношение к миру, чуждое непредсказуемости человеческой жизни, ее тайны, легко понять, почему многовековые моральные устои воспринимаются его носителями как досадное препятствие, почему идея неприкосновенности частной жизни получает так мало значения в расчетах инженера, почему издательское дело и журналистика постоянно оказываются его мишенью.

Facebook никогда не воспользовалась бы такой формулировкой, но алгоритмы предназначены для того, чтобы истребить свободу воли, избавить людей от бремени выбора, обратить их в нужном направлении. Алгоритмы питают чувство всемогущества, самодовольную веру в собственную силу менять поведение человека так, что он сам не чувствует руки, направляющей его. Эта опасность всегда была заключена в инженерном стиле мышления: выйти за пределы своего призвания, а именно – создания неодушевленных вещей, и начать совершенствовать общество по своему разумению. Мы, люди, оказываемся винтиками и гайками гигантской машины.