Паника, которую Сарао, не выходя из спальни, устроил на рынке ценных бумаг, иллюстрирует, насколько просто применить алгоритмы во зло. Слишком часто мы считаем их просто беспристрастными последовательностями инструкций, которые можно спокойно исполнять, забывая, что все алгоритмы разрабатываются с определенной целью. То, что сами правила предопределены и непредвзяты, не означает, что такова и цель, для которой они используются, – даже если непредвзятость была изначально задумана разработчиком алгоритмов.

Twitter, который часто превозносят как оплот прозрачности среди соцсетей, использует относительно простой алгоритм для определения трендовых тем. Алгоритм ищет резкие скачки в использовании хештегов, а не продвигает темы исключительно на основе частого обращения к ним. Это кажется разумным: взгляд на изменение интенсивности, а не на саму интенсивность использования хештегов позволяет быстро вывести в топ новостей короткие, но важные события, вроде запроса на донорскую кровь (#dondusang – донорство) или предложения укрыться на ночь (#porteouverte – открытая дверь) после серии террористических атак в Париже в 2015 году. Если бы большой объем хештегов был единственным критерием тенденции, то мы никогда не услышали бы ни о чем, кроме Гарри Стайлза (#harrystyles) и «Игры престолов» (#GoT).

К сожалению, этот же набор правил означает, что социальные темы, которые разворачиваются медленно, редко набирают ту популярность, которую они заслуживают. В сентябре и октябре 2011 года, когда волна протестного движения «Захвати Уолл-стрит» набирала силу, хештег #occupywallstreet ни разу не был трендовым в родном Нью-Йорке, при том что в этот период он был самым популярным хештегом в «Твиттере» в целом. Тогда же менее протяженные во времени истории, такие как смерть Стива Джобса (#ThankYouSteve) или свадьба Ким Кардашьян (#KimKWedding), привлекли больше внимания (несмотря на то, что отмечали их в целом реже), чтобы подняться вверх по трендовым рейтингам «Твиттера». Стоит помнить, что даже в подлинно прагматичных алгоритмах может быть жестко зашита тенденциозность, которая влияет на то, куда направляется внимание мирового сообщества.

Пожалуй, еще бóльшую озабоченность вызывают ситуации, когда человек целенаправленно вмешивается в работу, казалось бы, независимых алгоритмов. В мае 2016 года разоблачительная статья на сайте технологических новостей Gizmodo обвинила «трендовый» новостной раздел Facebook в предвзятом отношении к консерваторам. Gizmodo раздобыл свидетельские показания бывшего куратора новостного отдела Facebook, который утверждал, что истории видных американских правых – Митта Ромни, Рэнда Пола и других – исключались из списка трендовых тем Facebook путем прямого человеческого вмешательства. Даже когда посты консерваторов естественным образом выходили в тренды на Facebook, утверждалось, что они не попали в трендовый список. В других случаях истории якобы искусственно вписывались в трендовый список, даже если не были достаточно популярны, чтобы заслуживать включения в него.

В ответ на обвинения в политической ангажированности Facebook решил уволить свою редакционную команду и «сделать продукт более автоматизированным». Доверив больше власти алгоритму и убрав часть человеческого контроля, Facebook надеялся сыграть на том, что в глазах публики алгоритмы выглядят объективными. Спустя всего несколько часов после их решения раздел трендовых тем продвигал фейковую новость от правых, сообщая, что «скрытый либерал» с канала Fox News Мегин Келли была уволена якобы за поддержку Хиллари Клинтон. Этот эпизод окажется первым из целого шквала фейковых новостей (преимущественно от правых), которые станут определять тренды в Facebook на следующие два года – по сравнению с таким скандалом обвинения в предвзятом отношении к консерваторам, с которых все началось, сильно бледнеют. В конце концов проблемы с обеспечением достоверности и верификацией информации заставили Facebook полностью отключить трендовую платформу в июне 2018 года.

Мы доверяем якобы беспристрастным алгоритмам, потому что знаем о естественных человеческих слабостях и непоследовательности. Но хотя компьютеры могут реализовывать алгоритмы объективно, следуя предписанному набору правил, сами правила пишут люди. Программисты могут вписать свои предубеждения – сознательно или бессознательно – непосредственно в сам алгоритм, маскируя свою предвзятость строчками компьютерного кода. Идея, что мы должны быть уверены в нейтральности трендовых новостей от Facebook только потому, что одна из ведущих мировых технологических компаний передоверила ответственность за достоверность информации одному из собственных алгоритмов, не выдерживает никакой критики.

Как и футболки с оскорбительными принтами от Solid Gold Bomb, как и ценовые спирали Amazon, передряги, выпавшие на долю Facebook, подчеркивают необходимость более строгого контроля над алгоритмами со стороны человека, а не наоборот. По мере усложнения алгоритмов результаты их могут стать соразмерно непредсказуемыми, поэтому программы требуют более пристального внимания. Однако контроль за работой алгоритмов должны осуществлять не только технологические гиганты. Оптимизирующие алгоритмы все глубже внедряются в нашу повседневность, и мы – пионеры технооптимизма – должны взять на себя часть ответственности за достоверность тех результатов, которые нам скармливают. Доверяем ли мы источнику прочитанных нами новостей? Разумен ли маршрут, который предлагает навигатор? Считаем ли мы автоматически выставленную цену справедливой? Хотя алгоритмы могут предоставить нам информацию, которая облегчает принятие жизненно важных решений, они все же не заменяют наши собственные тонкие, предвзятые, иррациональные, непостижимые, но в конечном счете человеческие суждения.

Когда в следующей главе мы рассмотрим самые современные инструменты борьбы с инфекционными заболеваниями, мы снова убедимся в верности этого тезиса: хотя достижения современной медицины серьезно ограничивают распространение инфекций, математика показывает, что среди наиболее эффективных способов укрощения эпидемий – простые разумные действия и личный выбор каждого человека.