2. Глубокие воды, новые горизонты

«Людей сажали в тюрьму, хотя было ясно, что виной всему – сбой в компьютерной системе»

I

Когда Эрика Кристакис отправляла электронное письмо студентам своего колледжа, она никак не ожидала, что это сообщение вызовет такую жаркую дискуссию во всем кампусе Йельского университета, привлечет внимание целой страны и заставит обиженных студентов выступить против нее и ее мужа, профессора Николаса Кристакиса. Они с Эрикой возглавляли колледж Силлиман Йельского университета, жилая территория которого вмещала более 400 студентов. Здесь же находились библиотека, кинотеатр, студия звукозаписи и столовая.

Накануне праздника Хеллоуин в 2015 году комитет по межкультурным отношениям университета разослал студентам электронные письма, призывая их не облачаться в костюмы, которые «были бы неуместны по расовым или культурным соображениям». Это сообщение появилось в контексте обсуждения произошедших в США событий, связанных с расовым и культурным неравенством, в частности инцидентами с расстрелом афроамериканцев полицейскими, массовым убийством белым расистом девяти чернокожих прихожан в церкви Южной Каролины, а также выступлениями и протестами активистов движения Black Lives Matter.

Эпизод с официальным университетским указанием относительно Хеллоуина привлек внимание Эрики и Николаса. Эрика, специалист по дошкольному воспитанию, ответила на электронное письмо комитета по поводу уместности костюмов. Хотя она высказала понимание озабоченностью комитета, адекватность решения администраторов, ограничивающих поведение студентов, с ее точки зрения, все же вызывала вопросы. «Разве мы потеряли веру в способность молодых людей – и вашу – к самодисциплине и соблюдению социальных норм, а также к тому, чтобы не обращать внимания на то, что вас беспокоит?.. О чем говорит этот спор по поводу Хеллоуина с точки зрения нашей оценки молодых людей, их сильных сторон и их суждений?»

В ответ группа студентов разместила в социальных сетях ее открытое письмо и начала собирать подписи под петицией за отставку Эрики и Николаса. Спустя несколько дней это противостояние обострилось. Николас шел по двору колледжа, в этот момент его окружила группа студентов и, осуждая профессора за поддержку Эрики, начала требовать извинений.

Николас ответил, что его обязанность – слушать студентов, а не извиняться перед ними. Он пояснил свою позицию так:

Я извинился за то, что задел вас… это не то же самое, что извиняться за свои слова. Я выступаю за свободу слова… Даже если это слово кого-то обижает, то есть особенно, если оно кого-то обижает. Я согласен с тем, что вы говорите. Я так же против расизма, как и вы. Я так же против социального неравенства, как и вы. Я жизнь посвятил поиску решений этих проблем… Но свобода слова – это несколько иное, это защита права любого говорящего высказать свою точку зрения, включая и вас.

Однако толпа только распалялась. Кто-то выкрикнул: «Он не заслуживает, чтобы его слушали!»

Тут вперед выступила одна из студенток, а когда Николас попробовал прервать ее, она закричала: «Молчать!»

Эта студентка утверждала, что главная задача директора колледжа состоит в создании «домашней обстановки» для студентов, а не в формировании климата для дискуссий. Когда Николас не согласился с этим, студентка окончательно сорвалась. «Какого черта вы вообще заняли должность директора? Кто вообще вас нанял? – орала она. – Чтоб вам мучиться от бессонницы по ночам. Вы отвратительны!»

Эти споры удивительны не содержанием, а тем, как быстро они завладели вниманием всей страны. Некий активист, побывавший в тот день в жилом комплексе колледжа, снял видео этого противостояния и разместил его в социальных сетях. То, что даже по прошествии многих лет осталось бы внутриуниверситетским делом, взорвало социальные медиа.

А они сильно влияют на реальный мир. В конечном счете Эрика и Николас подали в отставку. Вирусное видео навлекло большие неприятности и на чернокожую студентку, которая вышла из себя во время спора с Кристакисом. Ее стали называть «визжащая девчонка», были раскрыты ее имя и фамилия, девушку осуждали и за то, что она, как оказалось, была из очень состоятельной семьи. На одном сайте появилась информация, что ее родителям принадлежал дом за 700 000 долларов в элитном городке в штате Коннектикут. Между тем комментарии к сообщениям и статьям об этом событии наполнились расистскими и угрожающими высказываниями. История быстро попала в международные СМИ, от Гонконга до Венгрии. Такого паблисити Йельскому университету было не нужно.

Когда Чик Перроу опубликовал тезисы своей концепции системных сбоев в 1984 году, таких информационных технологий, которые оказались задействованы в истории с колледжем Силлиман, еще не существовало. Сегодня смартфоны усложняют системы, поскольку связывают события и обстоятельства, которые не всегда были связаны, например эпизод на территории колледжа, который превратил конфликт в мировую новость. Такие видео, усиленные стараниями социальных медиа, становятся частью жестко связанной системы: они распространяются со скоростью молнии и этот процесс нельзя остановить.

А в 1984 году университеты были очевидными примерами слабо связанной системы. Сегодня все уже не так однозначно. Причем это касается не только университетов. С тех пор как Перроу выдвинул свою изначальную концепцию, многие системы, которые он классифицировал как линейные или нежестко связанные, стали сложными и «зазор» в них исчез. Самые разные системы все больше смещаются в опасную зону.

Возьмите плотины, которые Перроу считал жестко связанными, но не сложными системами. Если что-то в эксплуатации плотины пойдет не так, она может затопить и разрушить обширную территорию. Но все же плотины, как утверждал Перроу, представляют собой простые линейные системы с небольшим числом неожиданных взаимодействий, что располагает их вне опасной зоны.

Если вы посещали плотину в 80-х годах, то, скорее всего, вам ее показывал смотритель – человек, который жил поблизости и отвечал за безопасность сооружения. Сегодня рядом с плотиной можно никого и не встретить. Ее операторы сидят далеко, в аппаратных комнатах, очень похожих на помещения щита управления на АЭС, и принимают решения, не видя саму плотину.

Федеральный инспектор гидротехнических сооружений Патрик Реган недавно пересмотрел выводы Перроу и обнаружил, что с 90-х годов новые технологии и правила полностью изменили порядок управления плотинами. Когда всем заправлял смотритель, этот порядок был прост. Если необходимо было понизить уровень воды, чтобы она не переливалась через плотину, человек шел к соответствующим шлюзам и нажимал на переключатель, открывая их. Смотрители собственными глазами видели, сработали в действительности нужные водосбросные шлюзы или нет.

Но сегодня удаленный оператор всего лишь кликает стрелкой на мониторе компьютера и «получает сигнал от сенсора, что шлюзы занимают правильное положение, – писал Реган. – Если сенсор дает ошибочную информацию, у оператора нет представления о том, открывается ли шлюз и насколько».

Последствия предугадать легко. Например, когда от шлюзов плотины Nimbus Dam в Калифорнии оторвался переключатель шлюзов, операторы оказались в неведении относительно реального положения их ворот. Техники не знали, какой объем воды был выпущен из водохранилища, а внизу по течению люди оказались в опасности. И хотя трагедии удалось избежать, ситуация была начальной стадией классического сбоя системы. Для того чтобы система начала выходить из-под контроля, оказалось достаточно небольшого механического повреждения и ложных показаний индикатора.

Реган утверждает, что сегодня плотины перебрались в ту же самую опасную зону, что и атомные электростанции. Их операторы управляют сложной системой и полагаются на косвенные показания индикаторов. Последствия не могут не тревожить. Как пишет Реган, «по мере того как системы, управляющие плотинами, становятся все более сложными, вероятность возникновения в них сбоев увеличивается».