Бойтесь своих желаний

Книга: Супермышление. Как обходить ментальные ловушки и принимать эффективные решения

«Лучшие задумки для мышей и людей часто идут прахом», – сказал Роберт Бернс в 1785 году. Другими словами, не всегда все идет по плану. Вспомните Госплан – министерство, которое бо́льшую часть XX века отвечало за централизованное экономическое планирование в Советском Союзе. Одной из его задач была постановка глобальных экономических целей на количество произведенных товаров (зерна, автомобильных шин и т. д.), которые разбивались на производственные цели для отдельных предприятий. В 1990 году экономист Роберт Хейлбронер описал некоторые сложности такой системы в статье «После коммунизма», опубликованной в журнале The New Yorker:

В течение многих лет цели задавались в физических величинах – столько-то ярдов ткани или тонн гвоздей, но это приводило к очевидным затруднениям. Если ткань пересчитывалась в ярдах, ее делали тоньше, чтобы превысить заданное число ярдов. Если производство гвоздей оценивалось по их числу, фабрики производили огромное количество гвоздей, похожих на булавки, а если по весу – то меньшее количество, зато очень тяжелых гвоздей. Сатирический журнал «Крокодил» однажды нарисовал карикатуру на заведующего фабрикой, который гордо демонстрировал свой продукт-рекордсмен – один гигантский гвоздь, подвешенный на кране.

Эту проблему прекрасно описывает закон Гудхарта. «Когда мера становится целью, она перестает быть хорошей мерой» – эта более распространенная формулировка появилась в статье кембриджского антрополога Мерилин Стратерн «Повышение рейтингов: аудит в системе Британского университета» в 1997 году. «Закон» назван в честь английского экономиста Чарльза Гудхарта, который впервые сформулировал его в докладе Резервному банку Австралии в 1975 году: «Любая наблюдаемая статистическая закономерность будет снижаться, как только на нее надавят с целью контроля».

Социальный психолог Дональд Т. Кэмпбелл сформулировал похожий «закон» (известный как закон Кэмпбелла) в исследовании 1979 года «Оценка воздействия запланированных социальных изменений». Он описал эту идею несколько точнее: «Чем больше некий количественный социальный индикатор будут использовать для принятия общественных решений, тем сильнее он будет подвержен давлению коррупции, и тем вероятнее он будет искажать и разрушать социальные процессы, которые призван контролировать».

Оба описывают одно и то же простое явление: когда вы пытаетесь стимулировать поведение людей с помощью измеримой цели, они концентрируются только на достижении этой меры и часто не так, как вы планировали. Более того, их поведение будет совсем не похоже на то, которое вы пытались стимулировать.

Культура высоких оценок – будь то школьные экзамены, собеседования на работу или профессиональное лицензирование – создает порочные стимулы типа «обучения по материалам теста» или, хуже того, списывания. В 2011 году в Атланте 178 преподавателей были вовлечены в масштабный скандал, связанный с исправлением ответов учеников в стандартизированных тестах. Дело кончилось одиннадцатью приговорами и осуждениями на срок до двадцати лет по обвинениям в вымогательстве. Точно так же больницы и колледжи все чаще подвергаются критике за то, что пытаются поднять свой рейтинг ценой качественного лечения и образования, то есть того, что рейтинг должен измерять.

В «Краткой истории почти всего на свете» Билл Брайсон описывает ситуацию, в которой палеонтолог Густав Генрих Ральф фон Кенигсвальд случайно создал порочный стимул во время экспедиции:

Открытия Кенигсвальда могли быть куда более впечатляющими, если бы не тактическая ошибка, из-за которой все поняли слишком поздно. Он предложил местным жителям по десять центов за каждый кусочек кости гоминид, который они найдут, а потом, к своему ужасу, обнаружил, что они с энтузиазмом разбивали крупные фрагменты костей на куски поменьше, чтобы получить доход побольше.

Так же поступают джинны из сказок, когда истолковывают желание буквально, делая человеку только хуже. На самом деле для этой ситуации есть ментальная модель, которая называется эффектом кобры и описывает попытку решения проблемы, только усугубляющей ситуацию.

Эта модель берет свое название от происшествия с участием настоящих кобр. Когда британцы правили Индией, их беспокоило количество этих смертоносных змей, поэтому они стали предлагать вознаграждение за каждую змею, которую им принесут. Вначале правило работало хорошо, и численность кобр упала. Но вскоре местные предприниматели занялись разведением кобр чисто ради наживы. Когда правительство это обнаружило и отменило свое правило, всех разведенных кобр выпустили на волю, и их стало еще больше.

Похожая вещь случилась, когда французы управляли Вьетнамом. В Ханое местное правительство платило вознаграждение за убитых крыс, когда им предъявляли крысиные хвосты. Но предприимчивые крысоловы ловили и выпускали крыс на волю, отрезая им только хвост: так крысы могли свободно размножаться. Всякий раз, придумывая стимул, учитывайте закон Гудхарта и успевайте перехватить порочные стимулы, пока все вокруг не заполонили кобры и крысы!

Эффект Стрейзанд применяется к еще более конкретной ситуации, когда вы нечаянно привлекаете больше внимания к чему-то, что пытаетесь скрыть. Он назван в честь певицы и актрисы Барбры Стрейзанд, подавшей в 2003 году в суд на фотографа и сайт за публикацию аэрофотосъемки ее особняка, который она не хотела подвергать огласке. До суда изображение с сайта скачали всего шесть раз. Но после того, как люди увидели новости о судебном процессе, сайт посетили сотни тысяч раз, и теперь фото общедоступно и висит у всех на виду в «Википедии» и во многих других местах. Как говорили об Уотергейтском скандале: дело не в преступлении, а в попытке его скрыть.

Родственная модель, на которую надо обратить внимание, – это эффект гидры. Он назван в честь лернейской гидры – монстра из греческой мифологии, у которого на месте каждой отрубленной головы вырастают две. Когда арестовывают одного наркоторговца, его быстро сменяет другой в ответ на покупательский спрос. Когда закрывают сайт с пиратскими фильмами или музыкой, на его месте возникает сразу несколько. Смена режима в стране может привести к еще худшему режиму.

Про такое говорят: «Не пинай осиное гнездо» – то есть не трогай то, что создаст еще больше проблем. Запомните эти ловушки: закон Гудхарта и эффекты кобры, гидры и Стрейзанд. Если вам придется задуматься об изменении системы или ситуации, вы должны учитывать человеческую хитрость и быстро на нее реагировать. Скорее всего, отдельные личности попробуют обойти систему или как-то еще вам подгадить ради личной выгоды или развлечения.

Если вы все-таки решитесь действовать, нужно опасаться еще одной ловушки – эффекта наблюдателя, где эффект от действия зависит от того, как вы за ним наблюдаете, или даже от того, кто наблюдает. Вот пример из повседневной жизни – нужно измерить давление в автомобильной шине. Для этого вам придется выпустить немного воздуха, и в процессе давление в шине уменьшится. Или с визитом большого босса все прилично ведут себя и опрятно одеваются.

Эффект наблюдателя, безусловно, нужно учитывать при проведении реальных измерений, но также

нужно помнить, что люди косвенно меняют свое поведение, когда перестают быть анонимами.

Вспомните, как трудно откровенничать на камеру. Или какие разные отзывы вы оставите о работе коллеги в анонимном опросе и в отчете, подписанном вашем именем.

В книге «Эффект запугивания: онлайн-наблюдение и использование “Википедии”» оксфордский исследователь Джонатан Пенни изучил паттерны трафика «Википедии» до и после того, как Эдвард Сноуден в 2013 году разоблачил тактики интернет-шпионажа Агентства национальной безопасности США. Он обнаружил, что количество просмотров статей о терроризме с такими терминами, как Аль-Каида, Талибан и автомобильная бомба, снизилось на 20 %. Подразумевается, что люди узнали о правительственной слежке и перестали читать статьи, из-за которых у них могут быть проблемы. Эта концепция называется эффектом запугивания.

В правовом контексте, откуда взят термин эффект запугивания, он относится к случаям, когда люди запуганы или лишены возможности свободно пользоваться своими правами из-за страха судебных исков или судебного преследования. В более общем смысле эффект запугивания – это вид эффекта наблюдателя, где угроза возмездия влияет на поведение.

Иногда эффект запугивания создается специально, например, когда кому-то нарочно демонстрируют, как будут обращаться с нарушителями. Допустим, компания агрессивно судится с другой компанией за свои патенты, чтобы другие и не подумали соперничать с ними.

Часто эффект запугивания возникает непреднамеренно. Например, жертвы преследований не спешат обращаться за помощью, поскольку не готовы к скрупулезным проверкам.

Страх преследования также ограничивает использование социальных сетей. 6 июня 2017 года в исследовании Pew Research 13 % участников сказали, что перестали пользоваться онлайн-сервисами, а 27 % сообщили, что решили не публиковать в интернете какую-то информацию, после того как стали свидетелями травли в интернете.

Иногда нам приходится ходить на цыпочках вокруг человека, который не умеет контролировать свой гнев. А некоторые пары не спешат откровенно говорить о своих обидах, если чувствуют, что один из партнеров готов разорвать отношения при первой же возможности.

Как и в исследовании «Википедии», описанном выше, другой нечаянный эффект запугивания был обнаружен в исследовании МТИ «Государственная слежка и поиск в интернете». Оно показало, что после Сноудена люди реже стали гуглить термины, связанные со здоровьем, даже если эти термины не были напрямую связаны ни с какой незаконной деятельностью. По мере того как люди узнают все больше о корпоративном и правительственном наблюдении, они начинают фильтровать свои запросы на деликатные темы. Авторы исследования заметили: «Подавление поиска информации, связанной со здоровьем, потенциально вредит пользователям поисковой системы и, уменьшая трафик по легко монетизируемым запросам, также наносит ущерб чистой прибыли от поисковой системы».

Это непредвиденное негативное обстоятельство можно также считать сопутствующей потерей. В военном контексте этот термин означает травмы, потери, которые несет побочная, сопутствующая цель. Можно применить эту модель к негативным побочным эффектам любых действий. В правительстве США есть черный список лиц, которым запрещено пользоваться коммерческими авиалиниями внутри, на въезд или на выезд из США. Полные тезки людей из этого списка множество раз несли сопутствующие потери, когда их не пропускали на рейс. В их числе был американский морской пехотинец, которого не пустили домой по завершении военной службы в Ираке. Когда людей депортируют или сажают в тюрьму, даже за дело, сопутствующие потери несут члены их семьи. Например, они теряют существенную долю семейного дохода, или у детей навсегда остается травма от того, что они росли без одного или обоих родителей, в приемной семье.

Иногда сопутствующие потери влияют на первоначальный источник ущерба. Это называется отдачей, и она может возникнуть намного позже первоначального действия.

В 1980-е США поддерживали афганских повстанцев в войне с СССР. Много лет спустя те же самые группировки примкнули к «Аль-Каиде», чтобы воевать против США, используя то же самое оружие, которое Штаты предоставили им десятки лет назад.

Подобно закону Гудхарта и связанным моделям, эффект наблюдателя и запугивания имеет отношение к нечаянным последствиям ваших намеренных действий – будь то политика, эксперимент или кампания. И вновь лучше всего думать наперед о том, какое поведение вы на самом деле стимулируете своими поступками, какие возникнут порочные стимулы, и какие сопутствующие потери и даже отдачу они повлекут за собой.

Возьмем в качестве злободневного примера здравоохранение. В системе платной медицины, общепринятой в Соединенных Штатах, поставщикам медицинских услуг платят за то, сколько услуг они оказали. Проще говоря, чем больше оказано услуг, тем больше денег получит поставщик, то есть система эффективно стимулирует количество оказанных услуг. Если вам сделали операцию, за любой дополнительный уход (последующие операции, анализы, физиотерапию, лекарства и т. д.) поставщик услуг выставит отдельный счет по ходу лечения, включая любые процедуры, связанные с возможными осложнениями после операции. Каждый этап лечения по отдельности приносит поставщику прибыль.

Но если лечение проводится по фиксированной цене, как правило, существует только один компенсационный платеж за все, что связано с операцией, включая бо́льшую часть напрямую связанного с ней дополнительного ухода. Такая схема стимулирует качество, а не количество, потому что поставщик услуг, проводящий операцию, обязуется обеспечить дополнительный уход, иногда даже если его оказывают другие поставщики. Таким образом, эта платежная схема заставляет поставщиков медицинских услуг определять конкретный объем лечения, чтобы не столкнуться с финансовыми последствиями недостаточного или чрезмерного ухода.

Эти изменения в процедуре выставления счетов (один цельный платеж одному поставщику против множества платежей множеству поставщиков) существенно меняет стимулы в сфере медицинских услуг. Система Medicare в Соединенных Штатах переходит на модель фиксированных компенсаций как для сокращения затрат, так и для улучшения здоровья пациентов в целом, используя более удачные стимулы между оплатой и качественным уходом.

Другими словами, незначительные, казалось бы, перемены в структуре стимуляции бывают очень важны.

Необходимо как можно четче подстроить желаемый результат под ваши стимулы. Ждите, что люди в основном будут действовать в собственных интересах, и стремитесь к тому, чтобы этот интерес напрямую поддерживал ваши цели.

Назад: Рискованное дело

Дальше: Становится жарко