Книга: Hello World. Как быть человеком в эпоху машин
Назад: Предвзятость машин
Дальше: Резюме

Мучительный выбор

Мы должны обсудить жизненно важный вопрос. Если вообще отказаться от помощи компьютеров, какую судебную систему мы получим? Ведь разнобой в решениях – не единственная беда, с которой, как выяснилось, сталкиваются судьи.

По закону, классовые, расовые и гендерные различия не должны влиять на приговор. (Все-таки предполагается, что Фемида слепа.) Но несмотря на то, что судьи в подавляющем большинстве стараются сохранять объективность, мы вновь и вновь наблюдаем случаи дискриминации. Как показали проведенные в США исследования, чернокожие обвиняемые в среднем отправляются в тюрьму на более долгий срок, у них меньше шансов выйти на свободу под залог и больше – оказаться в камере смертников, при этом вероятность приведения смертного приговора в исполнение для них выше. Были сделаны и другие выводы: за одни и те же преступления мужчины получают более суровые приговоры, чем женщины, а обвиняемые с относительно низким уровнем доходов и образования – гораздо более продолжительные сроки.

Как и для компьютерных программ, далеко не всегда необъективность объясняется явными предрассудками, поскольку история повторяется. Социальные и культурные предубеждения могут стать неизбежным следствием действий, которые совершаются для выбора решения.

Чтобы найти причины, сначала надо на самом элементарном уровне разобраться в том, как работает интуиция, поэтому на минутку отлучимся из зала суда и попробуем решить такую задачку:



Бита в комплекте с мячом стоит 1 фунт 10 пенсов.

Бита на 1 фунт дороже мяча.

Сколько стоит мяч?



Задачка из великолепной книги экономиста и психолога, нобелевского лауреата Даниэля Канемана “Думай медленно… решай быстро” указывает нам, в какую коварную ловушку мы все попадаемся, пока размышляем.

Чтобы найти правильный ответ, надо немного подумать, зато неправильный готов сорваться с языка мгновенно. Наверняка вы едва не выпалили: “Десять пенсов!”

Не расстраивайтесь, если не угадали (5 пенсов) – 71,8 % судей тоже промахнулись. Даже тем, кто справился с задачкой, надо было подавить в себе первый интуитивный порыв.

История с судейскими решениями объясняется той самой борьбой между интуицией и зрелым размышлением. В целом психологи сходятся на том, что у нас есть два способа мышления. Система 1 – это автоматическое, инстинктивное мышление с высокой вероятностью ошибки. Это она заставляет нас среагировать мгновенно и ответить: десять пенсов. Система 2 – медленные, вдумчивые, осознанные рассуждения, хотя зачастую эта система довольно ленива.

Если спросить человека, как он решал задачу, окажется, что ход его мысли направляла Система 2 – но, как говорит Даниэль Канеман, “Система 2 нередко подтверждает или обосновывает логически те идеи и ощущения, которые сгенерировала Система 1”.

В этом смысле судьи ничем не отличаются от всех нас. Они тоже люди с такими же странностями и слабостями, как и мы с вами. Факт тот, что наш интеллект не рассчитан на дотошный, системный анализ сложных, запутанных задач. Нам нелегко взвесить многочисленные соображения и быстро разложить все по полочкам, при этом не позволяя интуитивной Системе 1 включиться и упростить мыслительный процесс.

Например, когда встает вопрос об освобождении под залог, можно было бы надеяться, что судья, прежде чем вынести резолюцию, внимательно изучит дело и рассмотрит все аргументы за и против. Но, к сожалению, практика показывает обратное. Как выяснили психологи, судьи не склонны к мудреным схемам – они просто прокручивают в мозгу стандартный перечень предупреждающих флажков. Как только в досье обвиняемого обнаруживается любой из таких флажков – прежние судимости, связи с преступным сообществом, ходатайство со стороны обвинения, – ставится точка, и судья отказывает в просьбе об освобождении под поручительство или залог.

Беда в том, что слишком часто эти флажки коррелируют с расой, полом и уровнем образования. Как правило, судьи полагаются на свою интуицию больше, чем следовало бы, и таким подходом непроизвольно поддерживают необъективную систему.

И это еще не все. Как ни грустно, мы едва коснулись страшной темы предвзятого, несправедливого судейства.

Если вам случалось хоть раз в жизни убедить себя (лично мне случается, и нередко) в целесообразности покупки дорогущего платья или свитера только потому, что его уценили вдвое, вам полезно будет узнать, что такое эффект привязки. Нам трудно дать точную количественную оценку, мы с большей уверенностью сравниваем числа, чем называем абсолютные значения, не имея точки отсчета. Маркетологи уже много лет пользуются эффектом привязки для того, чтобы повлиять и на наше восприятие стоимости товаров, и на объемы наших закупок. Это работает примерно так же, как таблички в магазинах вроде “12 банок супа в одни руки”. Не подумайте, будто администрация не хочет, чтобы фанаты супа вовсе смели его с прилавков. Эти предупреждения ненавязчиво подсказывают вам, сколько банок вы должны купить. Мозг ориентируется на число 12 и дальше понижает порог. Проведенный в 1990-х годах эксперимент показал, что благодаря точно такой же табличке люди покупали больше консервов – в среднем по 7 банок вместо прежних 3,3.

Теперь вы, наверное, с пониманием отнесетесь к тому, что судьи тоже подвержены воздействию эффекта привязки. Если обвинение назовет крупную сумму возмещения ущерба, скорее всего, судья тоже назначит немалую денежную компенсацию, а если прокурор требует более строгого наказания, то и судья обычно выносит относительно суровый приговор. Одно исследование показало даже, что звонок журналиста судье во время перерыва в заседании суда с намеком на вероятное наказание мог существенно повлиять на приговор по гипотетическому делу. Например, журналист мог задать вопрос: “Как вы полагаете, обвиняемый по этому делу получит больше трех лет или меньше?” И, пожалуй, самое страшное: похоже, на решение судьи может повлиять число, выпавшее на игральных костях перед рассмотрением дела. Даже самые умудренные опытом судьи порой попадались на такую уловку.

Привычка сравнивать цифры влияет на справедливость приговоров еще и по другой причине. Может быть, вы замечали за собой одно странное свойство. Чем громче музыка, тем менее заметно будет усиление звука, если вы прибавите уровень на одно деление; если повышение стоимости товара с 1,20 до 2,20 фунта покажется вам чересчур резким, а изменения цены с 67 на 68 фунтов вы даже не заметите; чем старше мы становимся, тем быстрее бежит время. Все дело в том, что мы оцениваем происходящее не в абсолютных единицах, а по относительной шкале. Год кажется нам не просто неким фиксированным периодом – в нашем восприятии доля каждого следующего года в нашей жизни сокращается. Величина отрезка времени, денежной суммы или уровень громкости в нашем восприятии подчиняются несложной математической формуле – закону Вебера – Фехнера.

Словом, по закону Вебера – Фехнера, порог чувствительности – минимальное изменение интенсивности раздражителя, которое мы способны уловить, – пропорционален начальной интенсивности раздражителя. Неудивительно, что маркетологи уже взяли это на вооружение. Они точно знают, до какой степени можно уменьшить размер и вес шоколадного батончика, так чтобы покупатели не заметили подвоха, и до какого предела можно повышать цену, прежде чем вы отправитесь за той же шоколадкой в другой магазин.

Вот и в правосудии та же проблема – судейские решения о суровости приговора тоже подчиняются закону Вебера – Фехнера. Чем строже наказание, чем больше разрыв между сроками. Если совершено более тяжкое преступление, чем то, за которое обычно дают двадцать лет, добавить еще месяца три вроде бы недостаточно: двадцать лет или двадцать с тремя месяцами – казалось бы, все едино. Хотя это не так, и как ни крути, три месяца в неволе – это три месяца в неволе. Однако судья не добавит всего несколько месяцев, а сразу шагнет на следующий уровень, так чтобы разница была ощутима – в данном случае назначит двадцать пять лет.

Мы можем сравнить реальные сроки с ожидаемыми согласно закону Вебера – Фехнера, так что все это правда. В 2017 году были проанализированы сто тысяч приговоров, вынесенных в Великобритании и Австралии, и выяснилось, что в 99 % случаев, когда вина подсудимого была доказана, назначенные наказания вписывались в эту формулу.

“Не важно, в чем именно вас обвиняют, к какому типу обвиняемых вы относитесь, в какой стране вас судят и что вам грозит – тюремное заключение или общественные работы”, – сказала мне автор этого исследования Мандип Дхами. Имеют значение только цифры, которые пришли в голову судье и показались ему подходящими.

К сожалению, можно еще много всего вспомнить о предубеждениях в судействе. Отцы дочерей склонны выносить женщинам более мягкие приговоры. Если местная команда только что проиграла матч, вряд ли судья охотно согласится на освобождение под залог. В одном широко известном исследовании было даже высказано предположение, что вероятность благоприятного завершения судебного процесса зависит от времени суток. Результаты эксперимента еще нуждаются в подтверждении, и пока неясно, так ли уж важен временной фактор, однако можно привести доказательства того, что было бы невыгодно предстать перед судом прямо перед обеденным перерывом – от судей, о которых шла речь в этой работе, скорее можно было ждать решения об освобождении под залог сразу после ланча, в то время как незадолго до перерыва вероятность хорошего финала была наименьшей.

Как показало другое исследование, судьи не любят принимать слишком много одинаковых решений подряд. Следовательно, если прямо перед вами слушали четыре дела и всех обвиняемых отпустили под залог, вам уже не на что надеяться.

Некоторые специалисты утверждают также, что наше отношение к незнакомцам зависит от температуры напитка, который мы держим в руках. Если вам, прежде чем вас с кем-нибудь познакомить, предложат подогретый напиток, ваш новый собеседник покажется вам более дружелюбным, великодушным и внимательным человеком.

Мы говорили о том, что поддается количественной оценке. Но, несомненно, есть еще масса других условий, которые исподволь влияют на наше поведение и которые невозможно протестировать в зале суда.

Назад: Предвзятость машин
Дальше: Резюме