Резюме

Буду с вами откровенна. Когда я впервые услышала о том, что в судах применяются компьютерные программы, мне это не понравилось. Программа может промахнуться, и, по-моему, безответственно давать компьютеру слишком много власти, если из-за погрешности в алгоритме человек лишится права на свободную жизнь.

Здесь я не одинока. Так считают многие – пожалуй, даже большинство – из тех, кому пришлось столкнуться в жизни с уголовным судом. Мандип Дхами рассказывала мне о том, как относятся подсудимые, с которыми она работала, к методам рассмотрения их дел. “Они все равно предпочитали человека компьютеру, хотя и понимали, что судья может наделать больше ошибок. Подсудимые хотят человеческого отношения”.

Кстати, адвокаты придерживаются того же мнения. Я беседовала с одним лондонским адвокатом, и он сказал, что в зале суда он старается извлечь пользу из слабых мест системы, а с алгоритмами это гораздо труднее. “Чем более предсказуемо решение, тем меньше места для тонких маневров в защите”.

Но когда я спросила Мандип Дхами, как она сама почувствовала бы себя, оказавшись под арестом, ответ был прямо противоположным: “Я не хочу, чтобы моя судьба решалась по чьей-то интуиции. Лучше, чтобы была логичная, обоснованная стратегия. Мы относимся к свободе действия судей как к чему-то священному. Думаем: как это прекрасно! Однако исследования показывают, что это вовсе не так. Ничего хорошего в ней нет”.

Я, как и все, считаю, что судейские решения должны быть как можно более объективными. Они должны опираться не на принадлежность обвиняемого к той или иной группе, а на факты. В этом отношении алгоритм не слишком надежен. Но выявить недостатки алгоритма – еще полдела. Мы не должны выбирать между несовершенной компьютерной программой и некой воображаемой идеальной системой. Сравнивать можно лишь алгоритм и то, что мы получим, если его не будет.

Чем больше я читала и разговаривала с разными людьми, тем лучше понимала, что мы слишком многого требуем от живых судей. Людям от природы свойственно предубеждение. На каждого Кристофера Дрю Брукса, неправедно осужденного алгоритмом, найдется огромное множество таких же обвиняемых, как Николас Робинсон, по делам которых несправедливые решения выносили люди без помощи машин. Я думаю, если алгоритм, пускай даже не без изъянов, работает в связке с судьями и их зачастую хромая логика как-то корректируется, это шаг в правильном направлении. По крайней мере, от систематической предвзятости и случайных погрешностей хорошо отлаженная программа может нас избавить. Всех судей не переделаешь, тем более тех, кто вообще не может объяснить, как и почему они вынесли тот или иной приговор.

Прежде чем взяться за разработку программы для уголовного правосудия, мы должны сесть и хорошенько подумать, каковы задачи правосудия. Мы не можем просто закрыть глаза и надеяться на лучшее – необходимо предельно четко и однозначно представлять себе, чего мы хотим от алгоритмов и какие человеческие слабости они должны компенсировать. Это вызывает ожесточенные споры о процедуре принятия решений в судах. Задача ставится непростая, но иначе мы не придем к обоснованному выводу о принципиальной возможности применения алгоритмов с пользой для себя.

В системе правосудия масса противоречий, которые лишь добавляют путаницы, поэтому ответить на вопросы такого рода очень и очень нелегко. Но алгоритмы потихоньку проникают в другие сферы жизни, где выбор решений сопряжен с гораздо меньшими трудностями, а цели алгоритмов гораздо яснее, и их польза для общества очевидна.

Медицина

В 2015 году группа ученых, которых интересовала точность диагностики в онкологии, провела необычный новаторский эксперимент. Шестнадцати участникам эксперимента предложили проанализировать изображения ткани молочной железы на мониторе с сенсорным экраном. Образцы были настоящими – женщинам провели биопсию и тонкий слой взятой на исследование ткани окрасили химическими веществами в красный, фиолетовый и синий цвета, чтобы выделить кровеносные сосуды и млечные протоки. От диагностов требовалось только определить, есть ли на видимой картине признаки злокачественных изменений в клетках.

Участники эксперимента прошли короткую подготовку и приступили к выполнению задания – и результаты оказались впечатляющие. Члены команды работали поодиночке и оценили правильно 85 % образцов.

Зато после ученые заметили нечто совсем удивительное. Когда они стали сводить результаты, то есть суммировать все ответы, чтобы получить объективную оценку каждого изображения, точность подскочила аж до 99 %.

Но не высочайшим профессиональным уровнем диагностов выделялось это исследование среди всех прочих. Главное – это кем они оказались на самом деле. Эти доблестные спасатели не были ни онкологами, ни патологами. Не были они и медсестрами или студентами-медиками. Это были голуби.

Врачам клинической лабораторной диагностики безработица пока не грозит – едва ли авторы эксперимента предлагали заменить докторов обычными голубями. Однако их исследование выявило важную вещь: не только люди способны находить в кластерах клеток некие характерные картины. Если голуби справились с этой задачей, почему бы алгоритму не попытаться?

Охотники за паттернами

Вся история и практика современной медицины зиждется на поиске паттернов – характерной картины в собранных данных. С тех самых пор, как еще две с половиной тысячи лет назад древнегреческий целитель Гиппократ создал свое учение о медицине, основу борьбы за наше здоровье составляют наблюдение, исследование и анализ полученной информации.

Еще раньше врачевание по большей части мало чем отличалось от ворожбы. Люди верили, что если человек заболел, значит, он разгневал кого-нибудь из богов, а болезнь – это результат того, что его телом завладел злой дух. Поэтому в арсенале лекаря были песнопения, речитативы и всякие суеверия – вам смешно, а вот тому, кто надеялся с помощью такой терапии отсрочить свою кончину, наверное, было не до смеха.

Не то чтобы Гиппократ в одиночку раз и навсегда излечил мир от неразумия и предрассудков – согласно легенде, у него самого вместо дочери был дракон, – но он внедрил в медицину совершенно новые идеи. Он был убежден, что никакая не магия, а объективное и планомерное обследование дает возможность понять причину заболевания. Он уделял особое внимание наблюдению и описанию картины болезни и таким образом возвел медицину в ранг науки, за что его заслуженно почитают как “отца современной медицины”.

Те научные теории, которые предлагали Гиппократ и его соратники, сейчас не выдерживают критики (они утверждали, что здоровье – это хорошо сбалансированная гармония крови, флегмы, желтой желчи и черной желчи), но выводы древних докторов определенно справедливы. (Между прочим, они первые сформулировали, в частности, важное правило: “Пациенты, полные от природы, рискуют умереть раньше, чем худые люди”.) Эта тема была актуальна во все века. На протяжении многих столетий мы совершили массу ошибок в толковании медицинских вопросов, но сильно продвинулись вперед благодаря способности находить паттерны, классифицировать симптомы и на основании наблюдений давать прогнозы на будущее для пациента.

История медицины изобилует примерами. Так, в Китае XV века целители впервые поняли, что людей можно прививать от оспы. Они изучали эту болезнь не одно столетие и нашли схему, которая позволяла в десять раз снизить вероятность гибели от страшной инфекции. Достаточно было найти человека с легкой формой оспы, соскоблить корочки с болячек, высушить их, растолочь и вдуть этот порошок в ноздри здоровому человеку. В XIX веке, в золотую эру медицины, появились новые, научно обоснованные методики, и поиск паттерна в данных обследования стал неотъемлемой частью врачебной практики. Одним из докторов, практикующих такие методы, был венгр Игнац Земмельвейс – в 1840 году он подметил в статистике смертности пациенток родильного отделения поразительный факт. Женщины, рожавшие в родильном отделении под присмотром врачей, в пять раз чаще подхватывали гнойную инфекцию, чем те, у кого роды принимали акушерки. В тех же данных нашлось и объяснение: врачи спешили к роженицам, не помыв руки после того, как вскрывали трупы.

Открытия, сделанные в Китае XV века и в Европе XIX века, по-прежнему признают медики во всем мире. Не только в научных изысканиях, когда врачи исследуют болезни населения, но и в повседневной работе, когда они оказывают людям первую помощь. Нет ли перелома? Болит голова – ничего страшного или это симптом грозного недуга? Так ли уж необходимо назначить пациенту с фурункулом курс антибиотиков? Каждый раз встает задача распознавания паттерна, классификации и прогнозирования. Именно в этой области алгоритмы всегда были на высоте.

Безусловно, профессия врача подразумевает массу таких навыков и умений, которыми алгоритму никогда не овладеть. Сочувствие, например. Способность поддержать пациента, помочь ему справиться с социальными, психологическими и даже финансовыми проблемами. Но в отдельных областях медицины компьютер может предложить посильную помощь. Особенно там, где в чистом виде применяется умение распознать особый паттерн и важнее всего классификация и прогноз. Особенно в патологических исследованиях.

Пациенты редко встречаются с врачом клинической диагностики. Патолог сидит где-то у себя в лаборатории, изучает образцы крови или тканей, которые ему прислали на анализ, и дает свое заключение. Его работа завершает диагностическую линию, именно здесь решающее значение имеют высокая квалификация, аккуратность и добросовестность. Зачастую именно патолог выносит вердикт – есть рак или нет. Поэтому, если от химиотерапии, операции или еще чего похуже вас отделяют только биопсия и исследование образца, вы хотите быть уверены в том, что доктор не ошибся.

Нелегок труд патолога. Помимо всего прочего, он изучает за день сотни образцов, в каждом из которых десятки, а то и сотни тысяч клеток, распластанных между двух стекол. Это самый сложный уровень игры “Где Уолли?”, какой только можно себе представить. Патолог должен внимательно рассматривать каждый образец и выискивать в огромной клеточной галактике, которая открывается его взору под микроскопом, любые малейшие отклонения от нормы.

“Это невероятно сложная задача, – говорит Энди Бек, патолог из Гарварда, в 2016 году основавший PathAI, компанию по разработке программ для классификации взятых при биопсии образцов. – Если бы патологи скрупулезно изучали по пять стекол в день, можно было бы ожидать от них блестящих результатов. Но в жизни так не бывает”.

Конечно, так не бывает. В жизни врачам клинической диагностики приходится еще тяжелее, ведь сложнейшие биологические процессы кого угодно поставят в тупик. Вернемся к эксперименту с раком молочной железы, где так хорошо поработали голуби. Недостаточно просто сказать, больна пациентка или нет. Диагностика рака груди подразумевает целый спектр состояний. На одном его краю доброкачественные, здоровые клетки, которые находятся там, где им и надлежит быть. На другом – самая противная разновидность опухоли, инвазивная карцинома, при которой раковые клетки распространяются за пределы млечных протоков и прорастают в прилегающие ткани. Такие полярные ситуации выявить достаточно легко. Как выяснилось в одном из недавних исследований, патологи успешно определяют выраженные злокачественные новообразования в 96 % случаев – стая голубей, перед которыми поставили аналогичную задачу, показала примерно такой же уровень точности.

Между двумя крайними позициями – абсолютно здоровой тканью и бесспорно опасной для жизни злокачественной опухолью – есть еще несколько менее очевидных вариантов (см. рисунок ниже). Иногда в образце ткани обнаруживаются группы атипичных, подозрительных на вид клеток, но большого беспокойства они не вызывают. Это могут быть предраковые изменения, вовсе не обязательно чреватые серьезными последствиями. Или рак in situ, когда опухоль – так называемая преинвазивная (внутриэпителиальная) протоковая карцинома – остается в пределах млечных протоков.

Выбор терапии во многом зависит от того, к какой категории относится образец взятой на анализ ткани. В зависимости от его положения в диагностическом ряду доктор может сказать, необходима ли вам мастэктомия или другое лечение, а то и вовсе отпустит вас.

Загвоздка в том, что различить промежуточные состояния крайне сложно. Даже самые многоопытные врачи-патологи расходятся во мнениях относительно одного и того же образца ткани. В 2015 году был проведен эксперимент, который показал, как сильно порой различаются диагнозы разных докторов. Ста пятнадцати патологам предложили оценить 72 образца ткани молочной железы с доброкачественными изменениями, то есть занимающими среднюю позицию в ряду состояний. К сожалению, ответы совпали всего в 48 % случаев.

Коль скоро ваши шансы на верный диагноз примерно один к одному, то с тем же успехом можно было бы подбросить монетку. Орел – и вам без малейшей нужды делают мастэктомию (в США это стоит сотни тысяч долларов). Решка – и вы упускаете возможность выявить онкологическое заболевание на ранней стадии. И так плохо, и эдак.

Когда ставки так высоки, точность имеет критическое значение. Сможет ли алгоритм лучше выполнить эту работу?