Величайшее благо?

Ладно, шучу. Нельзя рассчитывать, что решения о целесообразности генетических анализов будут приниматься с мыслью о грядущем великом прорыве в области здравоохранения. Ясно же, что никто об этом не думает, – у нас разные системы приоритетов по отношению к себе лично и ко всему человечеству.

Но это подводит нас к важнейшей заключительной теме. Если действительно возможно создать диагностический компьютер, способный подбирать схемы лечения, на кого он будет работать? На человека или на все человечество? Ведь рано или поздно придется выбирать.

Предположим, вы идете к врачу с жалобой на мучительный кашель. Возможно, вы бы и так поправились, но если вами – пациентом – займется компьютер, он может на всякий случай направить вас на рентген и анализ крови. А может быть, если вы попросите, еще и выпишет вам антибиотики. Если для алгоритма важно только ваше здоровье и хорошее самочувствие, вероятно, он сочтет прием таблеток обоснованным, пусть даже от этого вы просто поболеете на несколько дней меньше.

Но машина, первоначальная задача которой – служить обществу, возможно, примет во внимание проблему резистентности к антибиотикам. Если вам прямо сейчас ничего страшного не грозит, ваш временный дискомфорт отступит на второй план, и алгоритм даст рецепт только в случае острой необходимости. Кроме того, такой алгоритм склонен осторожнее расходовать средства и учитывать количество пациентов, ожидающих своей очереди, поэтому при отсутствии у вас более серьезных симптомов не назначит вам обследование. Откровенно говоря, он может просто порекомендовать вам выпить аспирин и перестать ныть.

Если же кандидатов на трансплантацию органа отбирает машина, которая блюдет интересы всего общества, возможно, она будет стремиться “спасти как можно больше жизней”. При этом компьютер, которого волнуете только вы, предложит другой план лечения.

В британской государственной системе здравоохранения или в страховой фирме компьютер по возможности сведет затраты к минимуму, а задачей машины, созданной для фармацевтической компании, вероятно, станет продвижение определенного препарата.

Конечно, такие напряженные ситуации, как в уголовном судопроизводстве, в медицине возникают гораздо реже. Здесь нет обвинения и защиты. В системе здравоохранения все делается ради одной и той же цели – чтобы пациентам стало лучше. Но даже здесь конкретные задачи каждого участника процесса немножко отличаются.

В любой сфере жизни, куда внедряется алгоритм, всегда устанавливается некое равновесие. Между личным благом и общественным. Между личностью и обществом. Между разными задачами и приоритетами. Проложить путь в лабиринте преференций нелегко, даже когда впереди сияет путеводная звезда – эффективное, общедоступное здравоохранение.

Но еще труднее, если конкурирующие мотивы неочевидны. Если преимущества алгоритма переоценены, а риски неясны. Если вы не понимаете, чему можно верить, а чему нет и кто окажется в выигрыше от вашей доверчивости.

Автомобили

В то памятное утро 13 марта 2004 года солнце едва вышло из-за горизонта, а посетители уже забили бар Slash X до отказа. Этот бар находится на окраине небольшого города Барстоу, расположенного между Лос-Анджелесом и Лас-Вегасом посреди пустыни Мохаве – неподалеку от места съемок того эпизода “Убить Билла 2”, в котором Ума Турман выбиралась из гроба. Обычно в Slash X собирались ковбои и любители погонять по бездорожью, но в тот весенний день сюда съехалась совсем другая публика. Временные трибуны, построенные рядом, заполнили инженеры с горящим взором, возбужденные зрители и безбашенные гонщики – их всех объединяла общая мечта. Все они хотели первыми воочию увидеть, как беспилотный автомобиль выиграет заезд.

Организатором гонок выступило Управление перспективных исследовательских проектов Министерства обороны США (US Defence Advanced Research Projects Agency, DARPA; отдел “сумасшедших ученых” Пентагона, как его называют). Это ведомство уже достаточно давно проявляло обоснованный интерес к беспилотным машинам, поскольку от придорожных фугасов и целевых ударов по военной технике гибло слишком много военнослужащих. Ранее в том же году DARPA объявило о намерении к 2015 году перевести на автономный режим треть транспортных средств, задействованных в сухопутных войсках США.

До сих пор дело продвигалось медленно, с большими затратами. За более чем два десятка лет ради воплощения своего плана в жизнь DARPA израсходовало на финансирование исследований в университетах и различных компаниях около полумиллиарда долларов. А потом возникла гениальная идея – почему бы не устроить соревнования? Энтузиастам по всей Америке предложили сконструировать собственные модели беспилотных автомобилей и принять участие в гонках на длинной дистанции с главным призом в миллион долларов. Подобных соревнований еще нигде в мире не проводилось, а для Пентагона это был бы легкий и дешевый способ вырваться вперед в решении поставленной задачи.

Проложили трассу длиной 142 мили (228,5 км), причем не самую простую. Путь машинам осложняли неровные участки, крутые склоны, крупные валуны, ямы, ложбины и диковинные кактусы. Беспилотники должны были найти грунтовую дорогу, ширина которой порой не превышала нескольких футов. За два часа до старта каждая команда получила диск с GPS-координатами. Две тысячи меток были рассыпаны по маршруту, словно хлебные крошки – примерное представление о направлении движения получить можно, а знать, какие препятствия ждут машину впереди, нельзя.

Несмотря на устрашающие условия, в первый же год подали заявки 106 команд храбрецов. Пятнадцать машин прошли квалификационный этап, были признаны безопасными и допущены к старту. Одни беспилотники походили на пляжные багги, другие – на монстр-траки, третьи – на танки. Говорят, один изобретатель заложил дом, чтобы построить свою машину, а другой в стремлении к оригинальности водрузил на крышу автомобиля две доски для серфинга. Был даже самобалансирующийся мотоцикл.

С утра в день соревнований перед Slash X выстроился нестройный ряд машин и собрались тысячи зрителей. Одна за другой машины без водителей подкатывали к линии старта – любая из них отлично смотрелась бы в “Безумном Максе” или в “Сумасшедших гонках”. Но внешность – не главное. Им всего-то надо было пройти трассу не более чем за десять часов без участия людей.

Однако все пошло не по плану. Один автомобиль опрокинулся в самом начале дистанции, и пришлось оттащить его в сторону. Мотоцикл завалился набок, едва миновав линию старта, и был снят с соревнований. Какая-то машина метров через пятьдесят врезалась в бетонную стену. Другая запуталась в заграждении из колючей проволоки. Еще одна затормозила между двумя шарами перекати-поля: приняв их за неподвижные объекты, она не знала, ехать вперед или дать задний ход – так и дергалась туда-сюда, пока не вмешались люди. Остальные покатились дальше, разбиваясь о валуны и сваливаясь в ямы. Ломались оси, лопались шины, взлетали в воздух кузова. Местность вокруг бара напоминала кладбище роботов.

Самый удачливый участник заезда, созданный командой Университета Карнеги-Меллона умудрился проехать целых семь миль (11 км), но неверно оценил подъем, забуксовал и, поскольку никто ему не помог, отчаянно вертел колесами, пока не загорелись шины. К одиннадцати утра все закончилось. Организаторы соревнований из DARPA сели в вертолет и полетели к финишу, чтобы сообщить караулившим победителя журналистам, что ни одна из машин до них не доберется.

Было много пролившегося масла, пыли, шума и поломок – не было только победителя. Команды инженеров год трудились над своими моделями, которые прожили, в лучшем случае, несколько минут. Однако не надо расценивать это как полный провал. В острейшей борьбе родилась масса новаторских идей, и к 2005 году, к следующим гонкам, техника изменилась до неузнаваемости.

На этот раз прошлогодний рекорд дальности – семь миль – побили все участники, кроме одного. Все 132 мили (212 км) без всякой помощи со стороны людей одолели аж пять машин.

Сейчас, спустя десять с лишним лет, уже многие убеждены, что будущее транспорта за беспилотниками. В конце 2017 года канцлер казначейства Великобритании Филип Хэмммонд заявил о намерении правительства к 2021 году выпустить на английские дороги автомобили без водителей – и без страхующих операторов. Daimler пообещал создать автономные машины к 2020 году, Ford – к 2021-му, подобные предположения высказывали и другие производители.

В прессе стали рассуждать уже не о принципиальной возможности создания беспилотных автомобилей, а о том, какие проблемы придется решать, когда они будут созданы. “Должен ли ваш автомобиль сбить пешехода ради того, чтобы спасти вашу жизнь?” – вопрошала New York Times в июне 2016 года. Затем в ноябре 2017-го: “Если рулить начнут машины, что будет с животными на дорогах и штрафами?” Между тем Financial Times предупреждала в январе 2018-го: “Грузовой транспорт взял курс на беспилотное будущее – профсоюзы предрекают потерю работы миллионам водителей”.

Что произошло? Каким образом всего за несколько лет удалось совершить рывок от нежизнеспособных железяк к революционным высокотехнологичным проектам? Стоит ли ожидать дальнейшего быстрого прогресса?