Книга: Пассажиры
Назад: Глава 52
Дальше: Глава 54

Глава 53

 

Все взоры обратились к парламентарию. Джек даже бровью не повел при этом обвинении, сохранив горделивую осанку.
– Джек, – продолжал Хакер, – не будете ли вы любезны объяснить миру, как на самом деле беспилотный автомобиль в случае катастрофы принимает решение, кому жить, а кому умереть? Ибо все, что вы нам поведали, было ложью, не так ли?
– О чем он толкует? – спросила Фиона.
Экраны, показывавшие Пассажиров и новостные каналы, сменились одним-единственным изображением – лицом Джека, транслируемым множеством скрытых камер, рассеянных по стенам. Он не удосужился отреагировать ни на них, ни на пристальное внимание присутствующих. Вместо того хранил твердое, стоическое выражение лица, выпрямив спину, сцепив руки и расставив ноги на ширину плеч.
– Давайте же, Джек, – уговаривал Хакер. – Либо я им скажу, либо вы. Мне до лампочки, каким образом это будет раскрыто.
Часы отсчитали тридцать секунд, прежде чем Джек шелохнулся. Не обращая внимания ни на кого, поправил галстук и направился к высоким деревянным дверям выхода. И задержался там, стоя к коллегам спиной.
– Боюсь, теперь ваша очередь побыть Пассажиром, – произнес Хакер. – Не хотите ли вы снять с души какое-нибудь бремя? И помните, честность – лучшая политика.
Джек не отозвался ни словом, так что Хакер поддал жару:
– Что вы умалчиваете от общественности и коллег-присяжных с той самой поры, как начались расследования? Как беспилотный автомобиль на самом деле принимает решение в случае потенциально фатальной аварии?
– Я полагал, – взял слово Мэттью, – что мы приняли немецкий подход, при котором программное обеспечение должно быть запрограммировано избегать травм и смертей любой ценой. Автомобиль оценивает каждый индивидуальный сценарий, прежде чем избрать наилучший образ действий с минимальным количеством травм и смертных исходов.
– Именно такими и были намерения, когда технология еще пребывала, так сказать, в колыбели, – отозвался Хакер. – Больше всего общественность тревожило, как могут роботы выносить этические и нравственные решения. Власть предержащие уверяли нас, что беспилотные автомобили будут пытаться спасти как можно больше жизней. И этого было довольно, дабы умиротворить большинство из нас, даже тех, кто боялся, что автопроизводители на первое место будут ставить безопасность их Пассажиров. Но это было ложью, не так ли, Джек? Потому что автомобили, за которые вы столь пылко агитировали, защищают людей, которых вы сочли наиболее ценными для общества.
– О чем это он? – шепнул Кэдмэн одному из подручных. – Почему я не читал об этом в Сети?
– Что он имеет в виду под «ценными для общества»? – осведомилась Либби.
Джек неколебимо хранил молчание, так что за него ответил Хакер:
– Если катастрофа с участием беспилотного автомобиля неизбежна, для принятия решения машина сканирует не только окружение, но и вас. Все, что занесено в вашу национальную идентификационную карту. И информация, собранная вашими носимыми устройствами, менее чем за наносекунду определяет, заслуживаете ли вы спасения или вами можно пожертвовать.
– Но в удостоверениях личности содержатся лишь основные сведения вроде номера соцстраха, группы крови, сканов сетчатки и тому подобное. – Либби тряхнула головой. – Как ценность моей жизни может зависеть от чего-то вроде цвета глаз?
– На самом деле карты собирают и хранят куда больше – массу данных, полученных отовсюду, где вы предоставляете свою информацию. Карта хранит вашу медицинскую карту, историю интернет-поисков, онлайн-покупок, уровень образования, средний и ожидаемый заработок, историю отношений, размер закладной, полицейское досье, с кем вы общаетесь в соцсетях – и это далеко не полный список.
– Значит, это подобие наших постоянно пополняющихся биографий? – уточнил Мэттью.
– Вот именно. Это резюме, способное меняться ежедневно, даже ежечасно. Докиньте сюда данные в телефонах, с которыми мы не расстаемся, и носимые гаджеты вроде отслеживающих вашу физическую активность и здоровье, и вкупе это даст полную картину – наш портрет, наше место в обществе и нашу роль в формировании будущего страны. Вся эта информация помогает машине оценить нас, прежде чем решить, жить нам или умереть.
– Кого же она считает более важным, чем остальные? – поинтересовалась Фиона.
– Позвольте привести пару примеров. Если надо выбрать между безработным подростком и высокопоставленным муниципальным чиновником, для подростка дело кончится плохо. Если имеется беременная женщина и пожилая особа, живущая на государственную пенсию, в расход идет последняя. Тучному субъекту лучше не тягаться со спортсменом; точно так же лицо с судимостями не в фаворе против лица без приводов в полицию. Офицер полиции тянет больше, чем медсестра, но врач перевешивает офицера полиции. Курильщик лучше наркомана, а раковый больной предпочтительнее того, у кого в семейном анамнезе значится сумасшествие. Парламентарий торжествует над госчиновником, но министр бьет парламентария. И так далее, и тому подобное, дальше и дальше. Лицо, наиболее полезное для нашего общества, всегда берет верх. Когда доходит до беспилотных авто, никакого равенства нет и в помине.
Внезапно экраны заполонили изображения, данные, имена, папки расследований со штампом «Секретно», черновики и фотографии – и все это со ссылками для скачивания. Среди них Либби узнала трех жертв, очевидцем гибели которых стала на Монро-стрит.
– Если все это правда, то у меня нет слов, – выговорила Фиона, – просто нет слов.
– Как такое вообще могли санкционировать? – вопросил Мэттью. – Кто-то же должен был дать этому добро?
– Избранная кучка сановников, окопавшаяся в стенах Вестминстера, решила использовать наши собственные данные против нас, обеспечив, чтобы смерть на дорогах обходила тех, кто «имеет значение». Злоумышленники – в число них входил и Джек, – которым была поручена разработка и внедрение, углядели возможность зачистить общество от определенных членов, по их мнению, отдающих ему недостаточно. Они хотели пустить наши данные в ход против нас.
В комнате воцарилось гнетущее безмолвие. Каждый переваривал и укладывал в голове обвинения Хакера.
– Это правда, Джек? – вопросила Мюриэл. – Мы для вас всего-навсего данные?
Покачав головой, Джек поддернул манжеты рубашки, чтобы они выступали из-под рукавов пиджака. И наконец повернулся к членам жюри лицом.
– Британский народ стал всего-навсего данными с того самого момента, когда Вильгельм Первый провел первую перепись для «Книги страшного суда» в тысяча восемьдесят шестом году, – начал он. – Все мы являемся – и всегда были – статистикой, так что не будем притворяться, что это катастрофический кризис, рискующий напрочь разорвать все нравственные фибры нашего общества. Как по-вашему, вам дают одобрение на кредитные карты и ссуды? Как принимаются решения о том, каким должен быть размер вашей страховой премии? Как мы определяем число иммигрантов, допускаемых в нашу страну? На основе собранных данных. Здесь произошло лишь то, что мы достигли нового уровня своего исторического развития, когда принимаются решения о том, насколько вы важны для родной страны.
– И вы считаете это позволительным?! – выпалила Либби. – Прямо не верится, что я это говорю, но наш враг – не ИИ, а вы!
– Поведайте мне, мисс Диксон, а чего вы ждали от нас? – не смутился Джек. – Вы правда думаете, что мы позволили бы машинам принимать все решения? Мы не дураки; разумеется, мы собирались держать их в крепкой узде. Нам предоставили невообразимую, случающуюся лишь раз в жизни возможность защитить людей, формирующих наше общество, спасающих жизни, делающих свой вклад, делающих ее лучше для нас всех. Поставить их на первое место – наш долг. И, по-вашему, мы должны профукать его во имя равенства, которого в нашей стране на самом деле никогда и не было? Это всего лишь модернизация классовой системы. Если вам для спасения жизни нужна операция, кому вы доверите скальпель – врачу или грузчику из супермаркета? Если вы окажетесь в горящем здании, какого спасителя вы предпочтете? Опытного пожарного или молодчика с задержкой развития?
– Вы судите жизни, учитывая и инвалидность? – уточнила Мюриэл.
– Ну конечно же, да! – рассмеялся Джек.
– Но мы все Божьи…
– Приберегите это для воскресной проповеди. Вы или ваша жена провели типовой двадцатинедельный скрининг-тест для своего ребенка?
– Да.
– Зачем?
– Чтобы убедиться, что всё в порядке.
– А если б это оказалось не так?
– Ну… э-э… мы бы приняли решение, исходя…
– Вы ханжа. Потому что если б мы так уж ценили неполноценных, как утверждаем, мы не проверяли бы зародыши на аномалии развития во время беременности.
– Это ничуть не лучше того, что делали нацисты, – упрекнула Либби. – Вы используете дорожные аварии, чтобы устранять тех, кто не вписывается в ваш образ того, как должно выглядеть общество.
– Но мы ведь не пускаем в ход солдат, чтобы устраивать облавы и сгонять людей в концлагеря, так? Мы только-то и делаем, что в редких случаях фатальных ДТП ставим страну на первое место. Это естественный отбор современной эпохи. Разумеется, я и не рассчитываю, что человек вроде вас способен это постичь.
– Люди хотели не этого, – не уступала Либби. – Помните результаты опроса американского университета? Миллион пользователей по всему миру отвечали на этические вопросы о том, кому надо отдавать предпочтение при автокатастрофах, и их ответы должны были служить фундаментом для политических деятелей вроде вас.
– Это назвали Машинной Нравственностью, а глобальные опросы вроде этого надо делить надвое, – ответил Джек. – В них принимали участие только технически подкованные граждане, так что они не представляют мнение всех слоев общества. И в каждом сценарии было только два исхода: должны умереть те или эти. Взяв данные результаты на вооружение, мы позволили бы влиять на наши законы разным культурам разных стран. Вы хотите, чтобы мнения китайцев или саудовцев диктовали, кто должен жить, а кто умереть на британских улицах? Вздор!
– Тогда в чем был смысл этих расследований? – задала вопрос Фиона. – Раз решение уже принято, тогда мы занимались ненужным делом. Разве что-либо из здесь сказанного имело хоть самое мизерное значение?
– В случаях, когда погибшие не имели при себе удостоверений личности или телефонов и мы знали о них очень мало, ваше суждение оказывалось полезным.
– Эти расследования – всего лишь дымовая завеса, так ведь? Правительство прикрывало ваши махинации ширмой надлежащего судопроизводства, которого не было и в помине.
Прикрыв веки, Джек ущипнул себя за переносицу.
– Это уже начинает утомлять. Ввод беспилотных автомобилей был самой мощной перестройкой эволюции автотранспорта с той поры, когда на наши дороги выехали самобеглые коляски. Ни один из зрителей этого фарса не имеет ни малейшего понятия о том, сколько сил вложено за кадром, чтобы все это заработало. И вы критикуете нас за то, что нам приходилось принимать трудные решения? Да как вы смеете?! Нравится вам это или нет, статистика говорит сама за себя, и итог таков: благодаря тому, что я помог сотворить, наши дороги еще никогда не были настолько безопасными. Искуснейший водитель на свете не может реагировать столь же стабильно и адекватно, как эти автомобили.
– Попытайтесь сказать это семьям Виктора, Билкис, Шабаны и сотен человек, пострадавших от взрывов и погибших сегодня утром, – указала Либби на экраны. – А заодно упомяните Пассажирам, до сих пор заточенным в этих авто и дожидающимся смерти, что творите это во имя высшего блага.
– Вы не только дура, мисс Диксон, но и невежда.
– От такого слышу, Джек, от такого слышу.
– Время, – перебил их Мэттью. – Посмотрите на часы.
Каждый член жюри обернулся к дисплею обратного отсчета. До запланированного столкновения Пассажиров осталось две минуты.
Назад: Глава 52
Дальше: Глава 54