Большие надежды

Несмотря на все сказанное, у нас есть все основания неуклонно двигаться вперед, к автоматическому управлению. Плюсов все-таки больше, чем минусов. Пока еще во всем мире езда на автомобиле является одной из главных причин гибели людей. Если в отдаленном будущем с помощью новых технологий удастся снизить смертность на дорогах, не развивать эти технологии было бы просто неэтично.

Да и других выгод хватает – даже простая вспомогательная автоматическая система дает возможность уменьшить расход топлива и разгрузить дороги. Да что уж там говорить – как приятно было бы пусть хотя бы на минутку убрать руки с руля на скорости за сто километров в час!

Но вспомним, о чем нас предупреждает Бейнбридж – в своем эссе она обрисовала проблемы, связанные с нынешним уровнем развития технологии автоматического вождения.

Одной из первых вывела на рынок автомобиль с автономным управлением компания Tesla. В целом ее опыт, несомненно, положительный, потребители ее продукции чувствуют себя в машине более уверенно – вы легко найдете в сети видео о системе предупреждения столкновений, которая раньше водителя видит риск аварии, подает сигнал тревоги и спасает автомобиль от удара.

Но возможности машины – в сущности, ультрасовременный передний парктроник и умная система круиз-контроля – не вполне согласуются с тем, как это подается. Так, в октябре 2016 года компания заявила, что “сейчас все автомобили Tesla выпускаются с оборудованием для полного автоматического управления”. В одной статье на сайте The Verge приводятся еще и такие слова Илона Маска, идейного вдохновителя Tesla: “Отныне новейшая версия полной автономии будет стандартом для всех автомобилей Tesla”. Вот эта “полная автономия” явно расходится с тем предупреждением, которое должны принять к сведению владельцы машин, прежде чем включить уже доступный автопилот: “Всегда сохраняйте контроль над – машиной, ответственность за управление возлагается на – водителя”.

Важно, чего мы ждем. Может, у вас другое мнение, но, по-моему, светлая идея запихнуть в рулевое колесо апельсин и, хуже того, продажа самодельных приспособлений, которые “ [позволяют] покупателям первых моделей [находясь за рулем] сделать предупреждающие сигналы автопилота не такими назойливыми или отключить их вовсе” (мне попалось такое предложение где-то на темных задворках интернета), – это неизбежное следствие не совсем честной рекламы уважаемого бренда.

Безусловно, Tesla – не единственный источник зла в автоиндустрии. Все компании стараются подыграть нашим фантазиям, лишь бы продать нам свою продукцию. Но лично мне не все равно, что я покупаю – духи с особо соблазнительным ароматом или машину с полностью автоматическим управлением, которое якобы должно гарантировать мне безопасность.

Если оставить в стороне рыночную стратегию, меня все же мучает вопрос о нашем собственном неправильном отношении к беспилотникам.

На сегодняшний день мы знаем, что люди отлично чувствуют нюансы, умеют анализировать контекст, использовать жизненный опыт и находить закономерности. Знаем, что мы ужасно невнимательны и неаккуратны, непоследовательны и не можем полностью сосредоточиться на том, что нас окружает. Короче говоря, мы умеем все то, чего не умеют алгоритмы, и наоборот.

Тогда почему бы не взять все лучшее от обоих миров и не дополнить людские таланты способностями машин, как это делают в медицине, когда диагностируют новообразования с помощью компьютерных программ? Пока полная автономия не обеспечена, почему бы не пойти обратным путем и не сосредоточиться на создании системы, которая будет помогать водителю, а не ждать помощи от него? Системы обеспечения безопасности – вроде антиблокировки колес при торможении и антипробуксовочной системы, – которая способна неотрывно следить за дорогой и заметит опасность, если ее не заметил водитель. Это был бы не столько шофер, сколько телохранитель.

Исследователи научного центра Toyota руководствуются этой идеей. Их машины могут работать в двух режимах. Режим “шофер”, вроде автопилота Audi для плотного трафика, рассчитан на движение по загруженной дороге, а “телохранитель” остается “в запасе”, пока рулит человек, и действует как система обеспечения безопасности, если водитель чего-нибудь вдруг не увидит и возникнет угроза аварии.

Похожей политики придерживается Volvo. Впечатляющими показателями безопасности модель Volvo XC90 обязана системе автономного экстренного торможения, которая в случае опасного сокращения дистанции до впереди идущей машины автоматически снизит скорость. С 2002 года, когда в Великобритании поступила в продажу первая такая модель, было продано больше 50 000 автомобилей, и при столкновениях с их участием все до единого водители и пассажиры остались живы.

Посмотрим, во что все это выльется – как и многие технические концепции беспилотных автомобилей, которые сейчас так горячо обсуждаются. Но одно можно сказать наверняка: беспилотники еще научат нас кое-чему, что пригодится нам во всех сферах жизни, а не только на автомагистрали. Главное – не разборки по поводу того, кто должен управлять машиной, а трезвая оценка потенциальных возможностей алгоритмов.

Если так и дальше пойдет, нам следует пересмотреть свое мышление. Нам придется расстаться с мечтой об идеальных, абсолютно надежных машинах и осознать, что если механические поломки еще можно свести к минимуму, то наладить бесперебойную работу алгоритмов в ближайшем будущем едва ли удастся.

Поэтому, раз накладок не избежать и на пути к цели мы должны смириться с неопределенностью, автономное управление ставит перед нами такие дилеммы, которые вынуждают нас задуматься о том, насколько совершенным должно быть наше творение, чтобы его можно было выпустить на улицу. Это важный вопрос, и касается он всего на свете. Что значит достаточно хорошо? Если ваш алгоритм умеет хорошо считать, но может и ошибиться, вы готовы с этим смириться?