Книга: Homo Roboticus? Люди и машины в поисках взаимопонимания
Назад: Глава 1 Выбор направления – человек или машина
Дальше: Глава 3 Трудный год для человечества

Глава 2
Авария в пустыне

Осенним утром 2005 г. по пустынной дороге недалеко от города Флоренс, штат Аризона, поднимая облако пыли, двигался автомобиль Volkswagen Touareg с четырьмя пассажирами. Он ехал со скоростью 30–40 км/ч, и случайный зритель не увидел бы ничего необычного в его движении. Дорога была исключительно неровной, она шла то вверх, то вниз по усеянной кактусами и низкорослой пустынной растительностью местности. Автомобиль нещадно болтало, и шлемы автогонщиков на головах всех четырех пассажиров были совсем не лишними. Touareg украшали наклейки участника гонок по бездорожью Baja 1000. Спереди над крышей автомобиля возвышались пять непонятных датчиков, направленных на дорогу. Было там и другое оборудование, включая несколько радаров. За ветровым стеклом виднелась видеокамера. А сзади на автомобиле торчала длиннющая штыревая антенна, которая вместе с датчиками придавала ему постапокалиптический вид, напоминая фильм про Безумного Макса.
Датчики на крыше были в действительности хитроумными штучками, каждый из них быстро сканировал инфракрасным лучом местность впереди. Невидимые глазу лучи отражались от гравийного покрытия дороги и всего, что встречалось в пустыне. Возвращаясь к датчикам, излучение несло информацию о непрерывно меняющемся окружающем ландшафте с точностью до сантиметра. Даже небольшие камни на дороге за сотню метров впереди не могли скрыться от пристального взгляда датчиков, известных как лидары.
Внутри Touareg был еще удивительнее. Водитель, специалист по робототехнике и искусственному интеллекту Себастьян Трун, не управлял машиной, а жестикулировал, разговаривая с другими пассажирами. Его взгляд редко падал на дорогу, а главное, руки не прикасались к рулевому колесу, которое поворачивалось само, как будто его крутил кто-то невидимый.
Позади Труна сидел другой компьютерщик, Майк Монтемерло, который тоже не управлял автомобилем. Его глаза были прикованы к экрану ноутбука, куда выводились данные с лазеров, радаров и камер, дававшие вид сверху на мир вокруг автомобиля, где препятствия выглядели как разноцветные точки на экране радара. Это непрерывно меняющееся облако цветных точек и было картиной лежащей впереди дороги в пустыне.
Автомобилем, который получил имя Stanley, управлял комплекс программ в пяти установленных в багажнике компьютерах. Трун был создателем роботизированной навигационной технологии, известной как SLAM (simultaneous localization and mapping), что означает «одновременная навигация и построение карты». Она стала стандартным инструментом для роботов при прокладке пути на неизвестной местности. По мере того как автомобиль катился по изрезанной колеями, обрамленной кактусами и усыпанной валунами дороге, руль поворачивался то в одну, то в другую сторону. Справа от Труна между передними сиденьями находилась большая красная кнопка аварийного останова, позволяющая отключить автопилот в экстренном случае. После десятка километров езда в беспилотном автомобиле стала наскучивать. Stanley двигался не по магистрали, и на фоне проплывающего мимо, как во время воскресной загородной прогулки, пустынного пейзажа шлемы автогонщиков стали казаться лишними.
Автомобиль готовили к участию во втором проводимом Пентагоном соревновании Grand Challenge – амбициозном состязании беспилотных автомобилей, целью которого было ускорение развития технологий для будущих роботизированных военных автомобилей. В начале XXI в. конгресс дал военным США зеленый свет на разработку беспилотных транспортных средств. Конгресс даже поставил перед Пентагоном конкретную цель: сделать к 2015 г. треть транспортных средств армии способной перемещаться без людей. Директива не определяла четко, должны ли такие транспортные средства быть беспилотными или управляемыми дистанционно. В любом случае идея заключалась в сбережении и денег, и жизней солдат. К 2004 г., однако, мало что изменилось, и Тони Тетер, в то время директор DARPA, предложил организовать конкурс, чтобы привлечь внимание программистов, профессоров учебных заведений и стремящихся к известности компаний к инновациям, где военные не добились успеха. Тетер был олицетворением военно-промышленного комплекса, а сам конкурс – вынужденным признанием того, что мир традиционных исполнителей оборонных заказов не способен выполнить эту работу. Открыв дверь для разношерстных групп любителей, Тетер рисковал взорвать засекреченный мир, где доминировали «бандиты с кольцевой» – компании, расположенные вокруг Вашингтона и занимающиеся выполнением госзаказов.
Первые соревнования Grand Challenge, проведенные в 2004 г., были неудачными – автомобили опрокидывались, ездили кругами и позорно сбивали ограждения. Даже самый успешный участник застрял в десятке километров от стартовой линии в 200-километровой гонке – одно колесо автомобиля беспомощно вращалось, а сам он балансировал на краю дороги. Когда пыль, поднятая участниками, осела, репортер, облетавший район на легком самолете, увидел ярко раскрашенные автомобили, рассеянные по пустыне. В то время казалось очевидным, что беспилотные автомобили – дело далекого будущего, и Тетера критиковали за организацию пропагандистского трюка.
Однако чуть более чем через год Трун сидел за рулем робота для соревнований второго поколения. Казалось, что будущее наступило раньше, чем ожидалось. Увы, хватило всего 20 км, чтобы убедиться в преждевременности технического энтузиазма. Stanley преодолел подъем и попал во впадину. Потом, когда нос автомобиля задрался вверх, система лазерного наведения обнаружила нависающую ветку дерева. В тот же момент автомобиль резко взял влево, затем вправо и съехал с дороги. Все произошло быстрее, чем Трун смог дотянуться до большой красной аварийной кнопки и нажать ее.
К счастью, автомобиль совершил довольно мягкую посадку. Touareg врезался в огромный терновый куст возле дороги. Он смягчил удар, и автомобиль остановился так, что даже подушки безопасности не сработали. Когда пассажиры осмотрели дорогу на месте аварии, стало очевидно, что все могло закончиться гораздо хуже. Куст обрамляли две впечатляющие кучи валунов, но VW избежал столкновения с ними.
Пассажиры выбрались из машины, а Трун залез на крышу, чтобы выставить заново датчики, расположение которых сбилось из-за аварии. Затем все вновь забрались в Stanley, и Монтемерло удалил виновный в аварии блок программного кода, который должен был сделать путешествие более комфортным для пассажиров. Трун включил автопилот, и машина вновь направилась вглубь Аризонской пустыни. Были и другие происшествия. Контроллер системы искусственного интеллекта не учитывал последствия попадания в илистые лужи, и позже в тот же день Stanley застрял в одной из них посреди дороги. К счастью, неподалеку находилось несколько обычных автомобилей сопровождения, и, когда колеса беспилотника начали беспомощно вращаться, команда помощников вытолкнула его из вязкой жижи.
Но это были мелочи для команды Труна (нескольких преподавателей Стэнфордского университета, инженеров компании VW и студентов-программистов), которая состязалась более чем с десятком других команд за приз в несколько миллионов долларов. Этот день был самым неудачным, потом дела резко пошли в гору. Как ни крути, а соревнования DARPA оказались водоразделом между миром, где роботы рассматривались как игрушки или диковинки для исследователей, и миром, в котором люди начали допускать, что роботы могут действовать самостоятельно.

 

Тест-драйв Stanley был предвестником будущей технологии. В произведениях писателей-фантастов уже не одно десятилетие фигурирует машинный интеллект, но, когда технологии начали реально появляться, они показались разочаровывающими. В конце 1980-х гг. любой попавший на Центральный вокзал Нью-Йорка видел почти у трети утренних пассажиров наушники Sony Walkman. Сегодня, конечно, Walkman уступили место белым наушниками iPhone компании Apple, и некоторые считают, что технология «от-кутюр» неизбежно приведет к будущей версии Google Glass, первой попытке разработчика поисковой машины расширить реальность, или, может быть, к еще более амбициозным или создающим эффект присутствия системам. Подобно лягушке в кастрюле на плите, не замечающей повышения температуры, мы не видим изменений, вызываемых быстрым ростом возможностей и распространением информационных технологий.
Walkman, iPhone и Google Glass – все это прообразы мира, где граница между человеком и машиной начинает размываться. В книге Уильяма Гибсона «Нейромант» (Neuromancer), научно-фантастическом романе, популяризирующим идею киберпространства, нарисована картина новой кибернетической территории из компьютеров и сетей. В ней описано будущее, в котором компьютеры не отдельные ящики, а единая плотная ткань, которая все больше окутывает людей, «расширяя» их чувства.
От утренних пассажиров с наушниками Sony Walkman и пользователей iPhone, погрузившихся в персональное звуковое пространство, не так уж далеко до носящих Google Glass городских хипстеров, уткнувшихся в отображающие окружающий мир крохотные дисплеи. Они пока что не «включены в сеть», как предсказывал Гибсон, однако ясно, что компьютерные и коммуникационные технологии быстро движутся в этом направлении.
Гибсон одним из первых предложил научно-фантастический взгляд на то, что было названо «усилением интеллекта». Он описывал компьютеризованные элементы, названные им «майкрософтами» с маленькой буквы «м», которые можно вставлять в основание черепа человека, чтобы мгновенно добавлять ему какое-либо умение, например новый язык. В то время, несколько десятилетий назад, эта технология была всего лишь научной фантастикой. Сегодня его представление о киборгах уже не кажется таким экстравагантным.
В 2013 г. президент Обама раскрыл информацию об инициативе BRAIN – попытке одновременно записать активность одного миллиона нейронов человеческого мозга. Одним из основных спонсоров инициативы BRAIN является DARPA, а это агентство заинтересовано не только в чтении из мозга. Работающие над проектом BRAIN ученые терпеливо разъясняют, что одна из целей плана – создание двухстороннего интерфейса для мозга человека и компьютера. Внешне подобная идея кажется крайне зловещей, вызывая образы верховного Старшего Брата и контроля мыслей. В то же время это утопический подтекст, присущий технологии. Потенциальное будущее представляет собой неизбежную траекторию создания интерфейса взаимодействия человека с компьютером, подразумеваемого в манифесте Ликлайдера 1960 г. «Человеко-машинный симбиоз» (Man-Computer Symbiosis), где он предсказал более тесное взаимодействие людей и машин.
Если мир «Нейроманта» был прекрасной научной фантастикой, то реальное вхождение в изображенный Гибсоном мир представляется туманным. Появление киборгов ставит вопрос о том, что значит быть человеком. Сама по себе это не новая проблема. Хотя сегодня технологии развиваются быстрее, чем когда-либо, они трансформировали людей и прежде, еще во времена укрощения огня или изобретения колеса (и его использования для перевозок в XX в.). С начала индустриальной эры машины вытесняли физический труд человека. С появлением компьютеров и компьютерных сетей впервые машины вытесняют «интеллектуальный» труд. Изобретение компьютера с самого начала вызывало дебаты о последствиях создания обладающих интеллектом машин. Новая волна технологий искусственного интеллекта возродила споры с удвоенной силой.
Экономисты-традиционалисты утверждают, что со временем численность рабочей силы растет, несмотря на изменяющийся характер работы, обусловленный технологиями и инновациями. В XIX в. более половины работающих были заняты в сельскохозяйственном производстве. Сегодня их доля сократилась почти до 2 %, но в других сферах экономики количество работающих значительно выросло. В самом деле, несмотря на две рецессии, между 1990 и 2010 гг. общая численность занятых в Соединенных Штатах увеличилась на 21 %. Если эти экономисты правы, вследствие автоматизации в ближайшем будущем экономических катаклизмов на социальном уровне не будет.
Вместе с тем сейчас мы вступаем в эру, когда людей все легче включить в «контур управления» или исключить из него даже в высокооплачиваемых и статусных профессиональных областях. На одном конце спектра небольшие роботы могут заниматься погрузочно-разгрузочными работами, а на другом программные «роботы» могут заменять работников колл-центров и офисных клерков, а также видоизменять такие требующие высокой квалификации профессии, как врач-рентгенолог. Где в будущем будет проходить граница между человеком и машиной и кто проведет ее?
Несмотря на активизацию дискуссии о последствиях автоматизации следующего поколения, почти не слышно споров о разработчиках и их системе ценностей. Когда отвертеться не удается, специалисты по компьютерам, робототехнике и технологиям излагают противоречивые взгляды. Одни хотят заменить людей машинами, другие смиряются перед неизбежным (выражение «Что касается меня, я приветствую наших господ – насекомых», позднее «господ – роботов», было мемом, который получил популярность из-за сериала «Симпсоны»), а третьи столь же страстно хотят создавать машины, расширяющие возможности человека. Вопрос о том, появится ли настоящий искусственный интеллект (концепция, известная как сильный искусственный интеллект или универсальный искусственный интеллект) и смогут ли машины делать что-то большее, чем просто подражать людям, также обсуждается не одно десятилетие. Сегодня все громче раздаются голоса ученых и технологов, высказывающих новые опасения относительно возможности появления обладающих самосознанием машин. Дискуссии о текущем состоянии технологии искусственного интеллекта скатываются в царство научной фантастики, а то и религии. Однако автономия машин уже не философский или гипотетический вопрос. Мы достигли точки, когда машины способны выполнять множество функций человека, которые требуют и интеллекта, и силы: они могут работать на фабриках, водить автомобили, диагностировать болезни и понимать документы и совершенно определенно могут управлять оружием и убивать с беспощадной точностью.
Противостояние искусственный интеллект – усиление интеллекта нигде не проявляется более отчетливо, чем в новом поколении систем вооружений, уже появившемся на горизонте. Разработчики из DARPA близки к тому, чтобы пересечь новый технологический порог при замене нынешних крылатых ракет новой противокорабельной ракетой большого радиуса действия (LRASM). Она должна поступить в Военно-морские силы США в 2018 г. В отличие от предшественников, этот новый вид оружия способен автономно принимать решения о выборе цели. LRASM должна достигать противника без контакта с диспетчером, а затем самостоятельно принимать решение, какую цель поразить.
Возникает новая этическая дилемма – позволят ли люди этому оружию спускать крючок по своему усмотрению, без контроля со стороны человека? Вариант этой же проблемы присущ быстрой компьютеризации автомобиля. В самом деле, транспортная сфера в целом очень показательна с точки зрения последствий появления новой волны умных машин. Искусственный интеллект должен оказать более сильное воздействие на общество, чем персональные компьютеры и интернет в начале 1990-х гг. Символично, что направление этой трансформации определяет технологическая элита.
Несколько лет назад Джерри Каплан, ветеран Кремниевой долины, который начал карьеру как исследователь искусственного интеллекта в Стэнфорде, а затем в 1980-х гг. стал одним из тех, кто ушел из этой области, предупредил группу стэнфордских специалистов по вычислительной технике и аспирантов: «От ваших сегодняшних действий здесь, в Лаборатории искусственного интеллекта, воплощающихся в создаваемых вами системах, может зависеть, как общество будет справляться с этой проблемой». Он утверждал, что неизбежное появление искусственного интеллекта следующего поколения несет с собой критически важный этический вызов: «Есть опасность, что мы выращиваем живых роботов за счет нашей собственной жизни». Проблема двойственности, о которой он говорил исследователям, заключается в пропасти между обладающими интеллектом машинами, которые заменяют человека, и компьютерными системами, расширяющими возможности человека.
Подобно многим другим технологам в Кремниевой долине, Каплан считает, что мы на грани создания экономики, которая функционирует практически без участия человека. Это может звучать апокалиптически, но описываемое Капланом будущее почти определенно придет. Его более глубокая мысль заключается в том, что сегодняшнее ускорение развития технологии – не слепой процесс. Он зависит от личного выбора каждого из инженеров, которые создают облик нашего будущего.

 

Осенью 2007 г. на заброшенной военной базе в калифорнийской пустыне на импровизированную гоночную трассу вышел коренастый человек с клетчатым флагом и энергично взмахнул им, когда мимо него плавно проехал внедорожник Chevrolet Tahoe. Это был Тони Тетер, директор DARPA.
За рулем автомобиля, украшенного большими буквами GM, не было водителя. В машине отсутствовали и пассажиры, более того, водителей и пассажиров не было ни в одном из других участвовавших в «гонке» автомобилей. Это действо, в котором автомобили беспрерывно колесили по городку, ранее использовавшемся военными для отработки действий в городских кварталах, вообще не выглядело как гонка. Оно больше походило на послеполуденный трафик в воскресный день в научно-фантастическом фильме вроде «Бегущего по лезвию» (Blade Runner).
В самом деле, это было необычное по любым меркам событие. Проводимое DARPA состязание Urban Challenge свело вместе специалистов по робототехнике, исследователей в области искусственного интеллекта, студентов, автомобилестроителей и программистов, которые занимались созданием роботов-автомобилей, способных автономно передвигаться в городских условиях. Оно было третьим в ряду соревнований, организованных Тетером. В то время военные технологии разрабатывались с целью повышения поражающей способности солдата, а не его замены. Для управления роботизированными военными самолетами требовались люди, а в некоторых случаях – многочисленные команды. В отчете научного совета Министерства обороны в 2012 г. отмечалось, что во многих военных операциях для обеспечения полета одного дрона нужна команда из нескольких сот человек.
Наземные беспилотные транспортные средства были более серьезным вызовом. Дело в том, как заметил один из руководителей DARPA, что «земля твердая» не в смысле «как камень», а в том смысле, что «задача передвижения по ней – твердый орешек». Движение по дороге и без того сложно, но разработчики роботов-автомобилей должны справляться с бесконечной чередой особых ситуаций: движение ночью, движение против солнца, движение во время дождя, движение по льду – у списка нет конца.
Рассмотрим проблему создания машины, которая умеет реагировать на что-то простое на дороге, например пластиковый пакет. Пакет твердый или мягкий? Опасен ли он для автомобиля? На поле боя он может быть импровизированным взрывным устройством. Люди могут видеть подобные препятствия и реагировать на них без усилий при движении с низкой скоростью и при хорошей видимости. Для исследователей искусственного интеллекта, однако, решение этой проблемы – труднодостижимая цель в сфере машинного зрения. Это лишь одна из несметного числа задач, которые DARPA вознамерилось решить через организацию соревнований Urban Challenge для беспилотных автомобилей. В 1980-х гг. робототехники и в Германии, и в Соединенных Штатах добились кое-каких успехов на пути к созданию беспилотного автомобиля, но на практике оказалось легче построить робота для полета на Луну, чем робота, который сможет вести машину в часы пик. И вот Тони Тетер принял вызов. Предприятие было рискованным: если соревнования не дадут результатов, то Grand Challenge («Большой вызов», иначе) переименуют в «Блажь Тетера». Поэтому взмах клетчатым флагом на заключительной гонке символизировал в равной мере и победу Тетера, и победу беспилотников.
Впрочем, случались и неудачи. В тот период, когда Тетер возглавлял агентство, был нанят адмирал Джон Пойндекстер для создания так называемой системы Тотального сбора информации. Масштабный проект по сбору информации предназначался для выявления террористов в режиме онлайн путем сбора и сопоставления данных в океанах операций по кредитным картам, почтовых сообщений и телефонных разговоров. Проект вызвал взрыв общественного негодования в связи с нарушением права на личную жизнь, и вскоре, в мае 2003 г., был прекращен конгрессом. Хотя Тотальный сбор информации исчез из поля зрения общественности, в действительности он перешел в руки бюрократии из национальных разведывательных служб и всплыл вновь в 2013 г., когда Эдвард Сноуден выложил сотни тысяч документов, раскрывавших информацию о целом спектре систем для наблюдения за любой активностью, которая может представлять интерес. В пантеоне директоров DARPA Тетер был также чем-то вроде белой вороны. Он пережил скандал, связанный с Тотальным сбором информации, и продвигал агентство вперед в других областях, глубоко вникая и участвуя во всех исследовательских проектах. (Решение дать отмашку клетчатым флагом было очень символичным для пребывания Тони Тетера в DARPA – он контролировал все.)
DARPA создали после запуска советского спутника, который стал громом среди ясного неба для Америки, уверенной в своем технологическом лидерстве. С учетом поставленной цели – больше никогда не допускать технологического превосходства над США – директорами DARPA, при рождении называвшегося Агентством перспективных исследований и разработок, становились ученые и инженеры, готовые делать огромные ставки на фантастические проекты и имевшие тесные связи с лучшими исследователями в университетах.
С Тони Тетером, который представлял эпоху Джорджа Буша-младшего, все было не так. Он не один десяток лет проработал руководителем программ с подрядчиками, допущенными к военным секретам, и, как и многие в окружении Джорджа Буша, настороженно относился к академическим институтам, считая их слишком независимыми, чтобы им можно было доверить новую миссию. В этом нет ничего удивительного. Мировоззрение Тетера сформировалось, когда он был аспирантом по специальности «электротехника» в Стэнфордском университете в 1960-е гг., известном острыми разногласиями между антивоенно настроенными студентами и учеными и инженерами, разрабатывавшими во время Вьетнамской войны новейшие виды вооружений.
Став директором, Тетер начал менять культуру агентства, имевшего легендарную репутацию как участник изобретения всего – от интернета до истребителей-невидимок. Он быстро отобрал деньги у университетов и направил их военным подрядчикам, занимавшимся секретными разработками и поддерживавшим войны-близнецы в Ираке и Афганистане. Агентство переориентировалось с «фантастики» на «результаты». Публично Тетер доказывал, что инновации возможны и в условиях секретности, пока вы придерживаетесь конкурентной культуры Кремниевой долины с ее вихрем новых идей и вознаграждением за перспективные попытки, даже если они не удаются.
И Тетер определенно повел DARPA в новом направлении. Озабоченность тем, что тысячи ветеранов возвращаются домой калеками, и понимание того, что все больше зависит от правильности принятия решений, вдохновили его на вложение долларов агентства в разработки по расширению возможностей человека и в искусственный интеллект. Это означало разработку роботизированных протезов рук и ног для получивших увечья солдат и «советника для адмирала» – милитаризованную версию того, чем занимался Дуг Энгельбарт в 1960-х гг. со своим видением усиления интеллекта. Проект назвали «Интеллектуальный обучающийся помощник» (Perceptive Assistant that Learns – PAL) и поручили SRI International, где проекту дали свое название – «Помощник с функцией познания, обучения и организации» (Cognitive Assistant that Learns and Organizes – CALO).
По иронии судьбы Тетер вернулся к исследованиям, которые первоначально предложили в середине 1960-х гг. два мечтателя – руководители программ DARPA Роберт Тейлор и Дж. Ликлайдер. Хотя мало кто говорил об этом, но проект Дуга Энгельбарта в начале 1970-х гг., несмотря на огромные первоначальные успехи, застопорился и вышел из фавора в SRI. В конце концов его передали в работавшую в режиме разделения времени компанию для коммерциализации, где проект оставался относительно малозаметным и недофинансированным более десятилетия. Возобновление инвестиций DARPA вызвало волну коммерческих инноваций – наиболее значительным последствием CALO стало появление персонального помощника Siri компании Apple, прямого потомка подхода Энгельбарта.
Проект Тетера Grand Challenge, соревнование беспилотных автомобилей, привлек множество «гаражных» изобретателей и энтузиастов. На языке военных это называлось «увеличением боевых возможностей» – агентство получило во много раз больше инноваций, чем дал бы традиционный путь. Но по сути конкретная задача, которую взялся решать Тетер, была поставлена более десятилетия назад в том самом сообществе университетских исследователей, к которому он сейчас относился недоброжелательно. За роботом-внедорожником GM, победившим в Urban Challenge в 2007 г., стоял робототехник из Университета Карнеги – Меллона, который добивался этого приза более десятилетия.

 

Когда осенью 2005 г. вторая гонка роботов Тетера по калифорнийской пустыне закончилась на границе со штатом Невада, робототехники Стэнфордского университета ликовали. Stanley, некогда постоянно натыкавшийся на препятствия компьютеризированный Volkswagen Touareg, одержал неожиданную победу и проехал с развевающимся флагом под аплодисменты нескольких тысяч зрителей.
Всего в нескольких метрах в лагере другой группы царила мрачная атмосфера раздевалки проигравшей футбольной команды. Команда Карнеги – Меллона считалась бесспорным фаворитом с двумя роботами-машинами и несомненным лидером, бывшим военным моряком и скалолазом Уильямом «Рэдом» Уиттакером. Его команда проиграла гонку из-за ужасного невезения. Полтора года назад Уиттакер блистал в первой гонке DARPA с другим автомобилем GM Humvee и уступил только из-за того, что автомобиль чуть-чуть занесло на крутом подъеме. Застряв в песке, он выбыл из гонки. До этого робот Уиттакера был на голову выше остальных. Поэтому, когда Уиттакер в следующий раз выставил два автомобиля в сопровождении отряда специалистов по фотограмметрии, тщательно изучивших трассу перед соревнованиями, его считали несомненным фаворитом.
И вновь неудачное стечение обстоятельств. Основной автомобиль Уиттакера шел впереди Stanley почти до конца гонки, но из-за сбоя он резко замедлил движение, пропустил команду Стэнфорда и в результате отдал ей приз размером $2 млн. После второго поражения Уиттакер произнес перед своей командой вдохновенную речь, достойную тренера футбольной команды любого колледжа в стиле кинофильма «Каждое воскресенье». Поражение было болезненным, поскольку лидеры команды Стэнфорда Себастьян Трун и Майк Монтемерло были раньше робототехниками в Университете Карнеги – Меллона, а затем перешли в Стэнфорд и стали конкурентами. Даже годы спустя оно не забылось. У двери офиса Уиттакера в университете висит фото неудачно выступившей команды конструкторов роботов-автомобилей, а сам Уиттакер частенько встречает посетителей в коридоре и рассказывает в деталях эту историю.
Удар по самолюбию был очень чувствительным, ведь Рэд Уиттакер во многих отношениях считался ведущим специалистом по робототехнике в стране. Ко времени Grand Challenge он уже пользовался славой создателя роботов, способных работать в недоступных людям местах. Десятилетиями в нем прекрасно уживались уверенность во всемогуществе и дух авантюриста. Родители Уиттакера увлекались авиаспортом с элементами высшего пилотажа. Его отец, бывший пилот бомбардировочной авиации, после войны занимался продажей взрывчатых веществ для горных работ. Его мать, химик, также была пилотом. Когда он был еще юношей, она однажды пролетела с ним под мостом.
Уиттакер вырос в Пенсильвании, поэтому ему был близок подход, ориентированный на использование машин прежде всего для расширения возможностей искателей приключений, подход в традициях Ивона Шуинара, легендарного скалолаза, придумывавшего и изготавливавшего собственное снаряжение для скалолазания, или Жака Кусто, исследователя подводного мира, который сам создавал водолазное снаряжение. Имея диплом Принстона по специальности «гражданское строительство» и двухлетний опыт службы сержантом в морской пехоте, Уиттакер был пионером в сфере «полевых» роботов – машин, которые выходили из лаборатории и действовали в обычном мире.
Но в мире роботов Рэда Уиттакера люди все еще играли очень большую роль. Ведь он использовал технику для расширения своих возможностей как искателя приключений. Он создавал машины, которые работали во время аварий на атомных станциях и на острове Три-Майл-Айленд, и в Чернобыле. В конце 1980-х гг. он разработал огромного, почти 6-метрового робота, названного Ambler, который должен был ходить по Марсу. Он отправил робота в вулкан и был одним из первых робототехников США, прорабатывавших идею беспилотного автомобиля в рамках проекта лаборатории навигации Университета Карнеги – Меллона.
«Это не фабрика будущего, – с гордостью говорил он. – Идеи, которые подходят для фабрики, не годятся для внешнего мира».
В молодости Уиттакер пробовал себя и в гребле, и в борьбе, и в боксе, и в альпинизме. Его любовь к приключениям не обошлась без личных трагедий. Он отдал 10 лет жизни скалолазанию и оторвался от своих проектов по созданию роботов, чтобы побывать в Йосемитском национальном парке и в Гималаях. На его счету был даже одиночный подъем по восточному склону горы Маттерхорн в зимних условиях. В скалолазание Уиттакер пришел случайно, как член местного клуба путешественников в Питтсбурге. Страстью оно стало только после знакомства с другим молодым скалолазом по объявлению: «Эксперт по скалолазанию обучит своему искусству хорошего человека». В объявлении была приписка: «У вас должен быть автомобиль».
Эти двое стали неразлучными партнерами в скалолазании на целое десятилетие.
Волшебное для Уиттакера время неожиданно закончилось однажды летом, когда они занимались альпинизмом в Перу. Его питтсбургский друг поднимался с другим молодым альпинистом. Они шли в связке, молодой напарник поскользнулся, и оба скалолаза пролетели почти 300 м по уступам. Уиттакер, который совершал восхождение самостоятельно, смог спасти молодого скалолаза, но его друг погиб. Уиттакер вернулся в Питтсбург, потрясенный происшедшим. Прошло несколько месяцев, прежде чем он решился прийти к родителям своего погибшего напарника, чтобы убраться в его комнате.
Смерть товарища наложила свой отпечаток на Уиттакера – он оставил скалолазание, однако его по-прежнему манили приключения. Выходом стала разработка еще более экзотических роботов, способных выполнять самые разные задачи – от простого обследования до сложного ремонта. Они давали возможность включить в сферу приключений вулканы, а в конце концов, не исключено, Луну и Марс. Даже во времена его активных занятий скалолазанием в 1970–1980 гг. было трудно отыскать неизведанную территорию, а «виртуальное исследование» позволяло открывать новые горизонты бесконечно, и Уиттакер вновь мог совершать восхождения и спускаться на веревке, на этот раз посредством дублера – антропоморфного робота в другом мире.
Уиттакер взял реванш за горькое поражение от стэнфордского Stanley через несколько лет, во время третьего Grand Challenge в 2007 г. Его GM Boss победил в финале соревнований по вождению в городских условиях Urban Challenge.

 

Одно из самых старых преданий Кремниевой долины связано с тем, как Стив Джобс переманил генерального директора компании Pepsi Джона Скалли в Apple, поинтересовавшись, устраивает ли того перспектива провести остаток жизни, продавая сладкую воду. Возможно, это покажется наивным, но дух Долины – изменение мира. Эта идея лежит в центре концепции «масштаба», которая объединяет программистов, разработчиков железа и венчурных капиталистов. Недостаточно получить прибыль или создать что-то прекрасное. Это должно изменить мир. Это должно быть тем, что окажется под 95 % новогодних елок в мире или даст чистую воду или электричество миллиардам людей.
Генеральный директор Google Ларри Пейдж воспользовался подходом Стива Джобса, когда приглашал Себастьяна Труна. Трун был быстро растущим ученым, который во время годового творческого отпуска в Стэнфорде в 2001 г. открыл для себя мир Кремниевой долины. В нем было гораздо больше возможностей, чем получение штатной преподавательской должности, публикации и обучение студентов.
Трун вернулся в Стэнфорд в качестве старшего преподавателя в 2003 г. На первых соревнованиях DARPA Grand Challenge он присутствовал как обозреватель. Соревнования беспилотных автомобилей полностью изменили его взгляд на будущее: он понял, что и за пределами замкнутого академического сообщества есть великие мыслители, глубоко заинтересованные в изменении мира. Во время краткого возвращения в Университет Карнеги – Меллона он послал письмо Уиттакеру, предлагая помощь в разработке программ, но получил отказ. Перейдя в Стэнфорд, Трун перетащил за собой группу студентов из Университета Карнеги – Меллона, включая Майка Монтемерло, отец которого был робототехником в NASA. Монтемерло подготовил доклад, посвященный первому соревнованию DARPA. Завершался доклад слайдом с вопросом «Должны ли мы в Стэнфорде принять участие в Grand Challenge?», и там же был ответ Монтемерло, выделенный крупным шрифтом, – «НЕТ!» Причин для отказа набралось с десяток, в том числе отсутствие шансов на победу, чересчур сложная задача, слишком дорогое удовольствие. Трун смотрел на Монтемерло и понимал, что, хотя на бумаге тот был крайне пессимистичен, все его поведение говорило об обратном.

 

 

Вскоре после этого Трун с головой погрузился в подготовку к соревнованиям DARPA. Впервые в жизни он чувствовал, что занимается чем-то, что действительно может оказать широкое влияние. Пропадая неделями в Аризонской пустыне, питаясь только пиццей, его команда работала над автомобилем, пока, наконец, он не стал ездить по проселочным дорогам без проблем.
Монтемерло и Трун олицетворяли идеальное единство противоположностей. Монтемерло был по сути консерватором, а Трун – крайне склонным к риску. Как главный разработчик программного обеспечения Монтемерло встраивал свои консервативные подходы в программы. Трун украдкой просматривал код и превращал ограничения в комментарии, чтобы заставить автомобиль двигаться быстрее. Это приводило Монтемерло в неистовство. Но в конечном итоге их сотрудничество приносило победу.
Ларри Пейдж говорил Труну, что если реально сконцентрироваться на чем-то, то можно достичь поразительных результатов. Он был прав. Когда Stanley взял приз DARPA, $2 млн, Трун серьезно задумался над словами Пейджа. Они стали друзьями после того, как Трун помог соучредителю Google отладить домашнего робота, с которым Пейдж никак не мог справиться. Трун взял его на время и вернул уже способным ориентироваться у Пейджа дома.
Навигация, обязательный атрибут автономных роботов, стала областью специализации Труна. В Университете Карнеги – Меллона и позже в Стэнфорде он занимался развитием технологии SLAM, начало которой положили разработчики первых мобильных роботов в Стэнфордском исследовательском институте в 1960-х гг. Трун помог сделать технологию более быстрой и точной и проложил путь для ее использования в беспилотных автомобилях. В Университете Карнеги – Меллона он начал привлекать внимание всей страны к мобильным роботам. В 1998 г. в Смитсоновском институте, округ Колумбия, он продемонстрировал мобильного гида Minerva для музея, который был подключен к сети, мог взаимодействовать с посетителями и двигаться со скоростью до 6 км/ч. Трун работал с Рэдом Уиттакером над роботами для подземных работ, которые были немыслимы без технологии SLAM. Он также пытался внедрить мобильных и автономных роботов в сферу ухода за детьми и престарелыми, но не добился успеха. Это стало для него поучительным опытом и позволило осознать ограничения, присущие использованию технологий для решения человеческих проблем. В 2002 г. в рамках совместного проекта двух университетов Трун представил новую быстродействующую модификацию SLAM, названную Fast-SLAM, которая могла использоваться в реальном мире с его тысячами объектов. Это был один из первых примеров новой волны систем искусственного интеллекта и роботов, опиравшихся на вероятностные и статистические методы, а не на основанные на правилах выводы.
В Стэнфорде Трун быстро сделал карьеру и стал директором возрожденной Лаборатории искусственного интеллекта, основанной Джоном Маккарти в 1960-х гг. Вместе с тем не менее быстро его стала раздражать жизнь профессора университета, вынужденного разрываться между преподаванием, публичными выступлениями, составлением заявок на предоставление грантов, работой в комитетах, проведением исследований и наставничеством. После победы в DARPA Grand Challenge 2005 Трун стал более заметным в сфере высоких технологий. В своих выступлениях он говорил о том, что по вине водителей в мире ежегодно погибают и остаются калеками более миллиона человек. Он рассказывал и о своих потерях. Его близкий друг погиб в автомобильной аварии, когда Трун учился в средней школе в своей родной Германии. Многие из его близких потеряли друзей в результате дорожно-транспортных происшествий. А не так давно родственница секретаря факультета в Стэнфорде стала калекой после того, как в ее автомобиль врезался грузовик. В одно мгновение она превратилась из полной жизни молодой девушки в человека, жизнь которого испорчена навсегда. Стремление изменить мир приводило Труна на мероприятия вроде конференции некоммерческого фонда TED.
Построив два автомобиля для соревнований DARPA, Трун решил оставить Стэнфорд. Пейдж предложил ему возможность заниматься вещами «масштаба Google»: это означало, что его работа будет затрагивать весь мир. Он без особого шума создал лабораторию, чем-то похожую на Xerox PARC, легендарный центр исследований, ставший местом рождения современного персонального компьютера, первых компьютерных сетей и лазерного принтера. Там он занялся созданием беспилотных автомобилей и переосмыслением идеи мобильных компьютерных технологий. В числе прочего он помог запустить проект Google Glass, который был попыткой встроить вычислительные возможности, включая видео– и аудиофункционал, в обычные очки.
В отличие от лабораторий предшествующей эпохи, ориентировавшихся на фундаментальную науку, таких как IBM Research и Bell Labs, X Lab компании Google была по стилю ближе к PARK, созданной, чтобы вывести гиганта в области копировальной техники, «компанию бумажных документов», в компьютерную индустрию и конкурировать непосредственно с IBM. X Lab должна была вывести Google на новые рынки. Google, являясь монополистом в области поисковых систем в интернете с прибылью более $1 млрд в месяц в конце 2013 г., открыла финансирование амбициозных исследований и разработок, совершенно не связанных с ее основным бизнесом. Google славилась своим правилом 70-20-10, предполагавшим предоставление инженерам времени для ведения собственных проектов. Сотрудникам разрешалось использовать 10 % своего времени на проекты, совершенно не связанные с основным бизнесом компании. Основатели Google Сергей Брин и Ларри Пейдж верили в масштабное мышление. Они называли это «стрельбой по луне»: не чистая наука – исследовательские проекты, которые запускаются в расчете на коммерческий, а не чисто научный результат.
Это была идеальная среда для Труна. Его первый проект в 2008 г. предполагал создание парка автомобилей Street View для систематической цифровой съемки домов и производственных зданий на улицах по всей стране. На следующий год он начал еще более амбициозную программу: создание беспилотного автомобиля, способного ездить по дорогам общего пользования. В этом проекте Трун действовал одновременно и осмотрительно, и смело. Одной аварии было достаточно, чтобы поставить крест на беспилотнике Google, поэтому с самого начала особое внимание уделялось режиму безопасности. Трун ясно сознавал, что малейшее проявление неосторожности при движении беспилотника обернется катастрофой. Он никогда не допускал неопытных водителей к испытаниям небольшого парка автомобилей Toyota Prius, на которых отрабатывалась система. В конечном итоге автомобили накрутили больше полумиллиона километров без происшествий, но Трун знал, что даже одна ошибка на 50 000 или 100 000 км – слишком много. В то же время он не сомневался в реальности изменения представления о том, что значит ехать в автомобиле.
Как и все в автомобилестроении, Трун и его команда верили в зависимость цены от объема производства, иными словами, в снижение цены с ростом выпуска конкретной продукции. Да, сегодня единственный экспериментальный лазерный локатор может обойтись вам в десятки тысяч долларов, но инженеры Google не сомневались, что через несколько лет он сильно подешевеет и не будет умопомрачительной статьей расходов в счете за оснащение автомобиля. Трун всегда полагал, что нужно заниматься более надежными системами в расчете на последующее удешевление в процессе массового производства. Дорогостоящие системы лазерного наведения содержат не так уж много компонентов, а значит, нет оснований считать, что их цены не могут быстро снизиться. Так было в случае радара, который некогда считался сложной военной и авиационной технологией, но в последние годы начал появляться в детекторах движения и дорогих автомобилях.
Трун смотрел на мир глазами инженера и был сторонником либертарианских взглядов. Он поддерживал точку зрения деловых кругов, которые считали, что глобальная компания – эволюционный шаг за пределы национального государства. Он также разделял общую для Долины веру, что в течение трех десятилетий 90 % видов живого труда отомрут под натиском искусственного интеллекта и роботизации. Трун верил, что львиная доля выполняемых людьми работ на самом деле бесполезна и не приносит удовлетворения. Существует бесчисленное количество видов ручной работы – от погрузки-разгрузки грузовиков до управления ими, которые могут исчезнуть в течение следующего десятилетия. Он также верил, что значительная часть чиновничьей работы на самом деле контрпродуктивна. Чиновники лишь затрудняют работу других людей. С таким же презрением Трун относился к закоснелой, на его взгляд, автомобильной промышленности Детройта, которая могла легко использовать технологию для радикальной перестройки транспортных систем и обеспечения их безопасности, но практически не занималась этим и ограничивалась лишь ежегодным изменением формы спойлеров. К 2010 г. он подготовил нечто неожиданное для отрасли, которая менялась со скрипом и которой была чужда культура Кремниевой долины.

 

Организованные DARPA гонки встряхнули Детройт, колыбель американского автомобилестроения, но отрасль не изменила своей традиционной позиции и твердо стояла на том, что автомобилями должны управлять люди, а не роботы. В общем и целом отрасль сопротивлялась внедрению компьютерных технологий. Многие автопроизводители придерживались философии «компьютеры – источник глюков». Но инженеры по всей стране уже начали думать о месте дешевых датчиков, микропроцессоров и интернета в транспорте.
Весной 2010 г. по Кремниевой долине поползли слухи об экспериментальном автомобиле Google. Поначалу им просто не верили. Надо же такое вообразить – компания, известная как поисковая служба в интернете, незаметно занимается автомобилями под носом у всех. Затем появилась информация о том, что робот-автомобиль Google проехал от Сан-Франциско до Лос-Анджелеса по шоссе ночью! Это не лезло ни в какие ворота и сразу вызвало волну насмешек и язвительных замечаний, что подобное было бы незаконным, даже если оно и возможно. Такая безумная выходка вряд ли сошла бы им с рук.
Конечно, молодые учредители Google Сергей Брин и Ларри Пейдж к тому времени уже сформировали в общественном мнении положительное отношение к экстравагантным системам на основе искусственного интеллекта и других футуристических технологий, которые должны преобразовать мир. Генеральный директор компании с 2001 г. Эрик Шмидт не раз говорил репортерам, что его задача – присматривать за учредителями и подсказывать им, какие идеи выше, а какие ниже «планки». Как известно, учредители одно время загорелись идеей космического лифта. Все началось с появления нового, невероятно прочного материала. Казалось, теперь можно отказаться от ракет, протянуть канат от Земли до орбиты и с небольшими затратами поднимать людей и материалы в космос. Когда Шмидта спросили относительно этой идеи, он подчеркнул, что это одна из идей, которая действительно рассматривалась, но была – по меньшей мере на тот момент – «ниже планки».
В сообществе технарей Кремниевой долины трудно делать что-либо втайне. Было очевидно: что-то готовится. Не прошло и года после финала DARPA Grand Challenge в 2007 г., как Себастьян Трун ушел из Стэнфорда и стал штатным сотрудником Google. Его уход был тихим и не упоминался в прессе, однако элита компьютерной индустрии Долины восприняла это событие с огромным интересом. Через год на конференции по искусственному интеллекту на Аляске Трун, сидя в баре с коллегами, обронил несколько крайне любопытных замечаний. Его слова дошли до Кремниевой долины и вызвали немалое удивление.
В конце концов школьный друг одного из низкооплачиваемых водителей, которого компания наняла присматривать за своими роботизированными автомобилями, проговорился. Одному из парней, с которыми я учился в школе, Google платит $15 в час за то, чтобы он сидел в автомобиле, который едет сам! Дальше прятать шило в мешке было бессмысленно. Компания стала оставлять свои беспилотные автомобили на общих парковках в кампусе Google.
Инженеры Google даже не пытались спрятать датчики на крышах нескладных созданий, которые казались еще более странными, чем их предшественник Stanley. Вместо набора датчиков над ветровым стеклом каждый Prius имел лидар с круговым обзором, приподнятый на 30 см над центром крыши. Изготовленный местной хай-тек-компанией Velodyne лазерный локатор с механическим приводом размером с банку из-под кофе позволял создавать карту местности в радиусе несколько сотен метров в реальном времени. Это было недешево: в то время один лишь лидар добавлял $70 000 к стоимости автомобиля.
Почему автомобили Toyota странного вида с радарами, камерами, GPS-системами и инерциальными навигационными системами оставались незамеченными так долго? Это объясняется несколькими причинами. Часто автомобили ездили ночью, и люди принимали их за вездесущие автомобили сервиса Google Street View с большой камерой над крышей, делавшей снимки для формирования видов улиц. (Они также регистрировали расположение Wi-Fi сетей жителей, которые впоследствии могли использоваться для повышения точности определения местоположения смартфонов Google Android.)
Сервис Street View обычно успешно служил прикрытием для автомобилей, но случались и осечки. Участником первого столкновения с правоохранительными органами стал инженер Google, специалист по робототехнике Джеймс Куффнер. Он сделал себе имя в Университете Карнеги – Меллона на проектах в области навигации и создания человекоподобных роботов. Его специализацией было планирование движения – обучение машины ориентированию в реальном мире. Он увлекся роботизированными автомобилями, работая в команде Рэда Уиттакера, и, когда ключевые члены группы начали переключаться на секретный проект Google под кодовым названием Chauffeur, он последовал за ними.
Однажды поздно ночью он испытывал роботизированный автомобиль Prius в Кармеле, одном из не очень плотно застроенных районов, на которых специализировалась его команда. Ночное время выбрали потому, что испытателям требовались детальные карты с сантиметровой точностью, а базовое картирование было проще выполнить, когда на улицах никого нет. Катаясь по городку с такой заметной штукой, как лидар, Куффнер и его коллеги привлекли внимание полицейского, которому мелькание автомобиля показалось подозрительным.
Он оставил автомобиль и спросил, показывая на крышу: «Что это?»
У Куффнера, сидевшего на водительском месте, как и у всех других водителей в Google, были четкие инструкции для такого случая. Он достал и протянул полицейскому заранее подготовленный документ. Когда полицейский прочитал бумагу, у него от удивления вылезли глаза на лоб. Он был поражен и еще долго беседовал с инженерами Google о будущем транспорта.
Этот случай не получил широкого освещения, но, когда я, работая как корреспондент The New York Times, обнаружил автомобили на парковке компании, инженеры Google были уже не слишком суровыми и предложили мне прокатиться.
С заднего сиденья мне было прекрасно видно, насколько Google обошла автомобили Grand Challenge всего за три года. Технология, используемая в автомобиле Prius компании Google, во многом повторяла технологию DARPA, но она была лучше отработана. При включении автопилота воспроизводилась мелодия из сериала «Звездный путь». С технической точки зрения поездка была демонстрацией превосходной работы. Тест-драйв начался с того, что автомобиль плавно проехал от кампуса Google по улицам города Маунтин-Вью. Он останавливался и на знаках СТОП, и на светофорах, а затем влился в плотный поток транспорта на шоссе 101. На следующей развязке автомобиль проехал по разворотной эстакаде и взял обратный курс. Самым поразительным для пассажира-новичка было то, что беспилотник повернул точно так же, как это сделал бы человек. В поведении автомобиля, управляемого искусственным интеллектом, не было абсолютно ничего от робота.
Когда The New York Times опубликовала статью об этой поездке, она поразила Детройт как удар молнии. Отрасль внедряла компьютерные технологии и датчики в автомобилестроение безумно медленными темпами. Хотя круиз-контроль был стандартом уже не одно десятилетие, интеллектуальный круиз-контроль, автоматически поддерживающий движение в соответствии с трафиком, в 2010 г. все еще оставался экзотическим будущим. У некоторых автопроизводителей уже были отделения в Кремниевой долине, но после шумихи вокруг автомобиля Google все бросились строить лаборатории поблизости. Никто не хотел повторить судьбу производителей компьютерного железа после того, как стандартом отрасли стала система Microsoft Windows и все, что ей не соответствовало, превратилось в бросовый товар. Ситуация была очень похожей.
В то же время в обществе реакция на автомобиль Google была неоднозначной. В научной фантастике уже давно существовала традиция представления футуристических роботов-автомобилей в стиле мультфильма «Джетсоны» (Jetsons). Они даже стали героями телевизионных сериалов, например «Рыцаря дорог» (Knight Rider), выпущенного в 1980-х гг., где борцу с преступностью помогает обладающий искусственным интеллектом автомобиль. Существовал также и негативный взгляд на движение под управлением автопилота, представленный лучше всего, пожалуй, в научно-фантастическом триллере Даниэля Суареса 2009 г. «Демон» (Daemon), в котором автомобили с искусственным интеллектом не только ездят, но и давят людей. В целом же в обществе преобладала крайне скептическая точка зрения на то, что автомобили без водителей когда-нибудь станут реальностью. Как бы то ни было, Себастьян Трун однозначно настаивал на том, что люди – отвратительные водители в силу присущей человеку склонности к ошибкам и невнимательности. К моменту обнародования информации о проекте автомобили Google наездили более 150 000 км без аварий, а за следующие несколько лет эта цифра превысила 800 000 км. Молодой инженер Google Энтони Левандовски постоянно ездил из Беркли в Маунтин-Вью, расстояние между которыми составляло 80 км, на одном из автомобилей Prius, а Трун позволял автомобилю Google возить себя из Маунтин-Вью до загородного дома на озере Тахо в выходные.
Частично автономные автомобили уже появились на рынке. Они обозначили два подхода к транспорту будущего: один – расширение возможностей водителей-людей и повышение безопасности движения, другой – превращение людей в пассажиров.

 

В Google помалкивали относительно того, как они собираются коммерциализировать свои исследования, однако к концу 2013 г. полдесятка автопроизводителей публично заявили, что намерены предлагать автономные автомобили. И впрямь, в 2014 г. несколько европейских компаний, включая BMW, Mercedes, Volvo и Audi, анонсировали опцию – систему помощи в пробках, первый детский шаг на пути к автопилоту. В Audi, например, во время движения по шоссе автомобиль может ехать самостоятельно при скорости движения меньше 60 км/ч, соблюдая рядность и требуя вмешательства водителя лишь из опасения, что он может заснуть или отвлечься. В конце 2014 г. Tesla анонсировала систему «автопилот» для своего автомобиля Model S, позволяющую ему в некоторых ситуациях на шоссе ехать самостоятельно.
Автономный автомобиль обостряет дилемму «искусственный интеллект – усиление интеллекта». Если оставить в стороне споры относительно ответственности – кто будет платить, когда первый человек погибнет под колесами робота-автомобиля, – планка, которую автомобили должны преодолеть для повышения безопасности, в действительности невероятно низка. По оценкам Национальной администрации безопасности движения на шоссейных дорогах, проведенным в 2012 г., применение всего лишь электронной системы курсовой устойчивости на легковых автомобилях спасет почти 10 000 жизней и предотвратит почти четверть миллиона случаев травмирования. Управление транспортом вполне может стать одной из областей жизни, из которой человек будет практически исключен. Даже полностью сосредоточенный человек не слишком хороший водитель, а что уж говорить о тех, кто отвлекается на гаджеты, которых все больше вокруг. От самих себя нас спасут лишь дешевые камеры, радары и лидары, которые в сочетании со способными распознавать объекты компьютерами будут непрерывно вести наблюдение за пространством вокруг наших автомобилей независимо от того, сидим мы за рулем или едем как пассажиры.

 

Озарение пришло к Амнону Шашуа, когда он, студент последнего курса по информатике в Иерусалиме, сидел в библиотеке. Из статьи Шимона Ульмана, который был первым аспирантом у пионера в области исследования зрения Давида Марра, он неожиданно для себя узнал, что сетчатка глаза человека во многих отношениях является компьютером. Ульман был компьютерщиком и специализировался на изучении зрения и людей, и машин. Мысль о том, что внутри глаза происходит обработка данных, захватила Шашуа, и он решил пойти по стопам Ульмана.
Шашуа приехал в Массачусетский технологический институт в 1996 г. для изучения проблемы искусственного интеллекта, когда отрасль восстанавливалась после очередного спада. Компании пытались создавать коммерческие экспертные системы на основе правил и логического подхода, предложенного пионерами искусственного интеллекта вроде Эда Фейгенбаума и Джона Маккарти. На заре развития искусственного интеллекта казалось, что встроить предметные экспертные знания в программную оболочку довольно просто, однако программы были ненадежными и не имели успеха на рынке, что привело к краху целого ряда амбициозных стартапов. Теперь же мир искусственного интеллекта возрождался. Прогресс, который первые три десятилетия был сравнительно медленным, наконец стал очевидным в 1990-х гг., когда статистические методы сделали проблему систематизации и принятия решений разрешимой. Эксперименты в области искусственного интеллекта пока что не приносили грандиозных результатов, поскольку компьютерам той эпохи не хватало мощности для обработки необходимых данных, но новые идеи уже витали в воздухе.
В аспирантуре Шашуа сосредоточился на перспективном подходе к визуальному распознаванию объектов путем получения множества изображений и определения геометрии. Идея была заимствована из сферы компьютерной графики, где ее предложил Мартин Ньюэлл в период учебы в магистратуре в Университете Юты. В 1970-е гг. в стенах этого университета родилось немало подходов к созданию компьютерной графики. На эту идею Ньюэлла натолкнул обычный чайник Melitta. Однажды, когда он за чаем обсуждал проблемы моделирования объектов с женой, она предложила ему смоделировать этот чайник, который впоследствии стал иконой исследований в области компьютерной графики.
В Массачусетском технологическом институте Шашуа учился у специалистов в области компьютерного зрения Томми Поджио и Эрика Гримсона. Поджио был ученым, работавшим на стыке вычислительной техники и нейробиологии. Гримсон, специалист по вычислительной технике, позже стал ректором Массачусетского технологического института. В то время казалось, что от определения формы объектов до их распознавания один шаг, однако разработка программ распознавания оказалась сложнейшей задачей. Даже сегодня заветная цель – «понимание сцен» (например, не только идентификация фигуры как женщины, но и определение того, что она делает) – недостижима, и существенный прогресс заметен лишь в некоторых узких областях. Так, многие автомобили могут сейчас распознавать пешеходов и велосипедистов и сбрасывать скорость до столкновения.
Шашуа стал одним из мастеров по освоению таких областей. В академическом мире, где специалисты в области мозга вели бесконечный спор со специалистами по теории вычислительных машин, он примкнул к группе, позиция которой выражалась словами «хотя самолеты не машут крыльями, это не означает, что они не могут летать». После аспирантуры Шашуа вернулся в Израиль и основал успешную компанию Cognitens, использующую моделирование зрения для создания невероятно точных трехмерных моделей деталей промышленного назначения. Эти образы с допусками не больше толщины волоса позволяли производителям из разных отраслей, от автомобильной до аэрокосмической, создавать цифровые модели существующих деталей для проверки их годности и качества поверхности. На компанию быстро нашелся покупатель.
В поисках нового применения сил Шашуа узнал от бывшего клиента об автопроизводителе, которому нужна технология стереозрения для компьютерной системы управления. Там знали о работе Шашуа в области геометрии множественных проекций и поинтересовались, не может ли он предложить что-либо в области стереозрения. Шашуа ответил: «Вопрос, конечно, интересный, но вам не нужна стереосистема, можно обойтись и одной камерой». Он пояснил, что, если нужно, люди способны определять расстояние с помощью одного глаза.
Предприимчивый Шашуа убедил General Motors вложить $200 000 в разработку демонстрационного программного обеспечения, а потом предложил своему другу, бизнесмену Зиву Авираму, создать новую компанию. «Это шанс, – сказал он. – Поле для игры здесь огромно, все представляют его совершенно неправильно, а у нас уже есть готовый платить заказчик». Они назвали новую компанию Mobileye. Шашуа написал демонстрационную программу для настольного компьютера и вскоре показал систему машинного зрения с одной камерой, которая в то время казалась автомобилестроителям научной фантастикой.
Через полгода после начала проекта Шашуа узнал от крупного поставщика автокомпонентов, что General Motors собирается объявить конкурс на разработку способа предупреждения водителей о выходе автомобиля из своего ряда. До этого Mobileye концентрировалась на далеких от практической реализации проблемах, таких как обнаружение автомобилей и пешеходов, которые считались в отрасли неразрешимыми. Но поставщик автокомпонентов посоветовал Шашуа: «Вы должны показать что-нибудь прямо сейчас. Важно зацепить автопроизводителей чем-то реальным, а потом можно работать дальше».
Эта идея показалась Шашуа разумной, и он подключил на пару месяцев одного из своих студентов в Еврейском университете к этому проекту. Демонстрационная программа удержания полосы движения получилась довольно приличной, но Шашуа понимал, что она вряд ли превзойдет программы конкурентов, начавших заниматься разработкой раньше, и что у молодой компании практически нет шансов на победу.
А потом его осенило. Он добавил в программу функцию обнаружения автомобилей, а в GM сказал, что эта возможность – техническая накладка, на которую не нужно обращать внимания. «В следующей версии мы ее уберем, поэтому просто не обращайте внимания», – сказал он. Этого было достаточно. В GM пришли в восторг от возможности повысить безопасность за счет обнаружения других автомобилей за небольшие деньги. Автогигант немедленно отменил конкурс и начал финансировать разработки компании-новичка. Обнаружение транспортных средств должно было привести к появлению нового поколения систем безопасности, которые не заменяют водителей, а расширяют их возможности с помощью невидимого датчика и компьютерной сети безопасности. Такие средства, как сигнализатор выхода за пределы полосы движения, адаптивный круиз-контроль, сигнализатор возможности столкновения и система экстренного торможения, быстро становятся стандартом безопасности автомобилей.
Mobileye превратилась в одного из крупнейших международных поставщиков систем видения на основе искусственного интеллекта для автомобильной промышленности, но у Шашуа были более масштабные идеи. После создания Cognitens и Mobileye он в 2001 г. работал научным сотрудником с ученой степенью в Стэнфорде и занимал один офис с Себастьяном Труном. Оба они в конечном итоге стали пионерами в создании беспилотных автомобилей. Шашуа использовал те же технологии, что и Трун, но с более прагматичным, менее «оторванным от земли» подходом. Большое влияние на него оказал Поджио, проповедовавший биологический подход к зрению, который был альтернативой использованию «грубой силы» – все более мощных компьютеров.
Статистический подход к вычислениям в конечном итоге оказался более работоспособным, когда стали доступными и мощные кластеры компьютеров, такие как облако Google, и большие массивы данных. Ну а если этих ресурсов нет? Такая ситуация и была коньком Шашуа. Mobileye выросла и стала уникальной израильской технологической компанией, расположенной в Иерусалиме возле Еврейского университета, где Шашуа преподавал информатику. Оборудованный Mobileye автомобиль Audi служил исследовательской платформой на колесах. В отличие от автомобиля Google c гирляндой датчиков, Audi Mobileye снаружи выглядел обычно – единственная видеокамера перед зеркалом заднего вида в центре ветрового стекла не бросалась в глаза. Поставленная задача – беспилотное движение – требовала мощных компьютеров, и они находились на борту, но были скрыты в багажнике.
У Mobileye, как и у Google, были грандиозные замыслы, реализованные пока лишь частично. Весенним днем 2013 г. два инженера Mobileye, Габи Хайон и Эйял Багон, пригласили меня на тест-драйв. Мы отъехали на несколько километров к востоку от Иерусалима по шоссе 1 и остановились у ничем не примечательного съезда с трассы, где нас поджидал другой сотрудник в сверкающем белом Audi А7. Когда мы сели в А7 и приготовились к тест-драйву, Габи и Эйял попросили не судить строго – работа над автомобилем еще продолжалась. Сегодня Mobileye поставляет системы машинного зрения компаниям BMW, Volvo, Ford и GM, использующим их в целях обеспечения безопасности. Системы третьего поколения Mobileye рекламируются как способные обнаруживать пешеходов и мотоциклистов. Не так давно Nissan намекнула на ожидаемые новшества, продемонстрировав автомобиль, который автоматически объезжает пешехода, появляющегося из-за припаркованного автомобиля.
Как и Google, израильтяне не собираются останавливаться в разработке технологий, необходимых для автоматического управления. Но если Google, похоже, вознамерилась конкурировать со всей отраслью, вступая в союз с новичками вроде Tesla, то Шашуа предельно деликатен по отношению к отраслевой культуре, о чем свидетельствует состав его нынешних заказчиков. Это означает, что его системы технического зрения должны стоить не более нескольких сот долларов для автомобилей премиум-класса и меньше сотни для рядового Chevy.
Google и Mobileye совершенно по-разному подходят к решению проблемы контроля пространства вокруг автомобиля на большой скорости. Система Google строит детальную карту местности с точностью до сантиметра с помощью радаров, видеокамеры и лидара Velodyne в дополнение к данным, собираемым автомобилями Street View. Автопилот подключается к базе картографических данных в облаке Google через беспроводной канал. Сеть – это электронный костыль для хромающей навигационной системы автомобиля, подтверждающий правильность восприятия локальными датчиками окружающей обстановки.
База глобальных карт, наверное, облегчила бы задачу Google. Но, как признался один из инженеров компании, когда проект уже запустили, команда Google была обескуражена динамичностью реального мира. «Из-за дорожных работ постоянно появляются и исчезают не только полосы движения на трассах, "движутся даже мосты"», – сказал он. Все же даже без базы данных автомобиль Google способен делать вещи, которые вроде бы под силу только человеку. Он может, например, без проблем встроиться в поток машин на шоссе и справиться с неравномерным движением на загруженной городской улице.
В проекте Google сочетались немецкая педантичность Труна и пристрастие компании к секретности. Израильтяне были более открытыми. В тот жаркий весенний день в пригороде Иерусалима инженеры Mobileye не проявляли особой осторожности. «Не хотите ли сесть за руль?» – предложил мне Эйял, садясь на пассажирское место за большой дисплей с клавиатурой. Со мной провели краткий инструктаж по управлению роботом-автомобилем: просто включаете круиз-контроль и активизируете функцию удержания автомобиля в своей полосе движения, потянув рычажок круиз-контроля на руле к себе. На ветровом стекле отображались скорость автомобиля и иконка, сигнализирующая, что включен автопилот.
В отличие от автомобиля Google, который первоначально воспроизводил при старте мелодию из сериала «Звездный путь», здесь при включении автопилота загорался визуальный сигнал, и Mobileye Audi начинал двигаться по шоссе, иногда достигая скорости больше 100 км/ч. На ведущей к Мертвому морю дороге, которая проходит по извилистому пустынному каньону, не расслабишься. В беспилотнике новичку на водительском месте особенно трудно приходится, когда идущий впереди автомобиль начинает замедляться перед светофором. Требуется вся сила воли, чтобы не нажать на педаль тормоза и довериться технике, которая, как и следует ожидать, уверенно и плавно останавливает автомобиль в нужном месте.
В автомобиле Google ощущаешь присутствие некоего бесстрастного и призрачного машинного интеллекта, который обитает где-то в механических недрах или, возможно, в далекой облачной среде. Автомобиль Mobileye во время теста в 2013 г., напротив, производил впечатление машины-помощницы. При начале движения ему нужно немного порыскать по полосе движения – совсем не то поведение, которое внушает уверенность. Но если понять принцип его работы, беспокойство вроде бы должно уйти. Система искусственного зрения Audi снабжена одной монокулярной камерой. Третье измерение – глубина – вычисляется по разработанному Шашуа и его исследователями алгоритму, называемому «построение трехмерной структуры по набору изображений», – вот почему автомобилю приходится слегка рыскать.
Так или иначе, даже зная это, с непривычки чувствуешь себя не слишком комфортно. Во время теста, когда мы поравнялись с припаркованным автомобилем, наш Audi вдруг взял в его сторону. Инстинктивно, не пытаясь разобраться, что «задумал автопилот», я схватил руль и вернул Audi в центр полосы. Это совершенно не обеспокоило израильских инженеров, скорее позабавило их. После получасовой поездки по старой дороге, которая, наверное, сохранилась еще с древних времен, путешествие закончилось. Машина с автопилотом казалась научной фантастикой, но это был лишь намек на то, что постепенно приведет к серьезным социальным изменениям. Система помощи в пробках уже появилась на рынке. Технология, которая казалась поразительной в 2013 г., сегодня рутинно помогает водителям на автомагистралях по всему миру.
Следующая фаза развития беспилотников начнется задолго до 2020 г. – автомобили будут сами справляться с движением по автомагистралям не только в пробках, но и при въездах и съездах с дороги. General Motors называет эту функцию «супер-круиз-контроль», и она станет важнейшим шагом к изменению роли людей в управлении автомобилями.
Google стремится создать автомобиль, в котором человек будет пассажиром и перестанет участвовать в управлении. Шашуа считает, что даже Google еще очень далеко до настоящего беспилотного автомобиля. Такой автомобиль неизбежно столкнется с проблемой проезда нерегулируемого перекрестка, когда к нему подъезжают сразу четыре машины, – ситуация, вызывающая затруднение даже у человека. На перекрестках без светофора водители вступают в сложное социальное взаимодействие, и в обозримом будущем независимым, не поддерживающим связь друг с другом компьютерным системам будет трудно решить эту проблему.
Другая сложность – частое нарушение правил и предписаний водителями, не говоря уже о пешеходах. Это может стать реальным препятствием для будущего беспилотных автомобилей в городских условиях: мы пока что не знаем, как решать юридические проблемы попадания беспилотника в дорожно-транспортное происшествие. На взгляд Шашуа, есть компромисс, довольно близкий к подходу Google, но достаточно реалистичный для применения при движении по автомагистралям всего через пару лет. Он предполагает использование сложной системы датчиков и искусственного интеллекта, помогающих водителю, который остается участником процесса управления, но становится человеком с «супервозможностями», способным видеть дальше и более четко и, наверное, выполнять другие задачи помимо вождения. Система может подавать сигнал, когда необходимо участие человека, с учетом предпочтений водителя, а возможно, и автомобиля.
Когда я стоял возле Audi в пригороде Иерусалима, мне было ясно, что это новая земля обетованная. Нравится нам это или нет, но мы больше не живем в библейском мире, и будущее зависит не от достижения определенной территории, а от быстроты приближения мира технологических чудес. Машины, которые рождаются как големы, становятся более совершенными, способными брать на себя все больше функций человека – от механических действий до решения сложнейших задач.
У Google есть проблема. За три с лишним года работы по программе создания автомобиля без водителя небольшая группа исследователей базирующегося в Маунтин-Вью интернет-поисковика без происшествий накрутила в беспилотном режиме более 800 000 км. Они добились потрясающего прогресса в областях, которые были не по зубам традиционному автомобилестроению. Автомобили Google могут ездить днем и ночью, перестраиваться и даже ориентироваться на самой кривой улице мира – Ломбард-стрит в Сан-Франциско. Google добилась этих успехов, используя интернет для создания виртуальной инфраструктуры. Она не строила дорогостоящие «умные» шоссе, а опиралась на точные карты мира, создаваемые в рамках сервиса Google Street View.
Некоторые ее системы обладали почти что человеческими возможностями. Например, система искусственного зрения могла распознавать зоны строительных работ, притормаживать и уверенно прокладывать курс между препятствиями. Она видела частично перекрывающие дорогу автомобили и позволяла объезжать их. Ее научили не только распознавать велосипедистов, но и идентифицировать их жесты, притормаживать и пропускать при перестроении в другой ряд. Иными словами, Google приближалась к решению еще более сложной проблемы – обучение беспилотника реагировать на жесты регулировщика на месте дорожно-транспортного происшествия или проведения строительных работ.
Робототехнику Массачусетского технологического института Джону Леонарду особенно нравилось ездить по Кеймбриджу и снимать видеоролики о наиболее сложных для беспилотных автомобилей ситуациях. В одном из его роликов автомобиль останавливается перед знаком STOP на Т-образном перекрестке и ожидает возможности повернуть налево. Это никак не удается сделать из-за интенсивного потока машин справа, где нет знака STOP. Ситуация осложняется и редкими машинами, идущими с другой стороны. Проблема заключается в том, как убедить водителей, едущих слева, уступить дорогу и как при этом не столкнуться ни с кем из мчащихся справа.
Видеоролик, показывающий, пожалуй, самую большую проблему для системы зрения Google, был снят на оживленном переходе в центре города. У регулируемого перехода стоит толпа людей. Автомобиль едет на зеленый свет, как вдруг полицейский в левой части кадра поднимает руку, чтобы остановить движение и пропустить пешеходов. Возможно, для компьютерного зрения такая проблема вполне разрешима. Если уж современные системы умеют распознавать велосипедистов и их жесты, то почему бы им не справиться с жестами полицейских? Так-то оно так, да только вряд ли эта проблема получит решение легко и быстро.
Увлекшись идеей преображения системы образования с помощью массовых открытых курсов дистанционного обучения и не желая состязаться за лидерство в X Lab с соучредителем Google Сергеем Брином, Трун отошел от исследовательской программы в 2012 г. Как это часто случается в Кремниевой долине, Трун не смог довести до конца свой проект. Он создал секретную лабораторию X Laboratory в Google и в течение нескольких лет руководил ею, но, когда к проекту подключился Брин, решил, что нужно двигаться дальше. Брин предлагал ему место содиректора, но Трун понимал, что в присутствии соучредителя Google ему уже не стоять у руля, а потому настало время новых задач.
Осенью 2011 г. Трун и Питер Норвиг взяли на себя один из бесплатных дистанционных курсов в Стэнфорде – «Введение в искусственный интеллект». Инициатива получила большой резонанс. Более 160 000 студентов зарегистрировались на курсе, что почти в 10 раз превышало количество невиртуальных студентов Стэнфорда. Хотя этот курс окончили далеко не все из тех, кто записался на него, он стал глобальным «событием интернета». Класс Труна и Норвига стал прообразом новой дешевой формы обучения, которая не только уравнивает правила игры, делая лучших преподавателей мира доступными для любого человека, но и угрожает бизнес-моделям дорогостоящих элитных университетов. Зачем платить за обучение в Стэнфорде, если можно пройти аналогичный курс в Городском колледже?
Трун все еще номинально, один день в неделю, работал в Google, но роль лидера в проекте перешла к приветливому робототехнику Крису Урмсону, который был главным помощником Рэда Уиттакера при создании автомобиля для соревнований DARPA. Он был одним из первых, кого Трун взял на работу после прихода в Google, чтобы начать работу над секретной в то время программой. Летом 2014 г. Урмсон заявил, что хочет создать надежный беспилотник до того, как его сын достигнет возраста, с которого разрешается управление автомобилем (тогда до этого момента оставалось около шести лет).
Урмсон после ухода Труна значительно приблизил программу к ее первоначальной цели – созданию беспилотного автомобиля, способного ездить по дорогам общего пользования. Google выделяла два вида движения – по автомагистралям и по городским улицам. На пресс-конференции, посвященной достигнутым результатам, Google признала, что главной проблемой было создание программы управления автомобилем в городских условиях. Урмсон, однако, в посте на сайте компании утверждал, что хаос на городских улицах, где автомобили, велосипедисты и пешеходы движутся вроде бы случайным образом, на самом деле предсказуем. Проведенные Google эксперименты выявили тысячи возможных ситуаций, и компания разработала модели, которые предполагают развитие событий и по ожидаемому сценарию (автомобиль останавливается на красный сигнал светофора), и по неожиданному (автомобиль едет на красный свет). Урмсон и его команда полагали, что проблема движения по автомагистралям в основном решена за исключением одной детали – в управлении по-прежнему участвовал водитель. Эта проблема проявилась, когда команда Google предоставила часть роботов-автомобилей сотрудникам для тестирования в процессе ежедневных поездок на работу. «Некоторые вещи заставили нас понервничать», – сказал Урмсон репортеру. Первоначально в программе испытаний принимали участие два профессиональных водителя, которые действовали в соответствии со строгим порядком, подобно пилотам самолетов. Водитель следил за ситуацией и был готов взять управление на себя в случае чего. Реальный мир оказался другим. Некоторые из сотрудников Google по дороге домой после работы отвлекались и даже засыпали!
Это назвали проблемой «передачи управления». Надо было решить, как быстро возвращать «к реальности» человека, который может читать электронную почту, смотреть фильм или даже спать. Понятное дело, люди в беспилотниках клюют носом гораздо чаще, чем думают. Именно с этим столкнулась автоиндустрия в 2014 г., когда появились системы помощи в пробках. Водитель должен держать руль хотя бы одной рукой с перерывами не более 10 секунд. Если он не демонстрирует «присутствие», система подает звуковой сигнал и выходит из режима автопилота. Но ДТП происходят за доли секунды. По мнению Google, выходило, что в будущем эту проблему, возможно, удастся решить, но с существующими технологиями она неразрешима.
Ряд автопроизводителей уже делают попытки решить проблему отвлечения водителей. Lexus и Mercedes выпустили на рынок систему, определяющую по положению глаз и головы водителя, что он отвлекся или задремал. Audi начала разрабатывать в 2014 г. систему с двумя камерами, следящую за вниманием водителя и при необходимости останавливающую автомобиль.
Так или иначе в настоящее время Google сменила стратегию и пытается решить другую, более простую задачу. В мае 2014 г., всего через несколько недель после оптимистичного брифинга для прессы относительно прогресса в разработке беспилотного автомобиля, она нацелилась на новое, более узкое, но радикальное решение для городских условий. Споткнувшись на проблеме отвлечения человека, инженеры Google решили полностью исключить людей из цепочки управления. Компания перенесла акцент со своего парка автомобилей Prius и Lexus с автопилотом на новый парк из сотни экспериментальных электромобилей без привычных органов управления. Хотя Google по обыкновению об этом не распространялась, фактически она занималась созданием автомобиля без водителя с самого начала своей программы, экспериментируя с автономными гольф-мобилями у себя в кампусе. Теперь она намеревалась вернуться к истокам и снова автономно возить людей по кампусу, на этот раз на новых, специально сконструированных автомобилях. Поездка на таком автомобиле будущего сродни поездке в лифте. Двухместный автомобиль напоминает сверхкомпактный Fiat 500 или Smart компании Mercedes-Benz, но у него нет ни руля, ни педали газа, ни тормоза, ни рычага переключения передач. Идея в том, чтобы в переполненных центрах городов или в кампусах пассажиры могли ввести место назначения на смартфоне и вызвать автомобиль. В его салоне есть только кнопка «Начать движение» и красная кнопка аварийной остановки. Инженеры установили предел скорости движения на уровне 40 км/ч, чтобы классифицировать транспортное средство как гольф-мобиль, а не как обычный автомобиль. Это позволяет обойтись без подушек безопасности и других обязательных атрибутов современного средства передвижения, увеличивающих стоимость, вес и сложность. Вместе с тем такие автомобили годятся только для поездок по городу с малой скоростью.
Хотя 40 км/ч ниже минимальной скорости для шоссе, средняя скорость движения в Сан-Франциско и Нью-Йорке составляет, соответственно, 29 и 27 км/ч, поэтому не исключено, что медленные, но эффективные автоматизированные автомобили однажды заменят сегодняшнее такси. По данным Института Земли, 13 000 такси Манхэттена выполняют 470 000 рейсов в день. Их средняя скорость 16–18 км/ч, и они везут в среднем 1,4 пассажира при средней дальности поездки 3 км и среднем времени ожидания такси 5 минут. По сравнению с этим, говорится в отчете института, футуристический парк из 9000 роботов, вызываемых через смартфон, может обеспечить такие же показатели при времени ожидания менее 1 минуты. Если принять маржу прибыли, равной 15 %, то сегодняшнее такси обойдется вам в $2,5 на 1 км, а будущее беспилотное такси – в 30 центов на 1 км. Отчет показывает аналогичную экономию и для двух других городов – Анн-Арбор, штат Мичиган, и строящийся населенный пункт Бабкок-Ранч, штат Флорида.
Руководство и инженеры Google приводят аргумент, которым уже давно оперируют градостроители: парк редко используемых автомобилей поглощает огромное пространство. Например, автомобили для поездок на работу и обратно стоят без движения большую часть дня, занимая городское пространство, которое может быть использовано для домов, офисов или парков. В городах автоматизированные такси будут работать непрерывно, возвращаясь только к станциям быстрой зарядки роботов для замены аккумуляторов. В этом свете легко представить города, не ориентированные на частные автомобили, с большими зелеными пространствами и широкими проспектами для пешеходов и велосипедистов.
Говоря об опасности и иррациональности современной транспортной системы, Трун затрагивал и вопросы повышения безопасности, и вопросы переустройства городов. Помимо расточительного использования значительных ресурсов транспортная инфраструктура уносит более 30 000 жизней в год в результате ДТП в США, а в Индии и Китае в 10 раз больше. В целом в мире жертвами ДТП становятся более миллиона человек в год. Это убедительный аргумент, но он наталкивается на стену проблем юридической и финансовой ответственности и еще более сложных этических вопросов. В качестве довода против беспилотных автомобилей указывают на неготовность законодательства к определению виновных в случае происшествий, связанных с дефектами конструкции или изготовления. Это сфера невероятно сложных взаимосвязей между недостатками конструкции автомобилей и юридическими последствиями. Претензии по внезапному разгону автомобилей Toyota, например, стоили компании более $1,2 млрд. General Motors столкнулась с конструкционным недостатком замка зажигания, из-за которого внезапно глох двигатель, и ей пришлось отозвать больше автомобилей, чем было выпущено в 2014 г. В конечном итоге эта акция может обойтись компании в несколько миллиардов долларов. В принципе такая проблема решается довольно просто. Конгресс может принять закон об освобождении от ответственности для беспилотных автомобилей, как в случае вакцин для детей. Страховые компании могут ввести режим «отсутствия виновных», если в ДТП участвуют только беспилотники.
У проблемы ответственности есть и морально-этический аспект, известный как «проблема вагонетки» – неуправляемая вагонетка мчится по рельсам в направлении пяти человек, вы можете спасти их, переведя стрелку на другой путь, где находится только один человек, и таким образом пожертвовать им. Допустимо ли с точки зрения морали изменить направление движения вагонетки и предотвратить пять смертей ценой одной? Впервые сформулированная в статье об этике абортов британского философа Филиппы Фут в 1967 г., эта проблема вызвала бесконечные дискуссии о последствиях выбора меньшего из зол. Позднее аналогичную задачу поставили перед роботами-автомобилями. Им надо было решить, что делать: наехать на пятерых выбежавших на дорогу школьников или свернуть на тротуар и сбить взрослого прохожего.
В программу, конечно, можно заложить принцип выбора меньшего из зол, но постановка вопроса представляется неправильной на других уровнях. Поскольку 90 % ДТП случаются из-за ошибок водителей, переход к использованию беспилотных автомобилей должен привести к резкому снижению травматизма и гибели людей на дорогах. Это явно будет значительным благом, несмотря на небольшое количество ДТП в результате чисто технологических сбоев. В определенной мере автомобильная промышленность уже согласилась с этой логикой. Подушки безопасности, например, спасают больше жизней, чем уносят из-за ошибочного срабатывания.
Потом, такая узконаправленная постановка вопроса не учитывает будущих возможностей беспилотников, когда, скорее всего, дорожные рабочие, полицейские, спецмашины, автомобили, пешеходы и велосипедисты будут электронным образом оповещать друг друга о своем присутствии. Это даже в отсутствие полной автоматизации должно значительно повысить безопасность. В настоящее время проходит испытания технология глобальной связи, известная как V2X, которая обеспечивает непрерывный обмен информацией о месте нахождения между соседними автомобилями. В будущем даже школьники будут носить сигнализаторы, предупреждающие автомобили об их присутствии и уменьшающие вероятность ДТП.
На фоне этого кажется странным, что философы рассматривают проблему вагонетки не с точки зрения большего блага, а как объект индивидуального выбора. Конечно, если техника подведет, это обернется чьей-то трагедией, а она несомненно будет давать сбои. Системы, повышающие общий уровень безопасности транспорта жизненно необходимы, даже если они несовершенны. Еще более интересная философская загадка касается экономических, социальных и даже культурных последствий исключения людей из цепочки управления автомобилем. В 2013 г. в США в результате ДТП погибло более 34 000 человек и 2,36 млн получило травмы. Сравните это с 3,8 млн человек, которые зарабатывали на жизнь коммерческими перевозками в 2012 г. в США. В течение двух последующих десятилетий беспилотные автомобили и грузовики приведут к исчезновению значительной, если не подавляющей, части этих рабочих мест.
У этой проблемы гораздо больше нюансов, чем узко поставленный вопрос о сохранении жизней и рабочих мест. Когда Дуг Энгельбарт в 1968 г. проводил то, что позже назвали «матерью всех демонстраций», – демонстрацию технологии, которая привела к появлению персональных компьютеров и интернета, – он неявно использовал аналогию управления автомобилем. Он сидел за клавиатурой и дисплеем и показывал, как работа через графический интерфейс в интерактивном режиме может использоваться для управления компьютером и «движения» через киберпространство, как его назвали потом. В этой модели усиления интеллекта человек в значительной степени сохраняет контроль. Если первоначально аналогией интерактивной работы на компьютере было управление автомобилем, то сегодняшние взгляды Google изменили картину. Новая аналогия ближе к поездке на лифте или поезде без вмешательства человека. В мире Google вы нажимаете кнопку, и вас доставляют к месту назначения. Такая концепция транспортировки подрывает некоторые представления, глубоко укоренившиеся в американской культуре. В прошлом веке автомобиль стал синонимом американского идеала свободы и независимости. Сейчас эта эпоха заканчивается. Что придет ей на смену?
Символично, что именно Google изменила аналогию. В некотором смысле она начиналась как компания по разработке методов усиления интеллекта. Разработанный Ларри Пейджем алгоритм PageRank для улучшения результатов поиска в интернете был ориентирован на извлечение конкретных знаний путем накопления большого числа принятых людьми решений о ценных источниках информации. Google начала со сбора и организации знаний и предоставления доступа к ним в качестве части известной Memex, первой глобальной системы поиска информации, предложенной Ванниваром Бушем в 1945 г. в журнале Atlantic Monthly.
Так или иначе по мере развития компания начала все больше ориентироваться на системы, которые заменяют человека, а не расширяют его возможности. Руководство Google все же задумывалось о социальных последствиях создаваемых ими систем. Девиз у компании прежний – «Не навреди». Конечно, это довольно туманно и может означать что угодно, однако предполагает, что компания Google стремится не просто к максимизации акционерной стоимости. Например, Питер Норвиг, ветеран исследований в области искусственного интеллекта, директор по исследованиям в Google с 2001 г., видит в партнерстве человека и компьютера выход из сложной ситуации, возникающей в результате появления все более интеллектуальных машин. По его словам, партнерское взаимодействие шахматистов и шахматной программы позволяет обыграть в шахматы даже лучший искусственный интеллект. «Как сообщество, мы пойдем именно в этом направлении. Компьютеры станут более гибкими и производительными, а процветать, скорее всего, будут те, кто работает в партнерстве с машинами», – сказал он в 2014 г. на конференции NASA.
Как будет выглядеть партнерство людей и интеллектуальных автомобилей? То, что началось с желания военных автоматизировать ведение боевых действий, снизить затраты и обеспечить безопасность солдат, вот-вот приведет к перевороту в сфере транспорта. Мир стремительно идет вперед и автоматизирует транспортные системы, однако последствия этого пока что туманны. Ожидается колоссальный положительный эффект в плане безопасности, эффективности и влияния на окружающую среду. Но что станет с миллионами людей, работающими сейчас в транспортной сфере по всему миру? Что будут делать они, когда окажутся на месте кузнецов или изготовителей кнутов в XXI в.?
Назад: Глава 1 Выбор направления – человек или машина
Дальше: Глава 3 Трудный год для человечества