Повелители виртуальных феромонов

Человеческий контроль над роем может принимать различные формы. Командиры могут разработать детальный план, а затем ввести его в программу роя для исполнения, что позволяет адаптироваться к меняющимся обстоятельствам. Кроме того, командиры могут устанавливать только задачи более высокого уровня, такие как «поиск вражеских целей», и позволять рою определять оптимальное решение на основе централизованной или децентрализованной координации. Также контролеры могут просто изменить цели роя или предпочтения агента, чтобы вызвать определенные действия. Если когнитивная нагрузка управления роем превышает одного человека, то задачи, возложенные на персонал, можно разделить, разбив рой на более мелкие элементы или путем деления задач на основе функции. Например, один контролер может отслеживать состояние транспортных средств, а другой ставить цели высокого уровня, а еще один утверждать определенные действия с высокой степенью риска, такие как применение силы.

В конечном счете смесь механизмов управления может быть желательна, с различными моделями, используемыми для различных задач или ситуаций. Например, исследователи, изучая возможность использования интеллектуальных агентов для стратегических игр в реальном времени, разработали иерархическую модель нескольких централизованных средств контроля. Агенты в составе подразделений контролируют тактику и координацию между отдельными элементами. Агенты оперативного уровня контролируют маневр и задачи нескольких отрядов. А агенты на уровне стратегии контролируют всеобъемлющее планирование игры, например, когда атаковать. В принципе, сотрудничество на каждом из этих уровней может быть выполнено с помощью различных моделей, в терминах централизованного и децентрализованного принятия решений или человеческого и машинного контроля. Например, тактическая координация может осуществляться посредством эмерджентной координации, централизованные агенты могут выполнять координацию оперативного уровня, а человеческие контролеры могут принимать стратегические решения высокого уровня.

В целях оптимизации использования роя контролеры нуждаются в обучении, чтобы понять поведение и пределы автоматизации роя в реальных условиях, особенно если рой демонстрирует эмерджентное поведение. Контролерам необходимо знать, когда нужно вмешаться, чтобы скорректировать автономные системы, и когда такое вмешательство приведет к нежелательным результатам.

Фундаментальные исследования по роению роботов ведутся в академических, правительственных учреждениях и промышленности США. В дополнение к улучшению понимания самого поведения роения там считают необходимыми дополнительные исследования по интеграции человека и машины с роями. Как можно легко и просто передать человеку-оператору состояние роя без лишней когнитивной перегрузки? Какая информация имеет решающее значение для операторов и какая не имеет значения? Какие приказы люди могут давать рою? Например, человек-контролер может дать рою команды на рассредоточение, соединение, окружение, нападение, обход и т. д. Или человек может контролировать рой просто с помощью симулированных «феромонов» на поле боя, например, сделав цели привлекательными. Чтобы воспользоваться возможностями роя, военным не только нужно экспериментировать и разрабатывать новые технологии, но и, в конечном счете, изменить подготовку, обучение и организационные структуры для адаптации к новой технологической парадигме.

Интерфейс человек-машина

Несмотря на распространение роботов и радиоуправляемых средств, люди по-прежнему будет участвовать в войне, но на уровне миссии, а не «вручную» выполняя любую задачу. Речь скорее не о том, что будущее войны будет беспилотным, но что человек и машина будут объединены.

Военным нужны гибриды автономных систем и решений, которые принимает человек, а не робот. Автономные системы смогут выполнять множество военных задач лучше человека и, в частности, быть полезны в тех случаях, когда требуются скорость и точность или повторяющиеся задачи, которые должны быть выполнены в относительно структурированных средах. В то же время, за исключением крупных успехов в новых вычислительных методах, нацеленных на развитие компьютеров, которые работают как человеческий мозг, например, нейронные сети или нейроморфные вычисления, автономные системы будут иметь значительные ограничения. В то время как машины превышают когнитивные способности человека в некоторых областях, в частности, скорости, им не хватает надежного интеллекта, который является гибким по целому ряду ситуаций. Интеллект машины является «хрупким». То есть автономные системы часто превосходят людей в узких задачах, таких как шахматы или вождение, но если их направить за пределы запрограммированных параметров, то они терпят неудачи, и зачастую серьезные. Человеческий интеллект, с другой стороны, очень устойчив к изменениям окружающей среды, а также способен адаптироваться и обрабатывать неоднозначные решения. Так что задачи, которые требуют творчества, будут неуместны для автономных систем. Лучшими когнитивными системами, следовательно, являются не человек и не машина по отдельности, но интеллект человека и машины, работающих вместе.

Военные могут использовать преимущества автономных систем на примере из области «продвинутых шахмат», где человек и машина сотрудничают в гибридных командах, часто называемых «Кентавром». После того как чемпион мира по шахматам Гарри Каспаров проиграл компьютеру IBM Deep Blue в 1996 г. (и еще раз в матч-реванше в 1997 г.), он основал направление передовых шахмат, которое сейчас используется на передовой шахматных состязаний. В этих шахматах люди играют в сотрудничестве с шахматной программой компьютера, когда игроки могут использовать программу, чтобы оценить возможные ходы и попробовать альтернативные последовательности. Результатом является превосходная игра в шахматы, более сложная, чем это было бы возможно, если бы люди или машины играли в одиночку.

Человеко-машинные команды ставят новые проблемы, и военные должны будут экспериментировать, чтобы найти оптимальное сочетание человеческого и машинного познания. Определение того, какие задачи должны быть сделаны с помощью машин, а какие людьми, явится важным обстоятельством, и делать это постоянно будет трудно, так как машины продолжают продвигаться в познавательных способностях. Человеко-машинные интерфейсы и обучение операторов, чтобы они понимали автономные системы, будут одинаково важными. Операторы должны знать сильные и слабые стороны автономных систем и в каких ситуациях автономные системы, скорее всего, приведут к превосходным результатам, а когда они могут потерпеть неудачу. Когда автономные системы будут включены в вооруженные силы, задачи, требуемые от человека, изменятся не только по отношению к тем функциям, которые они больше не будут выполнять, но также в отношении новых задач, которым они должны будут учиться. Операторы должны быть в состоянии понять, контролировать и управлять сложными автономными системами в бою. Это создает новые трудности для отбора, профессиональной подготовки и образования военнослужащих и, возможно, вызовет дополнительные политические проблемы. Повышение когнитивной человеческой производительности может помочь и в самом деле может иметь важное значение для управления перегрузками данных и расширения темпа операций будущей войны, но имеет свой собственный набор правовых, этических, политических и социальных проблем.

Алгоритмы того, как именно военные будут включать автономные системы в свои силы, будут формироваться не только в рамках стратегической необходимости и имеющихся технологий, но еще и за счет военной бюрократии и культуры. Не все люди могут захотеть передать управление для некоторых задач машинам. Есть мнение, что автомобили-роботы потенциально удобны, но к ним продолжают относиться с осторожностью. И даже если автономные автомобили в целом гораздо лучше, чем живые водители, неизбежно возникали бы ситуации, когда не будет полной автономии, и люди, которые лучше адаптируются к новым и неоднозначным обстоятельствам, разобрались бы лучше в такой ситуации.

Также и в случае вооруженного конфликта. Многие задания, которые люди выполняли на войне, изменятся, но люди останутся в центре войны, хорошо это или плохо. Введение более способных беспилотных и автономных систем на поле боя не приведет к бескровным войнам роботов, сражающихся против роботов, тогда как люди будут находиться в безопасном месте. Смерть и насилие останется неизбежным компонентом войны. Нельзя полностью удалить людей с поля боя и оставить их на дистанции за тысячи километров. Роль дистанционного управления будет возрастать, так как уже сегодня осуществляются полеты воздушных судов без пилота, но присутствие людей также будет необходимым на передовой, особенно для командования и контроля, когда нарушены дальние коммуникации.

Даже сейчас, когда автономные системы играют все более важную роль на поле боя, по-прежнему воевать будут люди, только с различным оружием. Бойцами являются люди, а не машины. Технология поможет людям в борьбе, как это было с изобретением меча, копья, лука и стрел. Лучшие технологии могут дать комбатантам преимущество с точки зрения противостояния, живучести или летальности. Но технология сама по себе ничего не значит без четкого понимания, как ее использовать. Танки, радио и самолеты были важнейшими компонентами стратегии блицкрига, но для блицкрига также требовались новая доктрина, организация, концепции работы, эксперименты и обучение, чтобы успешно развивать эту модель сражения. Это были люди, которые разработали эти понятия, подготовили требования к технологии, реструктуризации организаций, переписали доктрины, чтобы в конечном счете реализовать это на поле боя. В будущем подобный подход вряд ли изменится.

Даже сторонники внедрения новых программ для работы с роботами призывают к осторожности. Как указывает Марджори Грин, «модель «следов сообщений» следует изучить еще раз. «Сетевое оружие» вызовет повышенный интерес к сетям, связывающим людей. Динамическое управление и контроль будут основываться на коммуникативных путях и прямой связи между командирами распределенных систем вооружений, а не на технологиях, механически или электронно выбирающих информацию из центрального хранилища. Такой подход не только подготовит появление систем распределения летального оружия, но еще поможет улучшить команду и управление в целом».

Сторонники беспилотных и автономных систем в США трубили о конце эры пилотируемого самолета более десяти лет назад, даже несмотря на то, что ВВС запустили в эксплуатацию свой новейший, а некоторые предполагают, что последний, пилотируемый истребитель F-35, который останется центральным элементом боевых сил авиации в обозримом будущем. Руководители ВВС США продолжают утверждать, что выгоднее держать человека в кабине, потому что алгоритмы, которые позволили бы самолету думать самостоятельно, еще недостаточно развиты, не говоря уже об этических дилеммах, которые возникают при ведении войны без присутствия человека.

А ученые и правозащитники больше обеспокоены тем, что дистанционное сражение больше похоже на видеоигру, чем на настоящую войну. Филип Алстон, специальный докладчик ООН по внесудебным казням, заклеймил психологический акт убийства на дистанции «менталитетом PlayStation», предполагая, что война с помощью беспилотников стимулирует умственную и эмоциональную реакцию на игру в компьютерные игры. «Молодые военнослужащие, воспитанные на диете видеоигр теперь убивают реальных людей с помощью джойстиков». Джон Ю, профессор права Эмануэля Хеллера в Калифорнийском университете в Беркли, соглашается, заявляя: «Это похоже на видеоигру Call of Duty». Концепция менталитета PlayStation используется для продвижения имиджа операторов в отрыве от поля боя и реальных смертей.