Робота превращают в человека

В конце июня 2017 г. программа цифровой экономики была утверждена главой правительства Д. Медведевым, повторившим, что «перевод экономики в цифру – вопрос нашей глобальной конкурентоспособности и национальной безопасности». А в середине августа для участия бизнеса в управлении принятой программой была создана Автономная некоммерческая организация (АНО) «Цифровая экономика», которая взяла на себя разработку плана по её развитию и контроль за его исполнением, включая рекомендации по эффективному расходованию бюджетных средств.

Учредителями АНО стали фонд «Сколково», АСИ, Сбербанк, «ВЭБ Инновации», интернет-компании «Яндекс», Mail.ru Group, Rambler & Со, «Открытая мобильная платформа» и «1C», операторы «Мегафон» и МТС, «Росатом», «Ростех», «Ростелеком», «ВымпелКом» и Почта России. Генеральным директором АНО стал Евгений Ковнир, который до этого с 2015 г. отвечал со стороны АСИ за Национальную технологическую инициативу, будучи заместителем директора направления «Молодые профессионалы», то есть Д. Пескова. Ещё ранее он возглавлял департамент развития отрасли информационных технологий Минкомсвязи, и одним из главных достижений его на этом посту стало самое масштабное мероприятие по привлечению школьников к занятию информационными технологиями, о котором мы уже писали – «ЧасКода», в котором в 2014 г. приняло участие 7 млн. ребят всей страны.

Для составления планов по реализации программы цифровой экономики по каждому из её направлений были определены центры компетенций и руководители рабочих групп. Так, центром компетенций по направлению «Нормативное регулирование» (то есть совершенствование правового регулирования) стал самый что ни на есть экспериментальный фонд «Сколково» (!). Центром компетенций по направлению «Кадры и образование» стало АСИ, а возглавил его всё тот же Д. Песков. Центром компетенций по направлению «Информационная инфраструктура» стал «Ростелеком», а по направлению «Информационная безопасность» – Сбербанк.

А дальше всё закрутилось с невероятной скоростью и сконцентрировалось на том, чтобы обеспечить, по словам Д. Пескова, создание среды и критических условий, комфортных для ИТ-бизнеса.

25 сентября в корпоративном университете Сбербанка прошло выездное расширенное заседание-семинар Совета по законодательному обеспечению развития цифровой экономики при председателе Госдумы. Место это было выбрано не случайно, так как именно экспертам Сбербанка было поручено «просветить» депутатов, организовав цифровой ликбез, а точнее, проведя их психологическую обработку с целью заставить принять в качестве безальтернативного социально разрушительный проект и мобилизовать на ускоренную трансформацию законодательства, которое устранит все препятствия на пути широкого внедрения искусственного интеллекта. С одной стороны, их предупредили, что надо готовиться к тому, что грядущая роботизация приведёт к исчезновению многих профессий и росту безработицы (одних только охранников, которых заменят автоматизированные системы, насчитывается 1,5 млн. человек), с другой стороны, им заявили, что Россия должна стать в авангарде при развитии искусственного интеллекта (как и при борьбе с пиратством) .

В связи с этим главной темой стала всё та же проблема правового регулирования вопросов отношений человека и робота, которые В. Володин назвал вопросами «нашего приоритета». В качестве примера была приведена Южная Корея, где в 2008 г. был принят «Закон о содействии развитию и распространению умных роботов», а с 2007 г. разрабатывается

Этический устав роботов. Но если в Южной Корее показатель плотности роботизации в промышленности составляет 531 робот на 10 тысяч работников, то в России сегодня на 10 тысяч человек приходится только два робота (в основном промышленные). В России роботы не настолько распространены, чтобы для них создавалось отдельное регулирование, то есть, как указывают некоторые юристы, предложение концепции опережает технологическое развитие. Тем более что Гражданский кодекс и сейчас может применяться к роботам, как к имуществу, а суды могут признавать роботов источниками повышенной опасности. Совершенно очевидно, что дело тут в другом и что урегулирование преследует иные цели.

Сейчас над таким урегулированием работают и в ЕС. В феврале 2017 г. Европарламент принял резолюцию «Нормы гражданского права о робототехнике», обращённую к Еврокомиссии, которая, возможно, в ближайшее время примет уже и закон. В документе, в частности, предлагается внедрение общеевропейской системы регистрации умных машин, а отдельным категориям роботов планируется присвоить индивидуальный номер, который будет заноситься в специальный реестр. Особое внимание было уделено роботизации человеческого организма, которая ведёт к возрастанию зависимости человека от гаджетов. В резолюции говорится и о том недалёком будущем, когда появятся полностью самостоятельные машины, которые смогут сами находить себе контрагентов-работодателей, обсуждать условия договоров и решать, как их исполнять. Это требует разработки правил об ответственности за вред, нанесённый такой машиной, по поводу которых парламентарии пока что не смогли договориться. В качестве приложения к резолюции был представлен и «кодекс этики», которым предлагается добровольно руководствоваться разработчикам робототехники, а также заданы рамки будущей всеобъемлющей «Хартии робототехники».

Самым же обсуждаемым стало положение резолюции, касающееся вопроса «о наделении в перспективе роботов особым правовым статусом». Здесь говорится, что «по меньшей мере, наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причинённый ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицам» . Нашлись юристы, которые посчитали такие планы слишком преждевременными. А исследовательница Н. Невеянс из Центра изучения права, этики и процедур (Университет Артуа), назвав идею «бесполезной и неуместной», отметила, что сторонники электронной личности воспринимают роботов как человеческих двойников, но придавать им особый статус – «значит размывать границы между человеком и машиной, между живым и мёртвым, человеческим и нечеловеческим». Именно так, поскольку «электронное лицо» получит определённые права, что уровняет его с человеком.

Однако всё идёт именно к этому и является следствием коренного изменения отношения к самой человеческой личности. Человека превращают в киборга и начинают рассматривать как некий биологический объект, а робота превращают в андроида и приравнивают к человеку. Напомним, что это было предусмотрено ещё в Трансгуманистической декларации 1998 г., которая прописала моральное право на ничем не ограниченное экспериментирование. В седьмом пункте этого документа указано, что трансгуманизм «защищает право на достойную жизнь всех существ с чувственным восприятием, о каком бы мозге ни шла речь – человеческом, искусственном, постчеловеческом или животном». И двадцати лет не прошло, как эти евгенические идеи стали пытаться превратить в закрепленные законом нормы.

Более того, не дожидаясь правового урегулирования, цифровики создали прецедент, добившись предоставления подданства Саудовской Аравии разрекламированному роботу-андроиду «София», прославившемуся тем, что в одном из интервью он ответил утвердительно на вопрос, хочет ли он убивать людей. Андроид был создан Д. Хэнсеном, бывшим сотрудником Disney и основателем гонконгской технологической компании Hanson Robotics. «София» не только получила паспорт, но и выступила в конце октября 2017 г. на конференции «Инвестиционная инициатива будущего» в Эр-Риаде, организованной саудовскими шейхами. Как передали в российских новостях, цинизм, с которым машине вручили гражданство в зале, где не было ни одной женщины, вызвало волну негодования: треть населения была возмущена тем, что единственной женщиной, наделённой всеми правами, стал робот, к тому же иностранный. Между тем, история с «Софией» вылилась в широкую пиар-акцию, её возили по разным странам, она выступала даже в ООН, а 16–18 октября 2017 г. присутствовала на московском международном форуме «Открытые инновации», прошедшем в технопарке «Сколково» и посвящённом теме «Цифровая экономика. Вызовы глобальной трансформации». В настоящее время выпущено 13 копий «Софий», а в ближайшее время планируется начать массовое производство подобных роботов-гуманоидов.

В том же трансгуманистическом русле мыслится законодательство о роботах и в России. И самое интересное, что концепция закона уже готова, и разработал её тот самый Д. Гришин, глава совета директоров Mail.Ru Group и роботехнической компании, с которым В. Володин встречался на следующий день после создания Совета по законодательному обеспечению развития цифровой экономики. И здесь очень показательно, что разрабатывать такой документ получает право непосредственно заинтересованное лицо, занимающееся робототехникой и, естественно, создающее законодательство под себя. В случае если эту концепцию превратят в закон, Россия станет первым в мире государством, в котором отношения с роботами будут урегулированы на законодательном уровне (в Южной Корее речь идёт о том, как развивать робототехнику).

Поскольку страна должна знать своих «героев», хотелось бы кратко остановиться на личности автора концепции. Выпускник МВТУ им. Баумана Д. Гришин в 1998 г. начал удалённую работу в американской компании Axiom Int. в должности инженера-разработчика, затем стал старшим инженером и IT-консультантом. В 2000 г. он приходит в компанию Mail.Ru, затем становится техническим, а в 2003 г. – генеральным директором Mail.Ru. В 2010 году он возглавил Mail.Ru Group – холдинг, в котором были объединены Mail.Ru и активы Digital SkyTechnologies Юрия Мильнера и Алишера Усманова. В 2012 году Д. Гришин сменил Ю. Мильнера на посту главы совета директоров и в том же году основал венчурный фонд Grishin Robotics, специализирующийся на инвестициях в робототехнику. За полгода работы он проинвестировал две компании и стал соорганизатором первого специализированного инкубатора, посвященного робототехнике.

Это известные факты, но вот что сообщил Д. Гришин в беседе с основателем компаний Gameland, Xakep.ru и Mybiz.ru Дмитрием Агаруновым. Во время своего обучения в Стэнфордском университет он вступил в Организацию молодых президентов (YPO), в которую ему агрессивно рекомендовали вступить его коллеги, утверждая, что можно сильно расширить свой кругозор. И действительно, после вступления в YPO у Д. Гришина появился «новый взгляд на бизнес и на человеческие отношения».

Что же представляет собой YPO? Эта крупнейшая глобальная организация, основанная в 1950 г. в Нью-Йорке молодым американским бизнесменом Реем Хикоком для объединения в мировую сеть руководителей и владельцев крайне доходных крупных компаний, не достигших 45 лет, а также их семей в целях «создания уникальных возможностей развития и непрерывного роста». Сегодня в неё входят 24 тыс. предпринимателей из 130 стран, включая Россию, а совокупный доход компаний, которые представляют члены организации и в которых работают около 15 млн. человек, оценивается в 6 трлн, долл, ежегодно. Главной своей задачей YPO называет совершенствование навыков управления через непрерывное обучение и обмен идеями. Это так, поскольку формирование глобальной сети успешных молодых управленцев предоставляет участникам уникальные возможности обмена идеями и опытом по актуальным вопросам современности, начиная от геополитики и бизнеса, и заканчивая вопросами социальной ответственности и частными интересами. Организация тесно сотрудничает с ведущими образовательными учреждениями, в том числе с Гарвардской школой бизнеса, Стэнфордской школой бизнеса и Школой бизнеса в Лондоне.

Что касается внутреннего устройства YPO, то она состоит из отделений, объединяющих не менее 16 членов со своей структурой лидерства, которые регулярно встречаются в определённой географической области. Отделение разрабатывает свой собственный календарь событий, включающий социальные и учебные мероприятия. В рамках каждого отделения, в свою очередь, действует несколько «форумов» – групп из 8 человек, которые ежемесячно встречаются для обсуждения вопросов, как деловых, так и личных, в беспристрастной и конфиденциальной обстановке. И поскольку эти встречи носят закрытый характер, на них можно рассматривать вопросы, которые не обсуждаются даже с самыми близкими друзьями. Сам Д. Гришин заявил: «Я абсолютно согласен, это уникальнейший опыт. В двух словах я могу сказать, что это, в принципе, твой личный совет директоров, который собирается раз в месяц и обсуждает абсолютно любые проблемы. И конечно, глубина и уровень отношений внутри твоей группы, твоего форума, – для меня это одно из самых ярких ощущений. Ты понимаешь, что у тебя есть люди, с которыми ты можешь поделиться сокровенным и обсудить сложные вопросы, которые до этого мне часто не с кем было обсудить. И это очень здорово.».

Вот откуда черпает своё вдохновение человек, подготовивший вместе с неким юристом В. Наумовым документ, призванный определить государственную политику в области искусственного интеллекта.

Проект предусматривает внесение новых положений в Гражданский кодекс и принятие специального федерального закона в области робототехники. В соответствии с ним, к роботам применяется не только гражданское законодательство об имуществе, но и законодательство о юридических лицах, которое, якобы, позволит уйти от вопросов о том, можно ли робота рассматривать как личность и одновременно решить ряд практических проблем. Главное новшество заключается в том, что авторы вводят понятие «роботизированный агент» («робот-агент»), под которым признаётся «робот, который по волеизъявлению собственника и в силу конструктивных особенностей предназначен для участия в гражданском обороте. Роботизированный агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности, быть истцом и ответчиком в суде».

Робот должен быть зарегистрирован в едином государственном реестре роботизированных агентов по аналогии с ЕГРЮЛ. Именно тогда он признаётся роботизированным агентом. До момента регистрации действия робота рассматриваются как действия владельца. При этом «под владельцем роботизированного агента следует понимать юридическое лицо, гражданина или иного роботизированного агента (!), которые используют такого роботизированного агента на праве собственности, хозяйственного ведения, оперативного управления, аренды или других законных основаниях».

Тут предусмотрено, что когда ответственность роботизированного агента связана с его правовой природой как имущества, ответственность за его действия несёт его владелец. Но «роботизированные агенты могут действовать от имени собственника и (или) владельца в качестве представителей». Это полномочие «подтверждается записью в информационной системе роботизированного агента, защищённой электронной подписью, признаваемой равнозначной собственноручной подписи в соответствии с законодательством об электронной подписи». Роботизированный агент может признаваться действующим и от своего имени.

При определённых обстоятельствах «роботизированный агент представляет свои интересы в гражданском обороте самостоятельно, в пределах своих конструктивных особенностей и возможностей информационной системы». Он должен быть оснащён функцией экстренного информирования о возникновении правового конфликта, который не может быть разрешён исходя из его конструктивных особенностей. При этом лица, которые вступают с ним в отношения и могут использовать данную функцию, несут ответственность за причинённые убытки в случае её необоснованного использования.

Наконец, даётся понятие: «робот – это устройство, способное действовать, определять свои действия и оценивать их последствия без полного контроля со стороны человека по результатам обработки информации, поступающей из внешней среды». Эта формулировка кричит о небезопасности подобных устройств и даёт основание снять любые обвинения с владельца робота в случае ущерба от действия последнего. Особенно цинично оно выглядит в контексте разработки искусственного интеллекта (ИИ), который будет действовать без контроля со стороны человека. Так что это определение больше подходит для определения ИИ.

Итак, мы видим, что робот, представляющий собой неодушевлённый предмет, наделяется правами юридического лица, то есть наделяется личностью. Это действительно революционный документ, и не случайно Д. Гришин предупреждал, что урегулирование не должно начинаться с запретов. Содержание документа доказывает, что торопливость цифровиков и их лоббистов обусловлена вовсе не потребностями развития отрасли, а совсем другими соображениями.

Во-первых, при отсутствии реальной роботизации промышленности ставка делается на «передовое» законодательство. Первый в мире закон с революционным содержанием позволит представить Россию в качестве лидера в развитии искусственного интеллекта, которое рассматривается как приоритетное направление.

Во-вторых, этот закон создаст «комфортную» правовую среду для привлечения иностранных компаний. Как объяснил сам Гришин, «хорошее законодательство станет нашим преимуществом. И иностранные команды будут приезжать сюда пусть сначала и не для разработки, но для проведения тех же тестов. И так мы сможем сильно продвинуться в этой области». То есть Россию опять превращают в испытательный полигон и площадку для обкатки неких экспериментов. Чужим игрокам открывают путь к российскому рынку, на котором можно предоставлять услуги, собирать данные или иным образом применять роботов, что делает невозможным развитие тех российских технологий, которые не вписываются в трансгуманистический тренд. Таким образом, речь идёт, в том числе, о лоббировании интересов иностранных государств в условиях полной неготовности РФ к такому вызову.

В настоящее время концепция закона отправлена в ведущие юридические институты страны, и скорее всего наиболее радикальные её формулировки вызовут критику и неприятие, но принципиальные положения будут приняты, учитывая, кем она заказана. Во всяком случае, 25 октября 2017 г. председатель комитета Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству С. Жигарев заявил, что депутаты определят правовой статус роботов в весеннюю сессию, и что данный вопрос уже обсуждается в нижней палате парламента. Он, в частности, отметил, что в настоящий момент сформировалось понимание необходимости придать каждому роботу статус отдельного юридического лица. В зависимости от того, скольким людям он принадлежит, надо учредить новый вид формы собственности, что, в свою очередь, требует создания новой юридической базы. «Мы этим активно занимаемся. Приятно, что и Конституционный суд к этому подключился, с удовольствием выслушаем их мнение. Потому что вопрос очень непростой», – заключил Жигарев.

Призыв к достижению лидерства в развитии искусственного интеллекта положил начало не только дискуссии о законодательном регулировании. Он стал сигналом к более широкой пропагандистской кампании, направленной на признание коренной трансформации общества как безальтернативного варианта. Все участники этой кампании взяли за модель формулу М. Ковальчука: новая цивилизация представляет большую угрозу для человечества, но мы должны найти в ней своё место. То есть была найдена изощрённая форма убеждения: если мы не создадим искусственный интеллект и не построим цифровое общество, искусственный интеллект уничтожит человечество.

Начало этой кампании было положено президентом В. Путиным 1 сентября 2017 г. в ходе форума «Проектория», проходившего в Ярославле. Выступая во время открытого урока для школьников, президент заявил: «Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы… Тот, кто станет лидером в этой сфере, будет властелином мира». И дальше он заверил, что если Россия будет лидером в области искусственного интеллекта, она будет делиться этими технологиями со всем миром.

Быть готовым к строительству нового мира призвал и премьер Д. Медведев в своей речи 17 октября на форуме «Открытые инновации» в технопарке «Сколково», заявив: «Правительствам во всём мире надо торопиться, пока к власти не пришёл искусственный интеллект, и не поменял нам всем органы, и не нажал кнопку delete для того, чтобы обнулить наши мозги… Наша задача, на самом деле, соединить усилия для того, чтобы прыжок человечества в цифровой мир был всё-таки неплохо подготовлен. И я уверен, нам это под силу. Именно потому, что мы понимаем сегодня нашу ответственность».

Наконец, эту тему стали серьёзно обсуждать в СМИ, пытаясь превратить её в насущную проблему нашего общества.