Правовые аспекты

Хотя перспектива создания «алгоритма, который заменит закон» появилась в мыслях многих научных деятелей, право по-прежнему является основным средством урегулирования социальных отношений. Мы должны рассмотреть, с какими проблемами столкнется верховенство права в эпоху искусственного интеллекта и как с этим бороться.

Искусственный интеллект представляет проблему не только с точки зрения технологий, но и с точки зрения изменений функционирования общества. Такие фильмы, как «Особое мнение», предвидят появление новой системы управления. Важнейшая функция глубокого обучения – предсказание будущего, в том числе и в отношении правового регулирования. Закон будет изменяться в сторону предотвращения преступления. Но каким будет этот процесс, неизвестно.

С точки зрения алгоритма выделяют сильный и слабый искусственный интеллект. Некоторые ученые считают, что у ИИ нет проблем в техническом развитии, но отсутствуют стандарты интеллектуального права. Это связано с тем, что законы устанавливают общие правила, абстрагируясь от поведения конкретных явлений и индивидуумов. В противном случае законодательная система была бы чрезвычайно громоздкой и сложной для понимания. Информация о производственных материалах становится все более симметричной, но ИИ становится непрозрачным в роли посредника, сопоставляющего данные. Структура и правила его работы становятся все более сложными. Пользователи и даже иногда разработчики не могут в них разобраться. Поэтому мы возвращаемся к вопросу: как бороться с непрозрачностью кода?

Это воплощено в конфликте юристов с «черным ящиком». Например, в случае с использованием системы «KuaiPan», интернет-технологии, а не искусственного интеллекта, процесс определения юридической ответственности долгий и сложный. Юристы и судьи не хотят с этим связываться.

Закон должен разобраться в причинах аварии. В данный момент закон определяет, что «черный ящик» должен быть под контролем производителя. Поэтому ответственность за несчастный случай несет он. В этих условиях страхование (или даже обязательное страхование) – единственный выход для производителей, в чьей сфере частота несчастных случаев невелика, но грозит огромными потерями.

В авиации или медицине страхование стало нормой. Можно предположить, что эта практика постепенно распространится и на другие сферы услуг, базирующиеся на ИИ.

С другой стороны, для предотвращения негативных последствий может потребоваться использование алгоритма. Искусственный интеллект должен стать не только сферой науки и техники. Его необходимо изучать всем, в том числе юристам и управленцам. Верховенство права должно быть встроено в производственный процесс. Алгоритм управления данными необходимо запрограммировать на предотвращение негативных последствий. Например, запретить сбор дискриминационных данных системе кредитования, таких как раса, пол, религиозная принадлежность, политические убеждения и т. д., запрограммировать систему создания пользовательских портретов на выявление ложной информации, установить надзор за квалификацией водителей общественного транспорта и качеством техники. Роботы-юристы – это хорошее средство помочь людям выносить решения в условиях сложных правил. Они могут использовать технологические достижения для решения проблем, вызванных этими технологиями.

Множество юридических вопросов связаны с ИИ. Ниже приведен краткий обзор вопросов об обеспечении конфиденциальности, которые особенно актуальны на сегодняшний день.

Некоторые отмечают, что в эпоху искусственного интеллекта утрачивается приватность. Все данные широко распространяются и даже частота биения сердца становится достоянием общественности. В будущем у журналистов будет масса возможностей. С помощью анализа данных и повсеместного распространения камер слежения они смогут получать пикантные подробности о жизни звезд. Как обеспечить конфиденциальность в умную эпоху? Она, конечно, является неотъемлемой частью жизни. Люди подчеркивают ее значимость, стремятся зафиксировать и даже распространять. Все сплетни порождаются конфиденциальностью. Нет людей, которые бы ее не имели. Однако в эпоху данных абсолютная приватность не позволит людям общаться и идентифицировать себя в обществе. Лучшим способом сохранения неприкосновенности частной жизни является использование технических средств для создания единой платформы защиты данных. Она необходима для того, чтобы люди понимали, как их данные используются правительством или другими организациями, и могли обезопасить личную информацию от чрезмерного использования.

Перераспределение цифровой мощности

Покойный британский мыслитель и социолог польского происхождения Боуман считал, что цифровой век принес больше проблем, чем пользы. Власть и политика были разделены технологией. Традиционная политика склонна решать проблемы внутри страны. Но благодаря распространению технологий появился транснациональный капитал, его власть и неопределенность. Доверие простых людей к технологиям и бюрократам определяется сутью данного противоречия. Власть капитала и цифровых технологий увеличивается, а традиционная политика не в силах их сдерживать. Для восстановления баланса вновь возник «трайбализм» Европы и Америки. Кроме того, в США обозначился рост идей «брекзита» и изоляционизма.

Боумен описывал сценарии неопределенности в западных странах. Но сейчас они уже стали обыденными явлениями.

Политические, экономические, культурные и медийные силы пропитались данными. Капитал, умные инвестиции, флэш-трейдинг и другие функционируют через цифровую сеть. Социальные сети провоцируют беспорядки, например Twitter на Ближнем Востоке. И цифровая власть вторгается на территории суверенных государств. Даже Соединенные Штаты, инициировавшие экспорт технологий во внешний мир, начали беспокоиться по поводу ситуации с Ассанжем и его WikiLeaks. Страна напала на организацию и начала находить подпольные правительственные материалы, вызывая головную боль у руководства Америки. Хакеры получили возможность сдерживать американский правящий класс с помощью веб-технологий. Правительство США даже обвинило Россию во вмешательстве в ход выборов 2016 года. Это беспрецедентная ситуация. Она наглядно демонстрирует, что никто не застрахован от силы цифровых технологий. Но и указывает на то, что нам необходимо адаптироваться к условиям эры искусственного интеллекта.

Форма цифрового питания подобна современной власти, описанной Фуко. Она не централизованная и цикличная, а сложная и многоуровневая. Цифровая энергия рассеивается по сети и практически неуловима.

На национальном уровне необходимо создать схему работы верхнего уровня, чтобы у правительства не было возможности злоупотреблять цифровой властью. Сила технологий, которая бросает вызов государству и обществу, появилась в реальности.

В 2014 году в Bloomberg Weekly была опубликована информация о хакере, который манипулировал голосованием в девяти латиноамериканских странах. Для этого он использовал кражу данных, установку вредоносных программ и создание оппозиции в социальных сетях.

Его команда установила вредоносное ПО в штаб-квартирах противников для мониторинга компьютеров. Они получили доступ к планам различных выступлений, конференций и мероприятий. Основываясь на этой информации, виртуальная армия публиковала фальшивые твиты, акцентировала внимание на негативе к противникам и подчеркивала заслуги своих кандидатов. Подобные действия он осуществлял в течение 8 лет на выборах в Венесуэле, Никарагуа, Панаме, Гондурасе, Сальвадоре, Колумбии, Коста-Рике и Гватемале. Он дал небольшой комментарий: «Когда я понял, что люди больше склонны верить мнению онлайн-сообщества, а не фактам, я понял, что у меня есть возможность заставить людей поверить во что угодно».

Создание интеллектуальных «военно-морских сил» в социальных сетях не за горами. «В будущем мы не сможем определять, прав компьютер или нет». И это уже становится реальностью. Тем не менее «военно-морские силы» не обязательно несут негативные последствия. Если использовать их с правильной целью, то они не принесут вреда. Даже на форумах роботы могут работать лучше, чем люди. Ван Хайфэн отмечал, что в комментариях пользователи часто льют воду и распыляются. А машины публикуют только содержательные комментарии, разжигают споры и поддерживают позитивное направление общественного мнения.

Каждый современный человек окружен данными, которые он создал сам. Они стали нашим вторым телом. Мы беспокоимся о безопасности тела, стараемся не допустить болезней или аварий. Так же мы должны относиться и ко второй нашей оболочке.

Личная информация в эпоху Интернета сталкивается с риском быть рассекреченной. Технологии мошенников не стоят на месте. Преступники даже приспособились использовать метод больших данных в обычном телефонном мошенничестве. В начале 2017 года полиция округа Шанхай Хуанпу столкнулась с кибер-кражей. Хакеры использовали ПО для генерации телефонных номеров, а затем инструмент сканирования, чтобы найти их в Интернете. Потом они организовали утечку паролей с веб-сайтов и соотнесли их с имеющимися номерами телефонов. Эта ситуация известна в отрасли как «столкновение». Этим простым и грубым методом можно получить информацию для входа в систему от многих пользователей и использовать ее для осуществления преступных действий, например кражи денежных средств с банковских карт.

В обществе всегда были преступники. Взрывной рост технологий передачи данных и отсталость основной массы человечества в этой сфере открыли для них массу возможностей. Это все равно что безопасность дорожного движения в эпоху первых автомобилей. Светофоры и правила дорожного движения появились только тогда, когда автомобили начали использоваться повсеместно. В традиционных методах управления данными в эпоху Интернета обнаруживается масса прорех: обычным людям становится сложно защищать личные данные. Это требует совместных усилий общества. Полиция должна задействовать технологию обработки массивов данных для борьбы с преступностью. А технологическим компаниям стоит заняться разработкой новых инструментов обеспечения безопасности.

Но светофоры в массивах данных уже появились. Ряд компаний, в том числе Baidu Security, сотрудничают с представителями телекоммуникационных организаций по борьбе с мошенничеством. С помощью массивов данных были созданы «библиотека безопасности номеров» и «карта мошенников». Первая определяет номер и местонахождение подозреваемого и передает информацию органам общественного правопорядка. Вторая ищет местоположение мошенника в режиме реального времени, определяет динамику движения и отображает его на карте красным цветом, чтобы предупредить пользователей. Baidu Security накопила уже более 200 миллионов номеров. И ежедневно блокирует более 1 миллиона мошеннических звонков. Уровень перехвата мошеннических звонков составляет 99,98 %. Кроме того, информацию о подозрительных вызовах активно предоставляют пользователи, которые установили систему безопасности на мобильные телефоны. Таким образом, обеспечение безопасности и способность выявлять мошенников со временем будут становиться все умнее и эффективнее.

Глубокое обучение также улучшило технологию брандмауэра. Каждый, кто хотя бы немного разбирается в работе сети, понимает, что при установке системы защиты необходимо определить правила для предотвращения несанкционированного доступа. Использование технологии глубокого обучения позволяет системе безопасности изучить правила доступа пользователей и выявлять нарушения. Система устанавливает собственные правила, которые более эффективны, чем человеческие. Хотя до сих пор случаются мошеннические инциденты, мы должны знать, что большинство из них предотвращаются с помощью искусственного интеллекта. Будь то технология сетевой финансовой безопасности или интеллектуальная технология мониторинга города, она постоянно совершенствуется.

Окружающие нас технические фанаты все чаще используют технические возможности, чтобы совершать положительные действия. Например, Alipay выпустил AR «Красный конверт». Некоторые пользователи обучили нейронную сеть взлому фотографий, покрытых навигационными полосами: удалили полосы, получили исходное изображение и нашли красный конверт. Метод не сложный при условии, что вы знаете, как пользоваться платформой глубокого обучения.

Номерные знаки в Пекине и Шанхае особенно трудно достать. Счастливый автомобильный номер присваивается «случайным образом». Но случайность тоже подчиняется определенному алгоритму. Некоторые используют технологию машинного обучения, чтобы разобраться в алгоритме системы выдачи номеров, которые приносят удачу.

Оглянувшись вокруг, вы обнаружите, что некоторые умеют пользоваться множеством технических инструментов с пользой для себя. А другие весь день мучаются, даже вспоминая пароли для входа в систему. В будущем искусственный интеллект будет влиять на жизнь и счастье человека. Поэтому нам следует подготовиться, чтобы не потерять ориентир в новой эпохе.