Британский экономист Джон Мейнард Кейнс (1883–1946) всегда твердил, что роботы заберут у нас работу. В 1930 году он писал следующее: все сводится к тому, что «наши средства экономии труда опережают темпы, с которыми мы находим новые способы его применения». И это было неплохо. К 2030 году наша рабочая неделя сократится до 15 часов, а остальная часть времени будет тратиться на то, чтобы жить «мудро, достойно и хорошо».
Но этого еще не произошло. Наоборот, многие из нас стали работать больше, чем раньше. Страны с развитой экономикой, в которых большое количество работников физического труда заменяется автоматизацией, обычно не оставляют этих людей без работы, предоставляя им места в других сферах деятельности, например в рабочих профессиях. Возникает вопрос о том, может ли это продолжаться и теперь, когда ИИ нацелился на решение всевозможных задач, выходящих за рамки рутины и обыденности.
Страх перед машинами, отнимающими у нас работу, уходит корнями как минимум к луддитам – группе британских ткачей, которые в 1811 году в ярости разгромили фабрики, поскольку ткацкие станки сделали рабочих бесполезными.
Два столетия спустя многие из нас могли оказаться в том же положении. В 2013 году Карл Фрей и Майкл Осборн из Оксфордской программы Мартина о влиянии технологий будущего в Оксфордском университете рассмотрели 702 вида работ и оценили, насколько простыми они окажутся для автоматизации. Ученые выяснили, что на протяжении двух десятилетий машины выполняли около половины всех работ в США.
В список вошли такие специальности, как телемаркетологи и библиотекари. Не особо отстающими стали и менее «чувствительные» отрасли: модели, повара и строители, которым теперь угрожали цифровые аватары, повара-роботы и сборные конструкции, создаваемые роботами на фабриках. Наименее уязвимыми стали сфера охраны психического здоровья, учителя детей младшего возраста, священнослужители и хореографы. В целом наиболее устойчивой оказалась деятельность, требующая активного социального взаимодействия, оригинального мышления и творческих способностей, либо очень специфических сенсорно-моторных функций. Яркие примеры – стоматологи и хирурги.
Какие профессии исчезнут следующими?
Искусственный интеллект близок к тому, чтобы захватить множество профессиональных отраслей человеческой деятельности. Вот тройка лидеров, которые в скором времени могут перестать ассоциироваться с человеком.
Таксисты. Uber, Google и известные автомобильные компании вкладывают деньги в машинное зрение и контролируют исследования. Пока что процесс автоматизации сдерживается правовыми и этическими проблемами. Но как только начнется это развитие, водители-люди, скорее всего, станут пережитком прошлого.
Транскрибаторы. Ежедневно больницы по всему миру передают медиафайлы профессиональным транскрибаторам (расшифровщикам), которые разбираются в медицинском жаргоне. Они расшифровывают записи и присылают их в виде текста. К транскрибации прибегают и другие отрасли. Медленно, но верно набирает обороты машинная транскрибация. Во многом это происходит благодаря данным о человеческом голосе, которые собираются в кол-центрах.
Финансовые аналитики. Kensho, базирующаяся в Кембридже, штат Массачусетс, привлекла ИИ для мгновенного ответа на финансовые вопросы, которые заняли бы у аналитиков-людей много часов или даже дней. Изучив финансовые базы данных, стартап способен ответить на такие вопросы, как: «Какие акции окажутся самыми выгодными и перспективными через пару дней после банкротства банка?» Журналисты NBC уже могут воспользоваться Kensho, чтобы получить ответы на вопросы о главных новостях, заменив тем самым исследователей-людей на робота.
ИИ уже взял на себя целый ряд работ, начиная от организации ночного технического обслуживания в системе метро Гонконга и заканчивая помощью в заковыристых юридических исследованиях, как это делает, например, ROSS – ИИ-помощник, созданный на базе компьютера Watson от IBM. Похоже, что в ближайшие несколько лет ИИ вызовет как минимум кратковременную турбулентность на рынке труда.
В период с 2012 по 2015 год британская телекоммуникационная компания O2 заменила 150 сотрудников одной программой. По словам Уэйна Баттерфилда, который в настоящее время работает над улучшением работы O2, большая часть обслуживания клиентов O2 полностью автоматизирована. Замена сим-карт, перенос мобильных номеров, переход от предоплаченного на контрактный тариф, разблокировка телефона от О2 – все это теперь автоматизировано.
Люди привыкли вручную переносить данные между нужными системам, например копируя телефонные номера из одной базы данных в другую. Пользователь все еще должен позвонить в компанию и поговорить с оператором, однако теперь всю фактическую работу выполняет ИИ.
ИИ от О2 обучался во время работы. Он смотрел, как люди выполняли простые и повторяющиеся задачи с базами данных, а затем пытался повторить самостоятельно.
– Эти системы делают то же самое, что и человек, – рассказывает Джейсон Кингдон, председатель Blue Prism – стартапа, который разработал искусственных работников O2. – Если понаблюдать за работой ИИ, то она покажется немного сумбурной. Все, что вы увидите, – как ИИ что-то печатает. Открываются экраны, ИИ выделяет данные и вставляет их.
Barclays, один из крупнейших банков в мире, также пользуется ИИ для работы в бэк-офисе. Компания привлекла Blue Prism к обработке потока клиентских претензий после того, как британские регуляторы потребовали от банка выплат размером в миллиарды фунтов за нарушения при заключении договоров по страхованию. Было бы слишком затратно перекладывать всю работу с массовыми претензиями на человека. При наличии программных агентов для обработки простейших претензий Barclays мог бы нанять меньше людей.
Кингдон не боится признаваться в цели своей работы: «Эти программы готовятся стать заменой человеку. У нас появится автоматизированная личность, которая научится выполнять работу так же, как и коллеги-люди».
Еще одной проблемой, связанной с новыми видами автоматизации по типу Blue Prism и ROSS, стало то, что они выполняют спектр работ, стоящих на первой ступеньке корпоративной лестницы. Это может повлечь за собой усугубление неравенства, поскольку роботизированные системы сократят возможности для новых соискателей.
Некоторые люди думают, что страхи о распространении безработицы сильно преувеличены. Недавний рабочий отчет для экономически развитых стран мира ОЭСР высказывает предположение о том, что ИИ не сможет выполнять все рабочие задачи. Особенно это касается отраслей, подразумевающих под собой частое взаимодействие с людьми. Полностью автоматизированными окажутся лишь 9 % рабочих мест. Кроме того, опыт прошлого показывает, что вокруг автоматизации создаются новые рабочие места.
С кейнсианской точки зрения, технический прогресс продолжит улучшать наши жизни. Самые успешные инновации – это те, которые дополняют, а не узурпируют нас. Взять хотя бы «коботов», представленных в 2016 году на ежегодной выставке автоматизации процессов в Чикаго. Эти роботы создавались для совместной работы с людьми, повышения безопасности и упрощения человеческой деятельности, а не замещения ее. Коботы помогали нам в решении проблем, позволяли безгранично общаться, создавать произведения искусства, музыку и литературные шедевры. Этой точки зрения придерживается большинство экспертов. В 2014 году исследовательский центр Пью в США спросил 1896 экспертов о том, верят ли они, что к 2025 году технология уничтожит больше рабочих мест, чем создаст. Оптимисты оказались в большинстве.
Нельзя сказать, что ИИ приведет к экстремальной реорганизации всего сущего. Даже если ИИ изменит характер работы, а не заменит самих рабочих, влияние его на общество все равно окажется колоссальным. Гиг-экономика (сдельная экономика), впервые внедренная такими фирмами, как Uber, обеспечивает гибкость трудовых ресурсов и удобство для клиентов. Это делается благодаря переходу на алгоритмическое управление, которое, однако, ущемляет права и обязанности работников. К сожалению, ИИ может лишь усилить данную тенденцию.
Это очень важно: наша работа является неотъемлемой частью нашей идентичности, и сохранение достоинства трудовой деятельности должно занимать центральное место в нашем обществе. Нам стоит стремиться к тому, чтобы использовать ИИ для повышения квалификации работников, а не превращать человеческую деятельность в скучную сдельную работу. Унижение человеческого достоинства работников – это плохое применение технологии.
Решение проблемы является скорее социально-политическим, нежели технологическим. ИИ может вызвать изменения в нашей экономической системе, взять хотя бы дискуссии о введении универсального базового дохода для всех. Но изменения должны ориентироваться на людей, а не руководствоваться искусственно управляемой эффективностью алгоритмов, которая обогащает немногих в ущерб большинству. В конечном счете, мы сами ответственны за собственную судьбу.
Учитывая пользу трудовой деятельности для нашего здоровья и благополучия, мы захотим обезопасить работу, приносящую нам моральное удовлетворение и вознаграждение. Конечно же, неравноправие и нарушения неизбежны. Но они существовали на протяжении сотен лет.
Новинка на кадровом рынке в Кремниевой долине: помощник бота
Не слишком ли много мы думаем о той работе, которую потеряем из-за ИИ, вместо новой, которую он создаст для нас? Личный цифровой помощник Facebook под названием M предлагает нам как минимум одну новую роль, которую некоторые из нас смогут примерить на себя в будущем.
M – это цифровой помощник с поддержкой ИИ, встроенный в мессенджер Facebook. Он может забронировать номер в отеле или билет на самолет, порекомендовать ресторан и зарегистрировать столик, приобрести товары для доставки или отправить новости и напоминания. Так что же за высокотехнологический секретный ингредиент делает М настолько разноплановым? Это люди – или, на языке Facebook, тренеры ИИ. Попросите M порекомендовать местный ресторан с хорошей тайской лапшой, и тренер ИИ сначала оценит все предложенные варианты, а затем позволит М отправить их вам. Попросите зарезервировать столик на двоих, и, скорее всего, в ресторан будет звонить именно тренер ИИ.
Все, что говорит М, наблюдается, проверяется и изменяется специально нанятым человеком. «Мы изобрели совершенно новый вид работы», – говорит Ари Энтин, представитель Facebook.
Facebook не единственная технологическая компания, которая нацелена на привлечение людей в роли скрытых помощников. Clara Labs, стартап из Сан-Франциско, создает виртуального помощника, которому можно отправлять электронные письма о назначении встреч в вашем календаре. Clara – это ИИ. Но когда вы отправляете ей электронное письмо, вам невольно приходится общаться с несколькими людьми, проверяющими ее работу.
Компания Interactions, расположенная во Франклине, штат Массачусетс, является еще одной организацией, создающей «помощников по цифровому общению». Эти системы поддерживают горячие линии обслуживания клиентов в крупных корпорациях (например, американская страховая компания Humana и техасская энергоснабжающая компания TXU Energy).
Interactions называет своих помощников-людей «аналитиками намерений». Когда автоматизированный помощник сталкивается с цепочкой непонятных для него слов, они отправляются аналитику намерений для интерпретации. Человек прослушивает информацию, подсказывает программе, что нужно сделать дальше, и разговор с клиентом возобновляется.
Это простой способ подделать качественный ИИ. Но такие компании, как Facebook, Clara Labs и Interactions, не просто вовлечены в тщательно продуманные процессы – благодаря ним инженеры смогли по-новому понять, насколько ценными бывают люди. Автоматизированные горячие линии имеют плохую репутацию. Один онлайн-сервис GetHuman.com дает людям ценные советы и рекомендации, как получить нужный телефонный номер какой-то компании, по которому можно пообщаться с реальным человеком.
Почему бы изначально не оставить работу голосовых операторов людям? Множество приложений-помощников в Кремниевой долине пошли по этому пути. Один из них, Magic, позволяет отправлять запросы команде операторов, которые затем их исполняют, будь то доставка еды, бронирование или даже медицинская марихуана. Invisible Girlfriend из Сент-Луиса, штат Миссури, позволяет вам придумать собственную фальшивую девушку и переписываться с ней за ежемесячную плату. В данном случае «она», эта девушка, является толпой сотрудников-людей, которые по очереди придумывают кокетливые и сентиментальные ответы.
Люди – весьма хлопотный и дорогой ресурс. Поэтому ИИ, поддерживаемый человеческими помощниками, способен сочетать в себе гибкость и креативность человеческого мозга с неутомимой скоростью и экономичностью автоматизации. Выгода для компаний очевидна. Но каково это – быть помощником бота?
Вице-президент Interactions Фил Грей говорит, что офисы компании, может, и выглядят как кол-центры, но «слышатся» совершенно иначе. Несмолкаемый шум разговоров заменился безостановочным нажатием клавиш. «Некоторые проводят параллель с видеоиграми», – добавляет Джейн Прайс, еще один вице-президент компании. На сайте Glassdoor, где сотрудники могут оставлять анонимные отзывы о своей работе, комментарии об Interactions неоднозначны. Кто-то хвалит непринужденную атмосферу и гибкий график, добавляя, что им пришелся по душе быстрый темп работы. Другие же были обескуражены монотонностью выполняемых действий. «Иногда вам будет казаться, будто вы превращаетесь в зомби», – пишет бывший аналитик компании.
Как бы вы ни называли этих храбрых новых работников – тренерами ИИ или аналитиками намерений – все они выполняют двойную работу. В данный момент они функционируют как резервная копия ИИ, заполняя пробелы там, где программа сталкивается с нерешаемой для нее проблемой. А еще тренер должен будет научить ИИ не повторять одни и те же ошибки. Каждый пример обучения добавляется в растущую библиотеку обучающих данных, которую алгоритмы машинного обучения смогут использовать для решения незнакомых задач в будущем.
Означает ли это, что в какой-то момент времени ИИ будет настолько хорошо обучен, что потребность в тренерах-людях отпадет? Алекс Лебрун, возглавляющий проект M в Facebook, говорит, что все не так просто. «Мы всегда будем нуждаться в тренерах, – говорит он. – Чем больше мы учимся, тем большее нужно изучить. Это нескончаемый процесс».
Лишение нас рабочих мест – не единственная проблема, связанная с ИИ. Компании все чаще пользуются технологиями для слежки за сотрудниками на рабочем месте, а ИИ замечает малейшие детали в поведении людей. Позвольте себе немного расслабиться или попытайтесь обхитрить систему, и алгоритм моментально сдаст вас начальству.
Одной из фирм, предлагающих подобные услуги, является лондонский стартап StatusToday. Эта компания была включена в бизнес-инкубатор по кибербезопасности, которым управляет британское разведывательное управление GCHQ, предлагающее услуги технической экспертизы и защиты инвестиций. ИИ-платформа StatusToday опирается на бесперебойный поток метаданных сотрудников, в который включается все, начиная от доступных вам файлов и заканчивая тем, как часто вы открываете эти файлы и когда вы прикладываете свою карточку-ключ на проходной.
С помощью метаданных ИИ сначала составляет представление о работе компании, отделов и отдельных сотрудников, а затем в режиме реального времени выявляет аномалии в поведении людей. По задумке разработчиков подобная система способна обнаружить угрозу безопасности в случаях, если кто-то выйдет за пределы своих обычных моделей поведения. «Все, что нам нужно, – это отпечаток пальца пользователя. Если вдруг мы думаем, что отпечатки не совпадают, то отправляем предупреждение», – говорит Мирча Думитреску, технический директор компании.
Система заметит, если, например, сотрудник начинает копировать большое количество файлов, которые обычно даже не открывает. Эти файлы нужны для работы или работник пытается похитить конфиденциальную информацию? Кроме того, StatusToday предназначен для отслеживания действий сотрудников, которые могут привести к нарушению безопасности, например ответы на фишинговые письма или открытия вложений с вирусами. «Мы следим не за тем, заражен ваш компьютер вирусами или нет, – продолжает Думитреску. – Мы наблюдаем за поведением человека».
Но такие поиски нарушений безопасности означают наблюдение за всем. Некоторые компании уже хранят метаданные сотрудников для ретроспективного анализа в случаях, если что-то пойдет не так. Страховая компания Hiscox начала пользоваться платформой StatusToday совсем недавно и сразу обнаружила активность на счете у сотрудника, который ушел из компании несколькими месяцами ранее.
Помимо отслеживания потенциальных нарушений кибербезопасности ИИ может анализировать производительность сотрудников. Думитреску приводит в пример спорный запрет Yahoo на работу сотрудников из дома, поскольку это якобы снижает скорость и качество работы всей команды. «Мы можем оценить применимость запрета относительно каждого сотрудника, – поясняет он. – Мы можем решить, может ли данный сотрудник работать удаленно или нет, в зависимости от того, к каким данным у него имеется доступ».
Есть ли ваше фото в базе данных полиции?
Согласно докладу 2016 года факультета права Университета Джорджтауна в Вашингтоне, округ Колумбия, если вы живете в США, то с вероятностью в 50 % вы уже присутствуете в полицейской базе данных для распознавания лиц. В документе говорится о том, что около четверти всех полицейских управлений в США имеют доступ к технологии распознавания лиц.
Использование полицией этой технологии само по себе не является проблемой. Было бы глупо не пользоваться ей в мире, где у каждого есть камера в кармане. Но сфера использования технологий распознавания лиц куда шире, чем дактилоскопическое опознание, – здесь повышается риск занесения в базу невиновных людей. «Это неизученная и, откровенно говоря, опасная территория», – заявил при публикации доклада Альваро Бедойя, который возглавлял исследование в Джорджтауне.
С отпечатками пальцев довольно трудно работать. Брать оттиски известных преступников можно только в контролируемой среде полицейских участков, а поиск отпечатков пальцев занимает так много времени, что проводится только в характерных местах преступлений. Это уменьшает число людей, попавших в поле зрения расследования. Намного проще создать огромные базы данных уже идентифицированных фотографий. Из 117 миллионов лиц, присутствующих в наборах данных полиции, большинство изображений – это фотографии на водительские удостоверения и документы, удостоверяющие личность. При попытке раскрыть преступление «подобрать» лица так же просто, как направить камеру на улицу. Люди, посещающие акции протеста, церковь или просто проходящие мимо, могут запросто «засветиться» на камерах, даже не подозревая об этом.
Некоторые программы для распознавания лиц продемонстрировали равные с людьми результаты в контролируемых тестах. Однако системы, имеющие дело с зернистыми изображениями камер видеонаблюдения, работают значительно хуже. Если программа начинает выдавать больше ложных совпадений, чем смогут проверить следователи-люди, то это затруднит борьбу с преступностью. Существует несколько правил по использованию полицией данной технологии и проведению оценки ее результатов. Без должного руководства офицеры полиции могут переоценивать систему распознавания лиц и отдавать предпочтение в расследовании доказательствам, соответствующим ее результатам.
Подобные системы могут проявлять предвзятость по отношению к темнокожим. Поскольку темнокожих людей арестовывают чаще, чем европеоидных, их фотографий в базе данных значительно больше. Это означает, что при распознавании лиц невинные темнокожие люди будут чаще попадать в подборку, чем невинные белые. Кроме того, исследования показали, что коммерческие приложения по распознаванию лиц анализируют лица черных мужчин, женщин и детей менее точно, чем белых. Выходит так, что программа мало того, что чаще указывает на чернокожих людей, так еще и на невиновных.
Ни одна из четырех основных компаний, продающих технологии распознавания лиц (Cognitec, NEC, 3M Cogent и Morpho), не говорит открыто о том, как именно работают их программы или какие наборы данных используются для обучения. Даже ФБР об этом точно не известно. В 2016 году Управление государственной подотчетности правительства США (ГАО) опубликовало отчет о программе по распознаванию лиц, используемой в ФБР, заявив, что агентство не проверяло частоту возникновения ошибок. По словам представителей ГАО, ФБР смогло бы больше полагаться на систему, проведя более тщательное тестирование и зная, что она «предоставляет сведения, которые помогают, а не препятствуют уголовным расследованиям».
Как и все криминалистические методы, распознавание лиц готово помочь в поимке преступников, которых полиция может упустить. Но для этого результаты программы должны быть прозрачными и надежными. В противном случае с такой же долей вероятности вы могли бы указать пальцем на любого человека в толпе.