Книга: 21 урок для XXI века
Назад: 1 Крушение иллюзий Конец истории откладывается
Дальше: 3 Свобода Алгоритмы следят за тобой

2
Работа
Когда станете взрослыми, можете не найти работу

Мы не имеем никакого представления о том, как будет выглядеть рынок труда в 2050 году. Принято считать, что машинное обучение и роботизация изменят буквально все – от производства йогуртов до преподавания йоги. Однако существуют прямо противоположные взгляды на природу грядущих изменений и их неизбежность. Некоторые убеждены, что через каких-нибудь 10–20 лет миллиарды людей станут ненужными для экономики. Другие утверждают, что автоматизация и в долгосрочной перспективе будет создавать новые профессии и обеспечит рост благосостояния для всех.
Действительно ли мы стоим на пороге пугающих перемен или подобные прогнозы – лишь очередной пример неоправданной луддитской истерии? Трудно сказать. Опасения, что автоматизация вызовет массовую безработицу, известны с XIX века, но еще ни разу не сбылись. С самого начала промышленной революции вместо каждой профессии, вытесненной машинами, появлялась как минимум одна новая, а средний уровень жизни быстро рос. Однако есть все основания полагать, что времена изменились и что машинное обучение в корне изменит правила игры.
Люди обладают двумя видами способностей: физическими и когнитивными. В прошлом машины конкурировали с человеком, как правило, в грубой физической силе, тогда как в интеллектуальной сфере за людьми сохранялось огромное преимущество. После автоматизации ручного труда в сельском хозяйстве и промышленности появились новые профессии в сфере услуг, требовавшие умственных навыков, которыми обладают только люди: это обучение, анализ, общение и, самое главное, понимание человеческих эмоций. Однако сегодня искусственный интеллект начинает превосходить людей во все большем числе таких навыков, включая распознавание человеческих эмоций. О существовании какого-то третьего поля деятельности (за пределами физического и когнитивного), где позиции людей были бы непоколебимы, нам неизвестно.
Важно понимать, что революция в сфере искусственного интеллекта связана не только с тем, что компьютеры становятся быстрее и умнее. Ее подпитывают прорывы в естественных и социальных науках. Чем яснее мы понимаем механизмы биохимических процессов, лежащих в основе человеческих эмоций, желаний и поступков, тем успешнее компьютеры анализируют поведение человека и предсказывают его решения, заменяя водителей, банкиров и юристов.
В последние десятилетия исследования в области нейробиологии и поведенческой экономики позволили ученым «взломать» человеческое мышление и гораздо лучше понять, как действует механизм принятия решений. Выяснилось, что наш выбор чего бы то ни было, от еды до партнера, определяет не какая-то загадочная свобода воли, а взаимодействие миллиардов нейронов, за долю секунды вычисляющих вероятности. Хваленая «человеческая интуиция» на поверку оказалась «распознаванием образов». Хорошие водители, банкиры и юристы вовсе не обладают магической интуицией в отношении трафика, инвестиций или переговоров. Узнавая повторяющиеся схемы, они замечают неосторожных пешеходов, ненадежных заемщиков, хитрых мошенников и стараются избегать их. Выяснилось также, что биохимические алгоритмы человеческого мозга далеко не совершенны. Они основаны на эвристике, упрощениях и устаревших нервных связях, более пригодных для условий африканской саванны, чем для каменных джунглей города. Неудивительно, что даже опытные водители, банкиры и юристы иногда совершают глупые ошибки.
Это значит, что искусственный интеллект способен превзойти человека даже в решении тех задач, которые якобы требуют «интуиции». Если говорить о состязании искусственного интеллекта с человеком в том, что касается мистических предчувствий, такая задача кажется невыполнимой. А вот соревнование искусственного интеллекта с нейронными сетями в вычислительных возможностях и распознавании закономерностей уже не выглядит невероятным.
В частности, искусственный интеллект может лучше справляться с задачами, которые требуют интуиции в отношении поведения других людей. Многие занятия (например, управление автомобилем на дороге с большим потоком пешеходов, выдача кредитов незнакомым людям, ведение деловых переговоров) требуют способности правильной оценки эмоций и желаний других людей. Выскочит ли этот ребенок на дорогу? Не собирается ли этот человек в приличном костюме взять деньги и исчезнуть? Намерен ли этот юрист выполнить свои угрозы или он просто блефует? Пока мы полагали, что такого рода эмоции и желания порождаются нематериальной душой, казалось очевидным, что компьютеры никогда не заменят водителей, банкиров и юристов. Разве машина может понять то, что мистическим образом создано человеческой душой? Но если эти эмоции и желания суть результат действия биохимических алгоритмов, нет никаких причин, по которым компьютеры не могли бы расшифровывать их – и гораздо успешнее, чем любой Homo sapiens.
Водитель, предвидящий намерения пешехода, банкир, который оценивает кредитоспособность потенциального заемщика, и юрист, чувствующий настроение партнера за столом переговоров, опираются не на магию. Они просто не осознают, что их мозг распознает биохимические закономерности, анализируя выражение лица, интонации голоса, движения рук и даже исходящий от человека запах. Искусственный интеллект, снабженный соответствующими датчиками, может делать все это гораздо точнее и надежнее, чем человек.
Поэтому угроза массовой безработицы связана не только с развитием информационных технологий. К ней ведет слияние искусственного интеллекта с биотехнологиями. Путь от сканера МРТ до рынка труда долог и тернист, но его можно пройти за несколько десятилетий. Те знания, которые сегодня исследователи мозга получают о миндалевидном теле или мозжечке, к 2050 году позволят компьютерам превзойти психиатров и телохранителей.
Искусственный интеллект может не только «взламывать» людей и превосходить их в умениях и навыках, которые до сих пор считались исключительно человеческими. Он также обладает уникальными способностями, отсутствующими у человека, что делает различие между ним и работником из плоти и крови не только количественным, но и качественным. Две важные сверхчеловеческие способности искусственного интеллекта – это возможность подключения и взаимодействия, а также обновляемость.
Люди – отдельные личности, и их трудно подключить друг к другу и проследить, чтобы все они отвечали современным требованиям. Зато компьютеры легко объединить в единую гибкую сеть. Поэтому речь идет не о замене миллионов отдельных работников миллионами роботов и компьютеров. Скорее всего, отдельных людей заменят интегрированные сети. Говоря об автоматизации, некорректно сравнивать возможности одного водителя с возможностями одного беспилотного автомобиля или одного врача с одним искусственным интеллектом, который ставит диагноз и назначает лечение. Нужно сравнивать возможности коллектива людей с возможностями интегрированной сети.
Например, многие водители не знают о последних изменениях в правилах дорожного движения и поэтому часто их нарушают. Кроме того, поскольку каждая машина автономна, то, когда две машины приближаются к одному перекрестку, водители могут неверно оценить намерения друг друга, что приводит к аварии. Два беспилотных автомобиля, приближающиеся к перекрестку, не полностью автономны – они части единого алгоритма. Поэтому вероятность неверной интерпретации намерений, а значит, и столкновения у них гораздо ниже. А если министерство транспорта решит изменить какие-то пункты ПДД, все беспилотные автомобили можно одновременно и без особого труда перепрограммировать, чтобы они в точности соблюдали новые правила.
Сказанное справедливо и для медицины. Когда Всемирная организация здравоохранения выявляет новое заболевание или какая-нибудь лаборатория создает новое лекарство, информацию об этом практически невозможно донести сразу до всех врачей в мире. Но если мы создадим даже 10 миллиардов систем медицинского искусственного интеллекта и каждая будет следить за здоровьем какого-то одного человека, информацию в них можно обновить за доли секунды, и эти системы легко смогут обмениваться данными о новом вирусе или препарате. Эти потенциальные преимущества – взаимодействие и обновляемость – столь велики, что в некоторых профессиях имеет смысл заменить всех людей компьютерами, даже если некоторые специалисты по-прежнему справляются с работой лучше машины.
Вы можете возразить, что, заменив отдельных людей компьютерной сетью, мы лишимся преимуществ индивидуального подхода. Например, если один врач поставит неверный диагноз, он не убьет всех пациентов в мире и не остановит разработку всех новых лекарств. Но если все врачи представляют собой единую систему и эта система допустит ошибку, результат может оказаться катастрофическим. В реальности интегрированные компьютерные системы могут максимизировать преимущества взаимодействия, не растеряв преимуществ индивидуального подхода. В одной сети будут выполняться разные алгоритмы – так, чтобы пациент в отдаленной деревне в джунглях мог с помощью смартфона связаться не с одним авторитетным врачом, а с сотнями систем медицинского искусственного интеллекта, работа которых подвергается постоянному сравнению. Не устраивают рекомендации врача IBM? Не страшно. Даже если вы застряли где-то на склонах Килиманджаро, вам не составит никакого труда узнать мнение доктора из Baidu.
Польза для человеческого общества, вероятно, будет огромной. Системы медицинского искусственного интеллекта смогут обеспечить более качественным и дешевым медицинским обслуживанием миллиарды людей, включая тех, кому сегодня вообще недоступны услуги здравоохранения. Благодаря обучающим алгоритмам и биометрическим датчикам бедный деревенский житель из слаборазвитой страны сможет получить медицинские услуги, по качеству значительно превосходящие те, что сегодня богатейшие люди мира получают в самых современных клиниках.
Аналогичным образом беспилотные автомобили могли бы обеспечить людей лучшими транспортными услугами – в частности, снизить смертность из-за автомобильных аварий. В наши дни в авариях на дорогах ежегодно гибнет около 1,25 миллиона человек (в два раза больше, чем из-за войн, преступлений и терактов). Более 90 % этих аварий связаны с так называемым человеческим фактором: кто-то сел за руль нетрезвым, кто-то вел машину, набирая сообщение на телефоне, кто-то заснул за рулем, кто-то просто погрузился в грезы, вместо того чтобы следить за дорогой. По оценкам Национального управления безопасности движения на трассах, в 2012 году в США причиной 31 % смертельных аварий был алкоголь, 30 % – превышение скорости и 21 % – невнимательность. Для беспилотных автомобилей подобное невозможно. Хотя у них есть свои проблемы и ограничения, а некоторых аварий не удастся избежать никому, замена всех водителей компьютерами, как ожидается, снизит уровень смертности и травм на дорогах приблизительно на 90 %. Иными словами, переход на беспилотные автомобили, по всей видимости, каждый год будет сохранять жизни миллиону человек.
Так что было бы безумием препятствовать автоматизации в сфере транспорта и здравоохранения только ради того, чтобы сохранить людям рабочие места. Ведь по большому счету защищать нужно именно людей, а не работу. Освободившимся водителям и врачам просто придется искать себе другие занятия.

Алгоритм по имени Моцарт

Маловероятно, что искусственный интеллект и роботы полностью уничтожат целые отрасли – по крайней мере, в ближайшее время. Будет автоматизирован в основном узкий диапазон монотонных рабочих операций. Гораздо труднее заменить машинами представителей творческих профессий, в которых необходимо использовать широкий набор навыков и которые требуют умения действовать в непредсказуемых ситуациях. Вернемся к здравоохранению. Многие врачи практически полностью заняты обработкой информации: они собирают данные о здоровье, анализируют их, ставят диагноз. А вот медсестра должна обладать хорошими моторными и эмоциональными навыками, чтобы безболезненно сделать укол, сменить повязку или успокоить буйного пациента. Поэтому, скорее всего, семейный врач с искусственным интеллектом на нашем смартфоне появится на несколько десятилетий раньше, чем мы увидим надежного робота-медсестру. По всей вероятности, сфера социального обслуживания – забота о больных, детях и стариках – еще долго останется в ведении человека.
Люди живут все дольше, а детей у них становится меньше, и поэтому уход за пожилыми будет одним из самых быстрорастущих секторов на рынке труда для человека.
Плохо поддается автоматизации не только уход за больными и немощными, но и творческий процесс. Нам больше не нужны люди, продающие музыку: мы можем напрямую загрузить ее из iTunes, – но композиторы, музыканты, певцы и диджеи у нас по-прежнему из плоти и крови. Мы полагаемся на творческие способности людей не только в сочинении новой музыки, но и в выборе из невероятного количества доступных вариантов.
И все же автоматизации не избежит ни одна сфера – даже искусство. В современном мире искусство обычно ассоциируют с человеческими эмоциями. Мы склонны считать, что художник дает выход неким внутренним психологическим процессам, что цель искусства – помочь нам осознать свои эмоции или пробудить в нас новые чувства. Поэтому, анализируя искусство, мы пытаемся судить о нем по эмоциональному воздействию на аудиторию. Но если в основе искусства лежат чувства, что произойдет, когда внешние алгоритмы научатся понимать человеческие эмоции и манипулировать ими лучше, чем Шекспир, Фрида Кало или Бейонсе?
В конце концов, эмоции – вовсе не мистическое явление, а продукт биохимических процессов. Поэтому в недалеком будущем алгоритм машинного обучения сможет анализировать биометрические данные от датчиков внутри и на поверхности вашего тела, определять ваш тип личности, следить за сменой настроения, а затем вычислять эмоциональное воздействие, которое окажет на вас та или иная композиция – или даже музыкальная тональность.
Вероятно, из всех видов искусства для анализа больших данных лучше всего подходит музыка, поскольку и она сама, и результат ее воздействия поддаются точному математическому описанию. На входе – математические диаграммы звуковых волн, на выходе – электрохимические диаграммы нейронных бурь. Через несколько десятилетий алгоритм, проанализировавший миллионы мелодий, научится предсказывать, какую реакцию вызовет любая из них.
Предположим, вы только что поссорились с близким человеком. Алгоритм, управляющий аудиосистемой в вашем доме, сразу же заметит ваше эмоциональное возбуждение и, основываясь на том, что он знает о вас лично и о человеческой психологии в целом, включит композиции, соответствующие вашему мрачному настроению и созвучные вашим переживаниям. Эти мелодии не обязательно подойдут другим, но для вашего типа личности они идеальны. После того как алгоритм поможет вам осознать глубину ваших страданий, он включит единственную в мире песню, которая способна вас утешить – возможно, потому, что ваше подсознание ассоциирует ее с воспоминаниями о счастливом детстве, хотя вы об этом даже не догадываетесь. Ни один диджей никогда не сравняется в этом умении с искусственным интеллектом.
Вы можете возразить, что таким образом искусственный интеллект убьет интуицию и запрет нас внутри тесного музыкального кокона, сотканного из предыдущих предпочтений. А как насчет того, чтобы ознакомиться с новыми музыкальными стилями? Не проблема. Вы легко сможете запрограммировать алгоритм так, чтобы в 5 % случаев его выбор был абсолютно случайным – он будет без предупреждения проигрывать вам записи индонезийского оркестра гамелан, оперы Россини или последние южнокорейские хиты. Со временем, регистрируя вашу реакцию, искусственный интеллект сумеет даже вычислить оптимальный уровень случайности, который будет обеспечивать необходимую новизну, не вызывая раздражения: например, понизит его до 3 % или повысит до 8 %.
Другое возможное возражение – непонятно, как алгоритм будет устанавливать «эмоциональную цель». Если вы поссорились с другом, к каким эмоциям должен подталкивать вас алгоритм – к печали или к радости? Будет ли он слепо придерживаться жесткой шкалы «хороших» и «плохих» эмоций? А что, если в жизни бывают минуты, когда грусть полезна? Тот же вопрос можно адресовать музыкантам и диджеям. Однако алгоритм может предложить много интересных решений и для этой задачи.
Одно из них – просто предоставить решать пользователю. Вы можете выбрать желательные эмоции, а алгоритм будет следовать вашим указаниям. Иногда вам хочется жалеть себя, иногда – прыгать от радости. Алгоритм будет покорно вам подчиняться. Он научится распознавать ваши желания даже тогда, когда вы сами плохо их понимаете.
А если вы не хотите полагаться на себя, то можете попросить алгоритм следовать рекомендациям любого выдающегося психолога, которому доверяете. Если вы расстанетесь с близким человеком, алгоритм проведет вас через пять стадий переживания горя: сначала поможет отрицать случившееся, проигрывая Don’t Worry, Be Happy Бобби Макферрина, потом подстегнет ваш гнев песней Аланис Мориссетт You Oughta Know, заставит торговаться с помощью Ne Me Quitte Pas Жака Бреля и Come Back and Stay Пола Янга, повергнет в депрессию композицией Адель Someone Like You и Hello и, наконец, поможет принять неизбежное, включив I Will Survive Глории Гейнор.
Следующий шаг для алгоритма – работать с самими песнями и мелодиями, слегка меняя их, чтобы адаптировать к запросам клиента. Возможно, вам не нравится небольшой фрагмент в целом отличной песни. Алгоритм знает об этом, потому что ваш сердечный ритм меняется, а уровень окситоцина падает, когда вы слышите раздражающий вас кусок. И он может переписать или отредактировать ноты, которые вам не по душе.
Когда-нибудь алгоритмы научатся сочинять целые мелодии, играя на человеческих эмоциях, словно на клавишах фортепиано. Используя ваши биометрические данные, алгоритм сможет даже писать персонализированную музыку, которую сможете полностью понять и прочувствовать только вы.
Часто говорят, что люди воспринимают искусство потому, что находят в нем себя. Мы увидим удивительные и несколько пугающие результаты, если, скажем, Facebook начнет создавать персонализированные шедевры на основе всего, что он о вас знает. Если вас бросит партнер, Facebook утешит вас песней об этом конкретном негодяе, а не о каком-то незнакомце, разбившем сердце Адель или Аланис Мориссетт. Песня даже напомнит вам о реальных эпизодах ваших взаимоотношений, о которых во всем мире знаете только вы двое.
Конечно, персонализированное искусство может и не войти в моду – не исключено, что люди по-прежнему будут предпочитать знакомые хиты, которые нравятся всем. (Как петь с друзьями песни, известные только вам, или танцевать всем вместе под такую музыку?) Но в создании мировых хитов алгоритмы способны проявить еще большую гибкость, чем в сочинении персональной музыки. Используя массивы биометрических данных миллионов людей, алгоритм сможет выяснить, на какие биохимические «кнопки» нужно нажать, чтобы будущий хит захватил все танцполы мира. Если искусство действительно призвано вызывать у человека эмоции (или манипулировать ими), то музыкантам-людям будет очень трудно или даже невозможно тягаться с алгоритмом: ведь они не в состоянии так глубоко понять главный инструмент, на котором играют, – свою биохимическую систему.
Появится ли в результате великое искусство? Все зависит от того, что мы вкладываем в это понятие. Если красота действительно в глазах смотрящего (и в ушах слушающего) и если клиент всегда прав, то у биометрических алгоритмов есть шанс создать лучшие шедевры в истории. Если искусство – это нечто более глубокое, чем человеческие эмоции, и оно должно выражать некую истину, не имеющую отношения к нашим биохимическим колебаниям, то биометрические алгоритмы, возможно, будут не слишком хорошими художниками. Как, впрочем, и большинство людей. Чтобы выйти на музыкальный рынок и потеснить многих композиторов и исполнителей, алгоритму не обязательно писать музыку лучше Чайковского. Для начала достаточно превзойти Бритни Спирс.

Новые профессии?

Исчезновение многих традиционных профессий в самых разных областях, от искусства до здравоохранения, отчасти будет скомпенсировано созданием новых. Семейного врача, который занят в основном диагностикой известных болезней и выпиской знакомых лекарств, вероятно, заменит искусственный интеллект. Но благодаря этому у нас останется больше денег на врачей и лаборантов, которые проводят революционные исследования, разрабатывают новые лекарства или хирургические процедуры.
Искусственный интеллект будет способствовать созданию новых профессий и другим путем. Вместо того чтобы соревноваться с искусственным интеллектом, люди могут сосредоточиться на его обслуживании и совершенствовании. Например, замена летчиков беспилотными аппаратами сделала ненужными некоторые профессии, но вместе с тем создала новые рабочие места в сферах технического обслуживания, дистанционного управления, анализа данных и кибербезопасности. Вооруженным силам США для управления каждым дроном Predator или Reaper в небе над Сирией требуется 30 человек, а обработкой информации, поступающей от беспилотного аппарата, занимаются еще как минимум 80 сотрудников. В 2015 году американским ВВС не хватало опытных специалистов для этих должностей. Довольно забавный кризис – нехватка людей для управления беспилотными летательными аппаратами.
Если так пойдет и дальше, то в 2050 году на рынке труда будет наблюдаться сотрудничество, а не соперничество человека и искусственного интеллекта. В самых разных областях, от политики до банковской деятельности, коллективы из людей и искусственного интеллекта могут превзойти и людей, и компьютеры. После того как в 1997 году разработанная IBM шахматная программа Deep Blue победила Гарри Каспарова, люди не перестали играть в шахматы. Наоборот: благодаря искусственному интеллекту шахматные мастера теперь играют гораздо лучше, чем когда-либо, и сегодня шахматные команды в составе человека и искусственного интеллекта (их называют «кентаврами») превосходят и людей, и компьютеры. Точно так же искусственный интеллект поможет готовить лучших в истории детективов, банкиров и солдат.
Однако новые профессии, по всей видимости, потребуют высокой квалификации, а значит, вопрос о занятости неквалифицированных работников остается открытым. Возможно, создавать новые рабочие места будет проще, чем переобучить людей, которые должны их занять. Во время прежних волн автоматизации люди, как правило, могли переходить с одной монотонной и неквалифицированной работы на другую. В 1920-е годы сельскохозяйственный рабочий, оставшийся не у дел из-за механизации сельского хозяйства, находил новую работу на тракторном заводе. В 1980 году рабочий, уволенный из-за сокращения штатов, устраивался кассиром в супермаркет. Такая смена профессий была возможна потому, что переход с фермы на завод или с завода в супермаркет требовал лишь минимальной переподготовки.
Но в 2050 году кассир или работник текстильной фабрики, которого заменит робот, едва ли сможет стать ученым в области онкологии, управлять беспилотным летательным аппаратом или устроиться в банк, чтобы работать в паре с искусственным интеллектом. У него не будет необходимой для этих профессий квалификации. Во время Первой мировой войны был смысл посылать на фронт миллионы необученных призывников, которые перезаряжали пулеметы и тысячами гибли под огнем врага. Их индивидуальные умения и навыки не играли особой роли. Сегодня, несмотря на нехватку операторов дронов и специалистов по анализу данных, американские ВВС не спешат заполнять вакансии людьми, уволенными из супермаркетов Walmart. Никто не хочет, чтобы неопытный новобранец перепутал афганскую свадьбу с совещанием лидеров талибана.
Таким образом, несмотря на появление множества новых профессий, может возникнуть целый класс «лишних» людей. Возможно, ситуация ухудшится сразу на двух фронтах – высокий уровень безработицы будет сопровождаться нехваткой квалифицированных специалистов. Многие люди разделят судьбу даже не извозчиков XIX века (кто-то из них научился водить такси), а лошадей, которых полностью вытеснили с рынка труда.
Кроме того, ни одна из профессий не застрахована от автоматизации, поскольку машинное обучение и роботы будут постоянно совершенствоваться. Сорокалетний кассир, уволенный из Walmart, ценой невероятных усилий может выучиться на оператора дрона – но не исключено, что лет через десять ему снова придется переучиваться, потому что и эта профессия будет автоматизирована. В условиях подобной нестабильности возникнут проблемы с созданием профсоюзов и защитой прав работников. Уже сегодня в развитых экономиках многие новые профессии предполагают временное, не защищенное законодательством трудоустройство, фриланс и разовые услуги. Как создать профсоюз в профессии, которая появляется и исчезает в течение одного десятилетия?
Точно так же внутри «кентавра» из человека и компьютера, скорее всего, будет наблюдаться соперничество, а не долговременное сотрудничество. В группах, состоящих только из людей (например, из Шерлока Холмса и доктора Ватсона), обычно формируется иерархия и устанавливается определенный порядок, не меняющийся десятилетиями. Но детектив, работающий с компьютерной системой «Доктор Ватсон» (прославившейся в 2011 году победой в американской телевикторине Jeopardy!), обнаружит, что рутина становится источником осложнений, а сложившаяся иерархия – приглашением к революции. Тот, кто вчера был закадычным другом, завтра может превратиться в начальника, а протоколы и инструкции придется переписывать каждый год.
Внимательное изучение мира шахмат позволяет нам выявить долгосрочные тенденции и в других сферах человеческой деятельности. Да, в течение нескольких лет после победы Deep Blue над Каспаровым в шахматах развивалось сотрудничество человека и компьютера. Но в последнее время компьютеры научились так хорошо играть в шахматы, что человек в качестве партнера потерял всякую ценность и вскоре станет совсем не нужен.
Относительно недавно был пройден еще один важный этап. Уже никого не удивляло, что компьютер способен обыграть человека, но 7 декабря 2017 года алгоритм AlphaZero компании Google выиграл у Stockfish 8, чемпиона мира 2016 года среди компьютерных программ. Stockfish 8 имела доступ к опыту, накопленному человеком за сотни лет игры в шахматы, а также к данным шахматных программ за несколько десятков лет. Она могла просчитывать 70 миллионов шахматных позиций в секунду. Скорость вычислений AlphaZero составляла лишь 80 тысяч операций в секунду, и создатели программы не обучили ее шахматной стратегии – даже стандартным дебютам. Осваивая шахматы, программа AlphaZero использовала самые современные методы машинного обучения, играя сама с собой. Тем не менее из ста партий, сыгранных со Stockfish 8, новичок AlphaZero выиграл 28 и свел вничью 72. Ни одного проигрыша! Поскольку алгоритм AlphaZero не учился у человека, многие из его выигрышных ходов и стратегий выглядят весьма необычно. Их с полным основанием можно назвать творческими – если не гениальными.
Угадайте, сколько времени потребовалось AlphaZero, чтобы научиться играть в шахматы, подготовиться к матчу с Stockfish 8 и развить у себя гениальную интуицию? Четыре часа. Это не опечатка. Столетиями шахматы считались одним из высших достижений человеческого разума. Программа AlphaZero за четыре часа без какой бы то ни было помощи со стороны человека проделала путь от полного незнания до вершин мастерства.
AlphaZero не единственная творческая компьютерная программа в мире. Сегодня многие из них превосходят шахматистов не только в скорости вычислений, но и в генерировании нестандартных идей. На шахматных турнирах, в которых участвуют только люди, судьи обязаны выявлять игроков, пытающихся жульничать с помощью компьютеров. Один из способов поймать нечестного игрока – отслеживать оригинальность ходов. Нестандартный ход может вызвать подозрения – не исключено, что это подсказка компьютера. Стало быть, как минимум в шахматах оригинальность мысли отныне считается отличительной чертой компьютеров, а не людей! Если провести аналогию между шахматами и канарейкой в шахте, то мы получили серьезное предупреждение: канарейка умирает. То, что сегодня происходит с шахматными командами, состоящими из человека и искусственного интеллекта, завтра может повториться с подобными командами, работающими в правоохранительных органах, медицине и банковском деле.
Следовательно, процесс появления новых профессий и переподготовки людей никогда не остановится. Революция искусственного интеллекта не станет единственным переломным моментом, после которого рынок труда вновь обретет устойчивость. Скорее мы столкнемся с чередой постоянно усугубляющихся проблем. Уже сегодня мало кто из наемных работников рассчитывает всю жизнь проработать на одном месте. К 2050 году безнадежно устареть может не только идея «пожизненного найма», но и концепция «профессии на всю жизнь».
Даже если бы мы постоянно изобретали новые профессии и переобучали кадры, неизбежно возникли бы сомнения, хватит ли людям эмоциональной устойчивости, чтобы выдержать эту бесконечную гонку. Перемены всегда даются тяжело, и суматошный мир начала XXI века породил глобальную эпидемию стресса. Сумеют ли люди приспособиться к растущей волатильности рынка труда и непредсказуемости личной карьеры? Вероятно, чтобы защитить разум Homo sapiens от срыва, нам понадобятся более эффективные средства борьбы со стрессом, от медицинских препаратов до биологической обратной связи и медитации. Класс «лишних» людей может появиться не только из-за отсутствия работы и недостатка образования, но и из-за слабой психологической устойчивости.
Конечно, все сказанное выше – из разряда предположений. К началу 2018 года автоматизация уже изменила многие отрасли промышленности, но еще не привела к массовой безработице. Наоборот, во многих странах, например в США, уровень безработицы достиг исторического минимума. Никто не может с уверенностью предсказать, как автоматизация и машинное обучение повлияют на профессии в будущем, и очень трудно оценить, насколько быстро будут происходить изменения, – тем более что они зависят не только от технологических прорывов, но и от политических решений и культурных традиций. Даже когда беспилотные автомобили докажут, что они безопаснее и дешевле водителей из плоти и крови, не исключено, что политики и потребители будут годами или десятилетиями противиться переменам.
Как бы то ни было, расслабляться не стоит. Весьма опасно надеяться, что у нас появится достаточно новых профессий, чтобы компенсировать потери. Тот факт, что так происходило во время прежних волн автоматизации, не гарантирует повторения подобного сценария в совершенно иных условиях XXI века. Возможные социальные и политические бури настолько опасны, что, даже если вероятность системной массовой безработицы невелика, к ней нужно отнестись очень серьезно.
В XIX веке промышленная революция создала новые условия и породила проблемы, с которыми не могла справиться ни одна из существовавших в то время социальных, экономических и политических моделей. Феодализм, монархия и традиционные религии не годились для управления крупными промышленными центрами, миллионами рабочих, покинувших родные места, и непрерывно меняющейся современной экономикой. Человечеству пришлось создавать принципиально новые модели – либеральную демократию, коммунистическую диктатуру, фашистский режим. Понадобилось больше ста лет кровопролитных войн и революций, чтобы в процессе экспериментов с этими моделями отделить зерна от плевел и реализовать наилучшие решения. Детский труд в угольных шахтах, описанный в романах Диккенса, Первая мировая война и Голодомор на Украине в 1932–1933 годах – все это лишь малая часть той цены, которую человечество заплатило за свое обучение.
Вызов, брошенный человечеству в XXI веке биотехнологиями и ИТ, вероятно, гораздо серьезнее вызова, с которым оно столкнулось в эпоху паровых машин, железных дорог и электричества. Учитывая огромную разрушительную силу, которой обладает современная цивилизация, мы больше не можем позволить себе неудачных моделей, мировых войн и кровавых революций. В этот раз ложный путь способен привести к ядерной войне, появлению генетически модифицированных монстров и полному разрушению биосферы. Сегодня мы должны действовать эффективнее, чем наши предки в условиях промышленной революции.

От эксплуатируемых к ненужным

Возможные решения можно разделить на три категории: меры по предотвращению потери рабочих мест; меры по созданию достаточного числа новых рабочих мест; меры на случай, если темпы сокращения рабочих мест все же значительно превысят скорость появления новых.
Стратегия полного сохранения рабочих мест непривлекательна и, по всей видимости, нереалистична, поскольку предполагает отказ от огромных возможностей и преимуществ искусственного интеллекта и роботов. Тем не менее правительства могут намеренно сдерживать темпы автоматизации, чтобы смягчить ее последствия и дать людям время адаптироваться. Развитие технологий не предопределено заранее, и возможность тех или иных событий вовсе не означает их неизбежности. Власти могут успешно препятствовать новым технологиям, даже если те коммерчески конкурентны и экономически выгодны. Например, уже несколько десятилетий у нас есть технология для создания рынка человеческих органов, с предложением от «ферм тел» в слаборазвитых странах и практически неиссякаемым спросом со стороны богатых покупателей. Такие «фермы тел» могли бы стоить сотни миллиардов долларов. Однако свободная торговля человеческими органами законодательно запрещена, а черный рынок, хоть и существует, не так масштабен и развит, как можно было бы предположить.
Сдерживание темпов перемен поможет нам выиграть время для создания рабочих мест взамен устаревающих. Но, как я уже говорил, экономическое предпринимательство должно сопровождаться революцией в образовании и психологии. По всей видимости, новые профессии – если они не превратятся в простые бюджетные кормушки – потребуют высокой квалификации; по мере совершенствования искусственного интеллекта людям придется постоянно осваивать новые навыки и менять профессии. Здесь необходимо участие государства, которое должно субсидировать сектор непрерывного образования и обеспечивать социальную защиту во время неизбежных переходных периодов. Если сорокалетнего оператора беспилотника нужно три года переучивать на разработчика виртуальных миров, ему потребуется поддержка государства, чтобы все это время он и его семья не голодали. (Такую схему недавно начали внедрять в Скандинавских странах, где власти следуют принципу «защищать работников, а не профессии».)
Однако нет никаких гарантий, что даже при существенной поддержке государства миллиарды людей смогут без ущерба для психики раз за разом начинать жизнь с нуля. Стало быть, если, несмотря на все наши усилия, значительная часть человечества будет вытеснена с рынка труда, нам придется исследовать новые модели посттрудового общества, посттрудовой экономики и посттрудовой политики. Первый шаг на этом пути – честно признать, что социальные, экономические и политические модели, унаследованные нами из прошлого, неспособны противостоять этому вызову.
Возьмем, к примеру, коммунизм. Мы видим, что автоматизация угрожает потрясением самих основ капиталистической системы, и логично было бы предположить, что коммунистическая идея будет реабилитирована. Однако коммунизм не поможет справиться с кризисом такого рода. Коммунизм XX века исходил из посылки, что основа экономики – это рабочий класс, и философы, разделявшие эту доктрину, пытались объяснить пролетариату, как конвертировать его громадную экономическую силу в политическое влияние. Коммунистический проект предполагал свершение пролетарской революции. Но что останется от этого учения в условиях, когда массы потеряют свою экономическую значимость и сражаться придется не против эксплуатации, а против ненужности? Как организовать пролетарскую революцию в отсутствие рабочего класса?
Мне возразят, что люди никогда не утратят экономическую значимость: ведь даже если они не смогут конкурировать с искусственным интеллектом за рабочие места, то всегда будут нужны экономике как потребители. Но вовсе не очевидно, что мы понадобимся экономике будущего даже в качестве потребителей.
Почему бы машинам и компьютерам не взять на себя и эту роль? Теоретически можно представить себе экономику, в которой горнопромышленная корпорация добывает железную руду и продает железо корпорации, которая производит роботов, а та, в свою очередь, продает роботов горнопромышленной корпорации, которая добывает еще больше руды, используемой для производства еще большего числа роботов, и так далее. Эти корпорации будут расти и расширяться до дальних рубежей Галактики, и им потребуются только роботы и компьютеры, а люди не будут нужны даже для того, чтобы покупать их товары.
Уже сегодня компьютеры и алгоритмы выступают в роли не только производителей, но и клиентов. Например, на бирже самыми влиятельными покупателями акций, облигаций и товаров оказываются алгоритмы. В рекламном бизнесе главным потребителем становится поисковый алгоритм Google. Разрабатывая веб-страницы, люди зачастую ориентируются именно на его предпочтения, а не на вкусы того или иного человеческого существа.
Очевидно, что алгоритмы не обладают сознанием, а потому, в отличие от потребителей из числа людей, не способны насладиться покупкой, и на их решения не влияют чувства и эмоции. Поисковый алгоритм Google не может ощутить вкус мороженого. Тем не менее алгоритмы делают выбор на основе вычислений и встроенных предпочтений, и эти предпочтения все заметнее влияют на нашу жизнь. В том, что касается ранжирования веб-страниц поставщиков мороженого, у поискового алгоритма Google весьма утонченный вкус, и самым успешным продавцом мороженого в мире будет та компания, которую Google поставит на первое место, а вовсе не та, что производит самое вкусное мороженое.
Я знаю это по своему опыту. Когда я публикую книгу, издатели просят меня приложить краткое описание, которое они будут использовать для рекламы в интернете. Но у них есть эксперт, который адаптирует мой текст для соответствия предпочтениям алгоритма Google. Этот человек внимательно читает то, что я написал, и говорит: «Не используйте это слово – замените его вот тем. Так у нас будет больше шансов привлечь внимание поискового алгоритма». Мы знаем, что если сумеем попасть в поле зрения алгоритма, то о числе читателей беспокоиться не придется.
Но если люди не нужны ни в качестве производителей, ни в качестве потребителей, как гарантировать их выживание и психологическое благополучие? Мы не имеем права ждать, пока кризис разразится в полную силу, чтобы потом начать искать ответы. Потом будет слишком поздно. Чтобы противостоять беспрецедентным технологическим и экономическим угрозам XXI века, нужно как можно быстрее создавать новые социальные и экономические модели. Эти модели должны быть направлены на защиту людей, а не профессий. Многие профессии скучны и монотонны, и сохранять их нет никакого смысла: едва ли кто-то мечтает всю жизнь быть кассиром. Мы должны сосредоточиться на обеспечении базовых потребностей людей, на защите их социального статуса и самооценки.
Одна из новых моделей, которая в последнее время привлекает все больше внимания, – это универсальный базовый доход (УБД). Концепция УБД предполагает, что государство взимает налоги с миллиардеров и корпораций, контролирующих алгоритмы и роботов, и тратит эти средства на выплату каждому человеку пособия, достаточного для удовлетворения базовых потребностей. Бедных это защитит от потери работы и разрушения экономических связей, а богатых – от нападок популистов.
Похожая теория предлагает расширить круг занятий, относимых к «труду». Сегодня миллиарды родителей воспитывают детей, соседи помогают друг другу, граждане объединяются в общественные организации, но все это не считается работой. Возможно, нам следует переключить что-то в своих головах и осознать, что воспитание ребенка – это, пожалуй, самая важная и трудная работа в мире. В этом случае нам не будет угрожать безработица, даже если компьютеры и роботы заменят всех водителей, банкиров и адвокатов. Резонный вопрос: кто будет оценивать этот труд и платить за него? Учитывая, что шестимесячные младенцы вряд ли будут платить жалованье своим матерям, эти расходы, по всей видимости, должно будет взять на себя государство. А поскольку нам хотелось бы, чтобы материнская зарплата покрывала базовые потребности семьи, в результате сложится система, мало чем отличающаяся от универсального базового дохода.
Еще один вариант: государство субсидирует не базовый доход, а универсальные базовые услуги. Вместо того чтобы давать людям деньги, на которые они купят все необходимое, государство может обеспечить им бесплатное образование, здравоохранение, транспортные услуги и так далее. По сути, это коммунистическая утопия. Планы коммунистов, связанные с пролетарской революцией, давно устарели, но, может быть, нам следует двигаться к идеалам коммунизма другим путем?
Никто точно не знает, что лучше: универсальный базовый доход (капиталистический рай) или универсальные базовые услуги (коммунистический рай). У обеих моделей есть свои преимущества и недостатки. Но независимо от того, какой рай кажется вам предпочтительным, главная проблема состоит в определении понятий «универсальный» и «базовый».

Что значит «универсальный»?

Когда речь заходит об универсальном базовом обеспечении – в виде дохода или услуг, – обычно подразумевается государственное базовое обеспечение. До сих пор все инициативы по внедрению УБД ограничивались национальными или муниципальными рамками. В январе 2017 года в Финляндии начался двухлетний эксперимент, в ходе которого 2000 безработных финнов ежемесячно получали по 560 евро, независимо от того, удавалось им найти работу или нет. Похожие эксперименты проводятся в канадской провинции Онтарио, в итальянском городе Ливорно и в нескольких голландских городах. (В 2016 году в Швейцарии прошел референдум о введении национального базового дохода, но граждане проголосовали против этого предложения).
Проблема с подобными государственными или муниципальными моделями заключается в том, что основные жертвы автоматизации чаще всего живут не в Финляндии, Онтарио, Ливорно или Амстердаме. Глобализация привела к тому, что население той или иной страны нередко полностью зависит от рынка сбыта в других странах, но автоматизация разрушает целые сегменты всемирной торговой сети – с катастрофическими последствиями для самых слабых ее участников. В XX веке развивающиеся страны, не имевшие природных ресурсов, развивали свою экономику главным образом за счет продажи дешевой и неквалифицированной рабочей силы. Сегодня миллионы граждан Бангладеш зарабатывают на жизнь тем, что шьют рубашки на продажу потребителям в США, а жители Бангалора трудятся в колл-центрах, принимая жалобы американских покупателей.
Однако с появлением искусственного интеллекта, роботов и 3D-принтеров дешевый неквалифицированный труд становится ненужным. Вместо того чтобы шить рубашки в Дакке, а затем доставлять их в США через океан, проще купить в интернет-магазине Amazon программу для 3D-печати рубашки и изготовить ее в Нью-Йорке. Магазины Zara и Prada на Пятой авеню сменятся центрами 3D-печати в Бруклине, и многие американцы, вероятно, предпочтут печатать одежду дома. А вместо того чтобы звонить в клиентскую службу в Бангалоре с жалобой на поломку принтера, вы сможете обсудить неисправность с искусственным интеллектом в облачном сервисе Google (его акцент и тембр голоса будут настроены с учетом ваших предпочтений). Но у оставшихся без работы швей в Дакке и у операторов колл-центров в Бангалоре не будет необходимого образования, чтобы сменить профессию и стать дизайнерами одежды или программистами. На что они будут жить?
Если искусственный интеллект и 3D-принтеры действительно вытеснят из сферы производства жителей Бангладеш и Бангалора, доход, который раньше получала Юго-Восточная Азия, будет оседать на счетах нескольких технологических гигантов из Калифорнии. Вместо экономического роста и улучшения условий жизни во всем мире мы увидим концентрацию огромных богатств в высокотехнологичных хабах вроде Кремниевой долины и разорение многих развивающихся стран.
Конечно, некоторые развивающиеся экономики, включая Индию и Бангладеш, смогут нарастить темпы и присоединиться к странам-лидерам. Дети и внуки работников текстильных фабрик или операторов колл-центров станут инженерами и предпринимателями, которые будут создавать собственные компьютеры и 3D-принтеры, – но на это нужно время. А времени осталось мало. В прошлом дешевый неквалифицированный труд служил мостом через глобальную экономическую пропасть, и, даже если та или иная страна развивалась медленно, у нее оставалась надежда рано или поздно достичь приемлемого уровня жизни. Шаги в верном направлении были важнее скорости движения. Но теперь мост шатается и очень скоро может рухнуть. С теми, кто уже преодолел пропасть между дешевым трудом и высокотехнологичными отраслями, вероятно, все будет в порядке. Но отстающие так и останутся на другой стороне этой пропасти без каких бы то ни было шансов через нее перебраться. Что делать в ситуации, когда ваша дешевая неквалифицированная рабочая сила никому не нужна, а у вас нет ресурсов, чтобы создать качественную систему образования и обучить людей новым навыкам?
Какая судьба ждет отстающих? Возможно, американские избиратели не будут возражать против того, чтобы налоги Amazon и Google от их бизнеса в США пошли на пособия или бесплатные услуги оставшимся без работы шахтерам Пенсильвании или таксистам Нью-Йорка. Но согласятся ли граждане США направить свои налоги на поддержку безработных в тех странах, которые президент Трамп назвал «вонючими дырами»? С тем же успехом можно рассчитывать на то, что проблему решит Санта-Клаус или пасхальный заяц.

Что значит «базовый»?

Универсальное базовое обеспечение предназначено для удовлетворения базовых потребностей человека, но у нас нет общепринятого определения этого термина. С чисто биологической точки зрения человеку для выживания требуется 1500–2500 Ккал в день. Все, что превышает эту норму, можно считать роскошью. Однако каждая культура в истории человечества определила для себя дополнительные потребности, назвав их «базовыми», хотя они и выходили за пределы минимальной нормы. В средневековой Европе доступ к богослужениям в церкви считался важнее пищи – это была забота о бессмертной душе, а не о бренном теле. В современной Европе в число базовых человеческих потребностей входят достойное образование и услуги здравоохранения, а некоторые даже утверждают, что теперь для всех мужчин, женщин и детей жизненно необходим доступ в интернет. Если в 2050 году «объединенное мировое правительство» согласится обложить налогами Amazon, Baidu и Tencent, чтобы обеспечить базовую поддержку всем людям на земле – не только в Детройте, но и в Дакке, – какой смысл они будут вкладывать в слово «базовые»?
Например, что должно включать базовое образование: обучение только чтению и письму или также программированию и игре на скрипке? Шесть лет начальной школы – или дальнейшие ступени, вплоть до докторантуры? А как насчет здравоохранения? Если к 2050 году достижения медицины позволят замедлить процессы старения и значительно продлить человеческую жизнь, будут эти услуги доступны всем 10 миллиардам жителей планеты – или только горстке миллиардеров? Если с помощью биотехнологий родители смогут совершенствовать детей, будет ли это относиться к базовым потребностям человека – или мы увидим расслоение человечества на разные биологические касты, когда у богатых суперлюдей появятся способности, намного превосходящие таланты бедных Homo sapiens?
Независимо от того, что мы понимаем под базовыми человеческими потребностями, как только все получат возможность бесплатно их удовлетворять, базовое обеспечение станет восприниматься как норма, а жесткая социальная конкуренция и политическая борьба сместятся в сферу роскоши. Это будут, например, беспилотные автомобили, доступ к паркам виртуальной реальности или возможность совершенствовать свое тело с помощью биоинженерии. Однако если безработные массы будут отстранены от управления экономическими активами, трудно представить себе, как они смогут получить доступ к подобной роскоши. А значит, пропасть между богатыми (руководителями Tencent и акционерами Google) и бедными (теми, кто зависит от УБД) станет практически непреодолимой.
Таким образом, даже если в 2050 году система универсального базового обеспечения позволит людям получать более качественные, чем сегодня, образовательные и медицинские услуги, недовольство всеобщим неравенством и отсутствием социальной мобильности не исчезнет. Люди будут считать, что система их обманывает, что правительство служит только сверхбогатым и что в будущем положение их самих и их детей только ухудшится.
Homo sapiens просто не создан для удовлетворенности. Счастье человека зависит не столько от объективных условий, сколько от его ожиданий. Однако ожидания часто подстраиваются к обстоятельствам, в том числе к обстоятельствам других людей.
Когда жизнь становится лучше, ожидания растут быстрее, и даже значительное улучшение условий может оставить нас такими же неудовлетворенными, как и прежде. Если цель универсального базового обеспечения – улучшение объективных условий жизни среднего человека к 2050 году, у такой стратегии неплохие шансы на успех. Но если цель – сделать так, чтобы люди были все более удовлетворены своей жизнью, а социальное неравенство уменьшалось, то из этого, скорее всего, ничего не выйдет.
Для достижения этих целей универсальное базовое обеспечение должно быть дополнено осмысленной деятельностью, от спорта до религии. Возможно, самый успешный на сегодняшний день эксперимент по достижению удовлетворенности жизнью в обществе посттруда поставлен в Израиле. В этой стране около 50 % мужчин из числа ультраортодоксальных евреев не работают. Они посвящают жизнь изучению священных книг и исполнению религиозных обрядов. Но они и их семьи не голодают: отчасти потому, что работают их жены, отчасти благодаря щедрому государственному пособию и бесплатным услугам, покрывающим их базовые потребности. Это некий прообраз универсального базового обеспечения.
Все исследования показывают, что, несмотря на бедность и отсутствие работы, ортодоксальные евреи неизменно демонстрируют более высокий по сравнению с другими слоями израильского общества уровень удовлетворенности жизнью. Причиной тому крепкие связи внутри общины, а также глубокий смысл, который они находят в изучении священных текстов и исполнении религиозных обрядов. В маленькой комнате, где еврейские мужчины обсуждают Талмуд, царит больше радости, подъема и внезапных озарений, чем в огромном цехе на текстильной фабрике, где не покладая рук трудятся рабочие. В глобальных исследованиях удовлетворенности жизнью Израиль обычно занимает верхние строчки – именно благодаря вкладу этих бедных и безработных людей.
Светские израильтяне часто жалуются, что ультраортодоксы вносят недостаточный вклад в развитие общества и живут за счет тяжелого труда других. Светские израильтяне склонны считать образ жизни ультраортодоксов неприемлемым, особенно учитывая тот факт, что ультраортодоксальные семьи в среднем воспитывают семерых детей. Рано или поздно государство больше не сможет материально обеспечивать такое число безработных, и ультраортодоксам придется пойти работать. Но вероятен и противоположный сценарий. По мере того как искусственный интеллект и роботы будут вытеснять людей с рынка труда, на ортодоксальных евреев начнут смотреть как на модель будущего, а не как на пережиток прошлого. Это не значит, что все станут ортодоксальными евреями и отправятся в иешивы изучать Талмуд. Просто поиски смысла жизни и единомышленников заменят людям поиск работы.
Если мы сумеем соединить всеобщую экономическую безопасность с развитием общественной жизни и содержательной деятельностью, то передача работы алгоритмам может стать настоящим благословением. Но возможен и другой сценарий – потеря контроля над своей жизнью. Несмотря на опасность массовой безработицы, гораздо большее беспокойство должен вызывать переход власти от людей к алгоритмам, способный разрушить остатки веры в либеральную концепцию и открыть путь к появлению цифровых диктатур.
Назад: 1 Крушение иллюзий Конец истории откладывается
Дальше: 3 Свобода Алгоритмы следят за тобой

Александр
Харари классный мужик, пойду попробую помедитировать