Одна из главных проблем, стоящих перед новой системой труда, заключается в преодолении условий, способствующих (относительно) неспешной работе с машинным интеллектом. В прошлом году мне довелось звонить в обслуживающую компанию кабельного телевидения, Cox, чтобы они починили упавший во время недавнего шторма и готовый вот-вот разорваться провод. Вы, возможно, знаете, как это делалось раньше. Вы звоните по определенному номеру. Вам отвечают. Вы объясняете, что вам нужно. Вам либо дают необходимые разъяснения, либо переключают на другого специалиста. Сегодня вам предлагается голосовое меню, а зачастую — даже несколько. Сначала у меня поинтересовались, какая именно услуга мне нужна. Чтобы преодолеть эту цепь меню, необходимо каждый раз указывать свой выбор нажатием тех или иных кнопок телефона. Пока машина продолжает говорить, вы то и дело отвлекаетесь на экран компьютера и уже не помните, какую именно кнопку надо нажать, и вам приходится выслушивать перечень определенного меню еще раз, а то и вовсе — всех меню.

Мне пришлось вводить десятизначный номер своего телефона, хотя я и звонил с него, а телефонное обслуживание осуществляется той же кабельной компанией, куда я звонил. Мне также пришлось ввести свой почтовый индекс и четырехзначный пин-код. К счастью, свой пин-код я помнил (а сколько пин-кодов и паролей требуется помнить вам?). Затем мне пришлось вводить четыре первые цифры своего адреса.

А в итоге я оказался совсем не там, где мне нужно было оказаться. Очередное меню предложило варианты, не имеющие ничего общего с «ремонтом кабельной линии». Я потерял терпение, прекратил нажимать какие-либо кнопки и стал просто повторять слово «оператор» несколько более громким, чем следовало, голосом.

Наконец мне ответили. Однако ответивший оказался не гением-ремонтником эйнштейновского масштаба, а обычным пожилым человеком. И мне снова пришлось указывать данные о себе, такие как домашний адрес и т. п. Но по крайней мере он смог пообещать мне, что следующим утром между 8:00 и 10:00 подъедет ремонтник. Я благополучно пережил это приключение, и следующим утром мой провод был на своем привычном месте.

С подобным сталкивались многие из нас. Но это только начало. Мир вокруг вас — так сказать «справочное меню» жизни — станет гораздо более простым, бестолковым, а зачастую одновременно и гораздо более обескураживающим. Не важно, что вы — крутой юрист, зарабатывающий в год сотни тысяч долларов, а то и больше. Вам точно так же придется тратить кучу времени на нажатие кнопок, выполняя ту работу, которую компании больше выполнять не желают. А вы-то думали, что тратить деньги — это приятно...

Подобные автоматические системы способны вывести вас из себя точно так же, как это случилось со мной, правда, их использование означает снижение издержек для компании, а в долгосрочном плане — и снижение тарифов для потребителя.

Однако этим машинам по-прежнему будет нужна наша помощь, а это означает, что свою лепту придется вносить и пользователям. Зачастую — в больших объемах, чем им хотелось бы. Самообслуживание — один из вариантов решения дилеммы современного рабочего места. Сегодняшнему офисному и обслуживающему персоналу приходится вести конкурентную борьбу не только против умных машин и передачи ряда функций компаний подрядчикам за рубежом, но и против потребителей.

Кстати, вы вправе задаться вопросом, почему эти функции возложены не на сотрудников компаний, а на потребителей. Почему вам, потребителю, приходится прилагать больше усилий, особенно в мире, который стал богаче, а технологически — более совершенным? «Постоянные затраты», связанные с использованием наемного труда,— такие как пособия, оплата медицинской страховки и затраты на обучение — и так уже высоки и продолжают расти. Значимость функциональной задачи не слишком велика, если работник, на которого она возложена, часто просиживает без дела; и если затраты на консультирование потребителя в деле решения несложной проблемы излишне велики, то, возможно, имеет смысл переложить бремя выполнения задачи на потребителя, при условии, что тот умеет пользоваться интеллектуальными техническими устройствами.

Порой помощь машин только усложняет вашу задачу и становится испытанием для ваших нервов. Это не значит, что без машин вам было бы лучше, хотя довольно часто вам будет казаться, что без машин вам было бы лучше, поскольку польза от новых систем не всегда очевидна, а вот издержки бьют вас наотмашь.

Взглянем для начала на приборы GPS. К сожалению, должен констатировать, что приборы GPS далеки от совершенства, хотя и получили повсеместное применение. Этот простой факт способен поведать немало о том, куда движется сфера обслуживания нашей экономики.

Мировые продажи приборов GPS составили в 2011 г. более сорока двух миллионов экземпляров. Плюс к этому, ожидается, что число снабженных функцией GPS смартфонов превысит к 2014 г. миллиард единиц. Это огромный, продолжающий расти рынок, и закономерно было бы ожидать, что приборы GPS должны справляться со своей задачей на «отлично». Действительно, для отслеживания реального времени в приборах GPS используются принципы общей теории относительности Эйнштейна, поэтому чего-чего, а технологической сложности им не занимать, хотя использование их для направления движения автомобиля и поиска оптимального пути предстает для человеческого ума более сложной задачей, чем игра в шахматы.

Однако, несмотря на прибыльность рынка, приборы GPS продолжают разочаровывать. Я начал пользоваться одним из них, главным образом в исследовательских целях (ну, еще и потому, что на этом настаивала супруга). Согласен, иногда эти приборы проявляют себя великолепно, но иногда способны вывести человека из себя. Положительной стороной использования прибора стало то, что я теперь знаю несколько более быстрых (вопреки моей логике) маршрутов проезда, о которых в противном случае я бы и не узнал, хотя и прожил здесь (северная Вирджиния) почти тридцать лет. Теперь я в большей степени рассматриваю маршруты с точки зрения открытых возможностей и в меньшей — как простую пространственную карту, где сходятся дороги. Если следовать второму подходу, то можно ездить по одному и тому же пути снова и снова, даже не задумываясь о существовании более удобных и быстрых маршрутов. GPS, подобно программам Fritz и Rybka, позволил мне пересмотреть свои взгляды на то, что, как мне казалось, я знал. Приборы GPS также (обычно) эффективны для ориентации в лабиринте коридоров многоквартирных комплексов, когда следовать составленным хозяином искомой квартиры указаниям движения довольно затруднительно.

Однако на поворотном кругу или сложном перекрестке GPS способен проявить себя не с самой лучшей стороны, когда указание «Поверните налево» может сбить с толку, а то и вовсе привести к созданию аварийной ситуации. Система GPS не понимает достаточно хорошо, что представляет собой разворот, и, если сделать ошибку, она может потерять маршрут следования. Она неоднократно заставляла меня проезжать по району или вокруг одного и того же здания по бесконечно повторяющейся петле. Если пользователь ввел неправильный или неполный адрес, система ошибается. По некоторым данным, которые трудно проверить, система GPS стала виной сотен тысяч аварий (хотя сколько она предупредила?). По некоторым свидетельствам она заводила водителей на железнодорожные пути, направляла их не в ту сторону по улицам с односторонним движением или даже в затопленные районы и т. п. Иногда она отвлекает нас от дороги, ее непререкаемый голос заставляет нас теряться, а наша недостаточная метарациональность не дает нам возможности определить, когда ее инструкции можно не слушать. Вполне вероятно, она — одна из причин грубого вождения, поскольку водители начинают резко перестраиваться, хотя в этот момент им нужно было бы развернуться или вовсе уйти на альтернативный маршрут. Один из родственников моей жены, живущий в Израиле, уверяет, что с GPS легко оказаться в опасной для жизни зоне — опасной с точки зрения политических реалий страны.

Я спокойно отношусь к тому, что мой маршрут прокладывает GPS, однако в большинстве случаев мне требуется и карта, или карты Google, или указания системы MapQuest, а то и вовсе кто-нибудь из местных жителей.

Конечно, программе Rybka ошибки, которые совершает система GPS, не свойственны. Дело не в том, что разработчики и программисты системы GPS — неумехи, а в том, что среда, в которой функционирует Rybka, отличается большей однозначностью и подконтрольностью. «Дороги» на игровой доске неизменны и определенны, а фигуры всегда ходят по установленным правилам. Такого не бывает, чтобы одна из клеток шахматной доски оказалась закрытой на ремонт или чтобы один из выездов поворотного круга был неправильно обозначен. Другими словами, если система GPS совершает ошибку, проблема заключается в том, что люди в недостаточной мере упростили среду, в которой приходится оперировать системе.

Если хотите иметь возможность победить компьютер в игре в шахматы, у меня есть для вас простой рецепт: пусть компьютер сам передвигает фигуры на доске. Несмотря на силу шахматных программ, управляемые компьютерами роботы, которые передвигают фигуры на доске, далеко не совершенны. В 2011 г. на промышленной конференции в Сан-Франциско несколько роботов были подвергнуты испытанию на то, насколько хорошо ими запоминается расстановка фигур на доске и делаются соответствующие ходы, определяемые прилагаемыми к роботам шахматными программами. Визуальные системы роботов не так уж и редко ошибались в восприятии ходов, фигур и их расположения, а их руки вследствие этих ошибок — неправильно передвигали фигуры. Усложненная среда, известная также как реальный мир (пусть даже в виде материальной, а не виртуальной шахматной доски),— вещь коварная.

Будем ли мы пытаться изменить среду обитания таким образом, чтобы она в большей степени напоминала шахматную доску, и в меньшей — сложные, вечно закрытые на реконструкцию, многоуровневые транспортные развязки? Вообразите себе мир, который более несуразен, чем мир, в котором мы живем сегодня, поскольку он создан для машин и требует буквального понимания всего, что происходит вокруг. Исключать подобной перспективы не стоит.

Проблема заключается в том, что нам, людям, это буквальное понимание всего может прийтись не по вкусу. Мы зачастую предпочитаем более туманный и подстроенный под нашу индивидуальность мир, в котором мы можем позвонить в кабельную компанию и объяснить проблему бытовым языком. Мы привыкли к тому, что наши мужья и жены говорят нам что-то вроде: «Думаю, тебе надо скоро сворачивать — уже где-то здесь. Как думаешь?» — что может означать одновременно множество вещей, причем в совершенно туманной форме. Когда же мы вынуждены жить с условиях, которым свойственна большая точность — и которые требуют от нас большей точности наших собственных поступков,— нам это может прийтись не по душе. Даже когда новая и более конкретная форма услуг является шагом вперед, у нас все равно может создаться впечатление, что мы лишены самостоятельности или что нас пытаются протащить в трубу меньшего диаметра, чем та, в которую мы могли бы пролезть. Нам хочется кричать: «Оператор!» — чтобы вырваться из этого упорядоченного, насквозь пропитанного буквальностью мира. Мне представляется, что в дальнейшем эта проблема только усугубится.

Система GPS обязательно будет совершенствоваться. Она будет обновляться актуальными данными более оперативным и эффективным образом. Будет способна понимать и сообщать информацию со множеством уточняющих данных. Она может быть дополнена рассылкой электронных сообщений от дорожных служб, как это делается сегодня с помощью электронных табло, только в будущем подобные сообщения будут передаваться по беспроводной связи непосредственно в автомобили.

Растущая распространенность АК-47, самого популярного в мире оружия, позволяет говорить о предпочтительности упорядоченных систем по сравнению с идеальными. Это не самое технологически совершенное оружие и не самое мощное. Его преимущества: простота стрельбы, перезарядки и ремонта. К сожалению, если вручить автомат ребенку, он начнет стрелять из него, не особо задумываясь (что мы и наблюдаем в вооруженных конфликтах по всему земному шару). Подобно автомату Калашникова, программа Microsoft Word получила столь широкое распространение именно благодаря простоте применения и совместимости, а не потому, что эксперты считают ее лучшей компьютерной программой.

Что же касается GPS, то здесь до строгой упорядоченности еще далеко. Разница между принципами управления транспортным средством людьми и машинами будет ликвидирована еще не скоро. И даже если управление автомобилем с помощью системы GPS станет легким и приятным, возрастающее использование умных машин в других сферах нашей жизни может оказаться столь же удручающим, что и использование систем GPS сегодня. В ближайшей, а наверное, и средней перспективе поводов для досады у нас будет еще больше, а возможности выбора в некоторых случаях — меньше. Ваша каждодневная жизнь будет напоминать странную смесь «гораздо, гораздо проще» и «гораздо хуже». Это будет подобно жизни в справочном меню. В целом большинство людей оценят новый уровень удобства, но именно досада отложится в нашей памяти. Люди будут вспоминать о «временах, когда жизнь была проще», хотя именно в будущем она и будет с каждым годом упрощаться.

Некоторые изменения уже вошли в нашу жизнь. Банкомат великолепно справляется со многими из функций банковского кассира. Однако здесь мы вынуждены жертвовать личным вниманием кассира и его способностью ответить на наши вопросы о банковских услугах. Но мы уже к этому привыкли. Гораздо труднее привыкнуть к тому, что банкомат вдруг ни с того ни с сего глотает банковскую карту. Жизнь автомобилистов тоже усложнилась: бензин в бак водитель заливает теперь самостоятельно, поэтому труд человека на заправочных станциях почти не используется; соответственно, теперь на станции мелкую поломку вашего автомобиля уже не устранят. Однако заправить бак стало несравненно легче. Одна из причин того, что мы теперь выполняем работу заправщика, в том, что автомобили стали намного надежнее. А при поломке машины выручит мобильный телефон: достаточно будет позвонить домой, в службу техпомощи или вызвать эвакуатор.

В нашем районе все большее число продовольственных супермаркетов внедряют кассы самообслуживания. В результате время простаивания в очередях сократилось, во всяком случае — для тех, кто способен данными кассами пользоваться. В противном случае время в очереди для вас увеличивается, поскольку кассиров-людей в этих супермаркетах почти не осталось. И спросить, где найти сушеную вишню, теперь тоже почти не у кого.

В долгосрочной перспективе продовольственные товары подешевеют, ведь супермаркетам теперь не надо платить зарплату такому же числу кассиров, как раньше. Однако попробуйте вспомнить на кассе самообслуживания правильное название развесного зеленого перца, чтобы выбрать нужный код... Я даже не в состоянии понять, куда этот код нужно вводить. Неудивительно, если вы теперь вообще перестанете покупать перец. Когда автор этой книги — профессор экономики — делает покупки в подобном супермаркете, он просто не берет товар, который потом нужно взвешивать, название которого требуется вводить и с которым необходимо производить любые другие манипуляции. Он покупает лишь полностью стандартизированные товары, вроде консервированных бобов марки Goya и пластиковые канистры с грейпфрутовым соком.

Как и большинство проблем, о которых я рассказываю, эта проблема когда-нибудь будет решена, и решат ее машины. Мне будет достаточно просто помахать развесным зеленым перцем перед видеокамерой, и этого будет достаточно, чтобы компьютер определил товар автоматически.

По-настоящему удобным взаимодействие с компьютерами будет становиться по мере расширения голосового общения с ними — как в случае с приложением Siri. Однажды мне будет достаточно войти в дом и просто приказать датчикам: «Компания кабельного телевидения Cox, я дома. У меня на крышу дома упало несколько веток, и теперь кабель болтается в опасной близости от кустов. Пожалуйста, дайте мне знать, когда вы сможете прислать кого-нибудь, чтобы устранить проблему».

И ничего более — все легко и просто. Однако не думайте, что все проблемы, связанные со взаимодействием с умными машинами разом устранятся или устранятся в ближайшем будущем. Один из лейтмотивов данной книги — внедрение гениальных машин в наши жизни отличается неравномерностью и шероховатостью. Точно так же, как в случае с компанией Cox, умные машины и издержки взаимодействия с ними найдут все большее проявление в других областях, например в автомобилях или бытовой технике. В обозримом будущем вам постоянно придется чему-то учиться, что-то перепрограммировать, загружать обновления программ и жать на кнопки, и все это — ради сомнительной привилегии, которую являет собой взаимодействие с новыми чудесами технологий.

Более упорядоченной и в большей мере отвечающей потребностям буквального восприятия станет не только наша физическая и электронная среда. Те же изменения коснутся сотрудников предприятий, а также того, каким образом мы описываем и оцениваем их. В отношении работников будет применяться своеобразная система «бирок», с указанием их сильных и слабых сторон в количественной оценке. Причина этому все та же. Машины делают возможным буквальное и упорядоченное описание работников, а подобные описания в свою очередь способствуют более широкой применимости и производительности машинного анализа. В связи с этим мы будем стараться, чтобы наши рабочие места отвечали потребностям буквального восприятия. Это будет касаться и точного описания качеств работников. Здесь снова оказывается полезной аналогия с шахматами. Любой из нас знает, насколько силен тот или иной шахматист, поскольку у каждого шахматиста есть числовой рейтинг. Эти рейтинги измеряют истинную силу достаточно точно; отговорка, вроде «мне солнце глаза слепило», здесь не пройдет. Шахматные рейтинги способны предсказывать уровень игры шахматиста необычайно точно. Исключение — талантливые молодые игроки, быстро набирающиеся мастерства, или шахматисты, у которых вдруг возникли проблемы со здоровьем. Данные рейтинги используются для целого ряда целей, включая решения, кого именно приглашать на тот или иной престижный турнир и какое вознаграждение тот или иной игрок заслуживает за участие в турнире или выступление с лекцией.

Следует ожидать более широкого распространения подобной практики. Следующим шагом станет наем работников, которые с помощью гениальных машин будут оценивать работу других сотрудников, прежде всего — высококвалифицированных специалистов. Я имею в виду специалистов, от которых в нашей жизни зависит многое — врачей, юристов, преподавателей. И коллег по работе тоже.

Я поинтересовался у Кена Регана, можно ли использовать его исследовательский метод — применение программы для оценки качественных характеристик шахматистов — для оценки деятельности человека в более широком плане. По его мнению, средний рейтинг специалистов по информационным технологиям составил бы 2000 баллов — если сравнивать их с шахматистами. Он предположил, что когнитивные способности среднего человека были бы оценены в 1600-1800 баллов, что соответствует уровню хорошего клубного игрока. Что же касается журналистики, то он оценил уровень среднего журналиста примерно в 1500 баллов. Здесь Кен пошутил, однако затронутая им проблема довольно серьезна.

Машины используются не только для снижения себестоимости товаров и услуг. Они будут использованы и для повышения качества работы специалистов. Рано или поздно мы придем к тому, что подразделениями квалифицированных работников с помощью умных машин будет производиться оценка работы большинства специалистов, особенно высокооплачиваемых. Здесь уместна аналогия с рейтингом предприятий сферы услуг, известным как Yelp, только с большим научным уклоном и применимым практически ко всему.

Каким образом это может быть применено, скажем, к юристам? Потенциальный клиент сможет запросить с помощью своего смартфона следующую информацию: какой вуз интересующий его юрист заканчивал, его студенческий рейтинг, успехи в его профессиональной карьере. И к информации будет прилагаться сноска: «данная информация объясняет только 27% общего уровня профессионализма интересующего вас специалиста».

Более успешные юристы будут выкладывать в свободный доступ информацию о своей адвокатской деятельности, выигранных и проигранных процессах, анализ касающейся их договорной информации и свои докладные записки, чтобы повысить точность компьютерного анализа своих профессиональных качеств. В итоге вердикт приложения Siri будет следующим: «Качество докладных записок данного юриста соответствует восемьдесят первому перцентилю рейтинга юристов, что объясняет 38% успеха при его участии в заключении корпоративных сделок».

Многие из менее успешных юристов откажутся от того, чтобы оценкой их рейтинга занималась связка «человек—машина», из опасений получить отрицательную репутацию или потому, что проведение рейтингового анализа будет платным. Это навредит их профессиональным перспективам, особенно привлечению состоятельных и образованных клиентов. Вы обращали внимание на следующую фразу, встречающуюся на странице киноанонсов пятничных газет: «Студия отказалась предоставить этот фильм для просмотра представителями средств массовой информации»? Очевидный вывод, который из этого напрашивается: фильм никчемный, и обычно именно так в этих случаях и оказывается. Студия отказалась предоставить его для просмотра, опасаясь отрицательных отзывов. Некоторые люди все равно идут смотреть подобные фильмы, но, как правило, они об этом отказе не слышали, или это любители примитивных боевиков и фильмов ужасов. Что же касается оценки профессиональных качеств, то рано или поздно большинству специалистов придется согласиться на рейтинговую оценку своей работы, или же они окажутся обреченными работать в менее прибыльном сегменте рынка или с клиентами, не интересующимися рейтинговой репутацией специалиста, к которому обращаются.

Пойдет ли подобное развитие событий на пользу или во вред представителям малообеспеченной категории населения? Плохо здесь то, что порой им будет трудно найти хорошего, но недорогого врача или юриста. Все будут сверяться с публичными рейтингами, и лучшие специалисты будут устанавливать более высокую цену за свои услуги. Однако есть здесь и положительный момент: эти рейтинги повысят конкуренцию между специалистами — как ценовую, так и профессиональную. Если вы — врач, попавший в нижнюю треть рейтинга, вам придется снизить свои расценки, и это пойдет на пользу малообеспеченным клиентам, которые и так вряд ли пользуются услугами лучших врачей. Возможно также и существование такого рейтинга, как врачи с «грубыми манерами». Такие врачи, даже будучи хорошими специалистами, могут оказаться по карману многим, и подобные рейтинги смогут помочь нам найти их и сэкономить деньги. Наконец, малообеспеченные клиенты могут накопить нужную сумму и в случае действительной необходимости воспользоваться услугами отличного юриста или врача вместо того, чтобы платить большие деньги за некачественные услуги, как сегодня зачастую и происходит.

Скорее всего, больше других от наличия профессиональных рейтингов выиграют именно малообеспеченные слои населения. У высокообразованных и состоятельных людей уже есть довольно надежные способы поиска хороших специалистов — им достаточно просто спросить совета у приятеля, сделать пожертвование местному госпиталю или обратиться к такому специалисту из числа своих знакомых. Новая система не уравняет всех со всеми, вне зависимости от уровня платежеспособности, но способна будет предоставить равный доступ к информации, а от этого большинство потребителей только выиграют.

Специалисты могут попытаться манипулировать рейтингами, например соглашаясь лишь на легкие судебные случаи или отказывая пациентам, которые находятся при смерти. Однако расчет рейтингов будет производиться не с учетом всех случаев из практики того или иного специалиста, а скорее всего с учетом тех из них, что соответствуют какому-нибудь стандарту, на основе которого умные машины и смогут проанализировать профессиональные качества сравнительно объективным образом. Часть рейтинга будет строиться программами на основе ограниченных статистических данных, таких как возраст, законченный вуз, показатель коэффициента интеллекта и уровень дохода. Полученные числа вряд ли будут представлять большую практическую ценность, но зато они будут сопровождаться следующим отказом от гарантии качества: «Данным рейтингом объясняется 43% нестабильности в качестве работы данного специалиста». На то, чтобы быть отнесенными к точной науке, данные рейтинги претендовать не могут, зато в полученных цифрах найдет отражение несовершенство систем.

Некоторые специалисты справятся с трудностями, вызванными появлением рейтингов, но многие окажутся деморализованы. Точно так же как после ознакомления с результатами компьютерного анализа шахматные гроссмейстеры уже не кажутся столь мудрыми и всезнающими, так и врачи, юристы и преподаватели могут растерять значительную часть окружающей их ауры. Они будут больше напоминать собой просителей, ожидающих вердикта машин и зачастую предстающих полными недостатков, даже когда речь идет о специалистах верхнего сегмента рынка труда. В итоге мы получим менее самодовольных и высокомерных специалистов. Так, профессионализм большинства врачей, если сравнивать их с лучшими специалистами, в действительности соответствует уровню В, С, а то и ниже — и это станет общеизвестным фактом. Вы уже не будете испытывать перед ними благоговейного трепета, видя в них спасителей жизней, а начнете посматривать на них как на третью скрипку оркестра, протиравшую когда-то лавку во второсортном колледже.

Этот мир станет совсем иным, когда потребитель почувствует себя в положении сильного, а в каких-то аспектах мир этот станет более опасным, поскольку потребители не всегда осознают, что делают. За многие возникающие при лечении проблемы вина ложится на пациентов: они не всегда следуют предписанному распорядку приема лекарств, не выполняют предписанные упражнения, не меняют пищевой рацион и т. д. Одних только слов врача зачастую оказывается недостаточно, и это — в сегодняшнем мире, где врачи пользуются значительным авторитетом. Как только специалисты будут подвергнуты рейтинговой оценке, вполне может получиться, что клиенты и пациенты будут относиться к ним пренебрежительно еще чаще, чем сейчас, и чаще же пренебрегать их советами. Клиент может отказаться признать свою вину на суде, хотя опытный адвокат и будет рекомендовать ему вину признать или посоветует внесудебное разрешение конфликта, на что клиент просто бросит: «А что мне вас слушать? Вы даже не входите в 30% лучших адвокатов Денвера!». Врачам и адвокатам «подталкивать» нас в нужном направлении и контролировать нас будет уже труднее, поскольку для нас станет более привычным оценивать их, стоять над ними, применять в их отношении программы — что заставит их чувствовать себя малозначимыми, а нас — могущественными. Если выставить меня и программу Rybka на матч против Каспарова, то его результат наверняка вскружит мне голову, даже если я буду лишь дословно следовать рекомендациям программы.

Я заговорил о том, что пациенты будут интересоваться рейтингами врачей, но и врачи будут интересоваться рейтингами пациентов, особенно если рейтинг самого врача зависит от того, насколько точно тот или иной пациент выполняет предписанный режим лечения. Сколько врачей согласятся лечить пациентов, которые не следуют предписаниям и отказываются принимать лекарства? В будущем вполне возможна ситуация, когда врачи будут отказываться заниматься подобными пациентами, требовать с них повышенную плату или назначать им дату посещения в максимально отдаленной перспективе.

Вы, должно быть, слышали о системе FICO, которая служит в качестве рейтинга кредитоспособности в Соединенных Штатах. Разработчик данного рейтинга, Fair Isaac Corporation, в настоящее время занимается созданием рейтинга приема лекарств пациентами. Компания не раскрывает все детали рейтинга, однако уже сейчас известны некоторые из параметров — например, сколько времени пациент прожил в одном месте, владеет ли он автомобилем,— которые будут использоваться для вычисления вероятности того, что он принимает предписанные лекарственные препараты. Задача рейтинга на настоящий момент,— рассылать наименее ответственным пациентам электронные сообщения с напоминанием о необходимости принять лекарство, но, естественно, со временем полученным данным найдется и иное применение. Врачи будут отказывать в приеме худшим пациентам, отчасти чтобы не терять на них время, отчасти чтобы их не мучило впоследствии чувство, что они не смогли вылечить пациента, а отчасти — в целях защиты своего собственного профессионального рейтинга. Но есть здесь и светлая сторона: рейтинги врачей могут быть откорректированы таким образом, что ими будут учитываться характеристики пациентов, благодаря чему часть врачей сможет специализироваться на худших и наиболее безответственных из них, чтобы попытаться сделать для них то, что может быть сделано.

А как же врачебная тайна? Нравится вам это или нет, но в будущем у вас вряд ли будет возможность хранить свой рейтинг пациента в тайне, как уже сегодня у вас нет возможности скрывать свой рейтинг кредитоспособности. Даже если вам удастся скрыть свой рейтинг от местного врача, его естественным предположением будет то, что если вы что-то скрываете, то это признак того, что вы — трудный пациент. Покладистые пациенты свой положительный рейтинг вряд ли будут скрывать, иначе их просто причислят к противоположной группе пациентов. Помните про фильмы, которые не были предоставлены «для просмотра представителями средств массовой информации»?

А как насчет «коэффициента проблематичности потребителя»? Совместите его с технологией распознавания лиц и походки. Как только покупатель приближается к продавцу в магазине Nordstrom, на экране смартфона последнего высвечивается полезная информация. Информация может быть следующей: «Тимоти О’Брайан обычно быстро совершает покупки и ваше время не тратит» или «За последние два года Сюзан Бойл вернула треть купленных товаров и дважды жаловалась на качество обслуживания». Потребителям придется уживаться с репутацией, которую они сами себе создают.

В настоящее время одним из основных бюро кредитных историй, агентством Equifax, осуществляется разработка «индекса дискреционных расходов», который указывает, располагает ли (предположительно, конечно) тот или иной потребитель денежными средствами, которые могут быть им потрачены не на товары первой необходимости, а сверх этого. Одна из целей разработки этого индекса — продажа подобной информации рекламодателям и компаниям, занимающимся рассылкой рекламы на дом, однако в эпоху умных машин информация эта найдет себе более широкое применение, в том числе и на рынке матримониальных знакомств. В США 60% работодателей проверяют кредитные истории соискателей, прежде чем принять решение о приеме их на работу — и это уже реальность, а не научно-фантастическая антиутопия, описывающая мир отдаленного будущего. Многие из тех, кто знакомится с серьезными намерениями, пожелают проверить потенциал дискреционных расходов человека, отношения с которым могут перейти у них в фазу романтических.

Кена Ригана беспокоит наша все возрастающая способность измерять и оценивать качество выполнения нами тех или иных задач и значение этих оценок для профессиональной карьеры того или иного человека. Скажем, он может подвергнуть имеющиеся у него данные ретроспективному анализу, чтобы выяснить, какие характеристики шахматиста на ранних этапах его карьеры позволяют говорить о его перспективах или их отсутствии, и теперь какой-нибудь начинающий шахматист может поинтересоваться у Кена, стоит ли ему и дальше заниматься шахматами? Стоит ли ему бросить работу в офисе и стать профессиональным шахматистом? Возможно, Кен (с помощью программ, разумеется) и мог бы это выяснить. Но должен ли он сообщать о результатах своих расчетов? Плюсом здесь было бы то, что Кен мог бы дать недвусмысленный ответ. Мы ведь все равно используем информацию для оценки карьерных перспектив и для того, чтобы посоветовать или отсоветовать что-то другим.

Минусом же здесь является то, что излишек информации может помешать успеху. Что если бы компьютер был использован для оценки перспектив Эйнштейна стать великим ученым, когда тому было пять лет и он еще не умел говорить? Подобная правда, хотя это будет лишь несовершенной статистической оценкой правды, заставит многих опустить руки. С другой стороны, это может зажечь будущую звезду в человеке, которого день за днем уверяют, что в нем заложена искра божья. Для оценки карьерных перспектив молодежи не возбранялась бы некоторая степень двусмысленности, ведь в будущем мы потеряем часть той двусмысленности, которая помогает нам жить сегодня.

Думаю, нам следует умерить наше чрезмерное увлечение оценкой интеллекта. В своем пророческом романе 1952 г. «Механическое пианино» Курт Воннегут, описывая будущее мира машин, выдвигает еще одно опасение:

Персонаж под именем Лэшер, которому принадлежат эти слова, продолжает свою речь и указывает, кто именно, по его мнению, выиграет в мире точно измеренных человеческих качеств: те, кто отличается умом, но не просто умом: «дело здесь в определенной направленности этих умственных качеств. Человек не только должен быть умным, он должен быть умным в определенном, сверху утвержденном и полезном направлении; чаще всего в руководстве промышленностью и в инженерном деле».

Другими словами, какой бы полезной концепция стандартизации ни оказалась для работы, ее применение в социальных и экономических отношениях в целом может вызывать опасения. Это не тот мир, где каждый будет чувствовать себя комфортно.

Наш дискомфорт будет ощущаться сразу в ряде областей. Наиболее искусным связкам «человек—машина» гарантированы высокие заработки, однако ребром встанет вопрос о доверии общества, поскольку их господство над внешними условиями может превзойти нашу способность судить о них. Так, оценить уровень характеристик ряда лучших специалистов будет затруднительно. Мы будем лишь знать, что они очень и очень хороши, однако отслеживать уровень их характеристик с постоянной точностью или достаточной легкостью вряд ли будет возможно именно в силу того, что их показатели слишком велики применительно к критериям внешней оценки. Нам придется полагаться на их добрую волю и моральные качества в чрезмерной степени, способной вызвать беспокойство.

Их решения трудно будет предвосхитить. Представьте себе одну из лучших связок «человек—машина», занятых в области медицинской диагностики, скажем, в 2035 г. Ими принимаются решения, от которых зависит жизнь пациентов, а также действия врачебных учреждений и других медицинских специалистов. Но что можно рассматривать в качестве убедительного доказательства врачебной ошибки, совершенной связкой «человек—машина»? Суждения об их работе, вынесенного «лишь человеком» или «лишь машиной», будет недостаточно, поскольку по отдельности ни человек, ни машина не вправе судить о такой связке. Иногда можно будет выявить, что человеческая составляющая данной связки чрезмерно компетентна, однако именно диагностические решения связок «человек—машина» и будут представлять собой золотые стандарты того, что следует считать лучшим решением. Оспаривание одной такой связкой решения другой связки может помочь выявить ошибку, однако свидетельством злого умысла или преступной халатности не станет.

В шахматном мире никто особо не возражает против существования очень сильных смешанных команд стиля «адванс». Они не угрожают чьим-то жизненным интересам, поэтому им никто не противодействует. Будет ли подобным и наше отношение ко всем связкам, занимающимся медицинской диагностикой? Будем ли мы слепо доверять им, лишь иногда проверяя на возможность мошеннических действий со стороны человеческой составляющей или доверяя проведение периодической, но тщательной проверки другим связкам? Или же нам следует регулировать их деятельность, применяя к их решениям строгие оценочные стандарты и оставляя окончательное суждение об их работе за человеком?

Исходя из того, как именно функционируют наши правовые институты — а я предполагаю, что в ближайшее время вряд ли что-то изменится,— мы будем оценивать работу диагностических связок на основе суждения, выносимого лишь человеком. Основы наших правовых систем составляют решения присяжных и судей, в которых компьютеры почти не применяются, за исключением случаев, когда этого требует заключение экспертов. Обращаться за помощью к компьютерным программам в судебной практике не принято. Представьте себе, что судья вводит в компьютер пять основных характеристик рассматриваемого дела, гениальная машина выдает заключение, что вероятность вины подсудимого составляет 67%, а судье приходится решать, как именно трактовать аргументы, приведенные машиной в пользу этого заключения. Мы как граждане и избиратели слишком далеки от того, чтобы принять подобный мир, даже если в технологическом плане он и возможен в ближайшем будущем или уже сейчас. Пока же он не наступил, решения судей и присяжных будут по-прежнему основываться на их собственном здравом суждении или отсутствии такового.

Зачастую мнения специалистов по диагностике будут казаться ошибочными, однако в более широкой перспективе нам известно, когда мы оцениваем проблему по прошествии какого-то времени, что лучший результат обеспечивается именно связками «человек— компьютер». Иногда в ответ на давление, исходящее от специалистов по оценке, смешанные связки будут действовать таким образом, чтобы их решения отвечали требованиям специалистов по оценке, даже если это не лучшие из возможных решений. В вопросах медицины это выразится в том, что рискованное, но блестящее решение может быть отвергнуто из-за опасений возможных обвинений.

В силу самой их природы решения лучших команд по шахматам «адванс» не поддаются легко воспроизводимым методам суждения и оценки; в противном случае сама машина уже внесла бы подобные суждения в свои алгоритмы. Решения высшего порядка, принимаемые в шахматах «адванс» — опять же в силу их природы,— это исключительно творческие акты. И судя по всему, эти исключительно творческие акты пугают нас, смущают или вызывают в нас чувство дискомфорта. И это означает, что кое-кто из тех, чьи действия не всегда можно оценить, будет способен действовать без особой подотчетности и ответственности.

Выражаясь языком сегодняшних финансовых рынков, многие финансовые операции носят «забалансовый» характер, что означает, что в отношении этих сделок действуют различные требования по представлению отчетности, а сами они многим финансовым регламентам не подчиняются. Иногда этот факт беспокоит или раздражает регулирующие органы и специалистов, и причину их недовольства понять несложно. Однако добиться того, чтобы сделки и позиции отражались на балансовых счетах понятным для оценки образом, не так-то легко. Триллионы долларов открытых позиций по вторичным ценным бумагам и сложные, реализуемые компьютером торговые стратегии не слишком-то вписываются в идею открытости и подотчетности.

Мы будем все больше полагаться на машины в принятии решений по устранению целей в военное время или в вооруженных конфликтах, как это заложено уже сейчас в беспилотные летательные аппараты и системы наблюдения и захвата цели на автоматическое сопровождение на дальних дистанциях. Что это — афганская свадьба или группа боевиков? Что, если вероятность того, что это боевики, составляет 37%, но при этом в наблюдаемой группе присутствуют семь ни в чем не повинных детей? Предоставить машине информацию, необходимую для расчета вероятностей и принятия решений «на месте», нетрудно. Не думаю, что с моральной точки зрения принимаемые машиной решения были бы лучше решений человека, но по крайней мере они были бы лучше с точки зрения командующего состава. Единственный вопрос — когда мы к этому придем. И здесь вновь встает каверзный вопрос: как оценивать ошибки и какие дисциплинарные меры или меры военного трибунала следует в таких случаях применять? Кого считать виноватым? Программистов? Генералов, принявших решение о применении подобных аппаратов? Президента Соединенных Штатов? Насколько ошибка машины отличается от самопроизвольного выстрела, убившего ни в чем не повинное гражданское лицо? Думаю, сильные державы, вроде Соединенных Штатов, будут использовать данные аппараты, не задаваясь подобными вопросами. Ошибки, включая ошибки морального плана, будут не замечаться и прикрываться, и возможно, что никаких действий по их предотвращению предприниматься не будет вовсе.

Мы снова вернулись в пугающий мир, где важные решения принимаются без малейшей степени ответственности и подконтрольности.

В прочих ситуациях мы просто не сможем не делать прямых моральных суждений. Представим для примера, что вы владеете автомобилем, управляемым компьютером. На какие действия он должен быть запрограммирован в случае неизбежной аварийной ситуации? Следует ли ему избежать наезда на детскую коляску, но с риском сбить двух пожилых пешеходов? Должен ли автомобиль быть запрограммирован врезаться с вами в мачту освещения, если вероятность того, что он может сбить пешехода, составляет 0,6? Подобные вопросы наверняка будут обсуждаться в вечерних выпусках новостей. Не думаю, что общественное мнение позволит программируемым автомобилям действовать чрезмерно «эгоистично». Но что, если водитель возьмет на себя управление автомобилем как раз перед тем, как произойдет наезд? Существующая правовая система предоставляет достаточную свободу интерпретации такой ситуации человеком. Следует ли ужесточать нормы права и для водителей-людей? Станет ли моральная оценка вашей автомобильной программы достаточным свидетельством в судебных слушаниях о вашем безответственном вождении? Вероятно, да. Вы сами видите, что многие из сегодняшних моральных критериев меняются.

Суждение о действиях умных машин на основе внешних и далеко не совершенных стандартов приведет к определенным систематическим проблемам. Что делать, когда высококлассная диагностическая команда вынуждена удовлетворять стандартам, установленным уступающим ей в интеллектуальном плане начальником, губернатором или правовой системой?

Все это однажды выяснится. В будущем нас ждут Неподотчетная Команда «Адванс», Ужасающая Команда «Адванс» и Ущербная Команда «Адванс» — причем все три одновременно.