16. Остались вопросы?

Читатель: Летающие автомобили, Марс… Это всё научная фантастика какая-то. А где Facebook, Twitter, Tinder? Об этом ты напрочь забыл.

Автор: Ну да, но мне кажется, что все то, что ты называешь научной фантастикой, появится значительно раньше, чем мы думаем. Возьми хотя бы Facebook, который взял и за одну ночь перевернул весь Интернет. В 2000-м году никто не мог даже представить себе, что появится портал, объединяющий два миллиарда людей, а кнопки «Мне нравится» и «Поделиться» будут определять развитие общества. А так, да, ты прав. Про Facebook я ничего не написал, а еще не написал про MySpace и другие социальные сети, канувшие в Лету.

Читатель: Ну хорошо, это понятно. Но почему нет ни слова про Марка Цукерберга?

Автор: Потому что все, что сделал Цукерберг, в конечном счете является конкретным применением закона Меткалфа. Facebook и Google являются самыми крупными в мире рекламными площадками ровно из-за того, что я пользуюсь их системами и одновременно сообщаю им много информации о себе. Эти данные позволяют нацеливать рекламу на узкие группы людей: скажем, на студенток из городов-миллионников, которым нравится книга «Ешь, молись, люби», которые закончили магистратуру по специальности «Маркетинг» и только что забеременели. По сравнению с разделом коммерческих объявлений в бесплатных газетках это, конечно, революция, но заслуга Цукерберга только в том, что он применил уже придуманный до него принцип.

Читатель: То есть ты не считаешь, что он внес вклад в развитие цифрового мира?

Автор: С коммерческой точки зрения – да, конечно. Просто на одну такую историю успеха приходится по несколько лопнувших компаний, смотри пример MySpace со товарищи. Значительно интереснее другая проблема, связанная с законом Меткалфа: успешные сети со временем тяготеют к монополизации, потому что нет ничего успешнее успеха. Это значит, что второго Facebook, второго Twitter, второго Ebay или Airbnb уже не появится, а если и появится, то это будут нишевые истории. Как бы то ни было, меня больше интересует вопрос о том, возможно ли в цифровом мире создать что-то кардинально новое, а не оцифровывать и удешевлять реально работающие концепции. Ну а кто и когда скопировал успешный принцип – это дело десятое.

Читатель: Хорошо, а компьютерные игры, дополненная реальность, искусственный интеллект – еще столько тем осталось!

Автор: Ты еще забыл Сири, Алексу и Интернет вещей. А есть еще Synthia 3.0 – программируемая дрожжевая бактерия, созданная генным инженером Крейгом Вентером и продвигаемая под названием Software driven machine – программно управляемой машины. Называть биологический субстрат «машиной» как-то странно, бактерию ведь нельзя запустить как компьютер, ну да ладно. Я просто хочу сказать, что если настолько углубляться в детали, то выйдет не краткая история цифровизации, а толстенный том. В нем придется объединить самые разные вопросы: как жители больших городов выбирают себе сексуальных партнеров, действительно ли «стрелялки» ведут к повышению уровня насилия, почему концепция «жидкой демократии» столь бесславно растворилась в медийном пузыре постправды… Я только начал перечислять, но уже понятно, почему такая книга бы не удалась – за деревьями не было бы видно леса.

Читатель: Ладно, положим, ты хотел сосредоточиться на основополагающих вещах, но почему в книге нет главы, посвященной искусственному интеллекту?

Автор: Хороший вопрос! Когда в восьмидесятых годах я заинтересовался компьютерным миром, все началось как раз с искусственного интеллекта. Я отправился в Америку, поговорил со многими ведущими исследователями в этой области и остался в недоумении. Что меня удивило? Не спектр возможностей искусственного интеллекта, а то, что апологеты ИИ показались мне учениками чародея, запутавшимися в собственных фантазиях. Философ Ницще очень точно описал момент, когда человек заколдовывает сам себя: ты вначале прячешь пасхальные яйца, а потом – опа! – находишь их. Понятно, что через какое-то время ты начинаешь верить в то, что их приносят пасхальные зайцы. Многое кажется нам искусственным интеллектом лишь потому, что мы не видим предыстории. Да, если пианино вдруг само начинает играть, то это производит впечатление чуда, однако если знать, что вначале на студию пришел пианист и записал свой шедевр, то какое уж тут волшебство?

Читатель: Все равно, машины же сами чему-то самостоятельно учатся. Есть же такое слово – «машинное обучение».

Автор: Да, это интересная тема – хотя бы потому, что она практически догнала искусственный интеллект по популярности. Только вот почему? Моя мама, которая не разбирается в компьютерах от слова «совсем», любила повторять: «Дурная голова ногам покоя не дает». Мне кажется, эта пословица прекрасно описывает отношения между ИИ и машинным обучением. Искусственный интеллект – это голова, которая пытается рассказать компьютеру, как устроен мир, а вот машинное обучение, использующее так называемые нейронные сети, даже и этого не пытается сделать. Компьютеру просто скармливают огромный массив данных – например, фотографии котиков, – а тот благодаря своему быстродействию как бы приделывает этим данным ноги. В результате, переварив не одну тысячу фотографий, он получает способность распознавать кошек на картинке. Эта способность крайне важна для беспилотных автомобилей, потому что их бортовой компьютер постоянно сканирует картинку с камеры и определяет, кто бежит через дорогу: кошка, олень или пешеход. Само распознавание работает достаточно неплохо, весь вопрос в следующем: разве компьютер понимает, что именно он делает? Он знает, в чем отличие мяча, который катится через дорогу, от бегущей кошки, которую эта машина легко может задавить? Ответ простой – нет! В случае с машинным обучением есть только паттерны: паттерн мяча, паттерн кошки, паттерн человека.

Читатель: То есть, нет собственно интеллекта?

Автор: Именно. Там, где мы хотим увидеть интеллект, на самом деле стоит пустой безмозглый ящик. Ну или точнее – там те самые ноги, про которые говорила моя мама. Тем не менее операции автоматического распознавания объектов, лиц или вообще поведенческих паттернов сами по себе крайне полезны, особенно если объединить все эти данные.

Читатель: Но из твоих примеров следует, что компьютер все-таки значительно производительнее человека.

Автор: Производительнее – да, но в своем быстродействии он ограничен небольшим количеством функций, что связано не столько с интеллектом, сколько с узким кругом задач.

Читатель: А разве умение распознавать закономерности – не признак интеллекта? Скажем, кто-то слышит произведение и понимает, что это фуга, которую мог написать только Бах.

Автор: Это может выглядеть как признак интеллекта, но, как мы знаем, не все то золото, что блестит. Разве к интеллекту в какой-то форме не прилагается самосознание? Ранние энтузиасты ИИ уже однажды разочаровались, убедившись, что их компьютеры не то чтобы очень интеллектуальны – у пятилетнего ребенка кругозор и то шире.

Читатель: В каком смысле?

Автор: Если робот наблюдает за вращающимся объектом, то он анализирует пиксели картинки и сличает их с сохраненным образцом. В результате он может идентифицировать объект на одном кадре, а на другом – уже нет. У человека, даже у маленького ребенка, таких проблем не возникнет, ведь мы понимаем: то, что крутится перед глазами, – это один и тот же предмет.

Читатель: То есть ты утверждаешь, что надежда на создание искусственного интеллекта – самообман?

Автор: И да, и нет. Сейчас искусственный интеллект неожиданно снова оказался в центре всеобщего внимания, потому что даже у машинного обучения, несмотря на все успехи, много недостатков – компьютеру нужно скормить огромное количество данных. Джефри Хинтон, пионер машинного обучения, прекрасно осознает эту проблему и сейчас пытается научить компьютер распознаванию образов. У людей это работает так: человек освоил игру на фортепиано на уровне крупной моторики, практикуется дальше, чтобы улучшить свои навыки, и в итоге становится пианистом-виртуозом. Однако если проанализировать его движения на уровне мелкой моторики, то становится ясно, что в их основе лежат все те же простейшие перемещения. Современный робот такого не умеет: его можно научить какому-то движению рук, но он не сможет взять эту последовательность за основу и научиться выполнять какую-то другую сходную операцию. На любую незнакомую задачу робот будет смотреть как баран на новые ворота. Машинное обучение нужно совместить с распознаванием образов и аналогий, чтобы преобразовывать совокупность крупномоторных движений А в совокупность тонкомоторных движений Б. В этом случае компьютер сможет обойтись без громадных массивов данных, опираясь на небольшое количество информации и совершенствуя свои движения самостоятельно.

Читатель: Ну то есть всё-таки приобретет интеллект!

Автор: Нет, он может совершенствовать однажды выученные движения, например поднимая с пола все более мелкие предметы сложной формы. При этом он не становится умнее и всё так же не осознает разницу между мячом, кошкой и человеком.

Читатель: Но компьютер может делать то, чему его никто никогда не учил!

Автор: Да, роботы будут пылесосить, мыть и драить пол, готовить нам еду, но это никак не скажется на их интеллекте. Мне вообще кажется, что дискуссия об искусственном интеллекте уводит нас в сторону. Вопрос, по-моему, нужно поставить иначе: какую роль это играет для нас и нашей самоидентификации?

Читатель: Что ты имеешь в виду?

Автор: Приведу пример. В начале шестидесятых годов, когда стали возможны пилотируемые космические полеты, ученые НАСА стали рассматривать астронавтов как «кибернетически дополненные организмы», то есть как киборгов, оснащенных дыхательными аппаратами, скафандрами и постоянной радиосвязью с базой. Сегодня мы не мыслим своей жизни без смартфонов, шагомеров, навигаторов, мессенджеров и постоянного подключения к сети, то есть сегодня мы такие же киборги.

Читатель: Ты про то, что однажды машины захватят мир?

Автор: Как раса боргов из «Звездного пути», которая нас ассимилирует? Нет, я к тому, что сосуществование с ботами, роботами и искусственными интеллектами изменит нашу систему ценностей. Разве мог кто-то представить, что поиск сексуального партнера в крупных городах сведется к свайпу в «Тиндере»? Это плохо? Да нет, просто доказывает, что постоянно появляется что-то новое.

Читатель: А с ценностями-то что?

Автор: Давай возьмем труд. Скажем, в Средние века в труде не было ничего благородного, он был скорбным уделом тех, кто не имел наследства. Прошли годы, и труд удивительным образом стал источником нашей самоидентификации. И вот теперь может выясниться, что роботы могут выполнять ту работу, которая нам так важна, значительно быстрее и лучше. Что если беспилотные автомобили разовьются настолько, что обычные автомобили можно будет запретить – просто из-за того, что люди с их склонностью к алкоголю, рискованному поведению и небрежностям водят не так безопасно, как автоматы? Это серьезно повлияет на людей, которые любят автомобили и не мыслят жизни без возможности сесть за руль и куда-нибудь поехать.

Читатель: Не очень оптимистично звучит.

Автор: Это всего лишь признак того, что наша система ценностей меняется. Я не говорю, что это плохо, боже упаси. Зачем мучиться с какой-то работой, если машина может выполнить ее значительно лучше?

Читатель: Ну, например, чтобы взаимодействовать с другими людьми, да и вообще – как же не работать?

Автор: То есть ты хотел сказать: «Потому что за нее платят»?

Читатель: Пожалуй. Когда человек теряет работу, он теряет уверенность в будущем.

Автор: Потому что люди считают, что лишатся работы только они, не понимая, что это наша общая судьба. А ведь на самом деле так и есть: мы все когда-нибудь перестанем работать и начнем заниматься теми делами, которые каждый из нас сейчас откладывает «до пенсии». В будущем нас ждет настоящая революция сферы труда, и «трудовая пенсия» будет наступать значительно раньше, чем сейчас, поэтому мне удивительно, что никто не пытается решать сопутствующие этому проблемы уже сегодня.

Читатель: Разве? Появились же совершенно новые профессии – консультанты по соцсетям, инфлюэнсеры, звезды YouTube. Мне кажется, тут чего только нет.

Автор: Было бы странно, если бы таких людей не было. Меня расстраивает то обстоятельство, что мы только реагируем на свершившиеся события и не пытаемся предвосхитить будущее человеческого общества. Компетентных специалистов не хватает особенно в сфере образования. Мой сын, например, вырос на компьютерных играх, для него это абсолютно естественное явление. Теперь посмотрим, что об этом говорят в СМИ: какие-то сомнительные эксперты, не обращая внимания на снижение общего уровня насилия, ходят по ток-шоу и без устали рассказывают нам, что компьютерные игры нужно запретить, потому что из-за них дети станут машинами для убийства. Потом, правда, выясняется, что один из этих экспертов в области компьютерных игр, который раздавал интервью направо и налево, на самом деле только недавно научился заходить в свой электронный почтовый ящик. Там, где невежество смешивается с истерией, бесполезно искать здравый смысл. Думаю, поэтому я и написал эту книгу: мне хочется, чтобы не было ни раздутых страхов, ни легкомысленного отношения к обучению новым технологиям – как у нашего министра образования, который считает, что стоит лишь дать ребенку в руки айпад, и член цифрового общества готов.

Читатель: То есть ты всё еще веришь в просвещение?

Автор: Сложно сказать. С одной стороны – да, потому что только осознав происходящее, можно начать мыслить и понять, что мир вокруг себя можно обустроить совсем по-другому. С другой стороны – нет, ведь мне кажется, что эпоха просвещения пока даже не начиналась, и цифровизация, с которой сейчас носится наше общество, – очень показательный пример этому.

Читатель: Не понимаю. Объясни, пожалуйста.

Автор: У философа Иммануила Канта есть эссе «Что такое просвещение?». В нем он призывает самостоятельно мыслящих людей пользоваться собственным разумом, а не полагаться только на книги, мнение врачей, церковных или мирских авторитетов. Текст заканчивается требованием обращаться с человеком сообразно его достоинству, ведь он есть нечто большее, чем машина. Если переформулировать, то это значит, что достоинство возникает вне машины – и именно в этом смысле просветительский проект не то что не доведен до конца, а даже не начинался. Само понятие машины до сих пор представляет собой terra incognita, хотя оно уже определяет нашу жизнь. Обрати внимание, все говорят про цифровизацию, но используют при этом околорелигиозные термины: кто-то называет ее проклятием, кто-то – манной небесной, кто-то сравнивает с кометой, внеземным разумом, искусственным интеллектом… А я не согласен: машина – это не какое-то угрожающее нам инородное тело, машина – это мы сами!