Книга: Без своего мнения. Как Google, Facebook, Amazon и Apple лишают вас индивидуальности
Назад: Глава 1. Долина едина, и мир един
Дальше: Глава 3. Марк Цукерберг против свободы воли

Глава 2. История по версии Google

Для сети желательно, чтобы ее щупальца достигали любой точки мира, опутывая все и всех. Летом 2015 года компания Google сменила название на Alphabet, весьма определенно указав, какое место отводит себе в истории. Поисковая система Google осталась, но компания значительно переросла ее рамки. Это и торговая площадка, и ключевой элемент инфраструктуры Интернета, и разработчик программного обеспечения, и поставщик аппаратных платформ, и телефонная компания, и рекламное агентство, и производитель бытовых приборов, и биотехнологическая компания, и эксперт в области машинного обучения, и автомобилестроительная фирма, и владелец социальных медиа, и телевизионная сеть. Одна из ее дочерних компаний, по ее собственным словам, противодействует политическому экстремизму, другая запускает воздушные шары, с которых раздает интернет-соединение в самых удаленных уголках земного шара. Алфавит был одним из величайших изобретений человечества, его неустаревающим достижением – и компания Google неустанно стремится повторить нечто подобное.
Поток хвастливых заявлений из уст технологической элиты не прекращается, и большая часть людей воспринимает длинный список их грандиозных проектов как способ потешить самолюбие. Если Джефф Безос соберется запускать ракеты в космос, то Илон Маск перещеголяет его и колонизирует Марс. Но раздутое до чудовищных размеров эго свойственно не только лидерам компаний Кремниевой долины (посмотрите, например, на финансовую отрасль и на медиа). А вот что действительно отличает великие технологические компании – так это почти религиозная устремленность на достижение поставленных целей, в силу которой их усилия одновременно и зрелищны, и опасны.
В центре огромного портфолио Google находится один главный проект: создать машины, способные повторить человеческий мозг, а затем и превзойти его. Именно для этого она пытается построить базу данных, содержащую все знание мира, а затем натренировать алгоритмы на поиск в ней закономерностей, обучив их распознавать изображения и понимать язык людей. Решив эту грандиозную задачу, Google рассчитывает преобразовать саму жизнь на планете, как они и обещали сделать. Человеческие законы представляют собой незначительное препятствие на этом пути, способное только замедлить работу. Общественные учреждения и традиции – не более чем мусор, место которому на помойке. Компания рвется вперед по пути к Новому Иерусалиму, не обращая внимания на то, что давит по дороге.
Ларри Пейдж унаследовал веру в свою миссию от отца. Его папа был человеком особенным, не похожим на других. Во всяком случае, по внешнему виду он точно отличался. Из-за полиомиелита, которым он заразился во время каникул в Теннесси, одна нога у него была короче другой. Он хромал, иногда ему было трудно дышать. Когда же Карл Пейдж-старший чувствовал себя хорошо, чудесная энергия переполняла его. Он проходил по коридорам факультета вычислительной техники, созывая коллег, чтобы поделиться очередной великолепной идеей. Иногда он был способен предвидеть будущее. В 80-е, задолго до того, как Тим Бернерс-Ли изобрел всемирную паутину, Пейдж-старший любил порассуждать о потенциале гиперссылок. Студенты Университета штата Мичиган находили его страсть вдохновляющей, но немного утомительной. Его вера в их навыки иногда простиралась за пределы их реальных возможностей. Как-то раз он задал детям написать программный код, который позволил бы роботу самому включать себя в розетку.
Карл Пейдж сосредоточил свое педагогическое внимание на Ларри и его старшем брате, Карле Пейдже-младшем. Он хотел, чтобы сыновья доросли до будущего – а сам он, как правило, умом уже находился там. Дом в районе Пайн-Крест города Лансинг, где жила семья, под руководством отца превратился в собрание электронных чудес, особенно по меркам той древней эпохи, еще не знавшей даже кассетного магнитофона.
Когда Ларри исполнилось шесть, отец принес домой компьютер Exidy Sorcerer, пользовавшийся культовым статусом у программистов Европы, но бывший в то же время такой экзотикой, что Карлу-младшему пришлось писать для него операционную систему с нуля. «Думаю, я был первым учеником в нашей школе, который сдал задание не написанным от руки, а подготовленным в текстовом процессоре» – вспоминал позже Ларри. Дом был заполнен номерами журнала Popular Science, яркие цветные обложки которого напоминали киноафиши и изображали то вооруженные роботами подводные лодки, то невидимые для радаров военные самолеты. Журнал придавал большое значение умению читателей мастерить вещи самостоятельно, что идеально соответствовало атмосфере в доме, причем Ларри воспринял этот дар к технике в полной мере. Как-то раз он собрал все электроинструменты, какие нашел в доме, и разобрал их, чтобы исследовать их устройство. Несмотря на то, что он сделал это без разрешения родителей и даже не все смог собрать как было, его не наказали. Неудачи на пути к техническим знаниям не считались провинностью. К моменту окончания колледжа в 1991 году его мастерство позволяло ему изготовить из Lego струйный принтер.
Если в конце 70-х компьютеры были редкостью на Среднем Западе, то программисты встречались примерно так же часто, как инопланетяне. Родители Пейджа отправились на запад из своего любимого Энн-Арбор, где заканчивали университеты, но остановились на этом пути слишком рано. Карл согласился на предложенный ему пост в Университете штата Мичиган, который не мог тягаться со Стэнфордом. Там он мог разве что построить компьютерный форпост на окраине цифрового мира. Лансинг тоже не тянул на район Сан-Франциско. Карл несколько выделялся среди своих соседей, типичных жителей американского пригорода. Его политические взгляды были ближе к левому краю спектра. Он унаследовал их от отца, рядового рабочего завода Chevrolet в городе Флинт, штат Мичиган, носившего с собой самодельную железную дубинку, чтобы отбиваться от нанятых уличных молодчиков во время затяжной забастовки 1936–1937 гг. Карл даже умудрился привнести в эти места немного калифорнийского духа веселья. Он брал с собой Ларри на концерты Grateful Dead.
Неординарность была не просто личным стилем поведения – она была карьерной необходимостью. Карл весьма дерзко выбрал себе в качестве специальности отрасль вычислительной техники, ставящую своей целью изготовление машин, которые способны имитировать человеческое мышление. Этот раздел научной фантастики, превратившийся в академическую науку, назывался искусственным интеллектом (ИИ).
Легко понять, почему эта отрасль была привлекательна для человека с таким дерзким умом, как у Карла.
Да, искусственный интеллект требовал превосходного знания компьютеров и развитого алгоритмического мышления. Но чтобы воспроизвести работу человеческого мозга, нужно было глубоко понимать устройство оригинала.
Иными словами, требовалась психология. Инженеры стали читать Фрейда, как литературные критики, и интерпретировать его в своих собственных целях. Предметом их дебатов стали работы Хомского, посвященные природе мышления.
Пионеры ИИ создали пьянящую новизной теорию человеческого разума. С их точки зрения, мозг представляет собой компьютер – устройство, работающее под управлением программ. Эта метафора позволяла изящно сформулировать цель их собственной работы: создать механическую машину по подобию органической. Но человеческий ум – таинственная вещь. Поэтому создание алгоритмов, воспроизводящих работу этого сложнейшего сгустка живой материи, оказалось сложной и морально неоднозначной задачей. У Карла Пейджа была своя идея, как взяться за нее. Он высказал предположение, что правила, изложенные в “Robert’s Rules of Order”, написанном в конце XIX века руководстве по эффективному ведению встреч и заседаний, могут послужить основой для искусственного интеллекта.
В те времена проблематикой ИИ занимались весьма немногочисленные ученые. Их узкий круг представлял собой отдельную интереснейшую субкультуру. Именно так социолог Шерри Теркл рассматривала их в своей классической книге “The Second Self”. Поскольку она сама занимала высокий пост в Массачусетском технологическом институте, то могла взаимодействовать с предметом своего исследования относительно беспрепятственно. Ей удалось дать настолько меткий и проникающий в суть вещей портрет, что самим ученым, как ни странно, было бы трудно узнать себя в нем. Искусственный интеллект, сделала она вывод, был не просто труднодостижимой и желанной целью инженерии – он был идеологией. Она сравнивала ИИ, с его представлением о мозге как программируемой машине, с психоанализом и марксизмом в качестве «нового взгляда почти на все сущее».
«В каждом случае центральная идея радикально меняла взгляд на мир: в случае Фрейда это было бессознательное, в случае Маркса – отношение к средствам производства. Для ученого, занимающегося ИИ, идея программы трансцендентна: она воспринимается как доселе отсутствовавший ключ к тайнам интеллекта».
Карл Пейдж был рационалистом. Тем не менее некоторые свидетельства о детстве Ларри говорят, что отец обучал его с чисто религиозным рвением. За семейным ужином Карл мог делиться новостями об ИИ, поступавшими из бурно развивающихся лабораторий на обоих побережьях США. И это было не просто приятной беседой, а обучением. В его календаре были запланированы поездки на различные конференции, посвященные ИИ. Когда организаторы Международной объединенной конференции по искусственному интеллекту не пустили в зал Ларри, которому на тот момент было 16, его отец оставил свое обычное жизнерадостностное дружелюбие и резко отчитал их.
Об уроках, преподанных Карлом Пейджем своему сыну, лучше всего говорит тот факт, что Ларри основал самую успешную и амбициозную компанию, работающую с искусственным интеллектом. Большинству людей кажется, что Google занимается чем-то иным, но именно ему она обязана своим величием. Google использует алгоритмы, обученные думать так же, как вы. Справиться с этой поистине устрашающей сложности задачей Google может, только научившись заранее определять намерения пользователя, вводящего запрос. Если там появилось слово «кран», что подразумевается – сантехническое оборудование или строительная техника? Искусственный интеллект Google настолько хорош, что способен выдать вам результаты поиска прежде, чем вы закончите запрос.
Но Ларри Пейдж, наследник великой традиции искусственного интеллекта, считает это достижение незначительным шагом на пути осуществления своей великой миссии – слово «миссия» здесь можно понимать, как в научном, так и в религиозном смысле. Он построил свою компанию таким образом, чтобы с ее помощью получить «совершенный искусственный интеллект» – машину, способную сравняться с человеком и постепенно превзойти его. Через несколько лет после основания Google Ларри приехал в Стэнфорд, где они вместе с Сергеем Брином когда-то задумали свой поисковый алгоритм, и произнес речь. Обращаясь к группе студентов, он сказал: «Думаю, что осуществление миссии, о которой я говорил с вами, займет некоторое время, поскольку речь идет о создании совершенного искусственного интеллекта. Если вы решите задачу поиска, значит, сможете ответить на любой вопрос, что, в свою очередь, означает, что вы можете сделать практически все, что угодно». Дерзость его заявления вызвала смех в аудитории, но этот смех был скорее нервным. Однако, увидев их смущение, Пейдж только повторил свою мысль: «Решение задачи, которую я описал, означает возможность сделать все, что угодно».
В минуты искренности Пейдж и Брин признают, что их воображение идет еще дальше: не только создать искусственный мозг, но и срастить его с человеческим. Как Брин однажды сказал в беседе с журналистом Стивеном Леви: «Само собой разумеется, что, если бы вся имеющаяся в нашем мире информация была доступна вашему мозгу или искусственному, еще более совершенному, чем ваш, ваша жизнь стала бы от этого лучше». Или, как он высказался по другому случаю: «Может быть, в будущем появится маленькая версия Google, которую можно будет непосредственно подключать к мозгу».
Неизвестно, преуспеет ли Google, воплощая эти грандиозные планы в жизнь, но, во всяком случае, свою роль компания видит именно так. Когда Пейдж говорит, что Google изменит будущее человечества, речь идет не о каких-либо удобствах, а об изменении направления эволюции в дарвиновском смысле. Не будет преувеличением сказать, что она пытается создать новый биологический вид, превосходящий человеческое естество.
Пейдж и Брин создают мозг, свободный от систематической ошибки, вносимой человеческой природой, от иррациональных желаний и сомнительных сведений, которые он получает от органов чувств, то есть от всего того, что порождается нашим телом. На пути к этой цели они пытаются разрешить задачу, поставленную задолго до изобретения компьютера. Google пытается дать ответ на вопрос, возникший несколько веков назад в ходе яростной битвы между нарождающейся наукой и обороняющейся церковью. Этот проект возник одновременно с рождением современной философии как таковой и появлением фигуры Рене Декарта.
Следы идей Ларри Пейджа ведут на утлое суденышко, борющееся с Северным морем где-то в начале XVII столетия. В каюте спит Рене Декарт. Подобные путешествия Декарт предпринимал часто. За свою жизнь он так и не осел на одном месте. Он мог быть гордецом и спорщиком, невероятно закрытым и нарочито загадочным. Даже спустя столько лет мы не можем сказать, что гнало его в дорогу все эти годы, почему он, точно беглец, странствовал от одного убежища к другому.
Из всех мест, где он бывал, протестантская Голландия в наибольшей степени стала ему домом – хоть это и странно, ведь по образованию он был иезуитом до мозга костей. Именно в Голландии Декарт прожил дольше всего и именно там создал основы своей философии. Историк отметил бы также, что именно там, в Амстердаме, он утратил девственность в объятиях горничной. С чисто исследовательской отстраненностью он зафиксировал этот факт на форзаце подвернувшейся книги, словно результат эксперимента. Дочь от этого союза получила имя Франсина, и он рассчитывал отправить ее учиться во Францию. Ее жизнь, увы, оказалась краткой. Она умерла от скарлатины, не достигнув шести лет.
Декарт любил спать. Самые глубокие идеи приходили ему во сне. Часто он проводил в постели целое утро, но в путешествии это было невозможно. Капитан корабля смотрел на философа с подозрением. Особенно же ему хотелось выяснить, что Декарт держит в сундучке возле кровати. Среди ночи он вломился в каюту и открыл сундук. Внутри он обнаружил странную машину, неожиданно похожую на живое существо, робота на пружинах, автомат. По некоторым сведениям, машина была очень похожа на Франсину, причем Декарт называл ее именно так. Придя в ужас от своей находки, капитан выволок творение Декарта на палубу и бросил его за борт.
Эту историю пересказывали многократно, особенно недоброжелатели Декарта. Не подлежит сомнению, что это ложь, не более чем специально запущенный слух. Как замечает один из его биографов, она имеет пугающий сексуальный оттенок. В то же время у клеветников была веская причина сочинить подобную басню: Декарт действительно был страстно увлечен автоматами, хоть и не держал их в ящике возле кровати. Наступление в Европе века машин, одной из глав великой научно-технической революции, как раз пришлось на его жизнь. В садах королевских дворцов изобретатели демонстрировали свои изощренные механизмы: статуи, приводимые в движение водой, манекены, играющие музыку, или же куклы-автоматы, способные кружиться и жестикулировать. Механизмы на магнитах и пружинах были мечтой Декарта. Но что важнее, они должны были сыграть ключевую роль в его проекте прекращения войн, раздиравших Европу: войн между религиями, между религией и наукой.
Грязное, кровавое, раздираемое войнами семнадцатое столетие коснулось Декарта непосредственно. Он служил и в католической, и в протестантской армии во время Тридцатилетней войны, внутреннего конфликта, который должен был определить религиозное будущее Германии и в который ввязались все основные европейские державы. В это время все в Европе казалось неверным и опасным. Несмотря на относительную толерантность Голландии, Декарт постоянно жил в смертельном страхе перед инквизицией. Чтобы избежать судьбы Галилея, он годами не публиковал свои рукописи.
Существуют противоположные мнения насчет того, остался ли Декарт католиком и верующим вообще. (Можно выдвинуть аргумент, что его доказательства бытия Божия настолько запутанны, что изначально задумывались как средство подчеркнуть абсурдность этой задачи.) Как отчаянно он ни цеплялся за свою веру, его образование и путешествия делали его идеальным кандидатом на роль парламентария в войне между религией и наукой.
Центром его теории были автоматы. Тела живых существ, даже людей, были всего лишь машинами. Человеческое тело – «большая, лишенная мысли вещь» – механически приходит в движение, отзываясь на внешние воздействия, словно сделанное из рычагов и пружин. Наши тела могут быть описаны научными законами, в точности как движение планет. Если бы Декарт остановился на этом, его теория вызвала бы ярость церкви. Католическая доктрина настаивала, что человек есть высшая форма жизни, превосходящая всех остальных живых существ. Но Декарт на этом не остановился. Он утверждал, что наша плотская оболочка содержит божественную искру, поднимающую нас над животным царством. Внутри нашей тленной аппаратной части, «темницы тела», как называл ее Декарт, находится программное обеспечение – разум. Именно он объединял, по Декарту, рассудок и бессмертную душу, способность делать выводы и богоподобные качества человека.
Это была мастерски построенная квадратура круга. Декарт сумел использовать скептицизм в качестве основы правоверия. Он сохранил важнейшие элементы церковной доктрины – бессмертную душу как минимум, – одновременно расчистив естественным наукам дорогу к знанию.
Впрочем, решив одну проблему, Декарт создал множество других, поставив вопросы, с тех пор приводившие в неистовство философов и теологов. «Я – мыслящая сущность, способная существовать без тела» – писал Декарт. Если это так, то почему не освободить разум из темницы тела? Декарт старался изо всех сил. Он создал философский метод, чем-то напоминающий современное руководство по самопомощи, вернее, извлеченный из него план. Он составлял правила достижения «чистого понимания» или «чистого рассуждения». Он освобождал свой ум от запросов тела, чтобы дать место идеям, для которых Всевышний предназначил его. Как внушал себе Декарт: «Сейчас я закрою глаза, заткну уши, закрою двери для всех чувств и даже изгоню из моих мыслей все образы телесных вещей». Для него это был не просто способ концентрации ресурсов собственного ума, а метод освобождения человечества. Историк науки Дэвид Нобл описывал проект Декарта так: «Он верил, что с помощью его философского метода человечество сможет преодолеть эпистемологические ограничения своего падшего состояния и вернуть себе власть над некоторыми скрытыми божественными способностями».
Одержимость Декарта передалась философии в целом. На протяжении столетий математики и логики – Готфрид Лейбниц, Джордж Буль, Альфред Норт Уайтхед – работали над созданием системы, которая позволила бы выразить мысль в ее чистейшей (следовательно, божественной) форме. Но несмотря на весь гений, заложенный в создание новых систем, им все равно приходилось иметь дело с темницей тела.
Что ж, если философия не преуспела в деле освобождения ума, может преуспеть технология. Google намерена добиться успеха там, где потерпел поражение Декарт, за исключением того, что она отбросила все философские вопросы, не дававшие тому покоя. Там, где Декарт подчеркивает важность скепсиса и сомнения, Google не сомневается никогда. Она превратила освобождение человеческого мозга в инженерную задачу, а этот род деятельности характерен тем, что вопрос о чисто человеческих последствиях проекта часто вообще не ставится. Именно эта аморальность и есть проблема Google, более того – всей вычислительной отрасли с самого начала ее существования.
Алан Тьюринг был атеистом и одиночкой. Он наслаждался положением аутсайдера. Когда мать отправила его, тринадцатилетнего, в английскую школу-интернат со всеми ее прелестями в виде холодного душа и жесткой постели, он отправился туда на велосипеде один, преодолев около шестидесяти миль за два дня. Он, вероятно, был стеснительным и странным. Чтобы справиться с сенной лихорадкой, одолевавшей его каждый раз в июне, он носил противогаз. Его мать писала: «Лучше всего он чувствовал бы себя в уединении средневекового монастыря». Его отчуждение от окружающих усугублялось тем, что он был геем в обществе, где гомосексуальность считалась преступлением.
Декарт высоко ценил изоляцию, так часто выпадавшую на долю Тьюринга. И действительно, у него моменты уединения часто оборачивались чудесными озарениями. По словам британского философа Стюарта Хэмпшира, Тьюринг обладал «даром уединенного мышления». Он был способен к невероятной сосредоточенности, ограждавшей ум от заученной мудрости и шаблонных мыслей, характерных для его коллег. Как-то летом 1935 года, лежа в яблоневом саду, он изобрел нечто, названное им Логической вычислительной машиной. Его озарение, будучи перенесенным на бумагу, стало фундаментом цифровой революции.
Инженерия считается синонимом рациональности. Профессия, предмет которой – системы и планы, не может не быть врагом спонтанности и инстинкта. Тьюринг определенно наслаждался ролью язвительного ученого брюзги, с удовольствием высмеивая всех тех, кто изо всех сил пытался представить возможные последствия внедрения инноваций. «Когда-нибудь девушки будут брать свои компьютеры на прогулку в парк и говорить друг другу: «Мой маленький компьютер сказал мне сегодня утром такую забавную вещь!» – остроумно замечал он.
Забавно, что он сам подчас заслуживал подобного отношения. В наиболее важных своих работах Тьюринг не просто перечислял очевидные факты, он активно обобщал их, индукция вообще была характерна для его стиля мышления. Читатель, у которого достало бы умения пробиться сквозь его полные чувства собственного превосходства остроумные заключения и блестящую логику, смог бы в конце концов увидеть, что автор мыслит скорее в терминах духовных. Возможно, математики и логики исключили существование Бога, но на сверхъестественную роль того, кто вдыхает жизнь в неживую материю, они назначили себя. И это изменило их самих.
Тьюринг верил, что компьютер – не просто машина, это еще и ребенок, способный учиться. Временами он описывал свое изобретение так, словно это был мальчик из английской школы-интерната, приобретающий какие-то знания только благодаря изрядной дозе наказаний и куда более скромному количеству поощрений. В то же время он никогда не сомневался в его потенциале. «Можно надеяться, что машины постепенно смогут соревноваться с людьми во всех чисто интеллектуальных сферах деятельности» – эти слова он написал в 1950-е годы, когда компьютеры были огромными ящиками, мало на что годными, разве что немного помочь с подсчетами. Едва ли они давали основания полагать, что со временем смогут сравняться с человеческим мозгом, и все же Тьюринг верил в это. Он изобрел тест, при помощи которого можно оценить интеллект компьютера: человек передает вопросы в письменном виде человеку и машине, находящимся в другой комнате. Получив два набора ответов, спрашивающий определяет, какой из них дан человеком. Тьюринг предсказывал, что не более чем через 50 лет спрашивающий не сможет уверенно отличить человека от машины.
Это предсказание задало направление прогресса в компьютерную эру. С тех пор инженеры тщетно пытались сконструировать машину, способную пройти тест Тьюринга. Для большинства исследователей, работающих над искусственным интеллектом, работа представляет собой погружение в океан математики, захватывающее интеллектуальное приключение. Но для некоторого (довольно, впрочем, значительного числа) это – теологическая проблема. Они видят себя в центре проекта, способного изменить мир, и успех этого проекта будет означать рассвет новой эпохи. Первосвященник этой религии – красноречивый и дерзкий популяризатор науки по имени Рэй Курцвейл.
Его восторженное представление о будущем родилось в величайшей катастрофе прошлого. Тень Холокоста лежит на нем. Его родители, венские евреи, бежали накануне аншлюса. Лишения и трудности, которые преследовали семью много лет подряд, подкосили здоровье его отца, дирижера симфонического оркестра, интеллектуала: он умер от сердечного приступа в возрасте пятидесяти восьми лет, и для Курцвейла, похоже, это до сих пор не зажившая рана. Подобно многим детям, чьи родители видели худшее из возможного в этой жизни, он противопоставил пессимизму истории свой рожденный из воли железный оптимизм. С самого юного возраста он был захвачен духом изобретательства. Семнадцатилетним подростком он участвовал в шоу Стива Аллена “I’ve Got a Secret” («У меня есть тайна»). Он виртуозно играл на фортепиано, а затем попросил жюри угадать, в чем его тайна. Под их давлением он в конце концов признался, что эту музыку сочинил компьютер. Аудитория была этим потрясена, но еще больше потряс ее тот факт, что нескладный подросток из Квинса изобрел машину, тут же показанную на сцене. Он гордо продемонстрировал Аллену гору проводов, мигающих лампочек и переключателей – настоящее изделие безумного гения.
Курцвейл был идеальным инженером, уверенным в своей способности разрешить любую загадку. Едва закончив Массачусетский технологический институт, он заявил своему другу, что хочет изобретать так, чтобы «слепые прозрели, глухие услышали, а хромые пошли». В возрасте двадцати семи лет он изобрел машину, читавшую вслух слепым. Простое описание изобретения не передает его дерзости. Слепой мог поместить книгу в сканер, передававший текст в компьютер, который затем уже читал его вслух, вот только до Курцвейла планшетного сканера не существовало.
Эта машина превратила его в настоящего героя для слепых, ведь она радикально изменила их жизни. Стиви Уандер, например, становился перед ним на колени. Они подружились. Для своего нового друга Курцвейл сконструировал клавиатуру, которая соответствовала по качеству концертным роялям лучших залов мира.
При всем своем оптимизме Курцвейл не мог избежать страха, вернее, одного, главного из всех страхов. Его ум часто обращался к мысли о смерти, и это было «такое предельно грустное, одинокое чувство, что я едва мог вынести его», – говорил он. Но и это, поклялся он, было всего лишь задачей, разрешимой средствами инженерии. Чтобы продлить свою собственную жизнь, он начал маниакально глотать таблетки: витамины, добавки, ферменты. Его дневной рацион состоит приблизительно из 150 подобных капсул. (Ему также регулярно делают инъекцию, должную, как он верит, спасти его от неизбежного.) В посвященном ему документальном фильме, выдержанном в восторженных тонах, мы видим его скользящим между гостями на коктейльной вечеринке с бокалом красного вина в руке. Он заглатывает таблетки, как простое драже, не прерывая светской беседы с незнакомцами. Позже мы узнаем, что это – в своем роде продакт плейсмент: он основал компанию Ron and Terry’s Longevity Products, выпускающую многие из принимаемых им таблеток и эликсиров.
Но фармацевтика для Курцвейла – побочный бизнес. Его основной источник дохода – пророчества. Он фанатично верует в ИИ (искусственный интеллект), который изучал в Массачусетском технологическом вместе с пионерами этого направления, и страстно желает того рая на земле, который тот должен создать. У этого рая есть имя – «сингулярность», или «технологическая сингулярность». Он позаимствовал этот термин у писателя-фантаста Вернона Винджа, в прошлом – профессора математики, который, в свою очередь, взял его у астрофизиков. Так называется область, где пространство-время перестает быть непрерывным, и потому конечное становится бесконечным. Курцвейл вкладывает в этот термин другое значение: это момент времени, когда ИИ станет всемогущим, когда компьютеры научатся проектировать и строить другие компьютеры.
Такой «сверхинтеллект», разумеется, создаст другой сверхинтеллект, еще могущественней себя, и так далее по цепочке постгуманистических поколений.
В этой точке теряют смысл любые предсказания: «сильный ИИ в сочетании с нанотехнологиями смогут создать любой продукт, любое положение вещей, любую среду, которую мы только сможем себе представить».
Будучи ученым, Курцвейл верит в точность. Прогнозы он строит, не подбрасывая монетку, а экстраполируя данные. На самом деле он загрузил в свой компьютер все, что нам известно об истории человечества, и обсчитал эти данные. Прогресс технологии, пришел он к выводу, течет нелинейно – это никогда не заканчивающийся экспоненциальный взрыв. «В каждом эволюционном периоде развитие ускорялось благодаря опоре на предыдущие достижения», – пишет он. Курцвейл назвал это наблюдение «законом ускоряющейся отдачи» (“The Law of Accelerating Returns”). По его мнению, человечество вот-вот разгонит локомотив прогресса до предела: мы на пороге качественных скачков в генетике, нанотехнологии, робототехнике. Эти достижения позволят нам, наконец, избавиться от «хрупкого» и «ограниченного» тела и мозга – того, что он называет «биологическими телами версии 1.0». Мы полностью сольемся с машинами, наше существование станет полностью виртуальным, наш мозг будет загружен в компьютер. Его научный прогноз относит рассвет сингулярности к 2045 году.
Человечество наконец исполнит мечту Декарта об освобождении ума из темницы тела. Как формулирует Курцвейл, «мы будем программным обеспечением, а не аппаратным», и сможем вселяться в любую аппаратную платформу по выбору. Не будет разницы между нами и роботами. «Какова, в конце концов, разница между человеком, усовершенствовавшим свой мозг и тело при помощи нано- и компьютерных технологий, и роботом, приобретшим интеллект и чувства, превосходящие те, которыми обладали создавшие его люди?»
Тогда мир быстро изменится. Компьютеры будут выполнять все основные человеческие задачи, освободив человечество для досуга. Страдание и смерть исчезнут. Технология решит проблему дефицита ресурсов, вечное проклятие нашей жизни. Даже сексуальная жизнь станет интереснее: «виртуальный секс будет доставлять более интенсивные и приятные переживания, чем традиционный». Некоторые могут делать вид, что с этой дороги можно свернуть, но они обманываются. Питер Диамандис, один из наиболее уважаемых мыслителей в Кремниевой долине, выражается довольно резко: «Всякий, кто думает сопротивляться этому прогрессу, будет сопротивляться эволюции. И в конце концов вымрет».
Курцвейл осознает метафизические следствия из своей теории. Одну из своих работ он назвал «Эра духовных машин» (“The Age of Spiritual Machines”). Его описание жизни после сингулярности можно без преувеличения назвать восторженным. «Наша цивилизация распространится наружу, превращая косную материю и энергию, которую мы встретим на своем пути, в высшей степени разумную – я бы сказал трансцендентную – материю и энергию. Так что в некотором смысле можно сказать, что Сингулярность, в конце концов, наполнит Вселенную духом». У Курцвейла даже есть складское помещение, где он хранит все бумаги своего отца, вплоть до бухгалтерских книг, в ожидании дня, когда сможет воскресить его. Когда религиовед Роберт Герачи изучал Курцвейла и других поклонников сингулярности, он заметил, насколько точно их вера следует христианским апокалиптическим текстам. «Апокалиптический ИИ – законный наследник всех этих религиозных пророчеств, а не побочный их отпрыск, – заключает он. – В идее об апокалиптическом ИИ технологический прогресс и религиозные категории настолько хорошо сходятся, что это пугает».
Технологическую сингулярность никак нельзя назвать государственной религией Кремниевой долины. В ней есть районы, где идеи Курцвейла презирают. Джон Маккарти, отец ИИ, однажды сказал, что хотел бы дожить до 102 лет, только чтобы посмеяться над Курцвейлом, когда в назначенный им час сингулярность не наступит. И тем не менее среди поклонников Курцвейла есть самые сливки технологической отрасли. Билл Гейтс, например, называет его «лучшим специалистом по будущему искусственного интеллекта». Джон Маркофф из New York Times, наиболее влиятельный репортер, освещающий вопросы технологии, говорит: «Курцвейл – представитель сообщества лучших и самых талантливых людей в Кремниевой долине». То есть и лучших умов Google в том числе.
Ларри Пейдж любит представлять себе, что не покидал академической науки. В конце концов, Google начался как докторская диссертация, а источником вдохновения относительно устройства поисковой машины послужил принцип отбора академических публикаций. Сын профессора, он знал, как исследователи оценивают свою работу. Критерием служит количество ссылок на нее в работах других. Его момент озарения пришел, когда он увидел, что Паутина и профессора подобны: гиперссылки были похожи на академические ссылки – и те, и другие представляли собой, каждые в своем роде, форму рекомендации. О полезности веб-страницы можно судить по количеству ссылок на нее, размещенных на других страницах. Придумав этот алгоритм, он дал ему название, явно намекавшее на него самого: PageRank.
Научные исследования – любимое дитя Пейджа, и в этого ребенка Google вкладывает огромные суммы: например, в прошлом году компания потратила 12,5 млрд долларов на научно-исследовательские работы и на проекты, которые заведомо не начнут приносить прибыль в обозримом будущем. Компания, если можно так выразиться, построила парадный вход с вращающимися дверьми, через которые входят звезды академической науки, лучшие профессора, чтобы присоединиться к наиболее дерзким предприятиям Google. Если возникает выбор между интересами бизнеса и чистотой научного познания, то Пейдж не просто выберет чистоту науки, а постарается, чтобы все об этом узнали. В этом и лежит секрет непрерывного успеха Google на протяжении многих лет. Если другие поисковые машины продавали верхние места в выдаче, то Google избегал такого излишне коммерческого образа действий. Компания всегда могла, не кривя душой, заявить, что ее результаты поиска получены научными методами.
Этот идеализм отчасти предназначен для публики, но главным образом порожден культурой компании. «Google – не обычная компания. И у нас нет стремления сделать ее таковой», – гордо заявляли Пейдж и Брин в письме на имя Комиссии по ценным бумагам и биржам (SEC), сопровождавшем начальное публичное размещение ее акций в 2004 году Можно было воспринимать эти слова как пустую риторику, но на Уолл-стрит они вызвали ощутимое беспокойство. Те, кто мог наблюдать жизнь компании вблизи, заметили, что она старалась не брать на работу типичных выпускников программ MBA. Она упрямо сопротивлялась созданию отдела маркетинга. Пейдж гордился, что нанимает инженеров на позиции, которые в другой компании отдали бы человеку с дипломом в области, скажем, финансов. Даже когда количество сотрудников Google стало измеряться десятками тысяч, Пейдж лично просматривал досье каждого кандидата, желая удостовериться, что компания не отходит слишком далеко от своих инженерных корней.
Наиболее ярким выражением идеализма Google стал ее часто служивший мишенью для разнообразных шуток девиз “Don’t be evil”, что можно перевести как «Сторонись зла». Понять значение этого девиза и увидеть в нем решительную декларацию собственных ценностей легче, если знать, что Google никогда не предназначала его для внешнего употребления. Google хотела обратить внимание сотрудников на свою благородную и одновременно амбициозную миссию. Можно сказать, что она решила прикрепить к самой себе что-то типа наклейки Post-it, чтобы та напоминала о необходимости никогда не вести себя так эгоистично и узколобо, как Microsoft, технологический король, которого она намерена была свергнуть. Девиз стал широко известен, когда генеральный исполнительный директор Эрик Шмидт случайно упомянул его в интервью Wired и вызвал тем недовольство многих сотрудников, понявших, что теперь Google станет легкой мишенью для насмешек. (Со временем Google отказался от использования этого девиза.) Когда Ларри Пейдж произносит речи, он обычно говорит серьезно. И тезисы, которые он повторяет часто, дают представление о его истинных, поистине масштабных намерениях. У него есть талант выражаться скромно и в то же время напыщенно: «Мы сейчас достигли, наверное, 1 % возможного. Хотя изменения происходят все быстрее, все равно мы движемся слишком медленно для возможностей, которые перед нами открываются».
Чтобы понять намерения Пейджа, нужно понять, какие бывают виды искусственного интеллекта. Все, что делается в этой отрасли, можно грубо отнести к двум школам. Есть школа эволюционная, дорожащая всем достигнутым до сих пор: например, такими победами, как алгоритм PageRank или программное обеспечение, читающее неразборчивый почерк на чеках. Эта школа практически не надеется, что компьютеры когда-либо обретут нечто хотя бы отдаленно похожее на человеческий разум. Вторая школа, революционная, склоняется к взглядам Курцвейла и вере в сингулярность. Они стремятся создать компьютер с так называемым «сильным искусственным интеллектом».
Основную часть своей истории Google была сосредоточена на эволюционных изменениях. Вначале ею управлял Эрик Шмидт, немолодой опытный менеджер; инвесторы Google заставили Пейджа и Брина принять его в качестве «взрослого» руководителя. Это не означает, что Шмидт был лишен амбиций. В эти годы Google оцифровал и загрузил на свои сервера все существующие на планете книги и создал продукты, используемые сегодня повсеместно: Gmail, Google Docs, Google Maps.
Но эти амбиции никогда не имели того масштаба, который устроил бы Ларри Пейджа. В 2011 году он вернул себе угловой офис, а вместе с ним и пост главного исполнительного директора, который занимал при рождении Google. И он переориентировал компанию в сторону сингулярности. Со временем он подружился с Курцвейлом и привлек его к совместной работе над рядом проектов. Вернувшись на свой прежний пост, Пейдж нанял Курцвейла в качестве технического директора и поставил перед ним задачу научить компьютеры читать – то есть осуществить экспоненциальный прорыв, который может ускорить наступление эры сверхразума, так ожидаемой Курцвейлом. «Это кульминация тех практически 50 лет, которые я занимаюсь искусственным интеллектом», – сказал он сразу после подписания контракта с Google.
В своих выступлениях перед сотрудниками Пейдж настойчиво возвращается к метафоре американской лунной программы. У Google есть своя программа, похожая на «Аполлон», нацеленная на создание «сильного» искусственного интеллекта, и она носит название Google Brain – и это название вызывает пугающие ассоциации. («Политика Google по многим вопросам состоит в том, чтобы дойти непосредственно до той точки, где становится страшно, и не двигаться дальше», – метко выразился Эрик Шмидт.) Google возглавила возвращение в оборот концепции, рожденной в 60-е годы, но до нынешнего дня неудачной: нейронные сети, то есть моделирование работы человеческого мозга и его методов обучения программными средствами. Google взяла на работу профессора Джеффа Хинтона, британца по происхождению, достигшего наибольшего прогресса в этой области. Они также приобрели лондонскую компанию DeepMind, создавшую нейронные сети, способные обучать самих себя, без указаний человека, играть в видеоигры. Поскольку складывающееся положение вещей, когда настолько сильными алгоритмами владеет одна компания, вызывало опасения у DeepMind, она настояла, чтобы Google никогда не использовала бы ее продукцию в военных целях и не продавала бы ее разведывательным службам.
Насколько глубоко верит Google в технологическую сингулярность? Вряд ли каждый в компании согласен с идеями Курцвейла. Один из наиболее знающих и опытных инженеров Google, Питер Норвиг, возражал против закона ускоряющейся отдачи. Сам Ларри Пейдж никогда не высказывался относительно Курцвейла публично. В то же время в действиях компании прослеживается закономерность, отрицать которую невозможно. В 2008 году Google помогла Курцвейлу профинансировать Университет сингулярности – 10-недельную программу для выпускников университетов, проходившую в кампусе NASA в Кремниевой долине. Сам Курцвейл выступал в ней в качестве сооснователя, чтобы таким образом пропагандировать свои идеи. Google пожертвовала миллионы долларов, чтобы студенты могли участвовать в программе бесплатно. «Если бы я был студентом, то хотел бы находиться именно здесь», – говорил Пейдж. Компания позволила себе еще несколько причуд, определенно связанных с идеей технологической сингулярности. Например, она вложила значительные суммы в стартап Calico, намеревавшийся решить проблему смерти, не размениваясь на такие сравнительно тривиальные вещи, как рак. «Вот что показалось мне тогда поразительным, – говорит Пейдж в интервью журналу Time. – Если решить проблему рака, можно прибавить к средней продолжительности жизни примерно три года. Мы воспринимаем победу над раком как огромное достижение, способное изменить мир. Но по большому счету – да, много людей заболевает раком, и каждый раз это трагедия, и это все очень печально, но победа над ним даст нам не так много, как можно было бы подумать». Google, скорей всего, не достигнет ни одной из своих целей, и его «лунная программа» обернется простым фейерверком. Тем не менее эти проекты свидетельствуют о всемирной перспективе, взятой компанией, и об удивительно цельном наборе ценностей и убеждений.
Сингулярность – это не просто представление о будущем. Она предполагает определенный взгляд на настоящее. Согласно радужной теории Ларри Пейджа относительно жизни на Земле мы вплотную подошли к эре всеобщего изобилия и удивительных чудес – то есть ставки так высоки, что было бы глупо, даже жестоко, не ускорить наступление дивного нового дня. Некоторые слепы по отношению к открывающимся возможностям, из-за своего луддизма или от слабости воображения. Но такова природа научных революций: их двигают вперед еретики и нарушители правил. Эта труднейшая задача движется дерзостью, упрямством и изрядной долей безответственности. В погоне за будущим Google часто обдумывает и разрабатывает технологии, способные существенно изменить устоявшиеся в человечестве обычаи. Ее подход состоит в том, чтобы в подобной ситуации с изрядной долей рвения продолжать движение вперед, без лишних раздумий, в полной уверенности в том, что она находится на стороне добра.
Когда компания решила оцифровать все книги на земле, она расценивала законы об авторских правах как незначительное препятствие, не стоящее даже секунды сомнений. Разумеется, Google не могла не предвидеть, как ее проект будет воспринят. Вот почему она стала действовать тихо, стараясь избежать излишнего внимания. «В этой процедуре был определенный элемент игры в разведчиков, прикрытый сверху еще одним слоем необходимости скрываться, – вспоминает Стив Леви свою работу в программе, – словно ты выскакиваешь на улицу из ночного клуба в 50-е, чтобы покурить травки». Грузовики Google подъезжали к библиотекам, чтобы загрузиться ящиками с книгами, тихо отвезти их на сканирование и вернуть назад. «Если нет причины рассказывать об этом, то зачем рассказывать?» – оборонялся Ларри Пейдж, когда у него публично требовали признать существование программы. Главный юрист компании без обиняков описывал позицию своих коллег по отношению к программе: «Руководство Google не слишком беспокоят прецеденты и право». Прецедентом в данном случае была насчитывающая несколько столетий практика защиты интеллектуальной собственности, а последствиями могли бы быть разорение издательской индустрии и зависящих от нее писателей. Другими словами, Google задумала интеллектуальное ограбление исторических масштабов.
Зачем же это понадобилось Google? На поверхности лежит очевидный ответ: чтобы сохранить превосходство. Выдача их поисковой машины должна быть самой полной, самой точной, лучшей среди конкурентов. Перед ними лежала богатейшая сокровищница человеческого знания; грех было бы ими не воспользоваться и не включить их в поиск. Но у этого поступка есть и менее очевидные мотивы: когда историк технологий Джордж Дайсон посетил Googleplex, один инженер заметил ему буднично, словно речь шла о чем-то само собой разумеющемся: «Мы сканируем все эти книги не для людей, а для ИИ». Если это правда, то становится более понятна секретность, которой Google окружил свое мероприятие. Величайшее собрание знаний мира послужило просто материалом для обучения машин, жертвой на алтарь технологической сингулярности.
Google – компания без определенных границ, или, точнее, компания с непрерывно расширяющимися границами. Вот почему страшно слушать Ларри Пейджа, говорящего, что конкуренция только приводит к растрачиванию ресурсов впустую, и превозносящего сотрудничество как метод организации работы. «Отрицательные величины – не наш способ движения к прогрессу, а что еще важнее, у нашей игры ненулевая сумма. Будет ли вам интересно приходить на работу, если лучшее, что вы можете сделать, – это без усилий разорить компанию, занимающуюся примерно тем же, чем и вы?» Еще страшнее слушать его, когда он размышляет вслух, как в Google когда-нибудь будет работать свыше миллиона человек, в двадцать раз больше, чем сегодня. Это не просто заявка на доминирование в отрасли, где у компании нет настоящих соперников, а нечто гораздо более серьезное: констатация готовности Google навязать свои ценности и богословские убеждения всему миру.
Назад: Глава 1. Долина едина, и мир един
Дальше: Глава 3. Марк Цукерберг против свободы воли

RogerSog
RXNT Electronic Prescribing