Глава 5
Краткая заметка о сингулярности
Не существует ни одной общепринятой версии технологической сингулярности. Это свет, сияющий над горизонтом Силиконовой долины, появляющийся то как религиозное пророчество, то как прогноз технологического развития. Нет предела богатствам, которые, по утверждению верующих, принесет сингулярность, нет конца рассказам о них. В самом широком смысле этот термин относится к тому времени, когда машинный интеллект будет значительно превосходить возможности своих человеческих создателей и когда биологическая жизнь подчинится технологиям. Это своего рода крайность технического прогрессивизма, вера в то, что универсальные технологии решат неразрешимые проблемы мира.
Эта идея в той или иной форме существует уже по меньшей мере полвека. В 1958 году Станислав Улам в некрологе своему коллеге, физику Джону фон Нейману, с которым они работали над Манхэттенским проектом, вспомнил их разговор об «ускоряющемся прогрессе технологий, изменениях в жизни людей и приближении некоторой важной вехи в истории, когда все изменится».
Первое подробное изложение принципов технологической сингулярности обычно приписывается математику и писателю-фантасту Вернору Винджу. В эссе «Грядущая технологическая сингулярность: как выжить в постчеловеческой эре», впервые представленном на конференции NASA в 1993 году, Виндж заявил, что «в течение ближайших тридцати лет у нас появятся технологические средства для создания сверхчеловеческого интеллекта. Вскоре после этого человеческая эра закончится». Виндж неоднозначно относился к последствиям этой великой трансцендентности: она могла ознаменовать как завершение всех наших проблем, так и полное уничтожение нашего вида. Но то, что она грядет, не вызывает никаких сомнений. Как и у многих мыслителей эры миллениума, предсказания Винджа характеризуются странным историческим детерминизмом: сингулярность невозможно предотвратить, уверен он, так как ее появление – это неизбежное следствие нашей конкурентоспособности и возможностей технологии. А еще, пишет он, все мы – инициаторы этого процесса.
Ближе всего к канонической сингулярности лежат идеи Рэя Курцвейла – изобретателя многих гениальных устройств (планшетного сканера, устройства воспроизведения текстов для слепых). Курцвейл вместе со Стиви Уандером является соучредителем компании Kurzweil Music Systems, синтезаторы которой используют Скотт Уокер, группа New Order и «Странный Эл» Янкович. Как писатель он является противоречивой фигурой, мистиком делового стиля, чьи тайные проекции содержат спекуляции о самых далеких техноутопических достижениях. Но Курцвейл ни в коем случае не маргинал технического мира. Он скорее опекун Силиконовой долины – этот статус был более или менее формализован в 2012 году, когда Рэя пригласили в Google на должность директора по инженерным вопросам: так он стал главным идеологом направления машинного обучения в компании.
Сингулярность Курцвейла – широкое видение технологического изобилия, тщательно продуманная телеология, в которой вся история человечества сводится к апофеозу чистого разума. «Как мы можем ощутить сингулярность?» – спрашивает он на первых страницах своего бестселлера «Сингулярность приближается: когда люди выйдут за рамки биологии» (The Singularity Is Near: When Humans Transcend Biology). И отвечает: «Подобно Солнцу, на которое легче смотреть, слегка прищурившись». Он пророчествует, что сингулярность ожидается к 2045 году или около того. Курцвейл, который, как известно, ежедневно принимает огромное количество биологически активных добавок и витаминов и продвигает свой собственный бренд эликсиров и капсул, сдерживающих смерть, уверен, что он все еще будет здесь в свои девяносто семь.
Как прорицатель технологического будущего он формулирует главный постулат, именуемый «законом ускоряющейся отдачи». Курцвейл говорит о том, что технологии постоянно нарастают, имея экспоненциальный характер – по аналогии со сложными процентами в финансовой сфере. Сегодняшний уровень технологий – это основа, на которой мы разрабатываем технологии будущего. Чем более сложной становится технология, тем быстрее она совершенствуется (наиболее известный пример этого феномена – «закон Мура» – привел в 1950-х годах Гордон Мур, соучредитель корпорации Intel: количество транзисторов, которое можно разместить на кристалле интегральной схемы, удваивается примерно каждые восемнадцать месяцев). Процесс дарвиновской эволюции, по Курцвейлу, имеет экспоненциальный характер, явно стремящийся к ожидаемому концу. Эволюция – это не слепое и хаотичное движение, не случайный набор ужасов и чудес, а скорее система или «процесс создания моделей возрастающей сложности». Другими словами, эволюция стремится к идеальному порядку и регулированию машин. И именно эта эволюция моделей, логическая последовательность, в которой «каждая ступень или эпоха использует методы обработки информации предыдущей эпохи, чтобы создать будущее», по Курцвейлу, является «главной историей нашего мира».
Курцвейл рисует картину будущего, в котором вычислительные устройства продолжат становиться все меньше и все мощнее, пока ускоренная эволюция технологий не станет главной движущей силой нашей собственной эволюции. Он говорит о том, что нас больше не будут окружать компьютеры: мы поместим их в свои тела (в мозг и в кровь), тем самым изменяя природу человеческого бытия. В самом ближайшем будущем (то есть при жизни самого Курцвейла, как он надеется) это будет не только возможно, но и необходимо, учитывая недостаточные вычислительные мощности даже самых эффективных человеческих мозгов.
Будущее Курцвейла может показаться привлекательным, если вы уже приняли механистический взгляд на человеческое существо и согласились с пионером искусственного интеллекта Марвином Мински в том, что мозг – всего лишь компьютер из плоти. Почему бы нам не перейти на более высокий уровень функциональности? Если мы понимаем компьютер как аппарат, построенный для выполнения конкретной задачи, то наша задача как аппарата – думать и вычислять на самом высоком уровне. При такой инструменталистской точке зрения на человеческую жизнь наш долг или по крайней мере смысл нашего существования состоит в том, чтобы в первую очередь увеличивать свою вычислительную мощность. Мы, подобно машинам, должны быть эффективны и долговечны настолько, насколько это возможно.
«Наша версия биологического тела 1.0, – пишет Курцвейл, – довольно хрупкая и имеет мириады сбоев, не говоря уже об обременительных процедурах обслуживания. Хотя иногда человеческий интеллект способен парить в порыве творчества, большинство человеческих мыслей стандартны, жалки и ограниченны». Как только начнется сингулярность, мы перестанем быть беспомощными и примитивными существами, машинами из плоти, ограниченными в мыслях и действиях телом, нашим нынешним субстратом. «Сингулярность, – пишет он, – позволит нам преодолеть ограничения биологических тел и мозгов. Мы обретем власть над своей судьбой. Мы возьмем под контроль смертность. Мы сможем жить так долго, как того захотим (это не то же самое, что жить вечно). Мы полностью поймем принципы человеческого мышления и значительно расширим и обогатим его. К концу этого столетия небиологическая часть нашего интеллекта станет в триллионы триллионов раз мощнее человеческого разума».
Мы, наконец, освободимся от падшего состояния человечества, освободимся от плоти. Мы вернемся к догреховному состоянию целостности, окончательному союзу, в котором технологии заменят бога. «Сингулярность, – пишет Курцвейл, – станет кульминацией слияния нашего биологического мышления и наших технологий и приведет к появлению в мире человека, выходящего за рамки биологии. В постсингулярной эпохе уже не будет никакого различия между человеком и машиной или между физической и виртуальной реальностью». На критику о том, что такое объединение может уничтожить человечество, Курцвейл возражает, что на самом деле сингулярность – это главное достижение человечества как проекта, высшее проявление нашего постоянного стремления к преодолению нашей физической и умственной ограниченности, которое всегда определяло и отличало нас как вид.
В своем труде «О граде Божьем» блаженный Аврелий Августин описывает «всеобщее знание», выходящее далеко за пределы нашего воображения, называя его Божьей милостью. Он пишет: «Вообразите, насколько это ясное, верное, чуждое заблуждению и не требующее труда абсолютное знание… и какое у нас будет тело, полностью подчиненное духу и изобильно им оживляемое, не нуждающееся ни в какой другой пище».
В пророчестве Курцвейла интеллекту отводится мессианская роль. Приписывая ему мистическое значение, он тем не менее рассматривает интеллект с точки зрения вычислений, формализованного механизма, влияющего на информационное сырье существа. И с такой мессианской точки зрения искусственный интеллект придет спасти Вселенную от непредсказуемых глупостей.
Курцвейл использует целенаправленный подход к космологии и навязывает сквозь глубину времени самой Вселенной корпоративную проектную структуру планирования, состоящую из ряда ключевых этапов. В последней из «шести эпох эволюции», которая придет после великого слияния человечества и искусственного интеллекта, разум «начнет насыщать материю и энергию». «Это будет достигнуто, – пишет Курцвейл, – путем реорганизации материи и энергии для обеспечения оптимального уровня вычислений, которые позволят начать экспансию космоса от истоков на планете Земля». Благодаря бережному ведению хозяйства бесконечная пустота Вселенной, поддающаяся безжалостным силам энтропии после четырнадцати миллиардов лет бездействия, в конце концов будет задействована в огромном механизме обработки данных.
Мы видим Рэймонда, стоящего на пляже на закате и устремившего взгляд к безмятежному пространству Тихого океана, в одной из необычных сцен «Трансцендентного человека» – документального фильма 2009 года о жизни и работе ученого. В предшествующей сцене мы слушаем его рассказ о предсмертном разговоре с отцом. Услышав голос диктора, спрашивающего Курцвейла, о чем он думает, когда смотрит на море, мы могли бы ожидать, что он поделится мыслями о смертности, если не о своей собственной, то по крайней мере смертности тех, кому не повезло жить вечно. Курцвейл делает длительную паузу, камера начинает двигаться вокруг него.
– Хорошо, – отвечает он, – я думаю о том, как много вычислений в океане. Все эти молекулы воды взаимодействуют друг с другом. Все это – вычисления. Довольно красиво. Я всегда находил вычисления очень успокаивающими. И ведь это действительно необходимо, чтобы уловить трансцендентные моменты нашего сознания.
Курцвейл стоит перед необъятными просторами Тихого океана, его волосы слегка треплет легкий ветерок. Он кажется оракулом, проводником в тайны технологии, пророком грядущего мира, где бесконечный машинный интеллект наконец освободит нас от бремени человеческой сущности.
Он смотрит на океан и видит огромное и замысловатое устройство, в котором нет ничего, кроме информации, ничего, кроме исходного материала для интеллекта. Вода, ее температурные колебания, изобилие живущих в ней организмов, ритмичный прибой – все это необъятные вычисления и код. Море как особый способ рассуждения о самой мысли – это метафора. И в этом проявляется вычислительный пантеизм, почтение к природе как к проявлению универсальной машины, алгоритмической имманентности.
