ГЛАВА 9
Закон прогрессирующей отдачи
В настоящее время информатика проходит самую замечательную трансформацию с момента изобретения персонального компьютера. Новшества следующего десятилетия превзойдут все новшества трех предыдущих десятилетий вместе взятых.
Пол Отеллини, исполнительный директор Intel
В книгах «Эпоха духовных машин: Когда машины превосходят человеческий интеллект» (The Age of Spiritual Machines: When Computers Exceed Human Intelligence) и «Сингулярность рядом» (The Singularity Is Near) Рэй Курцвейл воспользовался словом «сингулярность», кардинально изменив его значение и обозначая им яркий, полный надежд период человеческой истории, который инструменты экстраполяции позволили разглядеть с замечательной точностью. Где-то в ближайшие 40 лет, пишет он, техническое развитие пойдет с такой скоростью, что человеческое существование фундаментально изменится, а ткань истории порвется. Машины и биологические объекты станут неразличимы. Виртуальные миры будут более живыми и захватывающими, чем реальность. Нанотехнологии позволят производить что угодно на заказ, будут побеждены голод и бедность и найдены лекарства от всех человеческих болезней. Вы сможете предотвратить и даже обратить вспять старение собственного тела. Это будет самая значительная эпоха, жить в ней станет прекрасно не только потому, что мы будем свидетелями поистине поразительных скоростей технологического превращения, но и потому, что техника обещает подарить нам способы жить вечно. Это заря уникальной, или «сингулярной», эпохи.
Что же такое в конечном итоге сингулярность? Это период в будущем, в ходе которого технологические перемены станут настолько стремительными, а их влияние настолько глубоким, что человеческая жизнь необратимо изменится. Эта эпоха, не будучи ни утопичной, ни антиутопичной, изменит концепции, придающие сегодня нашей жизни смысл, от бизнес-моделей до цикла человеческой жизни, включая саму смерть…
Взгляните на истории о Гарри Поттере с этой точки зрения. Возможно, все эти рассказы — лишь игра воображения, но они вполне могут представлять картину нашего мира, каким он станет всего через несколько десятилетий. Значительная часть поттеровской магии будет реализована при помощи технологий, о которых я расскажу в этой книге. Игра в квиддич и превращение людей и предметов во что-то иное будут вполне возможны не только при полном погружении в виртуальные реальности, но и в реальной реальности при использовании специальных наноустройств.
Так что сингулярность «не будет ни утопичной, ни антиутопичной», зато мы сможем играть в квиддич! Очевидно, сингулярность Курцвейла решительно отличается от сингулярности Вернора Винджа и интеллектуального взрыва Гуда. Можно ли примирить их между собой? Неужели это будет одновременно и лучшее, и худшее время для жизни? Я прочел почти каждое слово, опубликованное Курцвейлом, и прослушал все доступные аудио- и видеозаписи и подкасты. В 1999 г. я взял у него длинное интервью для документального фильма, посвященного, в частности, искусственному интеллекту. Я знаю все, что он написал и сказал об опасностях ИИ, и это очень немного.
Однако, как ни удивительно, именно Курцвейлу мы отчасти обязаны существованием самого аргументированного очерка по данному вопросу — статьи Билла Джоя «Почему мы не нужны будущему?». В ней Джой — программист, специалист по архитектуре компьютеров и один из основателей компании Sun Microsystems — призывает к замедлению или даже остановке исследований по трем направлениям, которые, как он считает, смертельно опасно развивать нынешними темпами: это искусственный интеллект, нанотехнологии и биотехнологии. Джой написал об этом после пугающего разговора в баре с Курцвейлом и прочтения его книги «Эпоха духовных машин» (The Age of Spiritual Machines). В ненаучной литературе и популярных лекциях об опасностях ИИ, мне кажется, только три закона Азимова цитируются чаще, хотя и не всегда к месту, чем это эссе Джоя, оказавшее заметное влияние. Вот короткий отрывок — суть его позиции по ИИ:
Но сейчас, когда появление вычислительных мощностей человеческого уровня ожидается примерно лет через 30, напрашивается новая идея: может быть, я работаю над созданием инструментов, при помощи которых станет возможна постройка технологий, которые, в конце концов, заменят наш биологический вид. Как я чувствую себя в этой связи? Очень неуютно. Всю свою профессиональную жизнь я бился над созданием надежных программных систем, и мне представляется более чем вероятным, что это будущее получится не таким замечательным, каким его, может быть, вообразили некоторые. Мой личный опыт говорит о том, что мы склонны переоценивать свои конструкторские способности. Учитывая невероятную мощь этих новых технологий, разве нам не следует задаться вопросом о том, как лучше всего сосуществовать с ними? А если наше собственное вымирание является вероятным или хотя бы возможным результатом нашего технического развития, разве нам не следует действовать в этом направлении с величайшей осторожностью?
Разговор с Курцвейлом в баре может дать начало международному обсуждению, но, говоря откровенно, несколько предостерегающих слов теряются у него в море интереснейших предсказаний. Он настаивает, что его описание будущего — не утопия, но я с ним не согласен.
Мало кому удается писать о технологиях более убедительно и с большим знанием дела, чем это делает Курцвейл, — он всегда заботится о том, чтобы его слова были ясны и понятны, и тщательно аргументирует свои мысли. Однако мне кажется, что он совершил ошибку, присвоив слово «сингулярность» и придав ему новое радужное значение. Настолько радужное, что мне, как и Винджу, становится страшно от этого определения, полного убедительных образов и идей, маскирующих опасность. Я уверен, что проделанный им ребрендинг преуменьшает опасность ИИ и раздувает наивные перспективы его использования. Начав с обсуждения технологий, Курцвейл создал культурное движение с сильным привкусом религии. Мне кажется, что смешивать технический прогресс и религию — большая ошибка.
Представьте себе мир, где разница между человеком и машиной размывается, где граница между человечеством и техникой пропадает, где душа и кремниевый чип едины… Во вдохновенных руках [Курцвейла] жизнь в новом тысячелетии уже не кажется пугающей. Напротив, XXI век, по Курцвейлу, обещает стать эпохой, когда брак между человеческой сущностью и искусственным интеллектом фундаментально изменит и улучшит нашу жизнь.
Курцвейл — не просто крестный отец вопросов сингулярности, вежливый и упорный спорщик и неутомимый, хотя и несколько механистичный, пропагандист. Вокруг него собралось достаточно молодых людей, живущих на грани сингулярности. Как правило, сингуляритариям немного за тридцать, в основном они мужчины и они бездетны. По большей части это белые интеллектуалы, услышавшие зов сингулярности. Многие из них в ответ на этот зов бросили то, чем занимались, и отказались от карьеры, которую могли бы одобрить их родители, в пользу почти монашеской жизни, посвященной вопросам сингулярности, — и горды этим. Среди них много самоучек, отчасти благодаря тому, что ни одна университетская программа не предлагает специализации одновременно в компьютерных науках, этике, биоинжиниринге, нейробиологии, психологии и философии, — короче говоря, в науках, имеющих отношение к сингулярности. Курцвейл — один из основателей Университета сингулярности, который не аккредитован и не присваивает степеней. Однако обещает «широкое кросс-дисциплинарное представление о крупнейших идеях и вопросах трансформационных технологий». К тому же многие сингуляритарии слишком умны и самостоятельны, чтобы вписаться в традиционную систему образования. Да и мозги у них устроены так, что мало какой колледж или университет захотел бы иметь их в своем кампусе.
Некоторые сингуляритарии избрали главным догматом своей веры рациональность. Они считают, что повышение интеллекта и логических способностей людей, в первую очередь тех, кто завтра будет принимать решения, понижает вероятность того, что все мы совершим самоубийство посредством ИИ. Наш мозг, утверждают они, полон странных предрассудков и эвристических механизмов, которые очень пригодились нам в ходе эволюции, но которые при столкновении с комплексными рисками и выборами современного мира навлекают на нас одни лишь беды. При этом главный объект их внимания — не негативная катастрофическая, а благотворная позитивная сингулярность. В ней мы сможем воспользоваться технологиями продления жизни, которые позволят нам жить и жить без конца, вероятно, уже в механической, а не в биологической форме. Иными словами, очисти себя от неверных мыслей — и найдешь спасение от мира плоти, и откроешь жизнь вечную.
Неудивительно, что движение сингулярности часто называют «Блаженство чокнутых» (Rapture of the Geeks) — как движение оно имеет все отличительные особенности апокалиптической религии, включая ритуалы очищения, отказ от бренного человеческого тела, предвкушение вечной жизни и неоспоримого (в некоторой степени) харизматического лидера. Я всей душой согласен с идеей сингуляритариев о том, что ИИ — самое важное, о чем нужно размышлять в настоящий момент. Но когда дело доходит до разговоров о бессмертии, я пасую. Мечты о вечной жизни сильно искажают окружающее. Слишком многие сингуляритарии верят, что интенсивное взаимопроникновение технологий не приведет к катастрофам, которых мы могли бы ожидать от каждой из них в отдельности, или к комплексным катастрофам, которые мы тоже могли бы предвидеть, но даст вместо этого совершенно противоположный результат. Оно спасет человечество от того, чего мы больше всего боимся. От смерти.
Но как можно компетентно оценить технологии? Нужно ли, и если нужно, то как регулировать их развитие, если вы уверены, что те же самые технологии позволят вам жить вечно? Даже самые рационально мыслящие люди в мире не в состоянии трезво оценивать собственную религию. И, как говорит ученый Уильям Грасси, если обсуждается преображение немногих избранных и жизнь вечная, то не о религии ли идет речь?
Приведет ли сингулярность к тому, что на смену человечеству придут духовные машины? Или результатом станет преображение человечества и превращение людей в сверхчеловеков, живущих вечно в гедонистическом раю рационалистов? Будет ли предшествовать сингулярности период бедствий? Появятся ли немногие избранные, которым известны будут секреты сингулярности, — авангард, а может быть, все, что останется от человечества, и суждено ли им будет увидеть землю обетованную? Все эти религиозные темы неизменно присутствуют в риторике и рассуждениях сингуляритариев, даже если они последовательно не развивают пре- и постмилленаристские интерпретации, столь характерные для донаучных мессианских движений.
В отличие от вариантов развития событий по Гуду и Винджу, сингулярность Курцвейла формируется с помощью трех технологий, приближающихся к точке конвергенции, — генной инженерии, нанотехнологий и робототехники — достаточно широкий термин, который он использует для обозначения искусственного интеллекта. Кроме того, в отличие от Гуда и Винджа, Курцвейл предложил объединенную теорию технологической эволюции; которая, как всякая уважающая себя научная теория, пытается объяснить наблюдаемые явления и делает предсказания относительно явлений будущих. Эта теория получила название Закона прогрессирующей отдачи.
Во-первых, Курцвейл предполагает, что эволюционные процессы развиваются по гладкой экспоненциальной кривой и что техническое развитие — один из таких эволюционных процессов. Как и биологическая эволюция, техника развивает у себя некую способность, а затем использует ее для развития и выхода на следующую ступень. У человека, к примеру, большой мозг и большой палец, которые позволили освоить изготовление орудий и крепкий хват, необходимый для их эффективного использования. Например, печатный пресс повлиял на технологию книжного переплета, повышение грамотности, развитие университетов и на множество других вещей. Паровой двигатель стимулировал промышленную революцию и множество изобретений.
Благодаря привычке опираться на предыдущие достижения сначала технология развивается медленно, но затем крутизна кривой ее роста увеличивается, и в конце концов она выстреливает почти вертикально. Согласно графикам и диаграммам, которые так любит Курцвейл, мы в настоящее время входим в наиболее критический период технологического развития — ту самую круто восходящую часть экспоненциальной кривой, ее «колено». Отсюда можно двигаться только вверх, и двигаться быстро.
Курцвейл разработал свой Закон прогрессирующей отдачи для описания эволюции любого процесса, в котором присутствуют информационные закономерности. Он применяет этот закон к биологии, где преимущества получают более сложные и упорядоченные молекулы. Но еще убедительнее этот закон используется для предсказания скорости изменения информационных технологий, включая компьютеры, цифровые камеры, Интернет, облачные вычисления, оборудование для медицинской диагностики и лечения и многое другое — любую технику, связанную с хранением и извлечением информации.
Курцвейл отмечает, что Закон прогрессирующей отдачи — это, по существу, экономическая теория. Прогрессирующий отклик подпитывается инновациями, конкуренцией, размерами рынка — характеристиками производителей и самого рынка. На компьютерном рынке эффект описывается законом Мура — еще одной экономической теорией, замаскированной под техническую и сформулированной впервые в 1965 г. одним из основателей Intel Гордоном Муром.
Закон Мура гласит, что число транзисторов, которые можно разместить на интегральной схеме для построения микропроцессора, удваивается каждые полтора года. Транзистор — это переключатель с двумя устойчивыми положениями, способный также усиливать электрический заряд. Увеличение количества транзисторов означает большую скорость обработки информации и более быстрые компьютеры. Закон Мура означает, что компьютеры будут становиться все меньше, мощнее и дешевле с достаточно высокой и стабильной скоростью. Это происходит не потому, что закон Мура — настоящий закон природы, как закон всемирного тяготения или второй закон термодинамики. Это происходит потому, что потребитель и рынок стимулируют конкуренцию разработчиков компьютерных чипов и заставляют производить все более компактные, быстрые и дешевые компьютеры, смартфоны, камеры, принтеры, солнечные батареи и, очень скоро, 3D-принтеры. И все это развивается на базе технологий прошлого. В 1971 г. на одном кристалле помещалось 2300 транзисторов. После сорока лет, или двадцати удвоений, их уже было 2600000 000. А с этими транзисторами, более двух миллионов которых может разместиться на точке в конце этого предложения, пришла и скорость.
Приведем наглядный пример. Джек Донгарра, исследователь Национальной лаборатории Оук-Ридж (штат Теннесси) и член команды, отслеживающей скорость суперкомпьютеров, определил, что планшет-бестселлер iPad 2 фирмы Apple работает столь же быстро, как суперкомпьютер примерно 1985 г. Cray 2. Более того, iPad, работающий со скоростью более 1,5 гигафлопа (один гигафлоп соответствует одному миллиарду математических операций в секунду), еще в 1994 г. вошел бы в список 500 самых быстрых суперкомпьютеров мира.
В 1994 г. кто мог бы представить, что меньше чем через поколение суперкомпьютер размером меньше книжки станет уже настолько дешевым, что его будут давать школьникам? Мало того, кто бы поверил, что он способен будет без всяких проводов подключить пользователя к хранилищу знаний человечества? Только Курцвейл оказался настолько смелым: он не делал предсказаний о суперкомпьютерах, но сумел предвидеть взрывной рост интернет-технологий.
В информационных технологиях каждый прорыв дает толчок новому развитию и приближает следующий прорыв — кривая, о которой мы говорили, карабкается вверх все круче. Поэтому, если разговор заходит об iPad 2, то вопрос не в том, чего мы можем ожидать в следующие 15 лет; говорить нужно о том, что произойдет в течение небольшого отрезка времени. Примерно к 2020 г., по оценке Курцвейла, у нас появятся портативные компьютеры, соответствующие человеческому мозгу по вычислительной мощности, но не по интеллекту.
Посмотрим, как можно применить закон Мура к интеллектуальному взрыву. Если считать, что УЧИ достижим, то, согласно закону Мура, для получения ИСИ, или сверхчеловеческого интеллекта, не потребуется, возможно, даже рекурсивного самосовершенствования, о котором обычно говорят в контексте интеллектуального взрыва. Дело в том, что меньше чем через два года после появления УЧИ машины с интеллектом человеческого уровня должны будут удвоить скорость работы. Затем, в следующие два года, нужно ожидать очередного удвоения. Все это время средний человеческий интеллект будет оставаться неизменным, так что очень скоро ИИ человеческого уровня оставит нас далеко позади.
Что произойдет, если интеллект начнет принимать участие в собственной модификации? Елиезер Юдковски ясно объясняет, как быстро после появления УЧИ технический прогресс может выскользнуть из наших рук.
Если сегодня скорость компьютеров удваивается каждые два года, как будут развиваться события, когда ИИ, использующий эти вычислительные мощности, начнет принимать участие в исследованиях?
Скорость компьютеров удваивается каждые два года.
Скорость компьютеров удваивается каждые два года исследований.
Скорость компьютеров удваивается каждые два субъективных года исследований.
Через два года после того, как искусственный интеллект достигает человеческого уровня, скорость его работы удваивается.
Еще через год его скорость вновь удваивается. Полгода — три месяца — 1,5 месяца…
Сингулярность.
Кое-кто возражает, что закон Мура перестанет действовать еще до 2020 г., когда запихивать все больше и больше транзисторов в интегрированные микросхемы станет физически невозможно. Другие думают, что закон Мура сменится еще более стремительным удвоением, когда процессоры пройдут техническую модернизацию и станут использовать для вычислений еще более мелкие компоненты, такие как атомы, фотоны света и даже ДНК. Не исключено, что первыми преодолеют закон Мура 3D-процессорные чипы, разработанные Федеральной политехнической школой Лозанны (Швейцария). Эти процессоры еще не производятся массово. Компонуются они не горизонтально, а вертикально и будут работать быстрее и эффективнее традиционных чипов; кроме того, они готовы к параллельной обработке информации. Компания, одним из основателей которой был Гордон Мур, возможно, уже превзошла количественные показатели его закона, создав первый 3D-транзистор. Припомните, транзисторы — это электрические ключи. Традиционные транзисторы работают, направляя электрический ток по одному из двух путей. Новые транзисторы Tri-Gate фирмы Intel могут направлять ток по трем путям, что дает 30 %-ное увеличение скорости и экономию энергии до 50 %. По миллиарду таких транзисторов будет в каждом из чипов следующей линейки процессоров Intel.
Размещение транзисторов на кристаллах кремния играет важную роль во многих информационных технологиях от фотокамер до медицинских датчиков, так что закон Мура применим и к ним. Но Мур рассуждал об интегральных схемах, а не о множестве взаимосвязанных миров информационных технологий, включающих и продукты, и процессы. Так что более общий закон Курцвейла — Закон прогрессирующей отдачи — подходит больше. К тому же сейчас многие технологии становятся информационными, по мере того как компьютеры и даже роботы все более плотно вовлекаются во все аспекты разработки, производства и продажи новых продуктов. Ведь каждый производитель смартфонов — а не только их процессоров — воспользовался плодами цифровой революции. Прошло всего шесть лет с выхода первой модели iPhone, a Apple выпустила уже шесть версий. За это время фирме удалось более чем удвоить скорость их работы и вдвое или даже больше снизить цену для большинства потребителей. Дело в том, что скорость блоков конечного устройства все это время исправно удваивалась. Но ведь удваивалась и скорость каждого звена производственного конвейера.
Перспективы, которые прогнозирует Закон прогрессирующей отдачи, выходят далеко за рамки компьютерного бизнеса и производства смартфонов. Не так давно один из основателей Google Ларри Пейдж встретился с Курцвейлом, чтобы обсудить глобальное потепление, и расстались они на оптимистичной ноте. Через 20 лет, утверждают они, нанотехнологии позволят использовать солнечную энергию эффективней экономически, чем нефть или уголь. Эта индустрия сможет обеспечить Землю энергией на 100 %. Пока солнечная энергия обеспечивает всего 0,5 % мировых потребностей, но они утверждают, что эта доля в течение последних двадцати лет удваивается каждые два года. Так что еще через два года солнечная энергия будет составлять 1 % мирового потребления, через четыре — 2 %, а еще через 16 лет и 8 удвоений — 256 % мировых энергетических нужд. Даже с учетом роста населения и энергопотребления через 20 лет солнечной энергии должно с избытком хватать на все. Кроме того, если верить Курцвейлу и Пейджу, будет решена и проблема глобального потепления.
Ну, и, скажем так — проблема смертности. По Курцвейлу, средства продления жизни (практически до бесконечности) уже почти готовы.
«Теперь мы имеем реальные средства разобраться в программировании жизни и начать ее перепрограммировать; мы уже умеем выключать гены без всякого вмешательства, мы можем добавлять новые гены и целые новые органы с применением стволовых клеток, — сказал Курцвейл. — Дело в том, что медицина сегодня — это информационная технология, и ее мощность будет удваиваться каждый год. Через двадцать лет эти технологии станут в миллион раз мощнее за те же деньги».
Курцвейл считает, что кратчайший путь к созданию УЧИ — обратное проектирование мозга, то есть тщательнейшее его сканирование и построение набора точно таких же схем. Эти схемы, представленные в виде алгоритмов или реальных физических контуров, нужно подключить к компьютеру как единый синтетический мозг и научить всему, что ему необходимо знать. Несколько организаций работают над подобными проектами создания УЧИ. Чуть позже мы поговорим о некоторых подходах и препятствиях в этом деле.
Скорость развития элементной базы, необходимой для построения виртуального мозга, требует более тщательного рассмотрения. Начнем, пожалуй, с человеческого мозга, а затем перейдем к компьютерам, способным его смоделировать. Курцвейл пишет, что в мозгу около 100 млрд нейронов, причем каждый из них связан примерно с тысячей других нейронов. Все вместе это составляет около 100 трлн межнейронных соединений. Каждое соединение способно производить порядка 200 расчетных действий в секунду (электронные схемы работают по крайней мере в 10 млн раз быстрее). Курцвейл умножает число межнейронных связей в мозгу на число действий в секунду и получает 20 квадриллионов, или 20 000 000 000 000 000 действий в секунду.
Титул самого быстрого суперкомпьютера в мире присуждается новому победителю чуть ли не ежемесячно, но в настоящий момент пальму первенства удерживает Sequoia Министерства энергетики США с шестнадцатью с лишним петафлоп. Это 16 000 000 000 000 000 операций в секунду или, грубо говоря, 80 % от скорости человеческого мозга, рассчитанной Курцвейлом в 2000 г. Однако в 2005 г. в книге «Сингулярность рядом» Курцвейл снизил свою оценку скорости мозга с 20 до 16 петафлоп и предсказал, что суперкомпьютер достигнет такой скорости к 2013 г. Sequoia сделала это на год раньше.
Неужели мы настолько близки к тому, чтобы суперкомпьютеры сравнялись по мощности с человеческим мозгом? Цифры обманчивы. Мозг представляет собой множество параллельных процессоров и прекрасно справляется с определенными задачами, тогда как компьютеры работают последовательно и лучше справляются с другими типами задач. Мозг работает медленно, но эффективно за счет пиков нейронной активности. Компьютеры способны работать быстрее и дольше — по существу, бесконечно.
При этом человеческий мозг по-прежнему остается единственным примером продвинутого интеллекта. «Грубой силе», чтобы с ним состязаться, необходимо демонстрировать впечатляющие когнитивные достижения. Но задумайтесь о том, какие сложные системы обычно моделируют современные суперкомпьютеры! Вот лишь несколько примеров: погода, трехмерные ядерные взрывы и молекулярная динамика для производства. А что человеческий мозг? Аналогичен он по уровню сложности или порядок величины здесь выше? По всем признакам, он в той же обойме.
Возможно, все так, как говорит Курцвейл, и победа над человеческим мозгом уже совсем рядом, а за следующие 30 лет компьютерные науки пройдут тот же путь, что за 140 лет при нынешней скорости развития. Учтите также, что создание УЧИ — тоже информационная технология. Экспоненциальный рост скорости компьютеров позволяет и исследователям ИИ делать свою работу быстрее, то есть писать более сложные и эффективные алгоритмы, браться за непростые вычислительные задачи и проводить больше экспериментов. Более быстрые компьютеры вносят свой вклад в устойчивость индустрии ИИ; та, в свою очередь, готовит больше исследователей и выпускает более быстрые и полезные инструменты для разработки УЧИ.
Курцвейл пишет, что после 2029 г., когда исследователи представят компьютер, способный пройти тест Тьюринга, процессы еще ускорятся. Но он не предсказывает полноценной сингулярности раньше чем через 16 лет после этого события, то есть до 2045 г. Тогда скорость технического прогресса превзойдет способность нашего мозга управлять им. Поэтому, утверждает он, мы должны каким-то образом усилить свои мозги, чтобы удержаться на плаву. Это означает вживление каких-то подстегивающих устройств непосредственно в наши нейронные сети, точно так же, как сегодняшние кохлеарные импланты подсоединяют к слуховым нервам, чтобы преодолеть дефекты слуха. Мы взбодрим медленные межнейронные связи и сможем думать быстрее, глубже, а запоминать больше и легче. Мы получим доступ ко всем знаниям человечества и научимся, подобно компьютерам, мгновенно обмениваться между собой мыслями и впечатлениями. В конечном итоге техника позволит нам улучшить свой мозг, перенеся его на носитель более долговечный, чем живая ткань, или загрузить его содержимое в компьютер, сохранив при этом качества, которые делают нас нами.
Такой образ будущего предполагает, разумеется, что внутреннее «Я» человека, его внутренняя сущность, переносимо, а это очень серьезное предположение. Но для Курцвейла это путь к бессмертию, а также море знаний и опыта за рамками всего того, что мы сегодня способны воспринять. Усиление интеллекта будет проходить настолько постепенно, что мало кто от него откажется. Но «постепенно» означает к 2045 г., то есть примерно за 30 ближайших лет, причем большая часть перемен придется на последние лет пять. Это постепенно? Мне так не кажется.
Как мы уже отмечали, Apple представила на рынок шесть версий iPhone за шесть лет. Согласно закону Мура, их техника была достаточно продвинутой, чтобы пережить за это время два удвоения мощности или даже больше, но на самом деле удвоение прошло лишь одно. Почему? Из-за времени, потерянного на разработку, прототипирование и производство компонентов iPhone, в том числе процессора, камер, оперативной и постоянной памяти, экрана и т. п., а затем на маркетинговые мероприятия и продажу самого iPhone.
Уменьшится ли время, затрачиваемое на маркетинг и продажу? Может быть, когда-нибудь техника, как и программное обеспечение, будет обновляться автоматически. Но это, вероятно, произойдет не раньше, чем наука овладеет нанотехноло- гиями или ЗО-печать станет обыденной. К тому же, когда мы научимся совершенствовать компоненты собственного мозга, вместо того чтобы обновлять Microsoft Office или покушать дополнительные микросхемы памяти, это, по крайней мере поначалу, будет куда более деликатная процедура, чем все, с чем мы сталкивались прежде.
Тем не менее Курцвейл утверждает, что технический прогресс за 100 лет пройдет такой же путь, какой прежде проходил за 200000 лет. Переживем ли мы такую мощь прогресса за такое короткое время?
Николас Карр, автор книги «Пустышка» (The Shallows), утверждает, что смартфоны и компьютеры снижают качество наших мыслей и изменяют форму нашего мозга. В книге «Виртуальный вы» (Virtually You) психиатр Элиас Абуджауде предупреждает нас о том, что социальные сети и ролевые игры способствуют развитию массы расстройств, включая нарциссизм и эгоизм. Погружение в технику ослабляет личность и характер, считает программист и пионер виртуальной реальности Джарон Ланир, автор книги «Вы не гаджет. Манифест». Эксперты дружно предупреждают, что разрушительные эффекты исходят от компьютеров вне наших тел. При этом Курцвейл уверен, что компьютеры внутри нас принесут только пользу. Мне кажется, не стоит ожидать, что сотни тысяч лет эволюции повернут вспять всего за тридцать лет и что нас можно перепрограммировать и заставить полюбить существование, очень сильно отличающееся от всего, к чему нас готовила эволюция.
Более вероятно, что человек сам будет решать, какая скорость перемен его устраивает и с какой скоростью он справится. Каждый сможет выбрать параметры для себя сам, и многие люди остановятся на сходных скоростях, точно так же, как многие выбирают для себя сходные стили, машины и компьютеры. Мы знаем, что закон Мура и Закон прогрессирующей отдачи — это скорее экономические, нежели детерминистские законы. Если достаточное число людей, имеющих в своем распоряжении необходимое количество ресурсов, хочет искусственно ускорять собственный мозг, они создадут некоторый спрос на подобные услуги. Однако мне кажется, что Курцвейл сильно переоценивает стремление людей будущего быстрее думать и дольше жить.
В любом случае мне не кажется, что нас ожидает радостная сингулярность, которую он описывает. ИИ, разработанный без достаточных предосторожностей, не позволит ей реализоваться.
Движение к созданию УЧИ неотвратимо и, вероятно, неуправляемо. А из-за динамики удваивания, выраженной Законом прогрессирующей отдачи, УЧИ появится на мировой сцене (и захватит ее) намного скорее, чем мы думаем.
