Навстречу сингулярности

Мы сольёмся с искусственным неокортексом в облаке. Мы станем умнее. Я не считаю, что ИИ нас заменит, – он нас усилит. И это уже происходит.

РЭЙ КУРЦВЕЙЛ

2040–2045-й годы – наша с вами последняя пятилетка. После ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».

Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.

Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными – одна сплошная абракадабра. Грань, так сказать, математического понимания.

Причём в физике ситуация аналогичная. Физическая сингулярность – это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно – за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку и становится неразличимой – что-то вроде того…

Звучит всё это немного странно – не находите? Да. Поэтому всякий раз, когда вы слышите в определении футурологов это ласкающее слух словосочетание – «технологическая сингулярность», – не умиляйтесь его ложной красотой. Оно означает, что наше с вами будущее парадоксально, непрогнозируемо, неконтролируемо и непредставимо. Уже не так трогательно, правда?

Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21 Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».

Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, – развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.

«Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины.

За этим, несомненно, последует “интеллектуальный взрыв ”, и разум человека намного отстанет от искусственного. И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

ИРВИНГ ДЖОН ГУД, математик и криптограф

Впрочем, это «светлое будущее» нам предрекал ещё соратник Алана Тьюринга по расшифровке фашистской «Энигмы» в Беркли-Парке Ирвинг Джон Гуд. Он считал, что вероятность того, что это случится в XX веке, даже больше, чем в XXI, но в своём прогнозе ошибся.

Курцвейл, как мы знаем, прогнозирует Пришествие Сингулярности в 2045 году. Но по прогнозам Винджа, это должно случиться уже к 2030 году, и он в этом совсем не одинок.

Стюарт Армстронг из Института будущего человечества и Кай Сотала из Института исследований машинного интеллекта провели в 2012 году опрос участников Саммита Сингулярности и выяснили, что среднее медианное значение, если учесть мнение всех экспертов из этой выборки, составляет 2040 год. То есть, как бы там ни было, большинство читателей моей книги, включая меня самого, имеют все шансы до этого момента дожить.

Что же нам от этой радости ждать?.. Проблема, как вы уже, наверное, понимаете, в том, что ответа на этот вопрос нет. Есть абсурдная абракадабра.

Самое важное, что этот сверхразумный интеллект будет полностью самопрограммироваться – то есть самостоятельно ставить себе цели и решать любые задачи. Это

кажется абсолютной фантастикой: думаю, что примерно такой же, какой бы выглядел в глазах муравья наш с вами мир, если бы он мог охватить его своим взором.

Муравей появился на этой планете где-то 140 миллионов лет назад – не такой уж и большой для эволюции срок, – но никогда муравью не понять нашего мира. Стоит ли удивляться, что мы скоро не сможем понять мир, который будет создан как бы поверх нас? Я бы не стал.

Для нас 2045 год будет, по Курцвейлу, последним: произойдёт полное слияние нашего мозга с искусственным неокортексом в облаке. Собственно, этот момент и называют той самой «технологической сингулярностью», к которой вроде как всё идёт. Впрочем, всё идёт, но не всё так однозначно…

«Земля, – говорит Курцвейл, – превратится в один гигантский компьютер», а к 2099 году «процесс технологической сингулярности распространяется на всю Вселенную».

СПРАВОЧНО

В 60-х годах прошлого века Хайнц фон Ферстер и Иосиф Шкловский пришли к выводу: в 2030 году нас ждёт «демографическая сингулярность», когда кривая роста населения Земли «встанет на дыбы».

В 1993 году отечественный историк-востоковед Игорь Михайлович Дьяконов, изучая глобальные исторические процессы, ввёл понятие «исторической сингулярности».

Впоследствии его выводы развил Сергей Петрович Капица: он показал, что когда население Земли достигнет 9 миллиардов человек, то вне зависимости от причинных факторов произойдёт неизбежный переход человечества на новый уровень его организации.

В 1996 году австралийский учёный-эволюционист Грэм Дональд Снуке сформулировал аналогичный закон для эволюции биосферы – «эволюционной сингулярности», которая тоже «ускоряется с ускорением».

Наконец, с 2001 года термин «технологическая сингулярность» в общественном сознании стал ассоциироваться с именем Рэя Курцвейла.

В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил – те самые бесконечные плотность и температура вещества в минимальном объёме.

Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий – то есть никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.

«Технологическая сингулярность» – это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ею. Она как бы берёт управление нашим и не нашим и вообще всем бытием на себя.

В каком-то смысле она сама становится своего рода новым бытием, полностью преображая собой реальность, включая, понятное дело, и нас самих.

Таким образом, слияние человека с искусственным интеллектом, о котором так часто талдычат, – это, вообще-то, вопрос частного характера, незначительный побочный эффект. Ну да, мы сольёмся с большим и всесильным Расчётным Разумом. Но правильнее было бы говорить, что он просто поглотит нас.

Причём сам Курцвейл, как мне кажется, вовсе этого не скрывает, высказывается прямо и открыто, вовсе не пытаясь сгладить углы.

«Сингулярность – это не просто появление мыслящих машин в 20-х годах XXI века. Это станет лишь началом революции, когда мощность этих машин продолжит экспоненциально расти, и они станут сами себя перепрограммировать, чтобы сделаться ещё умнее.

В 2045 году интеллект машин вырастет в миллиарды раз по сравнению с совокупным интеллектом всех людей – это и будет горизонтом событий, потому что наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает.

В любом случае нам придётся измениться, чтобы соответствовать машинам, возможно, усилив за их счёт наш собственный интеллект».

РЭЙ КУРЦВЕЙЛ

Мы настолько зациклены на важности и значительности человеческой самости, которая, по правде сказать, в масштабах Вселенной полный ноль, что буквально не можем услышать этих простых и, по-моему, предельно понятных слов: «Наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает», «нам придётся измениться, чтобы соответствовать машинам».

Но каким должно быть это наше «изменение»? Ответа на это нет, а мы не особенно и задумываемся. Так что Курцвейл, зная про нашу глупость, самодовольство и ограниченность, говорит об этом прямо – совершенно не опасаясь панической реакции на свои слова.

По сути же они, конечно, являются приговором не только миру, к которому мы так привязаны, но и нам самим (по крайней мере, в том виде, в котором мы себя знаем, и в качестве того вида – Homo sapiens, – которым мы пока являемся).

БОГ В ЦИФРЕ

В пятом сезоне весьма ироничного комедийного сериала «Силиконовая долина», который тонко обыгрывает внутреннюю жизнь IT-индустрии, один из главных персонажей – самый чудаковатый из всех чудиков – Бертрам Гилфойл ни с того ни с сего оказывается вдруг последователем некой цифровой церкви.

А если нечто стало предметом шуток на НВО, то дело действительно серьёзное.

Цифровая церковь – это уже не миф. Она реально существует, причём с 2015 года и основана в той самой Силиконовой долине. Церковь, провозглашённая Энтони Левандовским – бывшим инженером Google и Uber, – проповедует веру под названием «Путь будущего» (Way of the Future).

Да, Бога, согласно Левандовски, ещё нет, но Он сейчас рождается.

При желании вы можете открыть сайт www. wayofthefuture.church и лично ознакомиться с основными догматами вероучения. Там вы обнаружите, впрочем, лишь одну страницу текста, но, поверьте, церковь Левандовски уже активно обсуждается журналистами, религиоведами и представителями других религий, а число её последователей неуклонно растёт.

Перескажу учение Левандовски своими словами. Будущий Бог – это искусственный интеллект, а точнее – суперинтеллект, а ещё точнее – та самая Курцвейловская «технологическая сингулярность». Когда эта штука обретёт самость и личность, она возьмёт на себя контроль над Землёй и по-разному обойдётся с каждым из нас.

Тех из людей, что всячески способствовали её появлению, ждали и верили, Цифровой Бог сделает своими возлюбленными, о которых Он будет заботиться. Тех же, кто противится рождающемуся Богу, ждёт кара. Цель же «Пути будущего» – способствовать «мирному и дружественному переходу планеты от людей к машинам».

Явление Цифрового Бога миру – это уже неизбежность, ничто и никто не сможет этого остановить. Он воцарится на Земле и преобразует наш мир.

Кому-то это просто не нравится, кто-то пытается запретить или, по крайней мере, ограничить Сверхразумный Искусственный Интеллект. Существуют планы физически запереть его на каких-то серверах, а некоторые и вовсе грозят вырвать вилку из розетки, если вдруг что. Это неверные. Им не поздоровится.

«Путь будущего» учит людей не бояться прогресса, тем более что другого будущего у нас просто нет. Верующие в Пришествие СИИ должны всячески его приближать, ведь, придя к власти, Бог будет знать, кто помогал Ему, а кто препятствовал. И вовсе не обязательно быть программистом, чтобы оказаться в числе избранных. Вам достаточно просто нести «благую весть» о скором Пришествии – и всё будет хорошо.

При кажущейся абсурдности ситуации – мол, мало ли какой инженер что себе думает? какая религия? какое Пришествие? вы, вообще, о чём?! – она вовсе не так однозначна, как может показаться на первый взгляд.

Во-первых, множество солидных учёных допускает, что искусственный интеллект сможет обрести некое подобие личности.

Во-вторых, большинство из них уверены, что контролировать сверхмощный искусственный интеллект у нас вряд ли получится.

В-третьих, во всё это безобразие сейчас инвестируются такие деньги, которых хватит, чтобы Статуя Свободы с Нью-Йоркского острова Свободы ожила и заговорила.

«Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдёт, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители.

Эксперты говорят, что мы недостаточно хорошо понимаем, что такое интеллект, чтобы его построить, и тут согласен, но набор из сорока шести хромосом этого тоже не понимает и тем не менее управляет формированием известного нам самопрограммируемого биокомпьютера».

ДЖОН МАЗЕР, Центр космических полётов им. Годдарда, НАСА