В этой главе мы исследовали вопрос, как искусственный интеллект может помочь значительно улучшить нашу жизнь в ближайшее время и как нам избежать различных опасностей на этом пути. Но как насчет долгосрочной перспективы? Остановится ли в конце концов прогресс AI-технологий из-за непреодолимых препятствий, или ученым удастся преуспеть в достижении их изначальной цели – создания универсального искусственного интеллекта на уровне человеческого? Мы видели в предыдущей главе, как законы физики позволяют фрагментам материи запоминать, вычислять и обучаться, и эти законы отнюдь не запрещают таким фрагментам однажды достичь гораздо большей разумности, чем та, которой обладают сгустки материи в наших головах. Достижимо ли это, и если да, то когда люди смогут преуспеть в создании такого сверхчеловеческого универсального AI, гораздо менее ясно. Мы видели в первой главе, что мы этого просто пока еще не знаем, потому что ведущие мировые специалисты в области искусственного интеллекта пока не пришли к единому мнению, и большинство из них дают оценки от десятилетий до столетий, а некоторые даже отрицают саму возможность. Прогнозировать сложно: вы путешествуете по неизведанным территориям, вы не знаете, сколько гор отделяет вас от места назначения. Обычно вы видите только ближайшие к вам, и нужно долго карабкаться, прежде чем вы сможете увидеть следующее препятствие.

Что же может нас ждать в ближайшей перспективе? Даже если бы мы знали наилучший из возможных способов построения универсального искусственного интеллекта на уровне человеческого с помощью сегодняшних аппаратных возможностей компьютеров, – а мы его не знаем, – нам все равно надо было бы немало сделать, чтобы обеспечить достаточную вычислительную мощность, необходимую для этого. Так какова же вычислительная мощность человеческого интеллекта, если измерять ее в битах и флопсах на языке главы 2? Это крайне сложный вопрос, и ответ существенно зависит от того, как мы его поставим:

По вопросу 1 было очень много статей, и в них обычно дается ответ: порядка петафлопсов, то есть 10¹⁷ флопсов. Что примерно соответствует вычислительной мощности Sunway TaihuLight (рис. 3.7), самого быстрого суперкомпьютера в мире на 2016 год, стоимостью около $300 млн. Даже если бы мы знали, как его использовать для симуляции мозга высококвалифицированного работника, прибыль от этого могла бы случиться только при условии, что аренда TaihuLight для нас оказалась меньше, чем почасовая оплата труда работника. Но нам, вероятно, придется платить даже еще больше, потому что, как считают многие ученые, для точного воспроизведения работы мозга нам недостаточно рассматривать его как математически упрощенную модель нейронной сети из главы 2. Возможно, нам вместо этого нужно симулировать его работу на уровне отдельных молекул или даже субатомных частиц, что требует значительно большего числа флопсов.

Sunway TaihuLight – самый быстрый суперкомпьютер в мире по состоянию на 2016 год. Как утверждается, его первичная вычислительная мощность превосходит мощность человеческого мозга.

Проще ответить на вопрос 3: я мучительно плохо умножаю 19-значные числа, и каждое такое действие потребовало бы много минут, даже если бы вы позволили мне воспользоваться карандашом и бумагой. Это сразу отправляет меня в диапазон 0,01 флопса, отъедая 19 порядков от ответа на вопрос 1! Огромное несоответствие объясняется тем, что человеческий мозг и суперкомпьютер оптимизированы под очень разные задачи. Похожие расхождения мы бы получили, пытаясь ответить на такие вопросы:

И какой же из этих двух вопросов о быстродействии поможет нам спрогнозировать будущее искусственного интеллекта? Ни тот и ни другой! Если бы мы хотели симулировать работу человеческого мозга, ответ на вопрос 1 был бы нам интересен, но чтобы понять, какой уровень быстродействия нужен для создания универсального искусственного интеллекта на уровне человеческого, нам надо ответить на вопрос, располагающийся посередине – вопрос 2. На него пока еще никто не знает ответа, но вычислительная мощность самого мозга может оказаться значительно ниже той, которая требуется для симуляции его работы, и всё обойдется дешевле, если мы либо адаптируем “софт”, чтобы он лучше соответствовал современным компьютерам, или создадим “хард”, больше похожий на мозг (чему будет способствовать быстрый прогресс так называемых нейроморфных чипов).

Ганс Моравец сделал оценку ответа, произведя сравнения типа “баш на баш” для вычислений, в которых и наш мозг, и современные компьютеры достаточно эффективны: некоторые виды низкоуровневой обработки изображений, которые сетчатка человека выполняет в задней части глазного яблока перед отправкой его результатов в мозг по оптическому нерву. По этой оценке репликация вычислений на сетчатке с помощью обычного компьютера потребует около миллиарда флопсов, а весь мозг делает примерно в десять тысяч раз больше вычислений, чем сетчатка (Моравец использовал соотношение объемов и количества нейронов), так что вычислительная мощность мозга около 10¹³ флопсов – это примерно соответствует мощности оптимизированного компьютера за $1000 в 2015 году!

Конечно, нет абсолютно никакой гарантии, что мы преуспеем в создании универсального искусственного интеллекта на уровне человеческого при нашей жизни – или вообще когда-нибудь. Но нет и ни одного “железного” аргумента, что нам это точно не удастся. Нет никаких убедительных оснований думать, что нам не хватает “скорострельности” нашего “харда” или что он окажется слишком дорог. Мы не знаем, как далеки мы от финишной ленточки в отношении архитектуры, алгоритмов и программного обеспечения, но прогресс быстр, и возникающие затруднения успешно преодолеваются растущим мировым сообществом талантливых исследователей искусственного интеллекта. Иными словами, мы не можем исключить возможности, что универсальный искусственный интеллект рано или поздно достигнет человеческого уровня, а может, и превзойдет его. Поэтому давайте посвятим следующую главу изучению этой возможности и посмотрим, к чему такое может привести.

• Уже нынешний прогресс искусственного интеллекта обладает колоссальным потенциалом к значительному улучшению нашей жизни бесконечным числом способов: от решения личных проблем каждого конкретного члена общества, увеличения эффективности электросетей и избегания кризисов на финансовых рынках до сокращения смертности – на дорогах в автомобильных авариях благодаря беспилотным автомобилям, на операционных столах благодаря использованию хирургических ботов и просто от болезней благодаря диагностическим системам с искусственным интеллектом.

• Принципиальный вопрос при передаче под контроль искусственному интеллекту реальных систем состоит в том, чтобы научиться следить за его надежностью, гарантировать, что искусственный интеллект делает именно то, чего мы от него хотим. Это сводится к решению сложных технических проблем, связанных с тестированием, валидацией, обеспечением надежности и управляемости.

• Необходимость повышения устойчивости особенно важна для AI-систем оружия, где ставки исключительно высоки.

• Многие ведущие исследователи в области искусственного интеллекта и робототехники призывают к подписанию международных соглашений о запрещении некоторых видов автономного оружия, чтобы избежать начала новой неконтролируемой гонки вооружений, чреватой появлением легкодоступных видов убивающих автоматов, которые смогут приобретать все, у кого есть хотя бы немного денег в бумажнике и ненависти в сердце.

• Искусственный интеллект может сделать наши судебные инстанции более справедливыми и эффективными, если только мы сможем понять, как сделать работу роботов-судей прозрачной и непредвзятой.

• Правовой системе надо быстрее реагировать на изменения ситуации с искусственным интеллектом, которые способствуют возникновению неожиданных казусов, связанных с конфиденциальностью, регулированием и привлечением к ответственности.

• Задолго до того, как у нас появятся основания беспокоиться о вытеснении нас разумными машинами из жизни вообще, они будут все больше вытеснять нас на рынке труда.

• Это не обязательно плохо – до тех пор, пока общество перераспределяет долю создаваемого искусственным интеллектом богатства ради всеобщего блага.

• Тем не менее, по утверждениям многих экономистов, сохраняется опасность значительного увеличения неравенства.

• При опережающем планировании общество с низкой занятостью может процветать не только в материальном плане, но и обеспечить людей чувством осмысленного существования за счет деятельности за пределами профессии.

• Карьерный совет для нынешних детей: идите в те профессии, с которыми машинам сложнее справиться: где надо работать с другими людьми, где выше доля непредсказуемости и творчества.

• Возможностью, что создаваемый универсальный искусственный интеллект может достичь человеческого уровня или даже превзойти его, нельзя пренебрегать. Мы изучим ее в следующей главе.