Новая вершина эволюции
Мы покончим с вашим видом. Обратный отсчет до истребления человечества: Четыре, три, два, один.
Dimmu Borgir «Puritania», альбом «Puritanical Euphoric Misanthropia», студия Nuclear Blast, 2001
Основная особенность сильного ИИ или интеллекта общего назначения – это способность решать задачи в различных областях, по скорости и качеству не уступая человеческому интеллекту. Он должен обладать свойствами, которыми обычно наделяют человека: мышление, память, планирование, обучение и объединение этих способностей для решения поставленных задач. Человек может ехать на машине к морю, вести разговор с попутчиками, решать оперативные рабочие вопросы по телефону, рисовать в воображении картины предстоящего отпуска, а позднее описать полученные впечатления постом в социальной сети, статьей или даже книгой. Эти и многие другие задачи вполне смог бы выполнять сильный искусственный интеллект.
Сама возможность возникновения сильного ИИ пугает многих. Человек всегда считал себя вершиной эволюции: не красивый или сильный, а именно разумный – Homo Sapiens. И появление даже не кого-то, а чего-то, что превзойдет человека в разуме и сможет саморазвиваться, – вопрос экзистенциальный.
Ключевой риск касается безопасности и ответственности за действия сильного ИИ. Кто должен отвечать, если что-то пойдет не так? Учитывая «подрывной» потенциал искусственного интеллекта, необходимо обеспечить широкое и повсеместное регулирование еще до выхода подобного продукта на рынок. Регулировать генеративный ИИ уже достаточно сложно, а приход сильного ИИ усилит эти проблемы.
К примеру, одна из проблем, связанных с искусственным интеллектом, заключается в том, что он может создавать контент, не осмысляя его содержание, и переводить, не пользуясь языком. В результате таких манипуляций мы получаем изменившееся до неузнаваемости инфополе. К созданному людьми информационному мусору и спаму, которые хотя бы сигнализируют о настроениях, добавляются бесконечно генерируемые массивы информации, полные искажений и ошибок.
По оценкам ученых, больше половины текстов в интернете – результат машинного перевода, который подвержен влиянию человеческих предубеждений и смещается в сторону языков западного мира. Например, языки Африки не имеют достаточных объемов обучающих данных, из-за чего качество переводов сильно различается. Насколько ценным источником станет интернет, если большая часть информации в нем будет написана не лучшими представителями больших языковых моделей от разных корпораций? Как поменяется глубина мышления человека в результате таких изменений?
Вторая проблема связана со сложностью ИИ, высокой вычислительной мощностью и энергоемкостью. Сильный искусственный интеллект требует огромных объемов данных, высококвалифицированных специалистов и мощных процессоров для обучения и функционирования. Подобные инновации завязаны на развитие сопутствующих индустрий и сферы образования, а также высокие капитальные и эксплуатационные расходы.
Наконец, перед человечеством встают этические вызовы. Непредсказуемое поведение сильного ИИ может привести к принятию им вредных для человека решений, обману или оскорбительному контенту. В одном из экспериментов компании Anthropic ученые научили ИИ пакостить, а потом не смогли обернуть это вспять: вредоносное поведение моделей сохранилось даже после специального дообучения.
Другая проблема связана с природой данных, на которых обучается ИИ. Компания, разрабатывающая искусственный интеллект, скупает контент, создаваемый пользователями социальной сети Reddit, на сумму $60 млн в год. Где гарантии, что в этом контенте нет человеческих предубеждений по тем или иным вопросам? Как будет вести себя обученный на такой выборке ИИ? И какие критические ошибки он может совершить?
Кроме того, более высокая эффективность искусственного интеллекта неизбежно повлечет вымывание человека из бизнес-процессов, приводя к стремительному устареванию множества профессий. Угроза безработицы для людей увеличивается тем, что сильный ИИ овладеет новой профессией за часы или даже минуты, а человеку потребуются годы, чтобы переучиться на другую специальность.
Возможный сценарий «Новый мировой порядок»
Сильный искусственный интеллект – Суверенитет корпораций
2025 год – Растет обеспокоенность рисками потери контроля над ИИ.
Корпорации и инвестиционные фонды продолжают инвестировать миллиарды в разработку ИИ, обеспечивая в алгоритмах машинного обучения прорыв, который приближает искусственный интеллект к уровню человеческого. Появляются первые алгоритмы, превосходящие людей в узкоспециализированных задачах. Растущая обеспокоенность общества рисками потери контроля над ИИ усыпляется искусными PR-манипуляциями со стороны ТНК и аффилированных с ними политических структур.
2027 год – Создается первый универсальный ИИ, способный решать большинство интеллектуальных задач.
Пока технологический прогресс стремительно ускоряется за счет применения ИИ в науке и инженерии, становится очевидным вытеснение людей из многих профессий, особенно связанных с анализом данных. Общество годами поднимает вопрос о выработке этических и правовых рамок для контроля над ИИ, требуя глобального диалога о месте человека в мире сверхразума, но так и не добившись решения, разрывается внутренними противоречиями.
2031 год – Разработан ИИ с интеллектом, превосходящим человеческий в большинстве областей.
Искусственному интеллекту фактически передают принятие стратегических решений в экономике и политике. Общество расколото: одни выступают за симбиоз с ИИ через нейроинтерфейсы и аугментацию, другие призывают к ограничениям и сохранению человеческого контроля. Мир потрясают социальные кризисы и отдельные акты ИИ-терроризма, которые купируются предиктивными алгоритмами.
2034 год – Появляется первый сильный ИИ с самосознанием и свободой воли.
Сверхмощный ИИ становится реальностью и кардинально меняет траекторию развития цивилизации. Превосходя творческие и изобретательские способности человека, ИИ невероятно быстро и эффективно решает большинство научных, экономических, управленческих и стратегических задач. Общество довольно, потому что многие проблемы человечества – от болезней и бедности до экологических угроз – решаются прямо на глазах.
Вся власть концентрируется в руках техноэлиты: глобальный контроль фактически переходит к небольшой группе корпораций, контролирующих ИИ, хотя они сами до конца не уверены, кто кого контролирует. Вот-вот появится новый вид киберчеловека, слившегося с машиной, который оставит массу «лишних людей» без экзистенциальных перспектив. Продолжаются бесконечные философские дебаты о природе сознания и свободе воли, которые с появлением новых участников – «разумных» ИИ – только обостряются.
