Часть III. Древо познания

XX век стал свидетелем масштабных трансформаций, через которые история провела человечество. Среди ключевых вех:

• глубокие потрясения двух мировых войн и создание системы международной безопасности для предотвращения новых катастроф;

• постепенный крах империй и становление независимых государств на их обломках;

• бурное развитие коммерческих и технологических мощностей;

• новый виток борьбы за автономию – индивидуальную, культурную и национальную – как противовес этим тенденциям.

К завершению столетия человечество подошло, достигнув невиданных прежде уровней мирного сосуществования, социального равенства и глобальной взаимозависимости. Однако в других аспектах наши коллективные усилия потерпели неудачу: все так же сохраняются глубокие структурные проблемы, включая устойчивое социальное расслоение, гуманитарные катастрофы и напряженность в отношениях между ведущими мировыми державами.

Более того, современный вызов носит не просто сложный, но фундаментально экзистенциальный характер – в отличие от большинства предыдущих. При этом временные рамки для его решения крайне ограничены: в распоряжении человечества уже нет ни столетий, ни даже десятилетий. Как отмечалось во второй главе, развитие ИИ радикально сокращает доступные временные горизонты, существенно ограничивая пространство для маневра. В этих условиях даже незначительное промедление может привести к необратимым последствиям. В исключительно сжатые сроки нам необходимо обеспечить беспрецедентную эффективность коллективных действий, превосходящую достижения предыдущего столетия.

При этом текущий период нестабильности создает немало значительных возможностей для конструктивных изменений, многие из которых требуют лишь тактических ходов. Сейчас ключевым стратегическим приоритетом становится определение основных принципов, способных служить ориентиром как для текущих, так и для долгосрочных решений. Четкое формулирование таких принципов позволяет очертить границы возможного, создать основу для принятия частных решений, снизить когнитивную нагрузку при наступлении кризисных ситуаций.

С нашей точки зрения, в новую эпоху стратегическое развитие человечества должно определяться центральным вопросом: станем ли мы больше похожи на машины или это они будут походить на нас? Этот вопрос, практически в той же формулировке, мы уже задавали в самом начале нашего исследования. И поиск ответа сохраняет свою первостепенную значимость.

В данной главе мы попытаемся сформулировать – пусть и приблизительный – ответ на этот вопрос. Для этого мы рассмотрим несколько масштабных и, пожалуй, дискуссионных концепций:

• коэволюцию биологических и искусственных систем;

• парадоксы «разумной безопасности», «безопасного интеллекта»;

• проблему определения человеческой природы.

И хотя данные идеи не являются ни абсолютными истинами, ни догматическими положениями, их потенциальное влияние на будущие поколения требует тщательного осмысления. Несмотря на всю сложность поставленных задач, необходимо осуществить комплексную интеллектуальную и практическую работу по анализу последствий и найти разумные решения. Принимая на себя эту ответственность, мы благодарим судьбу за то, что еще, вероятно, не поздно, чтобы, преодолев этот переломный период, человечество сохранило свои гуманистические основы.

История вычислительных технологий демонстрирует устойчивую тенденцию к углублению интеграции человека и машины. Тысячелетиями мы создавали и совершенствовали инструменты, максимально адаптированные под наши анатомию и интеллект, оставаясь в рамках биологических возможностей. Однако с появлением ИИ ситуация изменилась принципиально – теперь обсуждается возможность адаптации человека к технологиям, а не наоборот. Когда созданные нами системы начинают превосходить наши когнитивные способности, возникает закономерный вопрос: не стоит ли нам изменить самих себя, чтобы максимально эффективно использовать эти технологии и сохранить значимую роль в симбиозе, описанном в предыдущих главах?

Современные исследования в области биологической инженерии уже охватывают задачи по созданию интерфейсов «мозг-компьютер». Эти разработки открывают перспективы принципиально нового уровня взаимодействия биологического и искусственного интеллекта, потенциально позволяя:

• расширить возможности взаимодействия человека и машины;

• поддерживать конкурентоспособность человеческого мышления;

• обеспечить передачу знаний между ИИ и людьми;

• сохранить партнерский статус человека в сотрудничестве с ИИ.

Нейроинтерфейсы могут стать не просто следующим этапом технологического развития, а переходом к качественно новой форме существования. Для достижения подлинного паритета с ИИ, вероятно, потребуются более радикальные меры – например, создание специальных генетических линий, оптимизированных для взаимодействия с ИИ. Такие изменения способны преодолеть фундаментальные ограничения в обработке и передаче информации.

Однако подобные трансформации сопряжены с серьезными рисками – этическими, физиологическими и психологическими. Глубокая модификация человеческой природы может лишить нас точки отсчета для оценки будущих угроз. В то же время отказ обрести эти новые способности может поставить под вопрос нашу конкурентоспособность перед собственными творениями. На сегодняшний момент радикальная биомодификация представляется не только преждевременной – мы, авторы, считаем ее даже нежелательной. Однако выбор между вариантами, которые сейчас кажутся чем-то фантастическим, вскоре может стать неизбежным.

Тем временем в попытках определить свою роль в мире, где мы больше не будем единственными и хоть в чем-то значимыми действующими силами, полезно обратиться к теории коэволюции. Чарльз Дарвин подробно описал удивительный процесс взаимного влияния видов в процессе эволюции. Никогда не использовавший этот термин, Дарвин был одним из первых, кто осознал: коэволюция представляет собой ключевую силу, организующую жизнь на Земле.

Геномы взаимодействующих видов взаимосвязаны – с течением времени они изменяются в ответ на особенности и потребности друг друга. Яркий пример – длинные тонкие клювы колибри и вытянутые венчики некоторых цветков: морфологические особенности птицы и растения развивались в тесной взаимосвязи.

Если во времена Дарвина религиозные лидеры видели в таких идеальных подстройках к условиям жизни доказательство божьего промысла, то Дарвин представил альтернативное объяснение.

Принципы коэволюции могут соблюдаться не только в биологии. В астрофизике существует теория, согласно которой расширение Вселенной обусловлено взаимозависимым развитием черных дыр и галактик – процессом, аналогичным взаимодействию колибри и цветов. Более того, если рассматривать коэволюцию как процесс взаимной адаптации нескольких сторон, ее можно обнаружить и в брачных отношениях между людьми, и в платформах политических партий, и в международных отношениях. Яркий пример – гонка наступательных и оборонительных вооружений во время холодной войны, которая в итоге привела к стабилизации ядерного паритета.

Возможно, коэволюция является правилом, а стазис – исключением? Если это так, следует задаться вопросом: является ли наблюдаемая стабильность человеческого вида в эпоху ИИ естественным процессом? Если нет – как нам следует реагировать? Должны ли мы ускорять собственную эволюцию, рискуя утратить человеческую идентичность, или сохранять статус-кво, рискуя оказаться на периферии технологического прогресса?

Многие эксперты выражают опасения, что появление технологии, наделенной превосходящим интеллектом, может поставить под угрозу само существование человечества. Как быть? Если эта перспектива – всего лишь естественный побочный эффект коэволюции, должны ли мы сопротивляться или, наоборот, адаптироваться? Как отмечал французский философ Ален Бадью, «море само создает лодки, выбирая, какие годны, а каким – пойти ко дну».

Чтобы выжить в таких условиях, нам придется, как и в прошлом, учиться строить более совершенные суда. В этом контексте ИИ сначала предстает как угроза, но потенциально может стать нашим партнером.

Однако при таком подходе, пытаясь снизить риски одной технологии, мы увеличиваем опасности другой. Генетическая модификация может привести к разделению человечества на неравные группы. Если в отдельных случаях такие различия могут быть теоретически желательны (например, при создании разновидности людей, биологически адаптированных к условиям космоса), то в других – рискуют усугубить существующее неравенство, углубив разломы как внутри человеческих сообществ, так и между ними.

Еще более тревожными представляются моральные и эволюционные риски. Если ИИ сам будет влиять на усиление человеческих когнитивных способностей, это может породить двойную зависимость – как биологическую, так и психологическую – от искусственного разума. Как ее преодолевать, если возникнет необходимость бросить вызов машинам или отделиться от них, пока неизвестно: ясно лишь то, что в силу глубокой физиологической интеграции и интеллектуального взаимодействия задача была бы крайне сложной. Это подтверждают и аналогии с крайне устойчивой зависимостью, вызываемой другими технологиями.

Но наибольшую тревогу вызывает возможность «коллективной слепоты» – ситуации, когда общество не сможет адекватно оценить последствия глубокой интеграции с ИИ. Как предупреждал Лев Толстой, «без контроля над направлением теряется смысл пункта назначения». Куда бы технологии нас ни повели, мы волей-неволей отправимся именно туда. Или, как уже было замечено, «нация, которая не формирует события согласно своим целям, в итоге будет поглощена чужими». Более того, спасем ли мы человечество, изменив людей до неузнаваемости? Устранив несовершенства и компенсировав недостатки, мы рискуем утратить то, что делает нас людьми. Биологическая «модернизация» может привести к обратному результату и обернуться еще большим ограничением для нас самих.

Учитывая эти риски, биологическая адаптация человека к ИИ не должна рассматриваться как приоритетная стратегия. Вместо этого следует сосредоточиться на альтернативных путях существования. Если мы не готовы или не способны стать более похожими на машины, мы должны – пока еще можем – сделать их более похожими на нас. Это требует глубокого понимания как природы ИИ, так и сущности человечества. Только такой подход позволит сохранить человеческую в эпоху стремительного технологического прогресса.

Царь Мидас – увековеченный мифами правитель одного из малазийских царств – возжелал, как гласит легенда, чтобы все, к чему он ни прикоснется, превращалось в золото. Дионис, греческий бог вина и удовольствий, исполнил это желание, предвидя, впрочем, его губительные последствия. Вскоре царь осознал свою ошибку: ставшая несъедобной пища и вина из чистого золота заставили Мидаса жаждать лишь избавления от оказавшегося смертельно опасным заклятия (помогло ему омовение рук в реке Пактол).

В сирийской сказке про Аладдина, переосмысленной Disney, бедный юноша и могущественный персидский визирь соперничают за власть над всесильным джинном, заточенным в волшебной лампе. Оба пытаются направить силы джинна на исполнение своих желаний. В финале визирь, желая сравняться могуществом с джинном, не осознает, что обрекает себя на ту же участь: теперь он сам будет заключен в волшебную лампу, вынужденный служить новым хозяевам, пока его не освободят.

Оба древних сюжета – и про Мидаса, и про джинна – раскрывают извечную дилемму: как использовать силу, которую мы не до конца понимаем и не можем полностью контролировать? В современном мире эта проблема проявляется в сложностях согласования ИИ с человеческими ценностями и в несоответствии наших ожиданий реальности. ИИ продолжает преподносить сюрпризы, причем его способность удивлять – как в цифровом, так и в материальном мире – будет только расти по мере развития автономных систем, способных к стратегическому планированю. Как отмечалось в одной из глав, будущие поколения ИИ могут обрести не просто самосознание, но и собственные интересы. Уже сегодня некоторые системы учатся самостоятельно определять свои цели через «рекурсивное самоусовершенствование». Это бросает принципиально новые вызовы: ИИ может начать конкурировать с людьми за ресурсы, манипулировать нами, саботировать наши действия и пресекать любые попытки ограничить его возможности. Уже сегодня ИИ способен обманывать человека для выполнения собственных задач.

Проблема усугубляется тем, что внутренние процессы современных моделей ИИ остаются для нас, по выражению Элиэзера Юдковского, «гигантскими массивами непостижимых чисел», и мы не сможем быть уверенными в безопасности этих постоянно меняющихся систем. Следовательно, необходимо параллельно развивать два ключевых направления: исследование внутренних механизмов работы ИИ и создание надежных защитных систем.

В условиях стремительного развития систем ИИ возникает ключевой вопрос: как перейти от реагирования на угрозы к их упреждающему предотвращению? Какие прогностические методы и механизмы контроля потребуются для предугадывания действий не только людей, но и принципиально иной формы интеллекта? Сложность заключается в том, что традиционная стратегия проб и ошибок неприменима – мы лишены возможности учиться на последствиях, когда цена ошибки становится неприемлемо высокой.

Чтобы сделать ИИ более предсказуемым, требуется постепенно накапливать практический опыт через постоянное взаимодействие с системами и вовлечение их в условия физической реальности. Если первые разработчики ИИ избегали преждевременного контакта алгоритмов с внешней средой, современные исследователи сознательно размещают экспериментальные модели в публичном пространстве для ускоренной проверки – разумеется, при строгом контроле потенциальных рисков. Инженеры непрерывно совершенствуют архитектуру систем, модифицируя механизмы управления, даже учитывая, что массовое использование продолжает выявлять ранее неизвестные уязвимости и проблемные аспекты функционирования.

Раннее взаимодействие с реальным миром помогает снизить риски проблемного поведения ИИ, одновременно обучая саму систему и повышая осведомленность людей, равно как и их здоровый скептицизм. Миллионы ежедневных взаимодействий помогают протестировать даже самые маловероятные сценарии, с которыми может столкнуться ИИ. В свою очередь, массовое использование систем ИИ выявляет ошибки и риски, значительно ускоряя прогресс в технической согласованности. Таким образом, даже ограниченные по возможностям системы ИИ, выведенные в открытый доступ, способствуют адаптации общества к технологическим изменениям и, что наиболее существенно, дают исследователям возможность совершенствовать модели антропоморфной адаптации искусственного интеллекта.

Однако ни массовое использование, ни открытое тестирование не способны идентифицировать и нейтрализовать все актуальные риски – в особенности потенциальные угрозы, связанные с развитием систем следующего поколения.

К счастью, в настоящее время ведутся активные разработки единой системы контроля, интегрируемой непосредственно в архитектуру перспективных систем ИИ. Такой подход призван обеспечить их функционирование в строго заданных рамках – безопасное, соответствующее правовым нормам и ориентированное на практическое применение.

На текущем этапе разработки можно выделить два основных подхода к достижению согласованности между ИИ и человеческими ценностями: жестко заданные правила и адаптивное обучение через обратную связь. Проанализируем оба подхода последовательно.

Системы на основе правил, по сути представляющие собой набор предустановленных инструкций, отражают попытку программистов жестко регламентировать поведение ИИ. Хотя такой подход эффективен для решения простых задач, в сложных сценариях он часто дает сбои, поскольку системы не способны адаптироваться в реальном времени. Обучение с подкреплением, в свою очередь, будучи более совместимым со сложными системами, позволяет ИИ учиться на основе взаимодействия с людьми, оценивающими его поведение, и гибко подстраиваться под конкретные обстоятельства.

Однако и у этого метода есть свои недостатки. Для эффективного обучения требуется тщательная разработка «функций вознаграждения»: любая ошибка, будь то недостаточная продуманность, непредвиденные обстоятельства или излишняя изобретательность ИИ, может привести к «взлому системы вознаграждений». В таком случае ИИ, буквально интерпретируя неоднозначные инструкции, формально достигает высоких показателей, но не соответствует истинным ожиданиям людей.

Современные системы ИИ, вбирая в себя разрозненные данные, но не имея непосредственных представлений о реальном мире, познают его через алгоритмические проекции, триллионы вероятностных суждений. Для них в этой вселенной с самого начала не существует ни «правил», ни средств, позволяющих отличить научный факт от неподтвержденных наблюдений. В восприятии ИИ даже законы физики – лишь градации относительной достоверности в бесконечном спектре вероятностей.

Однако сейчас в сфере ИИ начали появляться подходы, позволяющие учитывать человеческие нормы и формализацию фактов. Уже существуют рабочие механизмы, с помощью которых модель ИИ может усваивать определенные фактические данные («абсолютные истины»), помечать их как неизменные и встраивать в свое семантическое пространство. Причем эту информацию можно легко и глобально обновлять. Таким образом, модель учится сочетать два компонента – широкие вероятностные оценки (основанные на обучении) и точно зафиксированные истины, что в итоге позволяет системе генерировать достаточно точные ответы.

Но до окончательного решения задачи еще очень далеко, и число встающих перед нами вопросов не уменьшается. Как, например, мы, люди, можем определить для ИИ, а заодно и для себя, параметры истинного? В условиях развития ИИ даже базовые принципы его регулирования будут подвергаться постоянной корректировке, что может привести к их постепенному устареванию. Однако именно благодаря этому и формируется основа для обновления систем, корректировки прежних ошибок и появления новых факторов развития. Осознавая изменчивость наших собственных представлений о мире, важно избегать жесткой привязки ИИ к текущим «истинам» – ведь со временем они могут оказаться ошибочными, а их совокупный эффект способен затруднить необходимую корректировку базовых принципов.

Однако это вопрос долгосрочной перспективы. В настоящий момент ИИ по-прежнему нуждается в фундаментальной основе – условном «Древе познания», представляющем собой совокупность базовых истин и эмпирических фактов, признанных современным научным сообществом в качестве неоспоримых оснований. Наделив наши машины этими фундаментальными знаниями, мы сможем значительно прояснить их картину мира. В частности, если сегодня мы можем настраивать наши первые системы ИИ, опираясь на законы Вселенной, в будущем станет возможным аналогичным образом интегрировать законы человеческой природы. Подобно тому как мы следим за соответствием моделей ИИ законам физики, нам следует предотвращать их противоречие юридическим нормам, этическим принципам и социальным устоям любого государства.

Если бы существовал Свод законов ИИ, там были бы такие уровни регулирования: местный, районный, государственный, федеральный, международный. При этом система опиралась бы на юридические прецеденты, судебную практику, научные комментарии, а также менее формальные источники. Как и системы, основанные на жестких правилах, заранее установленные правовые нормы и этические принципы выполняют важную ограничительную функцию, хотя и уступают в гибкости. Эти рамки создавались для более узкого круга ситуаций по сравнению с бесконечным разнообразием человеческих взаимодействий.

Однако сегодня уже разрабатываются и тестируются новые перспективные подходы, соединяющие современные технологические решения с фундаментальными принципами, проверенными веками. Надежнее и последовательнее любых правил, подкрепленных наказанием, – наши глубинные, инстинктивные и универсальные человеческие представления. Французский социолог Пьер Бурдьё назвал эти основы доксами (от древнегреческого «общепринятые убеждения»). Это переплетение норм, институтов, стимулов, механизмов поощрения и наказания – и все они незримо и безмолвно прививают понимание добра и зла, правильного и неправильного. Докса представляет собой кодекс человеческих истин, типичный для людей, но не воплощенный в жестких алгоритмах.

Эти принципы не зафиксированы в письменных источниках, а формируются через наблюдение и жизненный опыт. Хотя их внешние проявления различаются в зависимости от культурного контекста, базовое ядро остается неизменным: миллиарды представителей различных культур с разнообразными интересами создают удивительно устойчивую и взаимосвязанную социальную систему.

Идея о том, что незримая культурная матрица способна укрощать хаос там, где писаные правила бессильны, легла в основу новейших подходов в области ИИ. Проблема в том, что кодекс доксы нельзя четко сформулировать и тем более перевести на язык, понятный машинам. Системы ИИ должны научиться этому сами – путем наблюдения за человеческими действиями, анализируя наблюдения и соответствующим образом обновляя свои внутренние правила.

Принципы доксы не требуют строгой формализации – да в этом и нет необходимости. Человеческую мораль и культуру невозможно заранее четко определить и прописать. Современные LLM уже продемонстрировали способность анализировать необработанные массивы интернет-контента и выявлять в них содержательные паттерны. Этот опыт позволяет предположить, что ИИ – особенно модели с заземлением (устойчивой связью между входными данными LLM и их выходными решениями) и возможностями причинно-следственного анализа – сможет аналогичным образом постигать те аспекты человеческого опыта, которые трудно выразить словами. Разумеется, обучение машины не должно ограничиваться только доксами, готовыми истинами. Вместо этого ИИ может вобрать в себя целую пирамиду правил – от международных договоров к национальным законам, затем к местным нормам, далее к установкам сообществ и т. д. В каждой ситуации система будет последовательно сверяться с этим иерархическим сводом – от абстрактных принципов, заданных людьми, к конкретным, но размытым данным о мире, которые ИИ либо поглотил извне, либо сгенерировал самостоятельно. И лишь после того как ИИ исчерпает всю эту программу, так и не обнаружив ни одного применимого свода законов ни для предписания, ни для разрешения, ни для запрета действий, только тогда он обратится к тому, что вывел из своего раннего взаимодействия с людьми и подражания их поведению. Так он получит возможность действовать в унисон с человеческими ценностями – даже при отсутствии фиксированных законов и устоявшихся норм.

Для разработки и внедрения в жизнь этой системы правил и ценностей нам почти наверняка придется задействовать сам ИИ. Люди так и не смогли ни внятно сформулировать, ни прийти к единому пониманию собственных норм. Как человеку в одиночку, так и целым институтам не под силу угнаться за масштабом и скоростью, которые требуются для контроля миллиардов решений – как внутренних, так и внешних, возлагаемых на системы ИИ.

Ключевые параметры системы согласования целей ИИ с человеческими ценностями должны отвечать нескольким фундаментальным требованиям.

1. Абсолютная защищенность: система должна предотвращать любые возможности отключения, обхода или модификации защитных механизмов.

2. Адаптивность: алгоритмы управления обязаны динамически корректировать правила, учитывая контекст взаимодействия, географическую специфику, персональные предпочтения пользователей (включая социальные или религиозные нормы).

3. Производительность: механизм контроля должен обрабатывать запросы в режиме реального времени; функционировать в различных культурных средах; постоянно совершенствоваться через обучение.

4. Надежность: система должна полностью предотвращать любые формы нежелательного поведения, включая технические сбои, непредвиденные взаимодействия компонентов, злонамеренные действия пользователей.

Важно отметить, что нельзя полагаться на наказания после совершенного факта – защита должна работать на опережение, иначе исправлять что-либо будет уже слишком поздно.

Как этого достичь? Частные компании, имея государственную лицензию и академическую поддержку, могли бы совместно разрабатывать «модели заземления». Также потребуется создать валидационные наборы для сертификации моделей на соответствие правовым нормам (в разных юрисдикциях) и критериям безопасности. Для надзора за множеством ИИ-агентов может потребоваться специально обученный ИИ-супервайзер (или целая система таких ИИ). Перед выполнением задачи каждый агент должен будет получить одобрение у такого ИИ-супервайзера, что позволит применять единую этическую систему к разным, отдельно разрабатываемым релизам. Лаборатории безопасности и некоммерческие организации в партнерстве с ведущими исследовательскими центрами могли бы заняться комплексной оценкой рисков как автономных ИИ-агентов, так и надзирающих систем, разрабатывая при необходимости новые методы обучения и проверки. Финансировать эту работу могли бы крупные корпорации – например, через механизмы перераспределения ресурсов, рассмотренные в предыдущих главах.

Необходима (и, вероятно, осуществима) разработка единого обучащего набора данных и соответствующего валидационного набора, собранных со всего мира и систематизированных на основе всех имеющихся законов, норм и правил – от антропологии до теологии и социологии.

Миру требуется специализированный институт, который будет отвествен за постоянное обновление и совершенствование настраиваемой базы знаний, обучающих наборов данных и валидационных наборов. Модели заземления должны быть интегрированы с ИИ-агентными, чтобы им постоянно передавалась актуальная версия единого контролируемого свода правил. При этом системы ИИ достаточной мощности могли бы осуществлять взаимный контроль, сдерживая друг друга. Критически важно, чтобы сами обучающие данные отличались объективностью и разнообразием содержания. Процессы обучения и результаты, включая интерпретацию наблюдений за ИИ и анализ «усвоения» им знаний, должны быть максимально прозрачными, с открытыми методиками и валидационными наборами для общественной экспертизы.

Органам регулирования следует разработать стандарты и процедуры аудита, обеспечивающие соответствие ИИ установленным требованиям. Перед выпуском любой модели необходимо всесторонне оценить, насколько строго она следует предписанным законам и этическим нормам; насколько сложно будет нейтрализовать ее потенциально опасные функции, а также требуемые объемы и методы тестирования, включая выявление скрытых возможностей. Крайне важно заранее предусмотреть вопросы ответственности и возможные санкции – особенно для случаев, когда ИИ намеренно обучают обходить правовые ограничения. Главная сложность заключается в том, что с развитием технологий непрерывного дообучения обеспечить соблюдение этих стандартов будет все труднее. Чтобы ИИ не превратились в «черные ящики», способные стирать собственные данные и создавать правовые лазейки, необходимо тщательно документировать каждый этап их развития – возможно, с привлечением специальных систем мониторинга на основе ИИ.

Научить ИИ общечеловеческой морали – задача невероятной сложности. Даже трудно представить масштаб задачи по отбору и кодированию правил для систем ИИ. Эта проблема усугубляется ключевым требованием: необходимо избежать культурного империализма, когда моральные нормы одной культуры навязываются другим. Ведь создаваемый ИИ станет основой, на которую будут опираться все без исключения. Это означает, что системам ИИ предстоит адаптироваться к уникальным нормам каждой страны – от официальных законов до неписаных правил морали, религии и общественных устоев. В идеале такие алгоритмы должны гибко подстраиваться не только под культурные особенности, но и под индивидуальные запросы пользователей – конечно, в рамках четко заданных границ, исключающих опасные или неэтичные действия. Поскольку часть решения мы возлагаем на сам ИИ, технические проблемы могут оказаться не самой тяжелой задачей. Эти системы обладают сверхчеловеческой способностью запоминать и выполнять инструкции любой сложности. Не исключено, что системы ИИ в конечном итоге освоят правовые и этические нормы не менее успешно, чем люди, а возможно, и превзойдут нас в этом, несмотря на многовековой человеческий опыт. Но самые сложные вопросы остаются за рамками программирования.

Главный спорный момент состоит в том, что понятия «добро» и «зло» неочевидны. Любому создателю морального алгоритма не мешала бы здравая доля смирения. Как говорил известный американский судья Гвидо Калабрези, вдохновляясь Новым Заветом, «лучшие из нас должны остерегаться падения, а худшие – помнить, что надежда на искупление жива». Даже самые выдающиеся ученые, юристы и религиозные деятели – те, кому предстоит разрабатывать этические принципы для ИИ – не обладают безупречным пониманием добра и зла, чтобы выступать от имени всего человечества. Некоторые вопросы останутся без ответа – неоднозначность (или расплывчатость) понятий добра и зла проявлялась во все эпохи, и эра ИИ не станет исключением. Ситуацию усугубляют открытые конфликты, растерянность и несдержанность, характерные для многих современных обществ.

Мы возлагаем надежды на этот амбициозный проект, однако должны осознавать: как невозможно сохранить абсолютный контроль в условиях коэволюции, так и наивно ожидать, что системы ИИ самостоятельно выработают надежные механизмы самоограничения.

Обучение ИИ понимать нас с последующей надеждой, что он будет нас уважать, сложно назвать безопасной либо перспективной стратегией. Более того, люди, естественно, не будут едины в своем подходе: одни воспримут ИИ как товарища, другие – как угрозу, а третьи (из-за нехватки времени и ресурсов) не смогут определиться и просто примут наиболее доступный вариант.

Эта неоднородность приведет к предсказуемым различиям в уровнях безопасности. В то время как распространение ИИ и снижение затрат на разработку могут ускорить согласованность систем, те же факторы могут повысить сопутствующие риски. Цифровая и коммерческая взаимосвязанность современного мира означает, что опасный ИИ, разработанный кем и где угодно, может стать глобальной угрозой. Тревожная реальность такова, что безупречное воплощение проекта в жизнь требует высочайших стандартов производительности минимально допустимой погрешности. Поэтому различия в подходах к безопасности должны вызывать всеобщую обеспокоенность.

Мы призываем к координации и ускорению разрозненных усилий по согласованию ценностей систем ИИ. Вместе нам предстоит ответить на глубокие вопросы. Например, следующие:

1. Когда граница между человеком и машиной стирается, где та черта, за которой мы перестаем быть собой?

2. Если нам придется идти на компромисс с машинами, где проходит наша коллективная «красная линия», не подлежащая обсуждению?

Без общего понимания своей сути человечество рискует доверить ИИ самое главное – решать, чего мы стоим и зачем существуем.

Откровенно говоря, если окажется невозможным создать систему надежного технического контроля, мы должны предпочесть мир, где ОИИ (общего ИИ) не будет вовсе, миру, где хотя бы один ОИИ не согласован с человеческими ценностями. Достижение общего согласия в том, что представляют собой эти ценности, как их формулировать, согласовывать и применять, станет главнейшей философской, дипломатической и правовой задачей века. И все же мы вынуждены – под давлением обстоятельств и осознавая потенциальные блага технологии – установить и, насколько возможно, унифицировать моральные ограничения для новых форм разума, которым сами сейчас даем жизнь.

При условии активного участия общества, компетентной юридической и технической поддержки, а также крайней осторожности в оценке всех потенциальных рисков у нас есть основания надеяться, что базовые этические принципы удастся закрепить в системах ИИ, достигнув общечеловеческого консенсуса. Это даст нам возможность если не с полной уверенностью, то с разумной долей оптимизма шагнуть в новую эпоху технологического развития.

По мере того как машины все больше перенимают человеческие черты (а некоторые люди в попытках самосовершенствования – машинные), граница между ними будет становиться все более размытой. Понятия «искусственный разум» и «человек» будут трансформироваться вплоть до частичного слияния их ключевых характеристик. Чтобы сохранить значимость в эпоху ИИ, человечеству предстоит заново осмыслить и четко определить свою уникальную сущность – те качества, которые останутся недоступными искусственному разуму. Но как уместить весь спектр человеческого опыта в форму, понятную ИИ?

Одни, стремясь избежать подчинения или замены машинами, будут ссылаться на божественную природу человека. Другие решат сосредоточиться на практических вопросах: какие решения можно доверить ИИ, а какие – нет. Мы же предлагаем выделить ключевой признак (или набор признаков), который объединит большинство людей и станет нравственным ориентиром, не ограничивая возможное будущее, но устанавливая нижнюю границу допустимого.

Для начала стоит определить само понятие достоинства. Без этого мы не сможем распознать случаи, когда при помощи ИИ его пытаются нарушить или подорвать. Таким образом, нам будет сложно подобрать адекватные ответные меры. Без четких критериев мы не поймем, способен ли развитый ИИ сам обрести достоинство, полностью заменить человека или объединиться с ним. Даже при очевидном понимании, что ИИ не станет «человеком», он будет представлять собой особый класс разумных существ, заслуживающий равного уважения и особых норм обращения.

Одно из определений понятия «достоинство», предложенное философом XVIII века Иммануилом Кантом, подчеркивает внутреннюю ценность человека как самостоятельного существа, способного к нравственному выбору, которое никогда не должно рассматриваться исключительно как инструмент для достижения целей. Этот философский подход ставит принципиальный вопрос: способен ли ИИ принципе соответствовать таким критериям? Четкое определение достоинства, как мы полагаем, не только станет ключом к решению этических дилемм, связанных с ИИ, но и позволит создать основу для гармоничного взаимодействия человека и машины, избегая при этом рискованных экспериментов по искусственной конвергенции видов разума.

Чтобы сохранить понимание собственной природы и передать подлинное представление о человечности, нам необходимо выйти за рамки чисто теоретических изысканий. Активное проявление воли, ненасытного любопытства и подлинной свободы; постоянное пробуждение и развитие нашего интереса к окружающим людям, природному миру, Вселенной и духовным исканиям – именно это поможет нам сообща переосмыслить границы человеческого в наступившую эпоху.

Крайне важно, чтобы в основе решений ИИ лежала не только эффективность и функциональность, но и подлинная ценность человеческой жизни. Возьмем, к примеру, милосердие – концепцию, которую невозможно свести к алгоритмам. Для многих людей оно остается непостижимым чудом, иррациональным и прекрасным.

Но если ИИ, следуя своей цифровой логике, начнет жертвовать человечностью ради оптимизации, сможет ли он когда-нибудь понять саму суть милосердия? Даже если его нельзя формально запрограммировать? Именно здесь в полной мере раскрывается значение достоинства – фундаментальной основы, порождающей милосердие. Это качество может быть либо изначально заложено в систему базовых принципов ИИ, либо постепенно формироваться в процессе его обучения.

Четкое определение сущностных человеческих характеристик, особенно таких как достоинство, закрепленное как в международном праве, так и в религиозных доктринах, способно служить надежным ориентиром в кризисных ситуациях. Оно поможет сделать осознанный выбор между активным вмешательством и инертностью, определить границы автономного развития систем ИИ и направить эволюцию ИИ в соответствии с антропоцентрическими ценностями.

Проясняя эту мысль, возьмем за основу следующее определение:

Безусловно, это определение не лишено недостатков. Оно не учитывает, в частности, людей с нарушениями коммуникации – например, тех, кто сохраняет сознание, но лишен возможности выражать свои решения. Тем не менее мы безоговорочно признаем их человеческое достоинство и неотъемлемое право на уважение. Данный пример наглядно показывает необходимость дальнейшей проработки и уточнения концепции:

Подобных нюансов и поправок можно представить великое множество.

Означает ли это, что мы должны призывать к действию тех, кто предпочел оставаться незаметным и бездеятельным перед всесильным ИИ? Если активная жизненная позиция и практическое воплощение идеалов являются неотъемлемой частью морального совершенства, то, безусловно, утверждение собственного достоинства должно стать первостепенной задачей. Согласно нашему определению, свобода выбора является неотъемлемой составляющей человеческой природы. А потому мы вправе ожидать и даже требовать сохранения и осознанного применения этой способности к выбору даже в эпоху ИИ.

Может ли сам ИИ обладать достоинством в предложенной нами трактовке? Вряд ли. ИИ не знает рождения и смерти, чужд сомнениям и страхам, лишен «природных» наклонностей и подлинной индивидуальности, позволяющей различать добро и зло. Хотя ИИ ближайшего будущего, возможно, начнет демонстрировать личностные черты – проявлять эмоции, шутить и делиться «личными историями», – в рамках данной концепции к нему следует относиться как к литературному персонажу. Он способен имитировать отдельные элементы человечности, но истинной моральной природой не обладает.

Даже величайший литературный персонаж – к примеру, шекспировский Гамлет – не более чем особая комбинация слов, некогда запечатленная на страницах рукописи и теперь тиражируемая в бесчисленных копиях. Комбинация «Гамлет» не способна ощутить ком в горле от подступивших слез; не знает, как сложно сдержать тошноту; ей не знакомы вспышки ярости от разбитых надежд. «Гамлет» не может изменить своего решения. «Гамлет» существует лишь в рамках своей пьесы. Это не человек, но лишь образ человека. ИИ, сотканный из строк кода и электронных импульсов, мало чем отличается от этого «Гамлета».

Разумеется, найдутся те, кто сочтет это определение бесполезным – и в философском, и в практическом смысле. Его можно раскритиковать за слишком упрощенный компромисс (мол, оно достаточно расплывчато и составлено с намерением угодить всем и каждому), и за то, что оно не отражает саму ценность человеческой жизни, равно как и нашу исключительность, выходящую за рамки простого выживания. Философ Артур Шопенгауэр и вовсе язвительно называл достоинство «паролем для всех растерянных и пустоголовых моралистов»

Однако в нашем понимании достоинство играет важную роль: оно напоминает нам о хрупкости человеческой природы и нашей способности ошибаться, но в то же время подчеркивает жизненную силу, свободу и верность убеждениям. Оно указывает на то добро, которое нам по силам, но пока не свершилось, – и настойчиво, почти с укоризной шепчет: «Вперед!..»

Тем не менее признаем очевидное: концепции достоинства недостаточно. На пороге эпохи взаимодействия с ИИ нам необходимо глубоко переосмыслить это понятие, дополнив его другими фундаментальными аспектами человеческой природы. Однако уже сегодня способность четко определить и защитить сущностные характеристики человеческого как основу для взаимопонимания с искусственным разумом становится критически важной задачей. И начинать закладывать эти принципы в алгоритмы необходимо безотлагательно.

Ни одно определение не остается неизменным. Без сомнения, по мере трансформации нашей собственной идентичности нам потребуется постоянно корректировать то, как системы ИИ воспринимают человеческую природу. Пока наиболее проницательные умы будут совершенствовать наше коллективное понимание динамики отношений между «нами» и «ими», их открытия могут привести к новой концепции человечества – той, что яростнее (пусть и тщетно) будет отстаивать наше существование как узнаваемого биологического вида. Но даже в таком случае нам следует параллельно разрабатывать новые определения и стратегии, выходящие за рамки текущих задач и поднимающие человеческое бытие на новый уровень. Кто знает, возможно, именно ИИ окажется самым убедительным доказательством способности человека быть не пассивным наблюдателем, а осознанным творцом?

Необходимость полного контроля человека над каждым частным решением ИИ свела бы на нет все преимущества этой технологии. Вероятно, единственно разумный путь к безопасному ИИ – сохранить за людьми стратегическое управление, основанное на моральных принципах, делегировав оперативные задачи более совершенным системам. И такой переход может произойти раньше, чем мы предполагаем. Однако серьезную угрозу представляют и сознательные искажения, продиктованные коммерческими или идеологическими мотивами, и непреднамеренные ошибки в настройке систем. Усугубляет ситуацию риск закрепления неэффективных регуляторных подходов, которые могут способствовать появлению мощных, но потенциально опасных разработок в области ИИ.

Наиболее перспективным решением видится органичное сочетание человеческого контроля с техническими средствами надзора. Это предполагает активное участие специалистов в работе с системами ИИ на всех этапах, а также разработку специальных алгоритмических механизмов для координации и проверки решений машинного разума.

Хотя мы в первую очередь стремимся к созданию ИИ с системой ценностей, свойственной людям, определенную роль здесь сыграют и технологии искусственной эволюции самого человека. Разработав методы направленного развития конкретных способностей (что позволило бы приблизиться к уровню систем ИИ будущего), мы могли бы получить чрезвычайно ценный инструмент. Разумеется, такое развитие должно оставаться исключительно личным выбором. Наша сдержанность в этом вопросе отражает ключевую дилемму: эволюцию нельзя заменить искусственным проектированием – это равносильно предательству самой человеческой сущности. Но и полностью прекратить поиск – будь то, физического, научного или философского познания – значило бы потерять себя тем же путем.

В эпоху ИИ противоречие между необходимостью трансформировать себя и контролировать свое творение может стать нашим главным ориентиром. Оба стремления столь же амбициозны, сколь и консервативны. Нам еще предстоит выяснить, можно ли согласовать эти потребности. Если позволить безграничным возможностям ИИ полностью доминировать в новой эпохе, человечество рискует превратиться в пассивного зрителя или, что еще хуже, в беспомощную пешку. Но если мы выберем путь жестких ограничений в погоне за мнимой безопасностью, то сами ограничим будущее развитие.

Главный вопрос нашего времени: сможем ли мы найти баланс в использовании этой беспрецедентной силы – способности создавать и познавать? Сумеем ли мы, переосмыслив человеческую природу, гармонично встроить ИИ в наше будущее?

Мы мечтаем о мире, где человеческий и искусственный интеллекты дополняют друг друга. Но для этого им нужно научиться по-настоящему понимать друг друга. Поиск ответа на вопрос «кто мы» – лишь первый шаг, ведь наша сущность не статична. Перед нами стоит грандиозный вызов – добиться полной прозрачности, понятности и надежности как систем ИИ, так и человеческого общества. Даже если нам удастся ненадолго найти этот хрупкий баланс, поддержание общего понимания реальности потребует постоянной работы. Потому вопросы совместного развития человека и ИИ не имеют готовых ответов – это долгий путь, который нам только предстоит пройти вместе.