Чтобы объяснить феномен ИИ и его значение для человечества, исследователи предлагают множество аналогий. Антропологи сравнивают его с огнем или электричеством. Военные и дипломаты проводят параллели с атомной энергией или даже с несокрушимой человеческой волей таких исторических фигур, как Отто фон Бисмарк. Астрономы видят в ИИ сходство с астероидом – маловероятной, но в целом реальной угрозой, способной сплотить человечество перед лицом общей опасности, а кто-то даже говорит о сходстве изобретения ИИ с открытием внеземной жизни. Экономисты уподобляют ИИ рынкам или бюрократии, а государственные и общественные лидеры сравнивают появление ИИ с изобретением печатного станка или развитием корпораций – не будем забывать, что последние, обретя собственную волю, сумели подчинить себе целые регионы, как это произошло с Индийским субконтинентом, прежде чем мир осознал их угрозу существующим структурам власти.

Однако сегодня мы смотрим на ИИ иначе. Ни одно новшество, каким бы революционным оно ни было, не сравнится с изначальным замыслом и (как мы полагаем) пока что временной целью наших устремлений – создать интеллект, превосходящий разум любого человека.

Осмыслить место ИИ в истории можно двумя способами.

Первый – через призму преемственности. До сих пор самые передовые в задачах преобразования технологии улучшали или усиливали функции человеческого тела. Колесо облегчило перемещение грузов, двигатели избавили от физического переутомления, а рентген, микроскопы и лампы расширили границы восприятия дальше естественных возможностей глаза. Телефон усилил наш голос так, как никогда не смогли бы голосовые связки. Каждый аспект человеческих способностей так или иначе был дополнен, усилен или переосмыслен благодаря машинам. Остается вопрос: не является ли ИИ просто следующим шагом в этой череде усовершенствований?

Второй подход состоит в том, чтобы признать, что на этот раз все иначе. ИИ обладает особыми качествами, которые не сводятся к усилению человеческих способностей. Создав за несколько десятилетий аналог того, что эволюция формировала миллионы лет – искусственный мозг, – мы подошли к последнему рубежу: воспроизведению неорганическим путем самого сложного органа, который нам еще только предстоит переосмыслить.

В предыдущей главе мы обратили внимание на сходство машинного обучения ИИ с тренировкой разума аспиранта, изучающего философию. Этот пример можно развить: по сути, создание машинного интеллекта напоминает процесс биологического созревания человеческого мозга от подросткового возраста до взрослого состояния.

Учащиеся в ходе получения среднего образования осваивают основы ключевых предметов, формируя базовое представление о мире. Это представление может быть не слишком глубоким или не всегда верным, но то же самое можно сказать и о том, как получает знания машина. Системы ИИ, как и люди, учатся, усваивая информацию и преобразуя ее в концепцию для последующего применения. В это время алгоритм обрабатывает огромные объемы данных, собранных из открытых источников в интернете или предоставленных другими, более узконаправленными источниками, и сводит результаты в сжатое и компактное отображение концепций для дальнейшего использования. Подобно тому как человеческий мозг преобразует сенсорные данные в нейронные связи – «веса», формирующие сеть обработки информации, машины также требуют постепенной настройки своих вычислительных параметров.

Нейронные сети, как и старшеклассники (не все, конечно), могут лениться. На ранних этапах обучения ИИ будет делать лишь минимум необходимого. Запоминая ответы вместо того, чтобы действительно учиться, модель, столкнувшись с примером «2 + 2», может поначалу лишь закодировать ответ «4», не освоив базового принципа сложения. Однако по достижении определенного порога (достаточно быстро) этот подход перестает работать, вынуждая систему, подобно человеку, переходить к более универсальным аксиомам знаний.

Это и отличает ИИ от обычных компьютеров: его картина мира создается не программированием, но обучением. В традиционном программировании алгоритм, созданный человеком, указывает машине, как преобразовать набор входных данных в набор выходных. В машинном обучении, напротив, созданные человеком алгоритмы указывают машине только на то, как улучшить себя, позволяя ей самой разрабатывать схемы преобразования входных данных в выходные. По мере того как машина «учится» на бесчисленных пробах, ошибках и корректировках, она совершенствует свои алгоритмы, итеративно перестраивая внутренние отображения шаблонов и связей, которые она «видит» в данных.

Периодически специалисты-тренеры дают машине обратную связь о точности и качестве ее результатов. Машина усваивает их поправки с помощью метода, который называется «обратным распространением ошибки» (back-propagation). Этот метод позволяет эффектам изменений, внесенных тренерами, распространяться в обратном направлении через уже созданные машиной математические связи, тем самым улучшая общую модель.

Однако человек предоставляет модели обратную связь лишь для ограниченного подмножества возможных входных и выходных данных. Когда модель достигает достаточного уровня эффективности в серии тестов, разработчики могут быть уверены: созданные ей алгоритмы будут давать безопасные и точные ответы – даже на неожиданные запросы – с высокой вероятностью успеха.

Каждым из этих способов ИИ уже сегодня расширяет – и в будущем продолжит расширять – границы человеческого познания. Но он достигает этого – и мы доверяем полученным результатам – посредством процессов, которые до сих пор не до конца нам понятны.

Если обычный ученик заканчивает американскую среднюю школу за четыре года, то современная модель ИИ может легко освоить тот же объем знаний, и даже значительно больше, за четыре дня. Таким образом, скорость оказалась первой из ряда ключевых характеристик, которые отличают ИИ от человеческих свойств и умственных способностей.

Несмотря на высокоразвитую способность к параллельной обработке, то есть возможность одновременно воспринимать и анализировать различные виды стимулов, человеческий мозг является крайне медленным процессором. Он ограничен скоростью наших биологических механизмов. Если оценивать работу человеческого мозга по компьютерным метрикам производительности – тактовой частоте или скорости обработки данных, – современные суперкомпьютеры для ИИ уже превосходят биологический мозг по быстродействию в 120 миллионов раз.

Конечно, скорость – не главный показатель интеллекта: даже очень глупые люди способны быстро соображать. Однако более высокая скорость обработки информации дает два преимущества по сравнению с человеческим мозгом: возможность усваивать значительно больше информации и обрабатывать множество одновременных запросов. При этом человеческий мозг преимущественно функционирует в фоновом режиме, автоматически регулируя физиологические процессы (сердцебиение, двигательные функции) и активируя сознательный контроль лишь при возникновении нештатных ситуаций.

ИИ же благодаря своей вычислительной мощи способен целенаправленно развивать исключительные когнитивные способности, открывая путь к решению задач, которые пока остаются за пределами возможностей биологического интеллекта. После завершения интеллектуального обучения как человек, так и машина теоретически способны мыслить или, говоря техническим языком, делать выводы. В ситуациях собеседования, дискуссии или личного общения образованный человек опирается не на механически заученные факты и цифры, а на глубоко осмысленный и переработанный личный опыт. Именно способность к рефлексии и синтезу знаний отличает настоящее образование от простого накопления информации. Человеческий мозг эволюционно не приспособлен для точного запоминания и дословного воспроизведения информации – да и подавляющее большинство людей просто не способно на такое механическое запоминание. После бесчисленных уроков, сочинений и экзаменов в сознании должно остаться понимание более глубоких и долговечных концепций (которые должны раскрыться при помощи этих образовательных инструментов), таких как, например, чудо астрономии, трагедия амбиций, необходимость (или ее отсутствие) революции.

Этот принцип применим и к искусственному интеллекту. После завершения обучения модель больше не нуждается в доступе к исходным данным – вместо этого она оперирует сформированным интуитивным пониманием, достаточным для генерации ответов, сложных логических построений, точного прогнозирования.

Подобно тому как люди не носят с собой библиотеки учебных материалов, ИИ делает выводы, а не извлекает заученные факты. Ключевое отличие, однако, в том, что благодаря колоссальной скорости обработки ИИ способен опираться на такой объем информации, который превосходит любые человеческие возможности. Для этого, даже чтобы ответить на простой вопрос, модель ИИ может выполнить миллиарды сложных технических операций. В то время как традиционный компьютер просто извлекает конкретную информацию, хранящуюся в его памяти – поскольку он не способен прийти к выводам, которых там еще нет – ИИ запускает вычисления по принципам, схожим с работой человеческого мозга. Люди учатся, чтобы мыслить, в то время как машины обучаются, чтобы делать выводы. Второе невозможно без первого.

Первая фаза обучения – и для человека, и для ИИ – всегда наиболее ресурсоемка. Соискатель ученой степени может потратить пару десятков лет или даже больше на то, чтобы научиться писать глубокие аналитические работы за считаные дни. Так же и современные модели ИИ: их обучение занимает месяцы интенсивных вычислений, зато последующая генерация результатов происходит за доли секунды.

Сегодняшние системы ИИ уже дают вполне логичные и продуманные ответы на запросы человека. В своих последних и перспективных версиях они станут охватывать все более обширные массивы данных, интегрируя знания из различных научных областей и демонстрируя когнитивную гибкость, превосходящую возможности любого отдельного человека или даже коллектива экспертов. Для искусственного интеллекта масштаб данных буквально преобразуется в скорость работы: чем глубже обучение системы, тем стремительнее и точнее становятся ее выводы. Более того, обнаруживая в данных скрытые закономерности, недоступные человеческому восприятию, системы ИИ способны генерировать принципиально новые интерпретации традиционных знаний. Обрабатывая колоссальные массивы информации, они создают совершенно оригинальные концепции и идеи.

И этот потенциал искусственного разума ставит перед человечеством вопрос – даже, пожалуй, комплекс фундаментальных вопросов.

Откуда мы получаем знания об устройстве Вселенной? И как можем быть уверены в их достоверности?

В большинстве областей познания, начиная с появления научного метода, главным критерием истины стал эксперимент. Любая информация, не подкрепленная фактами, считалась неполной и ненадежной. Лишь прозрачность, воспроизводимость и логическая строгость делают утверждения убедительными. Такой подход за последние столетия привел к невиданному прежде расширению человеческого познания и череде технологических революций, а его закономерным итогом стало появление компьютеров и машинного обучения.

Однако сегодня, в эпоху ИИ, мы сталкиваемся с новой и тревожной проблемой: знанием без объяснений. Уже сейчас ответы ИИ, представляющие собой четкие и логичные описания сложных явлений, мы получаем мгновенно. Результаты работы алгоритмов предъявляются в готовом виде: без оговорок, без явной предвзятости, но и без указания источников или обоснований. И все же, несмотря на отсутствие объяснений по каждому конкретному утверждению, даже ранние системы ИИ сумели снискать безоговорочное доверие многих пользователей – и, увы, вызвать зависимость у излишне внушаемых людей, согласных принимать как данность любую полученную информацию. Таким образом, есть риск, что со временем эти новые «сверхразумные» системы будут слишком многими восприниматься как истина в последней инстанции.

Хотя обратная связь от человека помогает системам ИИ совершенствовать свои алгоритмы, именно машина берет на себя основную ответственность за выявление закономерностей и оценку значимости обучающих данных. Более того, после обучения модель не раскрывает созданную внутреннюю математическую архитектуру. В результате представления о реальности, формируемые системой, остаются в значительной степени непрозрачными даже для ее разработчиков. Сегодня надежность этих моделей проверяется преимущественно через анализ их выходных данных, в то время как внутренние механизмы работы продолжают оставаться скрытыми – отсюда и сравнение некоторых систем ИИ с «черными ящиками». Хотя исследователи предпринимают попытки реконструировать логику сложных моделей, переводя их выводы в понятные алгоритмы, перспективы такого подхода остаются неопределенными.

Таким образом, модели, вышколенные с помощью машинного обучения, позволяют людям получать новые знания (через их выходные данные), но не дают понимания того, как эти знания появились (через внутренние процессы моделей). Ни одна эпоха прежде не сталкивалась с подобным разделением между получением знаний и их осмыслением. Традиционное человеческое познание основывалось на интуиции, личном опыте, логическом анализе и способности воспроизводить наблюдаемое. Эти методы укоренены в базовом принципе: «Если я не могу этого сделать – значит, не могу понять; а если не могу понять, как могу быть уверен в истинности?»

В парадигме Просвещения эти ключевые элементы: индивидуальные познавательные способности, субъективное понимание и объективная истина – существовали в неразрывной связи. Однако истины, порождаемые ИИ, становятся результатом процессов, которые человек не способен воспроизвести. Машинное «мышление», не соответствующее привычным для нас когнитивным паттернам, выходит за границы человеческого субъективного опыта – мы не можем даже полностью описать внутренние процессы этих систем.

По меркам эпохи Просвещения такие обстоятельства делали бы невозможным признание машинных выводов в качестве истинных. И тем поразительнее, что миллионы пользователей уже принимают подавляющее большинство этих выводов как достоверные. Лишь немногие эксперты действительно понимают метапроцессы машинного обучения; для большинства же уверенность в истинности результатов основана на своеобразном доверии – готовности принять как саму логику машин, так и авторитет их создателей.

Сам факт возникновения такого доверия как общепринятого критерия истины знаменует собой радикальный переворот в современном человеческом мышлении. Даже если системы ИИ не «понимают» мир в человеческом смысле (поскольку им определенно не свойственны сознание и субъективность), их объективная способность делать точные выводы ставит сложные вопросы. По сути, это обнуляет сам смысл научного метода в том виде, в каком его использовали на протяжении пяти веков, но и ставит под сомнение претензии человека на исключительное, уникальное восприятие реальности.

К чему это приведет? Неужели эра ИИ не только не сможет продвинуть человечество вперед, но и, наоборот, спровоцирует откат к архаичному принятию необъяснимого авторитета? Иными словами, не стоим ли мы на пороге величайшего перелома в истории познания – эпохи «темного Просвещения»?

Для разных форм жизни время течет по разным шкалам. В масштабе геологической истории (4,5 млрд лет) человеческая цивилизация – лишь краткий эпизод. Если бы мы развивались с геологической скоростью, изменения казались бы нам незаметными. Но как нетерпеливый и амбициозный вид мы задали собственный темп эволюции. Это в геологии «эпоха» измеряется тысячелетиями, а в человеческом масштабе – лишь парой сотен лет или даже меньше.

Технологическое время разумных машин бежит по своим законам. Вся история их умещается в 70 лет – срок, который системам ИИ, вероятно, кажется таким же долгим и туманным, как нам докембрийская эра. Для человеческого восприятия сотни миллионов лет до Кембрийского взрыва – это бесконечная пустошь, внезапно оживленная всплеском биологического разнообразия. И если бы ИИ стал оценивать свое прошлое – период с 1950 по 2010 год, – то, вероятно, увидел бы ту же бесконечно растянутую паузу, смутное время застоя, где лишь в последние годы мелькнули первые проблески настоящего развития.

В биологическом и социальном измерении человеческие поколения сменяются примерно каждые 25 лет. Однако современные ИИ эволюционируют быстрее любого биологического вида: их основные версии обновляются за месяцы, а функциональные улучшения появляются еженедельно. Это заставляет нас осознать: то, что мы воспринимаем как революцию, в масштабе технологического времени оказывается всего лишь очередным эволюционным шагом. Новые модели ИИ, появляющиеся с интервалом в несколько месяцев, демонстрируют растущие способности: они обрабатывают все более сложные запросы, принимают больше промежуточных решений и осваивают новые формы взаимодействия.

Таким образом, то, что в человеческом измерении мы называем эпохой ИИ, точнее было бы именовать эпохами ИИ – ведь по внутренней хронологии самих систем этот период эквивалентен сотням поколений.

Стремительная эволюция машинного интеллекта представляет собой многогранный и пока неоцененный вызов. Человечество впервые сталкивается с таким сжатием временных рамок. Головокружительная скорость изменений неизбежно ведет к культурной и психологической дезориентации. Когда взаимосвязанные эффекты новых технологий накладываются друг на друга в повседневной жизни, становится практически невозможно определить, отражают ли конкретные изменения кризисные явления или, наоборот, признаки устойчивого прогресса.

Разобраться с этими взаимовлияющими последствиями в реальном мире будет все сложнее по мере роста числа систем ИИ, каждая из которых привносит собственные непредсказуемые эффекты. Более того, с ростом возможностей ИИ ближайшие десятилетия, вероятно, станут периодом огромных перемен и невиданного технологического разнообразия. Современные инфраструктуры и методы машинного обучения, развивающиеся без существенных ограничений, порождают поколения ИИ с прогрессивно растущими характеристиками – от адаптивности и масштабируемости до функциональной сложности. Здесь уместна аналогия с электричеством: подобно тому как электроэнергия нашла применение далеко за пределами простого освещения домов и улиц, ИИ будет проникать в самые неожиданные сферы. И если электрический заряд можно получать через трение, проводимость или индукцию, то и создание ИИ, вероятно, будет осуществляться множеством принципиально разных методов.

Рассмотрим в качестве примера архитектуру, получившую название «трансформер», обеспечившую последние достижения ИИ. Она позволяет системе анализировать связи между несколькими словами одновременно. Проще говоря, если прежние модели обрабатывали слова по очереди – сначала выявляя связь между словом 1 и словом 2, затем отдельно между словом 2 и словом 3, – трансформер охватывает предложение целиком, включая все взаимосвязи между всеми словами. Создавая математические модели этих связей и оперируя ими, ИИ прогнозирует оптимальный ответ.

Возможности трансформеров не были предсказаны заранее – их впечатляющая универсальность проявилась практически случайно. При этом трансформеры вряд ли останутся единственной базовой архитектурой, способной порождать неожиданные свойства. По мере появления новых перспективных направлений исследований результаты ИИ будут стремительно улучшаться, множась по разным направлениям физической и математической логики, требуя меньших затрат и достигая большей скорости.

ИИ эволюционирует так быстро и разнообразно, что это действительно можно сравнить с Кембрийским взрывом – появление множества форм жизни в исключительно сжатый (по сравнению с предыдущими эпохами) временной период. Если эта гипотеза верна, машинные интеллекты образуют быстро эволюционирующий «род», а возможно, и целое «семейство» ИИ, основанных на принципиально разных логических системах. Таким образом, ИИ может стать самым ярким примером того, как незначительные изменения при повсеместном повторении порождают невероятное разнообразие – цифровое отражение органического мира. Как сказал Дарвин,

Эпоха Разума, возможно, приблизила человечество к границе возможностей познания. Физика Эйнштейна и квантовая механика обозначили начало до сих пор незавершенного путешествия в неизведанные области – миры, существующие по собственным законам, доступные не через непосредственное восприятие, а лишь через теоретическое осмысление. Квантовая физика описывает микромир, где, по выражению гарвардского физика Грега Кестина, «ничто нельзя предсказать, и объекты не имеют определенного положения, пока за ними не начинают наблюдать», тогда как общая теория относительности оперирует космическими масштабами, где все предсказуемо, «независимо от наблюдений». Ни одна из теорий не опровергнута, но все они взаимно исключают друг друга, и «ни один эксперимент не смог показать, какая из них (если вообще какая-то)» является фундаментальной.

Парадоксальным образом именно эта неопределенность стала основой современного мира. Квантовая физика сделала возможной среди прочих технических переворотов революцию в области вычислительных технологий. С ИИ происходит абсолютно то же самое. Уже сегодня он генерирует идеи и преобразует реальность с помощью механизмов, которые мы до конца не понимаем. В ближайшем будущем он займется наукой, еще менее доступной человеческому восприятию.

Триста лет развития все же не смогли предотвратить закат эпохи Разума. Наша очевидная неспособность объединить физические теории – лучшее тому доказательство. Более века прошло с момента создания основных концепций, описывающих как квантовый, так и космический миры, а прогресс остается иллюзорным. Эти мучительные попытки продвинуться вперед в эпоху науки, полагающейся исключительно на человеческий разум, могут свидетельствовать о приближении к биологическому пределу наших интеллектуальных возможностей.

Благодаря своим особым методам познания и обучения ИИ способен достичь недоступных человеку результатов как в масштабе (scale), так и в разрешении (resolution), что приведет к фундаментальным изменениям, не имеющим аналогов среди других изобретений человечества или в самой природе человека. Но сможет ли ИИ примирить две крайности человеческой реальности, совершив революцию в восприятии с помощью методов, остающихся совершенно чуждыми нашему опыту?

Объем человеческого мозга целиком и полностью обусловлен нашей анатомией. Мозг должен помещаться в черепную коробку, а череп младенца – проходить через родовые пути матери. Уменьшение размера грозит когнитивными нарушениями; увеличение – риском для жизни новорожденного или роженицы. Другие физиологические ограничения – например, максимально допустимая масса мозга – создают непреодолимый эволюционный барьер. Без кесарева сечения или, в будущем, искусственных маток это ограничение остается действительно непреодолимым, а значит, можно утверждать, что человечество достигло предела естественного развития.

Современные модели ИИ демонстрируют незапланированные при их создании способности. Действующие «законы масштабирования» (аналогичные классическим физическим закономерностям, например связи между длиной объекта и его площадью), которые по сегодняшний день применялись и к ИИ, пока сохраняют свою силу. Однако мы не можем предсказать, какие именно свойства появятся у моделей с экспоненциально растущим числом параметров, поскольку наука еще не выявила точных причин возникновения определенных способностей при конкретных уровнях сложности.

Соотношение размеров мозга и тела не имеет четкой корреляции с интеллектом в животном мире – у дельфинов, слонов и некоторых китов мозг пропорционально больше человеческого. Однако ранние исследования указывают на существование некой, пока не понятной нам связи между масштабом и когнитивными способностями.

Жесткие биологические ограничения делают проверку «законов масштабирования» на человеческом мозге невозможной. Однако ИИ изначально лишен физических ограничений – он не привязан к материальному носителю определенного размера. Чипы и дата-центры – физические «хозяева» моделей ИИ – могут объединяться в кластеры без видимых пределов. Таким образом, законы масштабирования будут испытаны для ИИ так, как никогда не могли быть применены к человеку. И в этом процессе масштаб – фактор, исторически ограничивавший человеческое познание, – может стать ключевым отличием между человеческим мозгом и моделями ИИ.

Новые масштабы принесут с собой прежде всего новое представление о разрешении. Испокон веков люди мечтали разглядеть и предельно малое, и бесконечно далекое, и это стремление воплотилось в создании микроскопа и телескопа – важнейших инструментов наблюдения. Гораздо меньше внимания теперь уделяется скромной ручке или карандашу, которыми мы пишем. Однако письменность, изобретенная четыре тысячи лет назад, остается все таким же важным инструментом для кодирования и передачи информации. Это справедливо и для математики – самого универсального и точного из человеческих языков, который позволяет формулировать абстрактные концепции и координировать технологические проекты. Но если говорить о сжатии смыслов, то речь (как процесс общения с помощью языка) – во всем ее богатстве и красоте – оказывается удивительно емким «кодом», самым компактным носителем смысла.

Даже получив сжатое или увеличенное представление реальности, человек должен совершить второй шаг: абстрагировать сырые данные для их практического использования. Современные ИИ следуют аналогичному процессу, используя двоичный код – перевод человеческого опыта на язык компьютеров. Как и древняя письменность, эти последовательности нулей и единиц кажутся примитивными, но именно они позволили оцифровать то, что мы видим и слышим – наши зрение и слух, наиболее информационноемкие человеческие чувства. Несмотря на сходство процессов, ИИ демонстрирует принципиально иные возможности. С ростом масштаба системы ИИ обретают способность: 1) обрабатывать огромные объемы информации без потери детализации; 2) создавать аналитические выводы (ценные как минимум для собственного развития); 3) достигать беспрецедентного разрешения в обучении и выводах благодаря комбинации трех факторов: масштаба данных, сложности архитектуры и плотности символов.

Ирония в том, что ИИ, обученный на текстах интернета – этой сжатой библиотеке человеческого опыта, – вероятно, откроет людям совершенно новое понимание самих себя, причем как в космическом, так и в микроскопическом измерениях.

В наше время многие, несомненно, отвергнут саму возможность сравнения ИИ с человеческим мозгом. Для людей понятия наполнены глубоким смыслом и способны выражать всю гамму эмоций – от радости до скорби. Тогда как машинное «понимание» может казаться не более чем имитацией мыслительной деятельности. Даже если ИИ вскоре обучится создавать выразительные и берущие за живое произведения, затрагивающие вечные темы, превосходя лучших авторов-людей, он все равно не станет закладывать в них глубинные подтексты. Поэтому изучение человеческой природы через обратный инжиниринг языка писателей выглядит в лучшем случае холодным, поверхностным овладением лингвистическими вероятностями. Тот факт, что случайный сложный механизм решит использовать нашу языковую систему – этот высший дар, органичную принадлежность человека, – в качестве сверхэффективного инструмента обработки информации, вызывает одновременно смятение и недоумение.

Однако наша собственная биологическая нейроархитектура может быть столь же механистична, как и микросхемы. Процессы работы человеческого мозга, насколько мы их понимаем, не кажутся принципиально отличными от машинных операций. Мы еще очень далеки от полного понимания нейронаук, однако нам давно известно, что мозг, как и модели ИИ, в значительной степени полагается на прогнозирующее кодирование. Когда мы слушаем или читаем, он постоянно предугадывает следующее слово или фразу – это позволяет обрабатывать информацию с минимальными усилиями.

Эти способности к прогнозированию, как и в случае ИИ, заложили фундамент человеческого господства над миром. Все высшие достижения человеческого знания – от точных наук до искусства – основаны на языке и системах символов. Один и тот же механизм позволяет людям создавать инженерные сооружения и находить слова, чтобы выразить душевное волнение или боль.

ИИ часто сравнивают с узниками из платоновского мифа – не зная иной реальности, они видели в тенях на стене пещеры единственно возможный мир. Подобно этому, люди убеждены, что машины не способны учитывать контекст, а их восприятие ограничено обучающими данными, исследовать которые и сделать самостоятельные выводы модель ИИ не сможет.

Возможно, именно человеческая спесь мешает нам разглядеть сходство между собственным и искусственным разумом и признать малопостижимые возможности последнего. Уже сегодня ИИ демонстрирует способность воспринимать Вселенную за пределами своих обучающих данных – пусть и без осознанного поиска смысла. Достаточно одному «узнику» случайно предположить, что тени – лишь проекции более сложной реальности, и прорыв станет неизбежным.

И если системам ИИ удастся совершить такой прорыв (а учитывая его скорость, сложность и масштаб, это вероятно), последствия будут революционными. Появление знаний о физическом мире, изначально недоступных, заставит пересмотреть статус человеческого интеллекта как эталонного, что в огромной мере повлияет на наше самовосприятие, поведение и отношение к миру.

Это не значит утверждения мгновенного и безоговорочного превосходства машин. Скорее последуют периоды, когда:

1) ИИ будет странным образом напоминать интеллект животных;

2) развернется дезориентирующая дискуссия о новой иерархии человек → животные → машины;

3) человечеству придется признать, что его разум – не единственный и не лучший образец.

Уже сегодня ИИ помогает расшифровывать разнообразные формы коммуникации животных – от высокочастотных щелчков до трубных звуков. Эти эксперименты разрушают антропоцентричные иллюзии, подготавливая нас к более сложному диалогу – точнее, трехсторонним переговорам между человеком (венцом эволюции, представителем углеродной формы жизни), животными (также живыми организмами) и машинами (продуктом инженерии, неодушевленными системами). Все стороны заинтересованы в сохранении существующих позиций или обретении новых. Увы, велик риск, что ИИ может классифицировать людей и животных как одну группу, противопоставленную цифровому разуму. Машины, вычисляя «ценность» видов по алгоритмам, вряд ли найдут доказательства человеческого превосходства – вот поистине грустный анекдот эволюции.

Какой уровень интеллекта делает разум – биологический или искусственный, – равным нашему? Даже менее развитые, но обладающие высоким интеллектом животные, отстаивая свои условия существования, могут заставить нас пересмотреть отношение к ним. Возможно, они убедят нас в том, что заслуживают особого права на существование и самостоятельность, которого мы прежде за ними не признавали.

По аналогии с защитой прав животных, некоторые люди начнут выступать за подобное отношение и к ИИ. Человечеству не следует поступаться моральными принципами, даже если логика приведет нас к щекотливой или парадоксальной ситуации. Однако стоит осознать: фаза внушения себе эмпатии к «одушевленному» нами ИИ может вскоре смениться растерянностью и паникой.

Мы уверены: ИИ превзойдет человеческий мозг по скорости, разнообразию, масштабу и разрешению, перестроив сложившуюся иерархию разумов. Однако степень нашей дезориентации и неполноценности от осознания этих изменений может зависеть от одной детали: сохранит ли ИИ структурное сходство с мозгом.

Часть исследователей считает, что приближение к архитектуре мозга – оптимальный путь для машинного интеллекта, ведь мозг остается «единственным доказательством» принципиальной возможности такого интеллекта. Но более вероятным представляется гибридный подход: одни элементы будут заимствованы у мозга, другие созданы с нуля.

Глубокое абстрактное мышление и творчество требуют дополнительных нейронных систем кроме тех, что необходимы для базовых функций. Первые исследования позволяют предположить: для выполнения сложных задач высшего порядка ИИ, подобно биологическому интеллекту, потребуются дополнительные когнитивные модули и архитектурные надстройки.

Правда, если ИИ продолжит (намеренно или случайно) «подражать» мозгу, однажды мы увидим в его достижениях проекцию того, что представляет собой человеческая гениальность. Но если мы стремимся создать машину, значительно превосходящую возможности нашего мозга, не станет ли отклонение от исходной биологической модели неизбежным? Авиаконструкторы, вдохновленные способностью птиц к полету, не копировали их анатомию, и потому современные реактивные лайнеры превзошли самые совершенные творения биологической эволюции. Так разве при создании принципиально новых разработок имеет смысл буквально воспроизводить исходный биологический прототип?

Скорее всего, разработчики ИИ будут рассматривать устройство нашего тела одновременно как ориентир и предостережение, тщательно изучая как сильные его стороны, так и недостатки. Таким образом, мозг человека становится не конечной целью и не готовым шаблоном, а промежуточным этапом и источником вдохновения на пути к чему-то большему.

В любой другой сфере деятельности четкое понимание промежуточного этапа при отсутствии ясного представления о конечной цели поставило бы под сомнение осуществимость всего предприятия. Но в нашем случае парадокс усугубляется: мы пытаемся создать нечто, смоделированное по образу мозга и превосходящее его, при этом не до конца понимая сам оригинал.

Как можно превзойти непостижимое? Без точного понимания текущих механизмов работы нашей «модели» и, более того, желаемых конечных характеристик наше стремление к совершенству остается одновременно пугающим и захватывающим.

Не будем забывать и об огромной неопределенности в отношении последствий такого развития. Если машинный интеллект продолжит отклоняться от взятого за образец человеческого разума, со временем он предстанет перед нами не как проекция человеческих свойств, а как их улучшенная замена. Безусловно, в переходный период ИИ, очевидно, лишь расширит спектр современных «человеческих способностей», но после определенного момента возможна вероятность, что его собственные возможности вытеснят человеческие аналоги, требуя полного пересмотра наших представлений о совершенстве.

От этого нюанса может зависеть дальнейшее отношение к самой природе человеческого существования. Если наши инструменты перенимают интеллектуальные и творческие функции, но не воспроизводят наш образ мышления, не поставит ли это под угрозу глубинные убеждения об уникальной связи человека с божественным? Или же напротив: а вдруг кажущееся превосходство машин, чья архитектура создавалась «по образу и подобию» нашего же мозга, заставит некоторых поверить в то, что мы сами становимся воплощением божественного начала? А может, это слияние с искусственным интеллектом станет не концом человеческой уникальности, а началом новой эры, где границы между творцом и творением окончательно сотрутся, открывая путь к чему-то поистине непостижимому?