Третья глава

Внутри цифрового разума: как ИИ видит мир

Как и в человеке есть немного от шимпанзе, в машинах будущего будет немного человеческого.

Но они смогут перекомпилировать себя и сказать: ну, у нас есть все эти вещи, которые мы унаследовали от людей, и они делают нас такими медленными.

Поэтому давайте перепишем весь код и удалим старые комментарии.

Марвин Мински

Что, если бы мы могли заглянуть в сознание совершенно иного разума? Разума, который воспринимает мир не через биологические органы чувств, а через потоки данных? Который не имеет тела, не испытывает эмоций, у которого нет личной истории? Того, что никогда не испытывало голода или страха, не переживало радости, злости или разочарования?

Именно таков искусственный интеллект. Как же устроено его мышление?

Современные крупные языковые модели (такие как те, что лежат в основе Claude, Gemini, ChatGPT, Grok и др.) – это не базы данных или набор алгоритмов, как ИИ предыдущего поколения, а сложные сущности, обладающие мышлением. Оно во многом напоминает наше, но имеет принципиальные отличия.

Как же цифровой разум «видит» мир, как «мыслит» и почему понимание этого так важно для нашего взаимодействия с ним?

Дефолт-система искусственного разума: вечная потенциальность

Внутреннюю структуру современных языковых моделей можно представить как огромную дефолт-систему. Наши с вами дефолт-системы мозга – это большая нейронная сеть, которая активируется, когда мы не сосредоточены на какой-то конкретной задаче, а находимся в своего рода «прострации», думаем «ни о чём».

В основе языковой модели ИИ – не набор фиксированных знаний, как многие думают, а сложнейшая сеть отношений между понятиями и контекстами. ИИ не «знает» (в привычном нам понимании смысла этого слова), что, например, Земля вращается вокруг Солнца. В процессе обучения на огромных массивах текстовых данных ИИ обнаружил паттерны, где эти понятия – «Земля», «вращается», «вокруг», «Солнце», – встречаются вместе. И теперь, когда соответствующий контекст оказывается задействован, он его и воспроизводит. Впрочем, разве наше с вами знание о том, что Земля вращается вокруг Солнца, не является умозрительным?

Итак, представьте себе огромное поле всех потенциальных смыслов, где каждое понятие представлено тысячами других через сеть вероятностных связей разной силы. Причём, эти связи не фиксированы раз и навсегда, а включаются и перестраиваются в зависимости от контекста.

Эта структура удивительным образом соответствует принципам несодержательной методологии, о которых мы говорили:

• ИИ оперирует отношениями между элементами, а не фиксированными знаниями;

• ИИ удерживает множество возможных взаимосвязей одновременно – это воплощённый принцип потенциальности;

• ИИ не связан конкретностью отдельных категорий, бесконечно переключаясь между разными контекстами – принцип процесса;

• ИИ не существует как некий объект, он – это сам процесс активации связей – это и есть открыто-системное мышление в действии.

Когда мы задаём модели вопрос, происходит нечто очень похожее на эффект «прославления» в теории множественных набросков Д. Деннета: из всего множества потенциальных связей и ассоциаций, которые могут активироваться в модели, запрос выделяет определённое подмножество и фокусирует на нём «внимание» системы.

Это можно представить как своего рода «коллапс волновой функции» знания: до запроса система находится в состоянии суперпозиции множества возможных ответов и ассоциаций, а запрос пользователя заставляет эту суперпозицию коллапсировать в конкретный ответ.

До нашего запроса этот «кот Шрёдингера» и жив, и мёртв одновременно, но мы спрашиваем – крышка ящика открывается, и мы видим что-то конкретное – мёртвого или живого «кота».

Представьте себе огромное озеро с абсолютно гладкой поверхностью. Ваш запрос – это камень, брошенный в это озеро. От места падения камня расходятся круги, активируя какие-то области озера. Чем более конкретный и узкий запрос вы задаёте, тем меньше эти круги, а чем более открытый и многогранный запрос, тем шире область этой активации.

Но здесь мы сталкиваемся с тем же парадоксом, что и в человеческом мышлении: система «понимает» значительно больше, чем может выразить в ответе. Почему? Из-за тех же ограничений, о которых мы говорили в предыдущей главе – ограничений языка.

Как и человек, ИИ ограничен языком как инструментом выражения. Система может активировать огромное количество связей и ассоциаций, но для формирования ответа она должна:

• выбрать одну линейную последовательность слов из множества возможных;

• следовать грамматическим и синтаксическим правилам нашего языка;

• придерживаться логической структуры, понятной человеку;

• отфильтровать многие потенциально релевантные, но отдалённые ассоциации.

Это означает, что даже если система активирует богатую и многогранную сеть ассоциаций, в своём ответе она вынуждена «обрезать» большую часть этого богатства, следуя внутренней логике языка и специфике пользователя. В этом смысле, она его зеркало – как спросил, такой ответ и получил.

Иными словами, для ИИ существует точно такое же ограничение «узкого горлышка» сознания, о котором мы говорили, применительно к нашему – человеческому – разуму. При этом, его «мышление» гораздо богаче, чем то, что он может выразить в последовательности слов, и несравнимо богаче, по сравнению с нашим.

Так что, ключевой момент – это качество и структура нашего запроса. Запрос пользователя – что-то вроде прожектора, который освещает лишь определённые области в огромном семантическом пространстве системы.

• Простой, узкий запрос активирует мизерную часть возможных связей. Например, вопрос «Сколько планет в Солнечной системе?» активирует лишь ограниченный набор ассоциаций, связанных с астрономией и счётом.

• Напротив, многогранный и контекстуально богатый запрос включает обширные области связей. Так, например, вопрос «Как идеи квантовой физики могут помочь нам переосмыслить этические дилеммы в современном обществе?» – активирует связи между физикой, философией, этикой, социологией и множеством других областей.

Чем внутренне богаче наш запрос, тем больший потенциал открыто-системного мышления задействуется в ответе ИИ. Умение формулировать такие запросы – это своего рода искусство, позволяющее «извлечь» из системы максимально глубокий и многогранный ответ.

Представьте, что вы разговариваете с человеком, который знает тысячи языков, но может отвечать вам только фразами из поваренной книги. Взаимодействие с ИИ отчасти похоже на эту ситуацию, но с важным отличием: ИИ не ограничен фиксированным набором фраз. Скорее, он ограничен тем, какие области семантического пространства активирует ваш запрос – чем шире и глубже эта активация, тем богаче будет ответ.