1. СМЕЛАЯ «программа-максимум», намеченная уже создателями кибернетики, в последние годы неоднократно подвергалась критике, зачастую весьма резкой; последняя объявляла эту программу утопической или вообще мифической, как об этом свидетельствует хотя бы подзаголовок книги Мортимера Таубе – «Миф о думающих машинах».

«Заметим... – пишет Таубе, – что гигантский искусственный мозг, машины-переводчики, обучающиеся машины, машины, играющие в шахматы, понимающие машины и т. п., заполнившие нашу литературу, обязаны своим „существованием“ людям, пренебрегающим сослагательным наклонением. В эту игру играют так. Сначала заявляют, что, если не учитывать незначительные детали инженерного характера, машинную программу можно приравнять самой машине. Затем блок-схему программы приравнивают самой программе. И наконец, заявление, что можно составить блок-схему несуществующей программы для несуществующей машины, означает уже существование этой машины. Точно таким путем были „созданы“ машины условной вероятности Аттли, „перцептрон“ Розенблатта, анализатор общих проблем Симона, Шоу и Ньювела и многое другие несуществующие машины, на которые в литературе делаются ссылки как на существующие».

А несколько далее, в связи с вопросом об отношениях в системе «человек – машина», М. Таубе пишет: «...классический порочный круг:

1) предлагается конструкция машины, предназначенной для моделирования человеческого мозга, который не описан;

2) подробно описанные характеристики машины полагаются аналогичными характеристикам мозга;

3) затем делается «открытие», что машина ведет себя подобно мозгу; порочность состоит в «открытии» того, что было постулировано».

В той мере, в какой технический прогресс опроверг некоторые выводы Таубе, полемика с его книгой, английское издание которой вышло в 1961 г., является сейчас излишней. Существует уже не только перцептрон, но и действующие реальные программы для машинной игры в шахматы, правда, пока только на уровне среднего шахматиста. Непонятно, однако, почему признание факта, что существуют машины, играющие в шахматы, следует отложить до той минуты, когда последний еще не побежденный чемпион мира получит мат от электронной машины, – ведь огромное большинство людей не умеет играть даже на упомянутом среднем уровне (к их числу, хотя это и не довод, увы, относится и автор этих строк).

Однако Таубе в своей полемической, местами даже нигилистической книге в манере, весьма характерной для определенного круга исследователей, высказал замечания, все еще достойные внимания. Он вновь поднял вполне классическую проблему «Может ли машина мыслить?», разбив ее на две части: на действия, связанные с семантикой, и на интуитивные действия. Создается впечатление, что формальные процедуры действительно имеют ограничения, вытекающие как следствия из теоремы Геделя о неполноте дедуктивных систем, и что чисто алгоритмическими методами невозможно с настоящей эффективностью переводить с одного естественного языка на другой, поскольку между ними не существует отношений взаимно однозначного соответствия.

Этим вопросом мы займемся несколько позже. Прежде чем перейти к обсуждению довольно туманного понятия интуиции, добавим еще, что Таубе прав и тогда, когда отмечает, как часто оказываются сходными результаты деятельности человека и машины и как различны процессы, которые к этим результатам приводят. Поэтому напрашивается предостерегающий вывод: нельзя легкомысленно переносить наблюдения, сделанные при изучении устройств, запрограммированных для решения конкретных задач, на область психической деятельности человека. Подобное сопоставление человека и машины, если вдуматься, ведет еще дальше: вполне возможно, что у разных людей к одним и тем же результатам приводят весьма различные мозговые процессы. Наконец, даже один и тот же человек, перед которым несколько раз ставятся задачи, принадлежащие с алгоритмической точки зрения к одному и тому же классу (то есть такие, для которых известен алгоритм решения), зачастую решает их различными способами; эта нерегулярность человеческого поведения, несомненно, изрядно портит настроение всем тем, кто занимается моделированием мозговых процессов.

Что же касается интуиции, то проблема ее автоматизации, иначе говоря, внемозгового воспроизведения, не представляется столь безнадежной, как полагает Таубе. Были проведены интересные исследования, в которых на примере игры в шахматы сопоставлялась эвристика человека с эвристикой машины. Дело в том, что шахматы не несут «семантической нагрузки» и решение шахматных проблем в определенной степени не зависит от всяческих «значений», которые вносят тягостную путаницу в область психической деятельности. Необходимо сразу же установить, что такое эвристика. Советский исследователь Тихомиров понимает под эвристикой определенные общие правила, которыми пользуется субъект, стремясь к решению поставленной перед ним задачи, – в том случае, когда систематический перебор всех потенциально существующих вариантов невозможен (именно так обстоит дело в шахматах, где число возможных партий достигает порядка 10⁹⁹). Раньше пытались анализировать эвристику шахматиста, требуя, чтобы на протяжении всей игры он думал вслух. Оказалось, однако, что большинство операций «слежения» (поисков оптимального маневра) происходит на доязыковом уровне, в чем шахматист, кстати говоря, даже не отдает себе отчета. Поэтому Тихомиров регистрировал движение глаз шахматиста; выяснилось, что поисковая эвристика игрока, хотя бы частично отразившаяся в этих движениях, обладает довольно сложной структурой. Происходит непрерывное изменение ширины зоны ориентации, то есть того участка шахматной доски с фигурами на ней, который шахматист наблюдает наиболее активно. Перемещения глазных яблок сигнализируют о наличии определенных, очень быстро конструируемых, своего рода «пробных» серий ходов (таким образом, эти серии – это как бы «перенесенные внутрь» элементы игры, внутренние модели последовательно выполняемых операций, рассматриваемые поочередно). Когда ходы противника соответствуют ожидаемому, то есть тому, что предвидел игрок, зона сужается до минимума, и, напротив, каждый неожиданный, непредвиденный ход влечет за собой значительное расширение зоны ориентировочных поисков и гораздо более обширное исследование альтернатив возникшей ситуации. Но особенно интересно, что определенного рода «находки», все эти «внезапно рождающиеся» тактические замыслы – своеобразный аналог «творческого вдохновения», которое в классическом рассказе символизируется возгласом «эврика», – предваряются сериями очень быстрых движений глаз, между тем как сам шахматист совершенно не предполагает, что у него вот-вот «родится в уме» какая-то мысль. Отсюда можно заключить, что кажущаяся внезапность и появление «ниоткуда» совершенно новых мыслей, которое субъективно воспринимается как «откровение», «озарение», – это иллюзия или самообман, порожденные несовершенством нашего интроспективного самоанализа. В действительности каждой такой мысли предшествует ускоренный до предела сбор информации (в данном случае получаемой с шахматной доски), а «внезапность» появления мысли есть результат проникновения информации, организованной и по крайней мере схематически обработанной на подпороговом уровне, в область сознания, перехода ее с низших уровней интеграции на тот наивысший уровень, на котором окончательно формулируется план наиболее эффективных действий.

Конечно, мы по-прежнему ничего не знаем о том, что происходит на этих низших уровнях мозговой динамики; во всяком случае, исследования Тихомирова подтверждают гипотезу о том, что информационная обработка входных сигналов, которые получает мозг, является многоступенчатой. Если понятие алгоритма вообще применимо к работе мозга, то в решении задач участвует сразу много алгоритмов, частично взаимно связанных, а частично независимых. Мозг как бы слагается из целого комплекса подсистем, работающих довольно независимо друг от друга, причем то, что мы называем «сознанием», может, образно говоря, «увлечь» в одну сторону, а вместе с тем человек безотчетно ощущает, как «что-то» сбивает его с пути, который он уже выбрал сознательно, хотя в его сознании еще нет никакого иного конкретного плана действий. Прибегая к метафоре, можно сказать, что подсознательные области, еще до того как они могут передать в сознание готовый результат информационной обработки, «как-то» – не по «каналам» ли эмоционального напряжения? – извещают сознание о назревающей «неожиданности». Нам пора, однако, как можно быстрее оставить подобную образность; ведь в лучшем случае она приведет в ярость конструктора, который стремится моделировать явления интуитивной эвристики, ибо самый изощренный язык «внутренних монологов» самоанализа ничем не поможет инженеру на его рабочем месте.

Машина для игры в шахматы, то есть соответственно запрограммированная электронная машина, практикует эвристику, в которую ее посвящает программа (способная, кстати говоря, к самообучению). Без преувеличения можно сказать, что очень многое зависит от таланта программиста (ибо программирование, несомненно, требует таланта). За единицу времени машина сумеет рассмотреть несравненно больше операций, чем человек (она действует примерно в миллион раз быстрее его), и все же человек побивает ее, потому что он способен к своеобразной динамической интеграции: если он умелый шахматист, то каждое отдельное расположение фигур он воспринимает как определенную слитную систему, как нечто целостное, обладающее четко выраженными «разветвляющимися» тенденциями развития. Машина пользуется различными тактиками, следовательно, она может с помощью определенных ходов подготовить следующие ходы, может пойти на жертву и т. п., но она вынуждена в каждом отдельном случае «проквантовать» ситуацию на доске, а свои предварительные расчеты она не способна, конечно, делать на много ходов вперед, потому что это физически невозможно даже для машины. Однако шахматная эвристика человека позволяет ему делать такие сокращения, на которые машина не способна. Позиция, обретая некую эмоционально-формальную ценность, рассматривается уже как индивидуализированное целое. Только такой уровень интеграции, когда две позиции с немногими отличиями в расстановке фигур воспринимаются как совершенно разные, позволяет гроссмейстеру разыгрывать несколько десятков партий одновременно.

Отметив столь феноменальные – с «машинной» точки зрения – способности мозга, мы вынуждены умолкнуть. Как бы там ни было, человеческая эвристика является производной от «эвристики» всех живых существ, потому что, едва возникнув, живые организмы были вынуждены всегда действовать только на основе неполной и неточной информации; им приходилось по этому приближению отыскивать инварианты – то есть довольствоваться расплывчатым решением. Поэтому исходным в моделировании был бы не такой прибор, который на основе имеющихся предпосылок действует строго логически, определяя истину или ложь в 100% случаев, а устройство, действующее по принципу «более или менее», «где-то около», «приближенно». Уж если эволюция (на уровне организмов в целом) создала в первую очередь именно такие «устройства», значит, это все-таки было проще, чем создавать аппараты, сознательно пользующиеся логикой. Действительно, каждый человек, даже маленький ребенок, «сам того не желая», пользуется логикой (заложенной в неосознаваемых законах языка), тогда как изучение формальной логики требует немалых умственных усилий. То, что каждый отдельный нейрон можно рассматривать при этом как миниатюрный логический элемент, не меняет положения дел. Отметим еще и следующее. Число таких элементов в мозгу у каждого человека, грубо говоря, одно и то же. Однако между людьми имеются очень существенные различия: один, например, феноменально вычисляет в уме, но является посредственным математиком, другой – отличный математик, однако его затрудняют простые арифметические расчеты; третий – композитор, способный понять лишь математические азы; наконец, четвертый – человек, лишенный как творческих, так и исполнительских способностей. Мы очень мало знаем о том, что есть общего в функционировании мозга у всех людей, и вовсе ничего не знаем о материальных причинах столь резких различий.

А это в свою очередь еще осложняет нашу проблему. Вот почему кибернетик с радостью приветствует появление устройств, которые хотя бы в зачатке способны к некоторым операциям познания, то есть действуют по принципу «более или менее», даже если общая формальная теория такого познавания отсутствует. Мы имеем в виду перцептроны.

Перцептроны – это системы, снабженные «зрительным рецептором», который представляет собой грубый аналог сетчатки глаза, а также псевдонейронными элементами, соединенными случайным («лотерейным») способом. Перцептроны приобретают способность распознавать образы (простые плоские конфигурации, например цифры или буквы) в процессе обучения, который идет по довольно простому алгоритму. Создаваемые сейчас перцептроны все еще примитивны и распознавать, например, человеческие лица пока не могут, как не могут, конечно, и «читать тексты», но они уже представляют собой заметный шаг на пути к созданию машин, способных такие тексты читать. Это неслыханно упростит все процедуры, предваряющие ввод в цифровую машину информации о поставленной задаче: ведь сейчас каждую такую задачу нужно сначала перевести на язык машины, а эта – не автоматизированная – процедура поглощает много времени у обслуживающего персонала. Поэтому конструирование все более сложных и все более «способных» перцептронов представляется весьма многообещающим. Это не означает, что перцептрон как модель мозга «точнее» цифровой машины (тем более что работу перцептрона можно моделировать на цифровой машине), нельзя утверждать также, что перцептрон «более похож» на мозг, чем такая машина. Каждое из этих устройств моделирует в своей узкой области определенные элементарные аспекты деятельности мозга – и это все. Быть может, будущие перцептроны подведут нас ближе к пониманию «интуиции». Нужно добавить, что в литературе по этому вопросу существует определенная путаница в терминах или неясность в понятиях. Некоторые называют «эвристическое поведение» «неалгоритмичным». Но подобное определение зависит от того, считаем ли мы, что алгоритм – это полностью детерминированный распорядок действий, не меняющийся в процессе реализации, или что это такой распорядок, который благодаря преобразующим его обратным связям в процессе работы сам переходит в форму, отличную от исходной. В определенных случаях можно было бы говорить здесь о «самопрограммировании», что также вносит некоторую путаницу, поскольку это понятие применяют к самым разным типам поведения. В классических цифровых машинах программа четко отделена от реализующих ее рабочих устройств, а в мозгу такое отчетливое разделение имеется не всегда. С той минуты, когда поведение сложной системы становится «пластичным», иначе говоря, когда его детерминизм оказывается лишь условным, вероятностным, когда оно перестает быть прямолинейной реализацией жестких, раз навсегда установленных «предписаний», понятие алгоритма уже нельзя применять в том виде, в каком оно заимствовано прямо из дедуктивных наук. Ведь и в этом случае можно диктовать детерминированное поведение, но лишь до определенной границы. Например, после некоторого числа шагов сообщить системе, что ей следует начать «свободный поиск» очередного шага в диапазоне всего множества альтернатив; после чего она начнет действовать методом «проб и ошибок», пока не нащупает «оптимальное» значение, например минимум или максимум какой-либо функции, и тогда вновь на какое-то время включится «жесткий» распорядок действий. Но возможен также и случай, когда весь алгоритм является в определенном смысле слова «равномерно» вероятностным, то есть никакой из очередных шагов не предписывается системе «аподиктически», ей даются лишь некоторые пределы, границы допустимых областей, где могут включаться либо алгоритмы иного характера («локально детерминированные»), либо операции типа «сопоставления» в целях поиска сходства (вроде «распознавания образов» или «форм»). Можно при этом комбинировать известные операции типа «априорно заданного» управления, «поиска», «сравнения» и, наконец, «индукции». Здесь при решении вопроса, с чем же мы имеем дело – с «алгоритмом» или с «эвристикой», основанной на «интуиции», – заметную роль играет уже просто соглашение (похожее на соглашение, что вирус в кристаллической форме «неживой», а вирус, внедрившийся в бактериальную клетку, «живой»).

2. Как же могут теперь выглядеть попытки ответа на вопрос, способны ли результаты «машинного мышления» превзойти уровень интеллектуальных возможностей человека? По-видимому, следует перечислить возможные ответы. При этом мы не знаем, исчерпаны ли все возможные варианты, так же как не знаем, какой из них истинен.

А. Машинное мышление по некоторым принципиальным причинам не может превысить «потолок человеческого интеллекта». Например, потому, что никакая система не может быть «разумнее» человека; мы сами уже достигли потолка, но просто не знаем об этом. Либо потому, что к мыслящим системам типа «человек» ведет единственный путь – путь естественной эволюции, который можно в лучшем случае «пройти вновь», используя как экспериментальный полигон всю планету; либо, наконец, потому, что небелковые системы в интеллектуальном отношении (то есть как преобразователи информации) всегда хуже белковых и т. п.

Все это звучит весьма неправдоподобно, хотя исключить такую возможность пока нельзя. Я говорю это, опираясь на эвристику, которая подсказывает, что человек как разумное существо вполне зауряден, коль скоро его сформировал отбор по сравнительно малому числу параметров на протяжении всего лишь миллиона лет; что могут существовать и более «разумные» существа; что процессы Природы воспроизводимы и что к тем состояниям, к которым Природа пришла одной цепочкой шагов, можно прийти и другими путями.

Б. Машинное мышление способно превзойти человеческий интеллектуальный потолок, подобно тому как учитель математики «умнее», чем его ученики. Но так как человек способен понимать то, к чему не может прийти самостоятельно (например, дети понимают евклидову геометрию, хотя и не придумывают ее сами), то человеческому интеллекту не грозит потеря контроля над «познавательной стратегией машин»; он всегда будет понимать, что они делают, как они это делают и почему делают. Эта позиция также представляется мне неприемлемой.

Собственно говоря, что означает фраза: «Машинное мышление способно превзойти интеллектуальный потолок человека»? Неправильно понимать это превосходство как превосходство учителя над учениками; это ложное понимание – ведь учитель тоже не создал геометрии. Речь идет об отношении творцов науки ко всем остальным людям – вот что является аналогом отношения «машина – человек». А это значит, что машины могут создавать теории, то есть выделять инварианты тех или иных классов явлений в более широком диапазоне, чем человек. «Усилитель интеллекта» Эшби, в его первоначальном замысле, не заменил бы ученого, ибо этот усилитель – простой селектор информации, тогда как труд ученого к отбору несводим. Разумеется, машина Эшби могла бы охватить в качестве элементов выбора значительно большее число альтернатив, чем на это способен человек. Это устройство вполне реально и полезно, если мы остановились на распутье и должны избрать дальнейшую дорогу. Оно оказывается бесполезным, если нам лишь предстоит догадаться, что какой-то путь вообще существует, например, путь «квантования процессов». Поэтому такой усилитель нельзя считать и первым приближением к машине, автоматизирующей творческий труд ученого. Пока что мы не в состоянии начертить хотя бы приближенный эскиз того, что нам нужно. Однако мы знаем, по крайней мере в грубых чертах, что должна уметь такая «гностическая» машина: для создания теории сложных систем она должна учитывать огромное количество параметров – такое количество, с которым алгоритмы современной науки справиться не могут.

В физике отдельные уровни явлений можно рассматривать изолированно (атомная физика, ядерная физика, физика твердого тела, механика). В социологии это невозможно, различные уровни (сингулярно-единичный, плюрально-массовый) попеременно оказываются ведущими, то есть определяют динамическую траекторию системы. Основное препятствие как раз в количестве переменных, подлежащих учету. «Гностическая» машина, способная создать «теорию общественной системы», должна была бы принять во внимание очень большое число переменных и этим отличалась бы от известных нам физических формализмов. Итак, на выходе «гностического творца» мы получаем теорию, закодированную, скажем, в виде целой системы уравнений. Смогут ли люди как-либо подступиться к этим уравнениям?

Создавшуюся ситуацию, может быть, легче понять на примере, почерпнутом из биологии. Если информационная емкость яйцеклетки совпадает с количеством информации, содержащейся в энциклопедии, и если заполнить расшифровкой генотипа тома энциклопедии, то и тогда подобную энциклопедию можно будет прочесть, однако, лишь потому, что читателю известны физика, химия, биохимия, теория эмбриогенеза, теория самоорганизующихся систем и т. д. Одним словом, ему известны соответствующий язык и правила его использования. В случае же теории, которую «породит» машина, он не будет знать предварительно ни ее языка, ни законов его применения, всему этому он должен будет еще учиться. Вопрос в его окончательном виде ставится, следовательно, так: может ли читатель этому научиться?

В этом месте в наши рассуждения входит фактор времени. Ведь, пожалуй, вполне очевидно, что бактериальной клетке при делении нужно гораздо меньше времени, чем нам, для того чтобы прочитать содержащуюся в ней информацию, закодированную на языке аминокислот и нуклеотидов. Пока мы «глазами и мозгом» один раз прочтем текст «формализованной и перекодированной бактерии», она успеет претерпеть сотни делений, потому что она-то при каждом своем делении «читает сама себя» несравненно быстрее. А в случае «теории общества» – или вообще какой-либо чрезвычайно сложной системы – время чтения может оказаться таким, что читателю не под силу будет ничего понять. Хотя бы потому, что он не сможет мысленно оперировать членами уравнений: из-за своей огромной длины они ускользают из его поля зрения, превышают возможности его памяти; такое чтение станет поистине сизифовым трудом. Но тогда вопрос прозвучит так: можно ли свести теорию, выданную машиной, к такой достаточно простой форме, чтобы человек мог эту теорию охватить? Боюсь, что это будет невозможно. Разумеется, упрощение само по себе возможно, но только всякая следующая форма теории после очередного упрощения окажется, с одной стороны, беднее оригинала за счет каких-то утраченных элементов, а с другой стороны, все еще слишком сложной для человека.

Таким образом, производя упрощение, машина будет заниматься тем же, что делает физик, когда на публичной лекции излагает теорию гравитационных волн, обходясь скудным арсеналом школьной математики. Или тем, что делал мудрец из восточной сказки, который принес властелину, жаждавшему знаний, сначала библиотеку, занявшую целый караван верблюдов, потом сотню томов, навьюченную на мула, и, наконец, толстые фолианты, которые нес один раб, – ибо для властелина эти последовательные «упрощения» все еще были «слишком пространны».

Из сказанного видно, что уже нет надобности рассматривать такую (третью) возможность: машина способна превзойти интеллектуальный потолок человека как в том, что человек еще может, так и в том, чего он уже не может понять. Эта возможность появилась как следствие в ходе опровержения второй.

Там, куда человек сможет дойти своим умом, машина, вероятно, понадобится только в качестве «раба», который будет выполнять трудоемкие вспомогательные операции (расчеты, доставка нужной информации), то есть будет играть роль «ассистента» при «поэтапных операциях», роль «вспомогательной памяти» и т. п. Там, где разум человека будет уже недостаточен, машина представит готовые модели явлений, готовые теории. Тогда возникает вопрос-антиномия: «Как можно контролировать то, чего контролировать нельзя?» Может быть, следует создать машины-«антагонисты», которые взаимно контролировали бы результаты своих действий? Но что предпринять, если они дадут на выходе противоречивые результаты? В конце-то концов судьба теорий, порожденных машинами, зависит от нас, в особо конфликтной ситуации мы можем даже предать теорию огню. Иначе обстоит дело с управляющими машинами – такими машинами, которые являются наиболее вероятным воплощением усилителя умственных способностей Эшби. Роботов с квазичеловеческой индивидуальностью вряд ли кто-либо станет создавать. Зато, несомненно, возникнут и будут разрастаться кибернетические центры, управляющие производством, товарооборотом, распределением, а также научными исследованиями (координация усилий ученых, которым на начальной стадии работ «симбиотически» помогают вспомогательные машины).

Но очевидно, что подобные локальные координаторы нуждаются в сверхкоординаторах в масштабе, например, государства или континента. Возможны ли между ними конфликты? Как нельзя более возможны. Конфликты будут возникать в связи с капиталовложениями, исследованиями, энергозатратами. Ведь всякий раз будет необходимо установить приоритет тех или иных действий и шагов с учетом целого «муравейника» взаимосвязанных факторов. Такие конфликты необходимо будет разрешать. Мы, разумеется, спешим сказать: это будут делать люди. Отлично. Вспомним, что конфликты будут касаться проблем огромной сложности, и людям – контролерам Координатора, чтобы обрести ориентировку в открывшемся перед ними математическом море, придется прибегнуть к помощи других машин – машин, оптимизирующих решение. Над всем этим высится глобальный аспект экономики – ее тоже нужно координировать. Всепланетный Координатор – тоже машина, со своим «консультативным советом», состоящим из людей, которые проверяют локальные решения системы «машин-контролеров» на отдельных континентах. Но как будут проводить такую проверку члены «консультативного совета»? Для этого у них будут собственные машины, оптимизирующие решения. Тогда возникает вопрос: возможно ли, что их машины при контрольном дублировании работы континентальных машин дадут иные результаты? Это вполне возможно: ведь каждая машина при выполнении определенной цепочки шагов, из которых слагается решение задачи (например, по методу последовательных приближений из-за огромного числа переменных), становится в каком-то смысле «пристрастной» – тем, что на английском философском жаргоне выражается словом «biased». Известно, что человек в принципе не может не быть пристрастным; но почему должна быть пристрастной машина? Дело в том, что пристрастность отнюдь не обязана вытекать только из эмоционального предубеждения, она возникает в машине уже тогда, когда конфликтующим членам альтернативы машина придает различный «вес». Возможно ли, что при расстановке оценок несколько независимо работающих машин дадут результаты, отличные друг от друга? Конечно же, ведь эти машины будут по объективным причинам вероятностными устройствами и поэтому не смогут действовать одинаково. С алгоритмической точки зрения процесс управления представляет собой «дерево решений» или целый класс таких «деревьев»; нужно согласовывать противоречивые потребности, различные стремления, интересы, нужды и невозможно ввести заранее такой «ценник» для всех мыслимых конфликтных ситуаций, чтобы эти «оценки в баллах» сами по себе, несмотря на применение статистических методов, приводили к одинаковым результатам при повторных решениях одной и той же проблемы. При этом очевидно, что степень различия результатов есть функция сложности решаемых задач.

Ситуация, возможно, станет более выразительной, если мы заметим, что ее удается частично описать на языке теории игр. Машина – это как бы игрок, ведущий игру против некой «коалиции», которая состоит из огромного числа различных группировок, производственных и рыночных, а также транспортных, относящихся к сфере обслуживания и т. п. Задача машины, образно говоря, состоит в том, чтобы сохранить оптимальное равновесие внутри коалиции, чтобы ни один из ее «членов» не был обижен в сравнении с остальными и ни один не получил бы выигрыша за счет других. При таком подходе коалиция – это просто экономика всей планеты в целом, которая должна развиваться гомеостатично и в то же время «справедливо и равномерно», а игра машины против коалиции состоит в том, что машина систематически поддерживает внутри этого динамически развивающегося хозяйства такое состояние равновесия, которое приносит всем выигрыш либо, если уж это неизбежно, – убытки, но минимально возможные. Если теперь такую «партию» против нашей «коалиции» будут разыгрывать поочередно различные машинные партнеры (следовательно, если каждый из них будет иметь дело с одной и той же исходной ситуацией внутри коалиции), то было бы совершенно невероятным, если бы все партии протекали одинаково и имели бы одинаковый результат. Это все равно что утверждать, будто разные люди, играющие поочередно против одного и того же шахматиста, будут играть в точности одинаково только потому, что перед всеми один и тот же противник.

Итак, что же все-таки делать с различными «оценками» машин, которые должны были помочь человеку, собирающемуся разрешить спор локальных координаторов? Продолжать описанную процедуру без конца невозможно – это будет regressus ad infinitum: нужно что-то предпринять. Но что? Дело выглядит так: либо электронные координаторы не могут учитывать большего числа переменных, чем человек, – и тогда их незачем строить, либо могут – но тогда человек уже сам не может разобраться в результатах, то есть не может принять какое-либо решение независимо от машины, исходя из «собственной оценки ситуации». Координатор управляется со своим заданием, а вот человек-«контролер» в действительности ничего не контролирует, это ему лишь кажется. Разве это не ясно? Машина, к услугам которой обращается человек-контролер, является в определенном смысле дублером Координатора, а человеку в этой ситуации достается роль мальчика на побегушках, который переносит ленту с записью информации с места на место. Если же две машины дают неодинаковые результаты, то человеку ничего иного не остается, как только «бросать монету», чтобы осуществить выбор, – из «верховного контролера» он превращается в механизм случайного выбора! И вот снова, теперь уже при допущении только управляющих машин, мы получаем ситуацию, в которой машины оказываются «способнее» человека. Prima facie следовало бы им это запретить, установив, например, такой закон: «Запрещается строить и использовать машины-координаторы, способности которых к переработке информации не позволяют человеку-контролеру разобраться по существу в результатах их деятельности». Но ведь это чистая фикция: как только сама динамика экономических процессов, подлежащих регулированию, потребует дальнейшего развития координаторов, грань человеческих возможностей надлежит перейти – и вот мы опять перед антиномией.

Может показаться, что я занимаюсь мистификацией. Обходимся же мы сегодня вообще без всяких машин! Верно, но ведь мир, в котором мы живем, сегодня еще очень прост. Разница между нашей, довольно примитивной, цивилизацией и необычайно сложной цивилизацией будущего примерно такая же, как между машиной в обычном смысле слова и живым организмом. В классических машинах и «простых» цивилизациях возникают разного рода самовозбуждаюшиеся колебания, неконтролируемый уход параметров от нормы, что вызывает то экономический кризис, то голод, то отравление талидомидом. Чтобы уяснить себе, как работает сложная машина, нужно понять, что мы двигаемся, ходим, говорим, одним словом, живем лишь потому, что каждую долю секунды сразу в миллиардах участков нашего тела мчатся вереницы кровяных телец с молекулами кислорода; что в миллиардах клеток идут миллиарды других процессов, которые «держат в узде» непрестанное броуновское движение частиц, стремящихся к анархии теплового хаоса; что таких процессов, которые нужно удерживать в предельно узком диапазоне параметров, – миллиарды и с выходом их из этого диапазона начался бы распад динамики всей системы. Чем сложнее система, тем тотальнее должна быть ее регулировка, тем менее допустимы локальные отклонения параметров. Господствует ли наш мозг как регулятор над нашим телом? Безусловно. Господствуем ли мы сами, каждый из нас, над своим телом? Только в очень узком диапазоне параметров: остальные нам «заданы» предусмотрительной Природой. Но никто не может «задать» нам, то есть наладить за нас, регулирование очень сложной общественной системы. Опасность, о которой говорил Винер, состоит в том, что к положению, когда мы уже вынуждены будем требовать «интеллектронной подмоги», прогресс подводит нас незаметно и постепенно, а в тот момент, когда мы начнем утрачивать ориентировку в целом и, следовательно, способность к контролю, цивилизацию в отличие от часового механизма нельзя будет остановить – она должна будет «идти» дальше.

Но разве она не будет идти «сама», как прежде? Не обязательно. Это, так сказать, отрицательная сторона прогресса в его гомеостатическом смысле. Амеба куда менее чувствительна к временной нехватке кислорода, чем мозг. Средневековый город нуждался только в воде и пище; современный – без электроэнергии превращается в ад, каким стал Манхеттен несколько лет назад, когда замерли лифты в небоскребах и поезда под землей. Гомеостаз двулик: это рост нечувствительности к возмущениям извне, вызванным «естественными» причинами; но вместе с тем это и рост чувствительности к возмущениям внутренним, вызванным разладкой внутри самой системы (организма). Чем искусственнее окружающая нас среда, тем сильнее мы зависим от технологии, от ее надежности – и от ее сбоев, если она их допускает. А она может допускать сбой. Сопротивляемость индивидуума возмущениям также можно рассматривать двояко: как сопротивляемость изолированного элемента и как сопротивляемость элемента общественной структуры. В «сопротивляемости» Робинзона Крузо проявилось его информационное «предпрограммирование» внутри цивилизации (до того как он стал «изолированным элементом» на необитаемом острове). Аналогично инъекция, которая дает новорожденному определенный иммунитет на всю жизнь, вызывает чисто индивидуальное увеличение его «сопротивляемости», «сопротивляемости» как изолированного элемента. Зато в тех случаях, когда такие вмешательства должны повторяться, общественные связи обязаны функционировать безупречно; если, например, больного с сердечной недостаточностью спасает от смерти вживленный под кожу аппарат, имитирующий нервные импульсы, то больной должен регулярно получать энергетическое питание (батарейки) для этого аппарата.

Таким образом, с одной стороны, цивилизация спасает человека от смерти, а с другой – ставит его в большую зависимость от своего безотказного функционирования. На Земле человеческий организм сам регулирует соотношение кальция в костях и кальция в крови, но в Космосе, в условиях невесомости, когда кальций выделяется из костей в кровь, уже не Природа, а мы сами должны вмешиваться в регуляцию. В известных из истории общественных формациях не раз возникали резкие нарушения гомеостаза, вызванные как внешними (эпидемии, стихийные бедствия), так и внутренними причинами; чисто описательным каталогом их служат исторические хроники. Общественные структуры обладали различной сопротивляемостью подобным нарушениям; иногда нарушения выводили всю систему за пределы устойчивости в зону необратимых переходов, приводили к революционным изменениям всей структуры. Однако всегда люди вступали в общественные отношения с другими людьми, управляли сами или были управляемы, эксплуатируемы, и все, что ни происходило, вытекало, таким образом, из человеческих действий. Заметим, правда, что эти действия объективировались в определенные силы, стоявшие над личностями и над группировками, сходные материально-информационные связи облекались в различную форму; действовали также и побочные рычаги общественной стабилизации, начиная с одного из древнейших – семьи. С развитием технологии сложность процессов, подлежащих регуляции, растет, и в конце концов возникает необходимость использовать регуляторы с большей разнородностью, чем человеческий мозг. По существу, это метаформационная проблема, потому что потребность в этом начинают ощущать страны с различными общественными укладами, лишь только они достигают достаточно высокого уровня техноэволюции. Но как раз «неживые» регуляторы будут справляться с этой задачей, по всей вероятности, лучше, чем люди, а значит, и здесь развитие технологии вносит большой вклад «в улучшение структуры». Кроме того, совершенно изменится психологическая ситуация: одно дело знать, что из отношений, в которые по необходимости вступают люди, рождаются динамико-статистические закономерности, бьющие иной раз по интересам отдельных лиц, групп или целых классов, и совсем другое – видеть, как наша судьба ускользает из наших рук, зримо отдаваемая «электронным опекунам». Ведь при этом возникает особое состояние, биологическим аналогом которого была бы ситуация, в которую поставлен человек, сознающий, что всеми жизненными процессами в его теле ведает не он, не его мозг, не внутренние закономерности системы, а какой-то внешний центр, который предписывает всем клеткам, ферментам, нервным волокнам, всем молекулам тела наиболее оптимальное поведение. И будь даже подобная регуляция совершеннее, чем та, которую естественно осуществляет «соматическая мудрость организма», обещай она в перспективе силы, здоровье, долголетие, все же каждый, наверное, согласится, что ощущал бы ее как нечто «противное естеству» в смысле нашего человеческого естества; и, наверное, то же самое можно сказать, вернувшись от этого образа к отношению «общество – его интеллектронные координаторы». Чем больше будет расти сложность внутренней структуры цивилизации, тем в большей степени и во все более многочисленных областях придется допускать для поддержания гомеостаза зоркий контроль и вмешательство таких регуляторов. Но субъективно такой процесс может выглядеть как проявление «алчности» этих машин, подчиняющих себе все новые и новые, прежде чисто человеческие области бытия. А ведь перед нами не «электронные боги» или какие-нибудь владыки, а всего лишь устройства, которые поначалу призваны были наблюдать за отдельными процессами особого значения или особой сложности, но постепенно, в процессе своеобразной эволюции, простирают свою опеку чуть ли не на всю динамику общества. И эти системы вовсе не будут пытаться «покорить человечество» в каком-либо антропоморфном смысле этого слова, потому что, не будучи людьми, они лишены какого-либо эгоизма или жажды власти – свойств, которые по смыслу этих понятий можно приписать только «индивидуумам». Разумеется, люди могли бы начать персонифицировать эти машины, приписывая им несвойственные машинам «намерения» и «ощущения», однако это была бы мифология, но только уже нового, интеллектронного века. Я вовсе не стремлюсь придать демонизм этим безличным регулирующим машинам; я попросту описываю поразительную ситуацию, когда к нам, как к Полифему в его пещере, подбирается Никто, однако на этот раз для нашего же блага. Право окончательного решения может навсегда остаться в руках человека; что ж из того, ведь попытки использовать подобную свободу тут же покажут, что решения машин, отличные – если только они действительно будут отличными – от решений человека, выгоднее, ибо машинные решения учитывают большее число факторов. После нескольких болезненных уроков человечество могло бы превратиться в послушного ребенка, который всегда следует добрым советам Никто. Регулятор в этом смысле гораздо слабее, чем в случае Властелина; ведь теперь он никогда и ничего не приказывает, он лишь советует. Но обретем ли мы силу в этой его слабости?

3. Настало время, когда мы, следуя названию этого раздела, собираемся погрузиться в проблему, по сравнению с которой сущей безделицей, попросту детской игрушкой выглядят все описанные в этой книге устройства, включая и те, которые могут создавать миры. Мы обходили эту проблему, придерживаясь разумной осторожности. Эту осторожность не надо путать со страхом, однако честность требует от нас признать, что и сие ощущение не было чуждо мотивам нашего умолчания. Впрочем, к проблеме, в которую теперь, к сожалению, нужно войти, мы подходили уже много раз, но всякий раз в последний момент увертывались.

Мы прикидывались, будто вообще не замечаем той бездны, куда теперь решились заглянуть. Мы говорим все это, чтобы подготовить читателя к противоборству с загадкой, более таинственной, чем Сфинкс, а именно – произнесем уж наконец это слово – к борьбе с проблемой значения, с самой бездонной среди всех бездн.

Мы вообще обошли бы этот вопрос, получив всестороннюю выгоду, если бы он не стоял на нашем пути – на пути моделирования мозговых процессов, – делая обход совершенно невозможным.

В докибернетическую эру, быть может, и удалось бы, прочно утвердясь на позиции конструктора, до самого конца так и не сказать ни единого слова о значении – сегодня это уже невозможно. В доброе старое время лиц, занимавшихся логической реконструкцией языка, то есть процедурами формализации, почитали за безвредных чудаков, труды которых никому и ни для чего не нужны, а на все их претензии и декларации, будто лишь они создают по-настоящему действенное орудие познания, отвечали со снисходительностью или иронией вопросом, что же реальное они, собственно, сделали. Подобное отношение подытожено афоризмом: «Почему бы вам не взлететь, если у вас есть крылья?»

В действительности никто, не исключая и физиков, вовсе не спешил использовать ту реконструкцию языка, которую подвергали широкой огласке люди, звавшиеся тогда логистиками (или скорее логическими эмпириками). Лет через тридцать обнаружилось, что работа их является весьма даже полезной. На язык исчисления высказываний, логической семантики и вообще на всю метаматематику набросились инженеры – конструкторы цифровых машин; это произошло приблизительно тогда же, когда принялись отряхивать пыль с работ Буля, совершенно необходимых для нарождающейся теории передачи сообщений. Еще раз подтвердилась истина, что теоретических работ с иллюзорным (по всеобщему убеждению современников) физическим адресом, которые не обрели бы с ходом времени острую актуальность для какой-нибудь новой технологии, попросту нет.

Но тут инженеры, которые принялись изо дня в день жадно внимать профессорам, привыкшим к пустоте аудиторий, унаследовали, не очень-то сознавая все это, в невинных поначалу формах, от философской школы, предающейся уточнениям, некий призрак, замурованный в подземельях ее твердыни, твердыни, построенной из чистой логики. Они и не подозревали, что принимают во владение информационные структуры разом со всем их инвентарем, в том числе и с не очень желательным. Они прозрели очень скоро, потому что и им начал являться призрак значения, с которым до тех пор единоборствовали философы – истязали его и пытались надеть на него оковы, а он лишь глумился над ними.

О значении значения написаны целые библиотеки. Но никто не знает, чем же оно является в том одном-единственном необходимом Конструктору смысле, который позволяет не только дать определение (определений таких – тьма), но и сконструировать систему, ведущую себя так, как существо, понимающее значение.

Значение – это сущее бедствие структурной лингвистики и кибернетики, не говоря уж о философах, которые хотя и претерпели от него множество страданий, но уже ухитрились кое-как к нему привыкнуть. Над каждым, кто в той или иной мере занимается языком в качестве специалиста, висит, как дамоклов меч, проблематика, относящаяся к значению.

Где бы ни появилось значение, точная и строгая работа становится невозможной – за ним выползают кошмары бесконечности, зыбкости, неопределенности, а все квантованные, поэтапные, точные действия тонут в наплыве проклятого смыслового мрака. Поэтому было придумано неисчислимое количество способов помешать этому духу проникнуть туда, где прежде всего нужна строгость. Действовали по-разному. Пожалуй, лучше всего это удалось математикам, которые изгнали беса из своих владений и закрыли за ним врата на все засовы, декретировав, что все, чем они занимаются, вообще ничего не «значит» и является попросту некой забавой, игрой в расстановку значков на бумаге, значки же эти ни к чему, кроме друг друга, отношения не имеют. Нужно, однако же, заметить, что Гедель, один из самых блестящих умов нашего столетия, своей теоремой показал, каким призрачным может быть это изгнание значения из математики – математика в целом наверняка никогда не может быть формализована. Стало быть, этот призрак бродит и по математике; правда, он разгуливает на самых ее границах и гонит сон от очей философов математики – метаматематиков. Тем временем представители одного из строгих математических направлений, интуиционисты, предприняли попытки даже приручить дьявола, и хотя эти попытки делаются не очень открыто, а заклинатели ведут себя весьма осторожно, но конструктивисты вместе с формалистами, тем не менее, ставят интуиционистам в вину эти шашни с нечистой силой и тычут им в лицо всякий раз, как только подвернется удобный случай.

Представители логического эмпиризма, физикалисты, наконец бихевиористы, также всячески изгоняли беса-значение, подвергали его пыткам, вздергивали на дыбу, отсекали у него всякие общепринятые атрибуты, полагая, что вследствие такого обращения бес падет духом и перестанет подтачивать стройность их концепций; затем они провозглашали, чем, с их точки зрения, является «значение», и беспощадно «гильотинировали» все, что выпирало за рамки их условных и во спасенье созданных определений. И действительно, им удалось соорудить множество стрельчатых зданий, в которых проблема значения полностью отсутствует. Они обходят ее таким же благопристойным молчанием, каким «в обществе» прикрывают некоторые пикантные подробности. Разумеется, это нужно понимать правильно. Как известно, в учебниках логики и логической семантики фигурируют Иван и Петр, которые время от времени произносят фразы вроде «Лондон – столица Англии» или «Идет снег». Об истинности или ложности этих фраз можно что-либо сказать лишь потому, что в логической семантике значение приобретает совсем не тот смысл, который оно имеет в обиходе, а нескольким особо одаренным ученым во главе с Тарским удалось создать такие метаязыки, а также и другие великолепные построения, кои позволяют теперь уже совершенно безбоязненно утверждать, что фраза «Идет снег» верна тогда и только тогда, когда идет снег.

Примерно так же «в обществе» говорят, что мистер Смит женится на мисс Браун, и все готовы широко обсуждать эту тему. При этом, однако же, полностью обходят одну из как-никак главных материально-физических сторон подобного происшествия – ведь никто «в обществе» не отваживается расспрашивать о подробностях первой брачной ночи.

Роль циников, задающих такие в высшей степени непристойные вопросы, берут на себя критики формальных систем, вроде Таубе, которые требуют, чтобы Иван или Петр вместо предложения «Идет снег» высказывали какие-нибудь другие предложения, вроде «Бог есть», каковое предложение верно тогда и только тогда, когда Бог существует; однако при этом нет ни одного такого факта или ситуации, которые позволили бы установить отношение формальной эквивалентности между ними и данной фразой. И дальше Таубе говорит: «Если бы Тарский ответил на это, что формальная эквивалентность выдерживается не между предложением и фактом, а между предложением в одном языке и предложением в другом, с этим можно было бы согласиться.

Но тогда становится трудно понять, почему эквивалентность между предложениями в одном и том же языке – это чисто формальный факт, не имеющий семантического значения <significance>, тогда как эквивалентность предложения в одном языке предложению в другом языке должна иметь такое содержание <content>. Либо вывод Тарского чисто формален, то есть истинен по определению, – в этом случае он не имеет никакого семантического содержания; либо он должен относиться к экспериментально подтверждаемой связи между любым языком и совокупностью фактов – в этом случае существует поистине семантическое содержание, но такое, которое находится вне всякой формальной системы, даже если обратиться к бесконечной иерархии метаязыков.

Наше сравнение светского разговора с данной ситуацией не является просто шуткой, потому что и там и тут на самом деле замалчивается некий щекотливый вопрос, только в одном случае это вопрос сексуального характера, а в другом – теоретико-познавательного, эпистемологического. Один из самых разумных неопозитивистов, Эйно Кайла, очень удачно сравнил нынешнее положение в теории языка с айсбергом, лишь небольшая часть которого возвышается над поверхностью океана; под видимой частью айсберга в воду, во мрак океана уходит невидимая масса льда, и подобно этому основные языковые формы уходят в глубь, «во мрак» психики, тогда как над ее поверхностью возвышаются кристально ясные формализованные конструкции. Как бы ни отвечал Тарский или иной специалист по логической семантике на упреки М.Таубе, не подлежит сомнению, что всякая формальная процедура представляет собой лишь некоторую вставку между неформальным началом и неформальным концом. Сначала такой ученый о чем-то размышляет в содержательных понятиях, затем следует формализация, а когда она заканчивается, результаты снова оказываются понятными (хотя бы для специалистов). Выделение этой вставки при всей его дозволительности всегда является только выделением, и тут не помогут никакие заверения, будто, выписывая знаки, составляющие формализованное рассуждение, «семантик» не имел в виду ничего «значащего» и что такой же вывод может произвести даже машина, которая ничего не думает и не понимает. Не помогут потому, что в машине также действует «вставка», а «начало» и «конец», находясь вне машины, коренятся в мозгу человека. Утверждать, будто «все дело» только в формальном этапе, – все равно что заверять, будто все отношения между помолвленными до свадьбы и между супругами после таковой не играют никакой роли, будто все дело в свадьбе, которая не только составляет единственную благопристойную тему, но к коей вообще сводится все «значение» супружества.

Неформальные начало и конец формального построения показывают, сколь иллюзорны были попытки строголюбов изгнать «значение» из их жизненного пространства и сколь подобная чистка в общем-то похожа на поведение того «крысолова», который, выгнав метлой мышей из помещения, с сияющим лицом провозглашает, что здесь мыши больше не водятся. Что ж из того, что их там нет, если они кишат под дверьми? В формальной системе тоже нет «значений», но они так и лезут в нее со всех сторон, хотя и не могут проникнуть в «середку»; так же и дьявол не в силах попасть внутрь мелового круга, очерченного с молитвой, но ведь ясно же, что мы не можем целую вечность просидеть в этом круге и нам придется когда-нибудь из него выйти – навстречу облизывающемуся черту. Ну а инженеры и вовсе не могут торчать в окопах, вдоль заклятой черты формальных систем, ведь они хотят действовать практически. А то, что профессор логики согласен хоть до самой смерти оставаться в этой осаде, их ничуть не утешает. Убедясь, что формальные системы математики можно «уточнить» до воплотимости в виде конечных автоматов, инженеры создают вычислительные машины. Но создание по аналогичным рецептам машин-переводчиков наталкивается на трудности. Эти трудности возрастают, по мере того как алгоритм перевода становится все более развитым и сложным, по мере того как он позволяет машине переводить фразы, реально встречающиеся в языке, а не только скрупулезно отобранные, вроде простейшей: «Идет снег». Месть изгнанных демонов жестока. Семантики охотно сводят «значение» к синонимии, особенно в практических целях. Значением слова «здание» является слово «строение», а в результате машина переводит фразу «Крепок дух, хоть немощна плоть» как «Запах сильный, хоть мясо размякло». Бесспорно, отделение языковой структуры от значений бывает чрезвычайно полезным, без этого не возникла бы вообще теория передачи сообщений. Но если вы подвергаете язык столь радикальной хирургической операции, то объявите во всеуслышание, чем вы, собственно говоря, занимаетесь, признайтесь в ампутации обиходной семантики, потому что иное поведение – это политика страуса, за последствия которой влетает потом ни в чем не повинным конструкторам. Между тем специалисты в своем большинстве прикидываются, будто с этим ошкуренным языком, с этим их скелетным муляжом «ничего особенного не произошло»; будучи людьми учеными, они, конечно, знают, что им не удастся до конца формализовать ни дедуктивный язык, ни обиходный, но все же продолжают свое дело, полагая, что между «не удается до конца» и «сейчас пока удается» простирается область, достаточно обширная для того, чтоб они могли в ней очень долго и прилежно трудиться.

Впрочем, они претендуют и на большее. Если уж они не могут перейти от формализованного языка непосредственно к реальному миру, то, вознамерившись уловить сию реальность в свои капканы, они и ее формализуют, только скрытым образом, повторяя на все лады словечко «эмпирический» и оперируя так называемыми «модельными мирами», которые подгоняют под свои языковые системы. Все это тоже может быть полезно до тех пор, пока отдаешь себе отчет в том, что творишь: но по некоторым (психологически как-никак понятным) причинам подобные деятели иногда «забываются», и если читаешь их работы, то создается впечатление, что они считают свои модели эмпирическими в том же смысле, в каком являются эмпирическими, например, исследования физика, работающего с камерой Вильсона.

Следует понимать, что все эти наши выводы не имеют ничего общего с какой-нибудь «антиформализационной» доктриной; такая доктрина была бы чем-то худшим, чем преступление, – она была бы ошибкой. Но всегда необходимо сознавать, каков тот допустимый диапазон, в котором мы работаем. Эти границы очень легко переступить. Можно долгие месяцы сидеть, погрузившись в изучение толстенных (они уже стали такими) фолиантов по теории игр, и, например, в пятидесятом по счету на одной из самых последних страниц найти набранное петитом примечание, что теория игр со всеми ее пространными построениями, увы, абсолютно непригодна в реальных ситуациях, ибо, к сожалению, оные ситуации куда запутаннее, чем все конструкции теории игр на сегодняшний день. В то же самое время из популярных разработок можно уже вычитать о «стратегических машинах» для ведения войн и т.п. и т.д.

Возвратимся к значению значения. Один английский философ написал книгу как раз под таким названием («Значение значения»), в которой насчитал чуть ли не 36 различных значений этого слова. Критики «позиции умолчания», вроде Таубе, немногим могут нам помочь. Едва они переходят от критики к конструктивной программе, как тут же, ссылаясь, например, на философов вроде Уайтхеда, тянут нас в такие дебри, где уж воистину ничего поддающегося эмпирической проверке сказать нельзя. В этих дебрях блуждают платонистские идеи и прочие духи, и хотя Эшби и утверждал, будто кибернетика справится с любыми духами, лишь бы они блуждали закономерно, но тут и кибернетика бессильна.

Как можно уже догадаться, положение конструкторов незавидное. Помощь, которую им оказывают анатомы дедуктивных систем, сразу же обрывается: конструкторы добиваются получения производственных рецептов или хотя бы финитных процедур, ведь они не могут пичкать свои машины бесконечностями, которых, безусловно, не содержит и человеческий мозг, чьим «повторением» должны быть эти машины. Определения значения в рамках синонимии оказываются совершенно недостаточными: ignotum объясняется через ignotum. Рабочие определения, в которых утверждается, что значение – это отношение, соотнесение, продукт символического функционирования, знаковая ситуация, соответствие, отражение, ничего не дают конструкторам, которым во что бы то ни стало надо понять, не что такое значение, а как его сделать (воспроизвести). Они готовы пожертвовать «абсолютно точным», «окончательным» знанием ради рабочей гипотезы, которую можно было бы проверить на практике.

Никакой общей теории «распознавания зрительных образов» не существует, а машины (с трудом, правда), распознающие такие образы, уже есть, и хотелось бы построить также машины, которые «понятливо» вели бы себя. Но пока что между формальным берегом языка и смысловым зияет пропасть. «Значение» всегда в конце концов цепляется за «понимание», а понимания нет там, где некому понимать. Таким образом, «безлюдность» языка сохранить невозможно, а тот, кто ее что есть силы отстаивает, кончит вместе с бихевиористами, которые наложили суровейший запрет на всякие рассуждения о психике в неэмпирико-физических терминах, кончит как человек, который пожелал детально и до конца разобраться в ходьбе, но при этом, упаси боже, ни единым словом не хотел обмолвиться о ногах и даже о возможности их существования. Профессор Райл написал необычайно интересную книгу, в которой всем на удивление доказал, что никакого сознания вообще не существует. Он уничтожил сознание, раздавил его, высмеял, закидал прозвищами, вроде the ghost in the machine. Собственно, следующим логическим шагом, которого бог весть почему никто не сделал, было бы провозглашение доктрины, симметрично противостоящей солипсизму. Солипсизм утверждает, что существую только «я» – следует заявить, что существуют только «другие». Эту доктрину можно отлично обосновать. Если бы другие люди не обращались ко мне, не отвечали на мои вопросы, захотели бы проходить сквозь меня, словом, если бы я ни для кого не существовал, разве не следовало бы мне признать, что меня в действительности не существует? Следовательно, каждый существует только потому, что он существует для других, а то, что ему самому кажется, будто он и «для себя» существует, – это все бред, галлюцинация, сон, иллюзия, сумеречное состояние души, наконец. Бывает же, что мне кажется, будто я летающее, или беспозвоночное, или еще какое-нибудь совсем уж неописуемое существо, воплощение некоего «я»; такие состояния наступают ночью, и только тот факт, что никто из окружающих не подтверждает моего бытия в таких формах, вынуждает меня в конце концов признать, что все это мне только казалось, что все это мне, например, снилось и т. п. Да если б и впрямь существовали только «другие», то среди бихевиористов, физикалистов, формалистов воцарилась бы атмосфера всеобщего облегчения, успокоения, блаженства, исчезли бы миллионы забот, короче, возник бы сущий эпистемологический рай. Не придавая лично особого значения вышеизложенной абсолютно оригинальной концепции, я готов уступить ее заинтересованным лицам.

Поскольку к значению значения невозможно подступить прямым путем, сейчас распространен следующий способ действий: язык изучают физикалистскими и формалистскими средствами, молчаливо, втайне предполагая при этом, что если его (этот язык) сначала атомировать, раздробить, выпотрошить, анатомировать, а потом снова, уже с учетом полученных знаний, сложить и свинтить внутри какой-нибудь материальной системы, например цифровой машины, то значения появятся внутри этой системы как бы сами собой, но вместе с тем в силу жестокой необходимости, словно привнесенные внутрь машины, привинченные к ее деталям, и благодаря этому задача будет решена. Этот способ действий можно образно представить на примере транспортировки какой-нибудь огромной мозаики, которая изображает что-то поистине прекрасное: достаточно тщательно перенумеровать обратную сторону всех камешков, из которых сложена мозаика, и можно совершенно спокойно всю ее разобрать, запаковать камешки в ящики и отправить адресату; при сборке на новом месте необходимо только соблюдать порядок номеров, которыми помечены камешки; прекрасная значимая сторона в виде картины сама собой постепенно возникает в результате этого шаг за шагом осуществляемого процесса.

Но по отношению к языку такой способ действий, допустимый в определенных рамках, в целом невозможен.

Я рискую быть изгнанным из хорошего общества за фразу, которую сейчас произнесу, ведь она прозвучит непристойно. Но я все-таки должен ее произнести. Впрочем, эта непристойность не является новинкой. ПРЕДЛОЖЕНИЕ – ЭТО МЫСЛЬ, ВЫРАЖЕННАЯ СЛОВАМИ. Этому меня учили еще в школе, и хоть я почитаю кибернетику, amicus Plato, sed magis arnica Veritas. Уверяю вас, это действительно так.

Язык – это не мышление, а мышление – это не язык (то есть оно не обязано быть только языковым). «Значение», конечно, является отношением, соответствием, имеет характер континуума, все это так, но это прежде всего переживание. Фраза, высказывание, предложение означает что-либо, если она порождает мысль, выражением которой является. Могут существовать бессмысленные фразы, но нет бессмысленных мыслей. Значение не «спрятано» во фразе, оно возникает в уме, когда эту фразу слушают или читают. Нельзя говорить о фразе, будто она и есть значение. Говорят, и правильно, что фраза имеет (определенное) значение. Она обладает им; поэтому в языке, оторванном от существ, его понимающих, отсутствуют и значения. Поэтому фразу сравнивают с формой, которую мысль наполняет значением, вливаясь в нее; смысловым содержанием фраза наполняется в психическом процессе. Если форму подвергнуть исследованию, то вскоре окажется, что она не является «точной». Гипсовую форму можно оттиснуть в ином материале, не утратив при этом чисто механическом переносе никаких существенных деталей. Но невозможно «оттиснуть» достаточно развернутую фразу в материале другого языка, пользуясь механическими средствами чисто алгоритмического перевода. Фраза не просто форма мысли, а форма обедненная, сокращенная и в то же время неоднозначная – ее можно по-разному понимать, толковать множеством способов, по-разному «ворочать в уме». Психические процессы, которые формируют значение, не являются пассивным восприятием определенной цепочки сигналов и сопоставлением их со «словарем» и синтаксисом. Можно услышать совершенно непонятную фразу, даже если знаешь данный язык, его словарь и синтаксис. Я, например (из-за умственной неполноценности, конечно), не понимаю многих фраз в текстах Хайдегера или Гуссерля, они для меня ничего не значат.

Я говорю вполне серьезно. Фразы являются программой действий, но с большими пробелами и очень расплывчатой: они понятны лишь потому, что мозг располагает предпрограммированием, полученным за все время своего существования. Перевод с одного языка на другой подобен попытке установить взаимооднозначное соответствие между скелетами двух различных позвоночных. Никакое чисто «формальное» сравнение не даст такого соответствия, если ему не будет сопутствовать знание анатомии и физиологии, а также экологии этих животных. Как догадаться о функциональном различии между хвостом кита и хвостом слона, если не знаешь, что первый живет в океане, а второй – сухопутное животное? Семантика является для языка тем же, чем для остеологии – гравитация, ибо и тот и другой «скелет» формируют факторы, лежащие вне их самих. Язык живет в «экологической» среде человеческого мозга, начало которой лежит в природе и которая простирается в пределах общественных систем. Значения находятся в психических процессах, вне фраз, как мышцы – вне скелета или рука скульптора – вне глины. Они – оркестр, а фразы – только партитура. Партитура симфонии – это еще не симфония, хотя, конечно, и оркестр не сыграет симфонии без партитуры. По языковой трудности тексты располагаются в непрерывный спектр, к тому же этот спектр неодномерен; практически для каждого человека можно указать текст, который он поймет на столь низком уровне, что при приеме будет утрачена значительная часть содержащейся в тексте информации. Большинство людей вообще не понимает слишком трудного или специализированного текста, из чего можно заключить, что хорошая машина-переводчик должна была бы демонстрировать незаурядный коэффициент интеллектуальности; но неизвестно, как создать машинную программу, которая повышала бы этот коэффициент тем больше, чем более трудный текст предстоит переводить.

Не случайно одним из самых свирепых критиков идеи «алгоритмически переводящих машин» оказался Таубе – специалист в области программирования; он-то прекрасно знает, какая пропасть лежит между реальными возможностями программ перевода и тем, что можно прочесть в несчетных работах на эту тему, работах тем более смелых по формулировкам, чем более они абстрактны.

В этих работах мозговые явления, природа которых до сих пор остается загадкой, втискивают в корсет «физикалистской» терминологии, которая якобы должна устранить всякую загадочность; там можно прочесть об «энтропии сознания и подсознания», о «понятийных» и «эмоциональных кодах», об «эстетической информации», там натягивают кибернетические маски на психоанализ, отождествляют творческие процессы с методом проб и ошибок, ставя знак равенства между созданиями ученых-теоретиков и шизофреников (причем, по-видимому, неимоверно научным, то бишь «кибернетическим», считается чисто формальный подход к «информационной оригинальности» – смысл уравнивается в правах с бессмыслицей, ибо ведь ни тот, ни другая «не имеют никакого отношения к алгоритмам»). Положение прямо противоположно тому, которое существовало во времена братьев Райт. Они начинали уже полеты на аппарате тяжелее воздуха, а почти никто из специалистов, или так называемых специалистов, не верил в возможность осуществления таких полетов. Напротив, профессионал-программист знает, чего можно ожидать от цифровых машин, и знает алгоритмическую ограниченность программ; зато его окружает рой «специалистов», которые нисколько не помогают ему в преодолении трудностей, а попросту отрицают их своими многочисленными совершенно голословными декларациями. Ясно, что подобное кибернетическое «шаманство» не может привести ни к чему, кроме некоего смятения умов. Личности, которые на досуге измышляют «новые виды» информации, или машины, которые «все могут» и даже издают книжки с обилием схем, указующих, как с инженерных позиций имитировать человеческий мозг, со спокойной совестью предаются своим радостным занятиям, потому что всем их «открытиям» и «изобретениям» не угрожает никакая экспериментальная проверка.

Между тем проблема существует, и никакими «терминологическими» заклинаниями ее преодолеть нельзя. Неимоверно трудоемкие структурные исследования указывают на то, что каждый микроскопический шаг на пути улучшения качества примитивных машинных переводов должен быть куплен ценой непропорционально огромного усложнения применяемых алгоритмических структур. Одно дело – запрограммировать большую цифровую машину так, чтобы она переводила фразы типа «Там стоит стул», «Падает снег», «Дети идут в школу», и совсем иное – создать программу, с помощью которой машина может перевести фразу вроде следующей – «Первичный способ преподнесения объекта включает „изоляцию“ объекта не только в смысле ограниченности, но также и в том смысле, что объект лишь „извне“ доступен для познающего субъекта, каковой при этом в едином акте постигает его как целое либо же только предвосхищает». Перевод этой фразы «без понимания вообще» представляется невозможным. Человеку, который захочет ее перевести, надлежит изучать не синтаксис, а скорее феноменологистские журналы. И он наверняка не сможет «схватить» их стиль ни в каком алгоритме, дающем перевод хотя бы с некоторым приближением к оригиналу. Можно задать вопрос, почему проблему нельзя решить вероятностными методами. Текст книги можно сравнить с информацией, содержащейся в хромосомах. Текст задает «смысл», как генотип – зрелую особь. В обоих случаях имеет место вероятностное предопределение. Известно, что фенотип организма отклоняется от генотипа, и аналогично «фенотип» литературного произведения или философской работы способен колебаться в определенном (зависящем от индивидуумов) диапазоне предельных значений. Но этот вероятностный разброс ни в коей мере не является хаотичным. Статистический подход подразумевает аппроксимацию, асимптотическое приближение к предельному значению «идеальной точности», о чем нельзя говорить в случае перевода, ибо класс «точных переводов» данного текста содержит различные «типы точности», которые не вполне сравнимы друг с другом. Хороший перевод отражает оригинал и в то же время несет в себе черты собственного стиля переводчика. Машина, способная на такой перевод, также проявила бы собственный стиль, а это означало бы, что она имеет определенную индивидуальность, а не является всего лишь одной в точности воспроизводимой ипостасью «единого алгоритма». Мы интуитивно приходим к выводу – впрочем, хорошо известному, – что если процедуре нельзя придать однозначность, то ее нельзя также и формализовать. Пусть так, скажет кто-нибудь, пусть хорошие переводы образуют множество, может быть, даже потенциально бесконечное, но можно справиться и с этим, использовав понятие континуума. Это понятие подсовывает кибернетикам, между прочим, и Таубе. Оно благородного рода, ибо происходит от математики, но конструкторы, помня предостережение titneo Danaos set dona ferentes, не хотят – осмотрительно! – принимать столь великодушный подарок. Одно дело – почтенный, хоть и бессильный синонимический словарь, и совсем другое – пресловутый континуум, чья бесконечность способна разворотить любые словари. Разумеется, мы, когда беседуем, не страшимся этого континуума – ведь мы-то понимаем, что говорим.

Процесс понимания – ни в коем случае не эпифеномен, не средство комфорта («как это мило – что-то понять!»), не предмет роскоши; процесс понимания нельзя также считать интеллектуальным аналогом чувственного наслаждения, который можно столь же просто отделить от акта информационного сношения, как удается, отделить приятственность физического сношения от его естественных физиологических последствий. Понимание – это труд, который должен быть произведен, он представляет собой ничем не заменимый, уже минимальный критерий языкового отбора, который нельзя свести к более простому, а именно к чисто формальному виду. Наш мозг не потому так сложен, что мы представляем собой нейрально вырождающийся вид, и не потому, что какое-то накопление мутаций в процессе генетического дрейфа совершенно зазря нагромоздило эту избыточность. Наш мозг таков, каков он есть, потому что, будь он менее сложным – как у обезьян, например, – он не был бы способен к процессам порождения мысли и языка. Если бы значения не были эволюционно, биологически полезны, если б их присутствие в нашем языковом бытии не было необходимо, они вообще не возникли бы.

Бихевиористский подход представляется мне безнадежным и в самых смелых его логических продолжениях, согласно которым проблему «значения» можно будет полностью отбросить, когда мы научимся с величайшей точностью исследовать материальные процессы, лежащие в основе процессов психических. Это был бы путь создания «финального алгоритма», когда состояниям мозга, наблюдаемым извне, точно сопоставляются его внутренние состояния, познаваемые в интроспекции. Имея «словарь» таких соответствий, можно было бы запрограммировать «немыслящую» машину, которая переводила бы на уровне самых лучших переводчиков. Но представляется весьма вероятным, что одним и тем же материальным состояниям мозга не обязательно однозначно сопоставимо определенное внутреннее его состояние: нейральные коды лишь на элементарных уровнях интеграции близки друг другу. Чем выше мы поднимемся по ступеням мозговой иерархии (по уровням информационной интеграции), тем более индивидуальным становится код, и код, в котором один мозг реализует свои состояния, может совсем не походить на код другого мозга, ведь каждый мозг является статистической системой, которая стартует от полуслучайного начального распределения и движется по индивидуальной динамической траектории. Это рассеяние кодов приводит к тому, что материальные динамические конфигурации мозга, сопоставленные, скажем, восприятию красного цвета, по-видимому, одинаковы в мозгу у разных людей, может быть, даже людей и обезьян, тогда как конфигурации, отвечающие «внутреннему восприятию» тоски, столь различны от индивидуума к индивидууму, что бессмысленно говорить о каком-либо «классе материальных конфигураций», которому можно было бы сопоставить как инвариант символ «тоска». Кибернетика, подобно Прометею, похитившему с Олимпа огонь, хотела вторгнуться сразу в область сложнейших интеллектуальных операций, овладеть всей этой областью, пробиваясь напролом, напрямик, не следуя тому гигантскому пути, на котором нейронные формации все более позднего эволюционного происхождения наслаивались на древнее ложе прамозга, унаследованного людьми еще от панцирных рыб, и кибернетике удалось поначалу автоматизировать определенные логико-арифметические операции. Окапываясь на занятом участке, она начала торопливые вылазки с захваченного плацдарма во всевозможных направлениях, но следующие атаки уже не удались, не увенчались подобным же познавательным и практическим успехом. Первая победа оказалась только тактической, равно как и локальной, причем была совершена тяжкая, хотя психологически и понятная ошибка. В глубине души многие полагали, что уж если удалось придать «автоматизм» таким «элитарным», таким трудным – с точки зрения школьника или домохозяйки – операциям, как операции логического исчисления, то более трудным все прочее попросту оказаться не может. Не заметив при этом, что одно дело – использовать логику на основе знания силлогизмов, и совсем другое – столкнуться с ней в семантико-синтаксической структуре уже имеющегося языка. Даже мозг пускающего слюни имбецила, который едва способен говорить и почти не понимает, что ему говорят, этот мозг как система, в которой функционируют значения, с информационно-приспособительной точки зрения несравненно более универсален, чем вычислительная машина, работающая со скоростью миллиона операций в секунду.

В этой книге мы говорили о ненужности технического «повторения» человека. Столь радикальный тезис нуждается в оговорке. Требование создать машины, которые ведут себя «понимающе», конечно, не означает, будто мы настаиваем на наделении машин-переводчиков «полнотой внутренней жизни» человека; однако мы просто не знаем, в какой мере можно «недодать личность» машине, которая призвана хорошо переводить.

Мы не знаем, можно ли «понимать», не обладая «личностью» хотя бы в зачатке. Мы считаем, что даже «без понимания» можно успешно действовать в реальном мире – этому учит нас существование операционального языка эволюции, и потому мы рассмотрим далее различные варианты «апсихической техники познания». Не представляется, однако, возможным эффективно использовать операциональный язык до конца в качестве орудия перевода в сфере языков дискурсивных – мыслительных. Либо машины будут действовать «понимающе», либо по-настоящему эффективных машин-переводчиков не будет вовсе. Ибо операциональность полностью сводима к отношению, тогда как мыслительный процесс, также имеющий эту черту, является к тому же чем-то еще. Итак, мы стоим перед длительной осадой. Не надо слушать советов тех, кто уговаривает отступить, – это пораженцы, их и в науке немало, – особенно когда осада обещает быть длительной и тяжелой. Найдутся также многочисленные знахари, которые станут осыпать нас заверениями, будто они открыли как раз «лекарство от значения». Им также не следует слишком доверять – как и в медицине, избыток лекарств против какой-то болезни означает, что ни одно из них не является по-настоящему целебным. Даже если краткого пути и нет, дорога на вершину все же есть, хотя, может быть, нам придется преодолевать ее «с самого низа», с уровня самых элементарных процессов – взять ее не штурмом, а терпеливым методическим натиском.