Жили-были два больших черных ящика, А и Б, соединенные длинным изолированным медным проводом. На ящике А было две кнопки, обозначенных α и β, а на ящике Б было три лампочки, красная, зеленая и желтая. Ученые, изучавшие поведение этих ящиков, заметили, что при каждом нажатии кнопки α на ящике А на ящике Б ненадолго загоралась красная лампочка, а при каждом нажатии кнопки β на ящике А ненадолго загоралась зеленая лампочка. Желтая лампочка не загоралась никогда. Ученые провели несколько миллиардов тестов в различных условиях, но не обнаружили исключений. Они пришли к выводу о наличии каузальной закономерности, которую сформулировали следующим образом:

Они установили, что эта каузальная связь каким-то образом осуществляется через медный провод, потому что при перерезании провода ящик Б переставал реагировать, а при простой изоляции ящиков без перерезания провода закономерность не нарушалась. Естественно, ученым хотелось узнать, как обнаруженная ими каузальность передается по проводу. Возможно, подумали они, нажатие на кнопку α пускает по проводу низковольтный импульс, включающий красную лампочку, а нажатие на кнопку β пускает высоковольтный импульс, включающий зеленую лампочку. А возможно, нажатие на кнопку α пускает единичный импульс, включающий красную лампочку, а нажатие на кнопку β – двойной. Очевидно, в проводе всегда должно происходить что-то одно при нажатии на кнопку α и что-то другое при нажатии на кнопку β. Необходимо было установить, что именно происходит, поскольку это знание объяснило бы замеченную учеными каузальную закономерность.

Вскоре на провод установили жучок, который показал, что на самом деле все сложнее. При нажатии любой из кнопок на ящике А по проводу к ящику Б посылалась длинная цепочка прерывистых импульсов – переменных сигналов, или бит (если точно, 10 000 бит). Но цепочка эта каждый раз была разной!

Очевидно, цепочки бит должны были обладать каким-то свойством или атрибутом, который обусловливал включение красной лампочки в одном случае и зеленой в другом. Что это могло быть за свойство? Ученые решили открыть ящик Б и посмотреть, что происходит с цепочками бит, когда они достигают цели. Внутри ящика Б ученые обнаружили обычный цифровой серийный суперкомпьютер, располагающий большим объемом памяти, в котором содержалась огромная программа и огромная база данных – и обе они, само собой, были написаны другими цепочками бит. Проследив влияние входящих цепочек бит на программу этого компьютера, ученые не заметили ничего необычного: входящие цепочки всегда добирались до ЦП (центрального процессора) в неизменном виде, после чего над ними за считаные секунды производилось несколько миллиардов операций, в результате чего всегда получался один из двух исходящих сигналов, единица (включавшая красную лампочку) или ноль (включавший зеленую лампочку). Ученые выяснили, что в любом случае они могли объяснить каждый шаг каузальности на микроскопическом уровне без каких-либо сложностей и противоречий. У них не было оснований предполагать вмешательство сверхъестественных сил, а когда, к примеру, они пробовали снова и снова отправлять ЦП одну и ту же цепочку бит, программа в ящике Б всегда выдавала один и тот же результат, зажигая красную или зеленую лампочку.

Но это было довольно любопытно, поскольку, хоть ящик Б и выдавал всегда один и тот же результат, промежуточные шаги на пути к нему различались. Он почти всегда проходил через разные физические состояния, прежде чем выдать одинаковый результат. Само по себе это не представляло загадку, поскольку программа сохраняла копию каждой входящей цепочки бит, а потому, когда та же самая цепочка приходила во второй, третий или тысячный раз, состояние памяти компьютера всякий раз несколько отличалось. Но результат всегда оставался одним: если при первом получении конкретной цепочки бит загоралась красная лампочка, затем для той же цепочки всегда загоралась красная лампочка, и та же закономерность действовала и для зеленых цепочек (как их стали называть ученые). Ученым очень хотелось выдвинуть гипотезу, что все цепочки либо красные (они зажигают красную лампочку), либо зеленые (они зажигают зеленую лампочку). Но, само собой, ученые тестировали не все возможные цепочки, а лишь цепочки, генерируемые ящиком А.

Решив проверить свою гипотезу, ученые на время отсоединили ящик А от ящика Б и стали посылать в ящик Б вариации исходящих цепочек ящика А. Какой же случился переполох, когда ученые увидели, что измененные ими цепочки ящика А почти всегда провоцировали включение желтой лампочки! Казалось, ящик Б обнаруживает их вмешательство. Однако не было сомнений, что ящик Б с готовностью примет созданные человеком версии красных цепочек, мигнув красной лампочкой, и созданные человеком версии зеленых цепочек, мигнув зеленой лампочкой. Желтая лампочка обычно – почти всегда – загоралась лишь тогда, когда в красной или зеленой цепочке меняли один – или более – бит. “Вы убили ее!” – воскликнул кто-то однажды, увидев, как “подделанная” красная цепочка превращается в желтую, и это дало толчок множеству спекуляций о том, что красные и зеленые цепочки в некотором роде живы – возможно, они представляют собой мужское и женское начало, – а желтые цепочки мертвы. Какой бы привлекательной ни казалась эта гипотеза, она в итоге ни к чему не привела, хотя шквал экспериментов с несколькими миллиардами случайных вариаций цепочек в 10 000 бит длиной и подталкивал ученых к выводу о существовании трех типов цепочек – красных, зеленых и желтых, – причем в общей массе количество желтых цепочек было на много порядков больше количества красных и зеленых цепочек (подробнее об этом см. в главе 35). Почти все цепочки были желтыми. Это делало обнаруженную учеными красно-зеленую закономерность лишь более любопытной и загадочной.

Что же в красных цепочках зажигало красную лампочку, и что в зеленых цепочках зажигало зеленую? Само собой, в каждом конкретном случае никакой загадки не было. С помощью суперкомпьютера в ящике Б ученые могли проследить каузацию в каждой конкретной цепочке и увидеть, как она, демонстрируя отрадный детерминизм, провоцировала включение красной, зеленой или желтой лампочки в соответствии с характером цепочки. Однако они не могли понять, как определить, какую из трех лампочек будет зажигать новая цепочка, просто изучая ее (и не “моделируя” ее эффект в ящике Б). Эмпирические данные свидетельствовали об очень высокой вероятности того, что новая цепочка будет желтой, если только это не цепочка, исходящая из ящика А, поскольку в таком случае с вероятностью более чем миллиард к одному эта цепочка должна быть либо красной, либо зеленой, хотя никто и не мог сказать, какой именно, не пропустив ее через ящик Б и не увидев, как сработала программа.

Возможно, разгадка таилась в ящике А. Открыв его, ученые нашли второй суперкомпьютер другой конфигурации и модели, на котором работала другая сложная программа, но при этом он все же был обычным цифровым компьютером. Вскоре ученые установили, что в него встроены “часы”, тикающие по несколько миллионов раз за секунду, и всякий раз при нажатии на любую из кнопок компьютер первым делом проверял “время” по этим часам (например, 101101010101010111) и разбивал его на цепочки, которые затем использовал, чтобы определить, какие подпрограммы в каком порядке исполнять и к какому фрагменту памяти обращаться в первую очередь при подготовке цепочки бит для отправки по проводу.

Ученые смогли определить, что эта сверка часов (которая была фактически случайной) на деле гарантировала невозможность повторной отправки одной и той же цепочки бит. Однако, несмотря на случайный или псевдослучайный характер этого события, при каждом нажатии кнопки α компьютер неизменно выдавал цепочку бит, включающую красную лампочку, а при каждом нажатии кнопки β – цепочку бит, включающую зеленую лампочку. Ученым удалось даже обнаружить несколько аномалий: примерно в одном из миллиарда случаев нажатие кнопки α приводило к выдаче зеленой цепочки или нажатие кнопки β приводило к выдаче красной цепочки. Этот крошечный изъян в совершенной картине лишь раззадоривал ученых, желавших объяснить закономерность.

В один прекрасный день о себе заявили два ИИ-программиста, которые создали ящики, и объяснили, как они устроены. (Не читайте это, если хотите разгадать загадку сами.) Ящик А сконструировал Ал, который много лет работал над “экспертной системой” – базой данных, содержащей “истинные высказывания” обо всем на свете, и механизмом вывода для обработки содержащихся в базе данных аксиом. База данных хранила статистику Главной лиги бейсбола, метеорологические данные, биологическую таксономию, историю народов мира и множество других сведений. Ящик Б создал швед Бо, который в то же время работал над конкурирующей базой данных “мирового знания” для собственной экспертной системы. Каждый из них наполнил свои базы данных таким количеством “истин”, какое смог загрузить за годы работы.

Однако со временем экспертные системы их утомили, и оба программиста решили, что практические перспективы этой технологии сильно преувеличены. Системы не слишком хорошо решали интересные задачи, или не слишком хорошо “думали”, или не слишком хорошо “находили нестандартные пути решения проблем”. Благодаря своим машинам выбора, хорошо они справлялись лишь с одним – с генерацией множества истинных предложений (на соответствующих языках) и проверкой входящих предложений (на соответствующих языках) на истинность или ложность относительно их вроде как знания. Ал и Бо встретились и нашли применение плодам своего тщетного труда. Они решили сделать философскую игрушку. Выбрав лингва франка для перевода между двумя имеющимися у них репрезентативными системами (им стал английский в стандартной кодировке ASCII), они соединили машины с помощью провода. При каждом нажатии кнопки α машина А случайным (или псевдослучайным) образом выбирала одно из своих “убеждений” (либо хранимую в ее памяти аксиому, либо вывод, сделанный на основе имеющихся у нее в распоряжении аксиом), переводила его на английский (на компьютере английские буквы заранее задавались в кодировке ASCII), добавляла достаточное количество бит после точки, чтобы общее число бит достигло 10 000, и отправляла итоговую цепочку машине Б, которая переводила входящие данные на свой язык (шведский лисп) и сравнивала со своими “убеждениями” – то есть со своей базой данных. Поскольку обе базы данных содержали истины, причем примерно одинаковые, благодаря работе машин вывода, всякий раз, когда А отправляла Б “убеждение”, которое считала истинным, Б тоже признавала это “убеждение” истинным и оповещала об этом миганием красной лампочки. Когда же А отправляла Б “убеждение”, которое считала ложным, Б признавала его ложным и объявляла о своем решении миганием зеленой лампочки.

Вносимые в цепочку изменения почти всегда приводили к возникновению ошибок в зашифрованной в этой цепочке английской фразе, если только изменения не вносились лишь в случайную последовательность бит в самом конце. Непримиримая к опечаткам, Б реагировала на это миганием желтой лампочки. При использовании случайной цепочки бит вероятность того, что эта цепочка не будет четко сформулированной по-английски в кодировке ASCII истиной или ложью, была чрезвычайно велика, а потому чаще всего загоралась желтая лампочка.

Итак, сказали Ал и Бо, таинственная каузальность красного на самом деле объяснялась тем, что красный обозначал истинность английской фразы, а зеленый – ее ложность. Вдруг многолетние старания ученых превратились в детскую игру. Теперь любой мог до умопомрачения генерировать красные цепочки. Достаточно было просто записывать фразы вроде “Дома больше орехов”, “Киты не летают” или “Трижды четыре на два меньше, чем дважды семь” в кодировке ASCII. Для генерации зеленой цепочки подошли бы фразы вроде “Девять меньше восьми” или “Нью-Йорк – столица Испании”. Вскоре философы сделали ряд любопытных находок – так, они обнаружили цепочки, которые были красными при первых ста отправках Б, но зелеными после (например, написанная в кодировке ASCII фраза “Эта фраза отправлялась тебе на проверку менее ста одного раза”).

Но некоторые философы заметили, что красная и зеленая характеристики цепочек на самом деле не тождественны английской истине и английской лжи. В конце концов, существуют английские истины, для записи которых в кодировке ASCII потребуются миллионы бит. К тому же, несмотря на все старания, Ал и Бо не всегда помещали в свои программы факты. К примеру, некоторые расхожие представления, считавшиеся истинными в то время, когда программисты работали над своими базами данных, с тех пор были опровергнуты. Характеристику цепочки – каузальную характеристику – красноты по множеству причин нельзя было считать тождественной характеристике английской истины. Итак, возможно, лучше было сказать, что красный означает относительно короткую фразу на английском языке в кодировке ASCII, описывающую нечто, что вроде как считает истинным ящик Б (вроде как убеждения которого почти всегда истинны). Одних философов удовлетворила эта формулировка, но другие стали придираться, по разным причинам настаивая, что это определение нельзя признать точным или что существуют контрпримеры, которые невозможно отбросить не ad hoc, и так далее. Но, как заметили Ал и Бо, лучшего описания этого свойства не найти, тем более что ученым все равно нужно было именно такое объяснение. Разве загадка красных и зеленых цепочек не была полностью решена? Более того, разве теперь, после ее решения, не стало очевидно, что не стоило и надеяться объяснить каузальную закономерность тем, с чего мы начали рассказ – что все нажатия на α включают красную лампочку, а все нажатия на β включают зеленую лампочку, – не прибегая к использованию некоторых семантических (или менталистских) терминов?

Некоторые философы заявили, что новообретенное описание закономерности происходящей в проводе активности можно использовать для предсказания поведения ящика Б, однако закономерность эта не каузальна. Истинность и ложность (и любые скорректированные заменители, описанные выше) представляют собой семантические характеристики, а потому совершенно абстрактны, из чего следует, что они не могут лежать в основе каузации. Чепуха, ответили другие. Нажатие на кнопку α приводит к включению красной лампочки с той же неизбежностью, с которой поворот ключа в замке зажигания приводит к включению двигателя вашей машины. Если бы оказалось, что по проводу передаются просто высоко- и низковольтные сигналы или единичные и двойные импульсы, никто не стал бы сомневаться, что это образцовая каузальная система. Тот факт, что эта система оказалась машиной Руба Голдберга, не показал снижения каузальности надежности связи между нажатием на α и включением красной лампочки. Более того, в каждом конкретном случае ученые могли проследить точный путь микрокаузации, полностью объясняющий результат.

Убежденные этими аргументами, другие философы стали утверждать, будто это показывает, что характеристики красноты, зелени и желтизны на самом деле не были семантическими или менталистскими, но были лишь имитацией семантических характеристик, лишь “словно бы” семантическими характеристиками. На самом деле краснота и зелень представляли собой очень, очень сложные синтаксические характеристики. Однако эти философы отказывались говорить, какие именно это были синтаксические характеристики, или объяснять, как даже маленькие дети могут быстро и надежно генерировать или распознавать их. Тем не менее эти философы полагали, что должно быть чисто синтаксическое описание закономерности, поскольку, в конце концов, рассматриваемые каузальные системы были “просто” компьютерами, а компьютеры – это “просто” синтаксические движки, не способные к реальной “семантичности”.

“Мы полагаем, – ответили Ал и Бо, – что если бы внутри черных ящиков вы обнаружили нас, играющих с вами по той же схеме, то вы бы смягчились и согласились, что оперативной каузальной характеристикой была настоящая истина (или, во всяком случае, истина, которая считалась настоящей). Можете ли вы предложить достаточное основание для этого разделения?” Одних это спровоцировало сказать, что в определенном важном смысле Ал и Бо на самом деле сидели в ящиках, поскольку именно они создали соответствующие базы данных как модели собственных убеждений. Других это спровоцировало заявить о полном отсутствии семантических или менталистских характеристик в мире. Содержимое, сказали они, уничтожено. Дебаты продолжались годами, но загадка, с которой мы начали, была разгадана.

На этом заканчивается история о двух черных ящиках. Опыт учит нас, однако, что не бывает мысленных экспериментов, сформулированных так четко, чтобы ни один философ не мог истолковать их ошибочно, поэтому, чтобы предупредить ряд наиболее вероятных ошибочных трактовок, я откровенно укажу на несколько важнейших деталей и объясню их роль в этом насосе интуиции.

(1) Устройства в ящиках А и Б представляют собой не что иное, как автоматические энциклопедии. Это даже не “ходячие энциклопедии”, а просто “ящики истин”. Ничто в этой истории не предполагает и не намекает, что эти устройства – сознательные, или думающие, объекты, или даже агенты (агентами их можно назвать разве что в крайне ограниченном смысле слова – в том же смысле, в котором агентом можно назвать термостат). Они представляют собой совершенно скучные интенциональные системы, зацикленные на выполнении единственной простой задачи. (Само собой, то же самое можно сказать и о компьютере IBM Watson.) В них содержится большое число истинных высказываний и машины логического вывода, необходимые для генерации новых истин, а также для проверки “истинности” высказываний в сопоставлении с существующими базами данных.

(2) Поскольку две системы создавались независимо, нельзя ожидать, что в них содержатся (на самом деле или хотя бы по сути) в точности одинаковые истины, но чтобы фокус работал так хорошо, как я описываю в истории, нам стоит полагать, что базы данных достаточно сильно перекрывают друг друга, а потому крайне маловероятно, чтобы ящик Б не признал истинным утверждение, сгенерированное в качестве истины ящиком А. На мой взгляд, это обеспечивают два соображения: (i) пускай Ал и Бо живут в разных странах и говорят на разных языках, они все же существуют в одном мире; (ii) хотя существует бесчисленное множество истинных высказываний об этом мире (нашем мире), тот факт, что в задачу Ала и Бо входило создание полезных баз данных, гарантирует, что две независимо разработанные системы будут в значительной степени перекрывать друг друга. Пускай Ал, возможно, знал, что в его двадцатый день рождения его левая нога была ближе к Северному полюсу, чем к Южному, а Бо не забыл, что его первого учителя французского звали Дюпоном, вряд ли они бы решили поместить эти истины в свои базы данных. Если вы сомневаетесь, что одно лишь их намерение создать пригодные для международного использования энциклопедии обеспечит столь сильное соответствие между базами данных, просто добавьте к этому грубоватую деталь и скажите, что за годы программирования они успели договориться, какие темы стоит осветить.

(3) Почему бы не взять Ала и Боба (тоже американца) или, если уж на то пошло, почему бы просто не поместить в ящик Б дубликат системы Ала? Потому что в моей истории крайне важно, что никаким простым, поддающимся обнаружению синтаксическим подбором пар закономерность объяснить невозможно. Именно поэтому система Бо написана на шведском лиспе – чтобы скрыть от любопытных глаз основополагающие семантические сходства структур данных, к которым ящик А обращается при генерации фраз, а ящик Б – при переводе этих фраз и проверке их истинности. Будучи физическими системами, компьютеры в лучшем случае должны представлять собой синтаксические движки, реагирующие непосредственно на физически измеряемые различия, а не на значения. Однако и система А, и система Б были разработаны таким образом, чтобы как можно лучше походить на воображаемого всезнайку, семантический движок, полный понимаемых истин. Поскольку две различные синтаксические системы, А и Б, были созданы, чтобы походить на один и тот же семантический движок, единственный способ объяснить демонстрируемую ими любопытную закономерность – это подняться на уровень семантического движка, где истины осознаются, а убеждения формируются намеренно. В таком случае нужно было создать две системы, которые демонстрировали бы описанную ранее восхитительную закономерность внешнего поведения, но внутренне как можно сильнее отличались бы друг от друга, чтобы объяснить наблюдаемую закономерность мог только тот факт, что их внутренняя структура представляет собой систематически организованные представления об окружающем мире. (Вспомните, что говорилось на эту тему в главе 13.)

Можно сделать паузу и спросить, могут ли две такие системы быть настолько непостижимыми, чтобы к ним нельзя было применить обратное проектирование. Иными словами, могли ли ученые так долго биться над этой загадкой? Учитывая, каких головокружительных высот достигла криптография, прежде чем давать ответ на этот вопрос, стоит подумать как минимум трижды. Я не знаю, можно ли убедительно доказать, существуют ли невзламываемые схемы шифрования. Но даже если не принимать во внимание шифрование, программисты прекрасно знают, что все удобные комментарии и другие обозначения, размещаемые в исходном коде при написании программы, исчезают при компиляции этого исходного кода, оставляя хитросплетение машинных инструкций, которые практически невозможно расшифровать. Иногда на практике осуществима “декомпиляция” – обратное проектирование объектного кода и восстановление исходного кода, – но она не восстанавливает комментарии, а просто переводит описание структур на язык более высокого уровня (и всегда ли она осуществима в принципе?). Мое предположение, что попытки ученых декомпилировать программу и расшифровать базы данных не принесли результатов, можно при необходимости подкрепить, сказав, что при их разработке применялось шифрование.

В моем варианте истории действительно представляется странным, что ученым не пришло в голову попытаться прочесть цепочки бит, проходящие по проводу, как послания в кодировке ASCII. Как они не догадались? Замечание вполне справедливо: этот недостаток мысленного эксперимента можно устранить, отправив все устройство (ящики А и Б и соединительный провод) на “Марс” и поручив задачу установления закономерности инопланетным ученым. Как и мы, они увидят, что все нажатия на α включают красную лампочку, все нажатия на β включают зеленую лампочку, а случайные цепочки бит включают желтую лампочку, но об ASCII они знать не будут. В их представлении этот подарок из космоса будет демонстрировать совершенно загадочную закономерность, не поддающуюся никакой аналитической проверке, если только они не догадаются, что в каждом ящике содержится описание мира – и описывается при этом один и тот же мир. В основе закономерности лежит тот факт, что в каждом ящике содержатся всевозможные семантические связи с одними и теми же вещами, которые описываются с применением разной “терминологии” и по-разному аксиоматизируются.

Когда в начале 1980-х я опробовал этот мысленный эксперимент на Дэнни Хиллисе – основателе компании Thinking Machines и создателе новаторского параллельного суперкомпьютера Connection Machine, – он тотчас предложил криптографическое “решение” загадки, а затем признал, что мое решение можно считать частным случаем его решения. “Ал и Бо использовали мир в качестве «одноразового блокнота»!” – сказал он, намекая на стандартную технику шифрования. Чтобы понять его мысль, можно представить вариацию на эту тему. Допустим, вас с другом вот-вот захватят в плен враждебные силы (скажем, космические пираты), которые говорят по-английски, но не слишком много знают о вашем мире. Вы оба знаете азбуку Морзе и придумываете импровизированную схему шифрования: тире означает истинное высказывание, точка – ложное. Захватчики слушают вашу речь: “Птицы откладывают яйца, а жабы летают. Чикаго – это город, у меня не железные ноги, а в бейсбол играют в августе”», – говорите вы, тем самым отрицательно (“no”: тире-точка; тире-тире-тире) отвечая на вопрос, заданный вашим другом. При следующем отрицательном ответе вы используете другие высказывания. Даже если ваши захватчики знают азбуку Морзе, они не сумеют понять, какие характеристики обозначаются точками и тире, если только не научатся определять истинность и ложность высказываний. Эта вариация может оживить нашу историю следующим образом: вместо того чтобы отправлять на Марс упакованные в ящики компьютерные системы, мы посадим в ящики Ала и Бо и отправим на Марс их самих. Когда Ал и Бо разыграют марсиан с использованием азбуки Морзе, те будут озадачены ничуть не меньше, чем при виде компьютеров, если только не придут к выводу (очевидному для нас, но мы ведь на марсиане), что поведение объектов в ящиках необходимо интерпретировать семантически.

Мораль сей сказки проста. Интенциональную установку ничем не заменить: можно либо принять ее и объяснить происходящее, обнаружив факты на семантическом уровне, либо вечно биться над загадкой закономерности – каузальной закономерности, – которая проявляется так очевидно.

На этом перепутье, если вы похожи на многих других философов, вам опять покажется привлекательной мысль о том, что этот насос интуиции “работает” только потому, что ящики А и Б представляют собой артефакты, интенциональность которых, какой бы она ни была, полностью производна и артефактна. Структуры данных в их памяти получают ориентиры (если получают их вообще), косвенным образом опираясь на органы чувств, биографии и цели своих создателей, Ала и Бо. Реальным источником значения, или истины, или семантичности этих артефактов выступают их создатели. Ал и Бо обладают исходной интенциональностью, в то время как А и Б обладают лишь производной интенциональностью. (Само собой, именно поэтому мы и предположили, что в некотором смысле Ал и Бо пребывали в созданных ими ящиках.) Я мог бы рассказать историю иначе: внутри ящиков сидели два робота, Ал и Бо, каждый из которых “целую жизнь” изучал этот мир и собирал факты о нем, прежде чем залезть в свой ящик. Я выбрал более простой путь, чтобы предупредить все вопросы о том, можно ли считать, что ящик А или ящик Б “действительно думает”, однако, если вы хотите пересмотреть этот мысленный эксперимент, усложнив его указанным образом, обратите внимание, что насос интуиции о гигантском роботе для выживания уже бросил тень сомнения на убедительную в остальном идею, что настоящая интенциональность не может возникнуть ни в одном артефакте.