У роботов нет чудо-ткани (фактически по определению), поэтому они представляют собой стерильную платформу для мысленных экспериментов наподобие этого:

Однажды утром вы просыпаетесь в незнакомой кровати в странной комнате без окон. Две стены этой комнаты сплошь покрыты разноцветными мигающими огоньками, а две другие стены – тысячами кнопок. На огоньках и кнопках есть номера, но нет ярлыков. На тумбочке лежит адресованная вам записка:

Ситуация не из приятных. Затаив дыхание, вы начинаете экспериментировать и нажимать на кнопки, чтобы проверить, что получится. Вы нажимаете на желтую кнопку под номером 4328 и замечаете, что в этот момент гаснет голубой огонек номер 496. Может, вы заставили робота почесаться или “съесть” что-нибудь, чтобы удовлетворить его метаболические потребности? Вы нажимаете на кнопку номер 4328 второй раз, и зажигаются другие огоньки. Что изменилось в мире? Что это означает? Вам страшно, потому что вам сказали, что эти огоньки передают огромное количество информации, но что именно показывает каждый из огоньков и какие именно приказы отдает каждая из кнопок?

Вот бы огоньки и кнопки были подписаны! Если бы все они были снабжены ярлыками на знакомом вам языке, вероятно, вы смогли бы решить проблему. Или было бы в комнате хоть одно окно, из которого можно было бы выглянуть, чтобы проверить, что случилось, когда вы нажали на кнопку! Есть ли у робота руки и ноги? Будь в комнате окно, вы могли бы попытаться сопоставить события во внешнем мире с миганием огоньков на стенах. Поскольку окна нет, вам доступно огромное количество информации, которую вы не в состоянии интерпретировать. Вы можете запустить сотни действий робота, но у вас нет надежды узнать, чего добьется этими действиями ваш робот.

Похоже, проблема неразрешима. Каким бы умным и изобретательным вы ни были, вы не сможете узнать, за что отвечают огоньки и кнопки на стенах, имея в своем распоряжении лишь перечисленные данные. Однако если вы не можете решить эту проблему, мы сталкиваемся с парадоксом, поскольку описанная ситуация есть не что иное, как ситуация, в которой существует ваш мозг! Он заперт в комнате без окон – в вашем черепе, – где миллионы входных линий непрерывно передают информацию о внешнем мире и состоянии вашего тела, а миллионы выходных линий стимулируют мускулы сокращаться и расслабляться. Ваш мозг не может открыть в вашем черепе окно и посмотреть, что происходит снаружи и провоцирует сигналы, поступающие в вашу зрительную кору. (Да и зачем вашему мозгу такое окно? В отличие от вас, у него нет глаз, за исключением тех глаз, сигналы от которых он получает и пытается истолковать, и нет воспоминаний о том, как выглядят объекты внешнего мира.)

Возможно, подумаете вы, стоящая перед мозгом задача проще, ведь, когда вы смотрите, к примеру, на утку, рисунок возбуждения – мигающие огоньки – на поверхности зрительной коры действительно принимает форму утки! Это имело бы смысл, если бы мы могли предположить, что ваш мозг, как и вы сами, знает, как выглядит утка, но откуда ему это знать?

Как ваш мозг вообще может узнать хоть что-нибудь, если первым делом ему нужно “расшифровать” все сигналы? И как именно расшифровать? Перевести на турецкий? Ярлыки на турецком никак вам не помогут, если только вы не понимаете турецкий. Должен ли ваш мозг понимать язык, чтобы извлекать пользу из входящих данных? Как мы уже видели, мысль о том, что мозг наделен внутренним языком, который ему не приходится учить – ментализом, или языком мышления (Fodor 1975, 2008), – весьма привлекательна. Кажется, она позволяет сделать шаг в верном направлении, но, пока нет объяснения, как именно работает этот язык и как он сформировался, заявлять о его существовании – все равно что придумывать проблеме новое название, при этом ее не решая. Мы знаем, что мозг каким-то образом справляется со своей задачей: он довольно точно определяет, какие команды необходимо отдать в соответствии с обстоятельствами и возможностями, о которых сигнализирует входящий поток данных. И мы знаем, что имеющееся у мозга решение – каким бы оно ни было – не может точь-в-точь походить на язык (наподобие русского или турецкого), потому что, в отличие от наших родных языков, оно не усваивается нами в детстве. Какой язык ближе к языку мышления – письменный (воспоминания в таком случае должным образом записываются в архивах мозга) или устный? Сколько “слов” в лексиконе ментализа – тысячи, миллионы или миллиарды? Имеет ли значение порядок слов? Есть ли грамматические правила? Может ли один фрагмент мозга истолковать сообщение другого фрагмента неправильно?

Если гипотеза о языке мышления говорит о наличии в диспетчерской гомункула, который понимает язык (как вы, когда читаете ярлыки огоньков и кнопок внутри гигантского робота), то она просто откладывает задачу выяснить, как аппарат обучения и понимания может состоять из ничего не понимающих фрагментов. А если она не говорит о наличии гомункула, который занимается дешифровкой сообщений, то система, какой бы она ни была, вообще не слишком похожа на язык. Поскольку никто еще не объяснил в деталях, как работает такой язык мышления и как он усваивается в процессе развития и получения опыта, вероятно, лучше не обманываться и не тешить себя надеждой, что мы делаем успехи, когда на самом деле это, вероятно, не так.

Этот насос интуиции показывает нам, что ваш мозг находится в принципиально иных условиях, чем вы в диспетчерской робота. Его задача – должно быть – отчасти решается заранее, поскольку некоторые входящие сигналы “сцеплены” с исходящими командами, благодаря чему мозг имеет фору при выявлении и подтверждении других соответствий. Таким образом, подчеркивается широко распространенное убеждение, что при рождении наш мозг представляет собой не “чистый лист” (Pinker 2002), а уже под влиянием естественного отбора сформирован таким образом, чтобы вмещать в себя различные предпочтения, ожидания и ассоциации. А поскольку некоторые соответствия установлены заранее, в ярлыках они не нуждаются.

Прежде чем достичь понимания, необходимо пройти стадию компетентности без понимания. Так устроена природа. Бактерии обладают множеством удивительных компетенций, которые им вовсе не нужно понимать; их компетенции прекрасно служат им, но сами они остаются полными невеждами. Деревья обладают компетенциями, которые дают им выгоду, но им не нужно знать зачем. Весьма компетентен и сам процесс естественного отбора – он создает структуры выдающейся оригинальности и эффективности, но ровным счетом ничего не понимает.

Понимание того рода, которым наделены мы, взрослые люди, лишь недавно появилось на эволюционной арене. В нем задействованы структуры, компетенция которых сопровождается и поддерживается минимальным полупониманием, или псевдопониманием, – тем полупониманием, что характерно для рыб и червей. Эти структуры созданы таким образом, чтобы в большинстве случаев вести себя соответствующе, хотя им нет нужды понимать, почему их поведение считается соответствующим.

Альтернативный путь, предполагающий помещение в диспетчерскую полнофункционального Понимателя, обрабатывающего все входящие и исходящие сигналы, гарантированно ведет в тупик. Почему? Потому что, если способность к пониманию необъяснима, фактически вы кладете в основу своей теории чудо-ткань, настоящую магию, а если она все же объяснима – в категориях процессов, действий и сил, которые сами не обладают способностью к пониманию, – вы проехали свой поворот и вернулись к началу с теми из нас, кто пытается объяснить, как понимание вырастает из компетентности.