Марвин Минский
Послесловие

В жизни часто приходится иметь дело с тем, чего мы до конца не понимаем. Мы ведем машину, не зная, как работает двигатель. Пользуемся транспортом, не зная, как устроен водитель. И самое поразительное: ездим на работу, толком не зная, как устроены сами.

Для меня ценность новеллы «Подлинные имена» в том, что она учит иметь дело с тем, что нам не понятно. Как мы вообще начинаем что-либо понимать? Почти всегда прибегая к аналогиям, словно любая невиданная ранее вещь похожа на нечто нам известное. Когда ее внутреннее устройство представляется нам слишком сложным, странным или неизвестным, мы выделяем понятные нам части и обозначаем их знакомыми символами или привычными названиями предметов, которые, на наш взгляд, устроены похожим образом. Так любое новшество мы сравниваем с чем-то, знакомым нам из собственного прошлого. Использование символов – гениальная идея, позволяющая нашему сознанию превращать непонятное в обыденное. То же происходит и с названиями.

С самого начала «Подлинные имена» знакомят нас с этой идеей с разных сторон, проводя с помощью символов, названий и образов аналогии между незнакомым миром и тем, который мы хорошо знаем. Помните ворота в замок Винджа? Представьте себе, что некий архитектор изобрел совершенно новый способ попадания из одного места в другое: устройство, как бы выполняющее функцию двери, но по форме и действию настолько отличающееся от всего, что мы встречали в прошлом, что, глядя на него, мы бы не то что не догадались, что это дверь, а вообще не поняли бы его назначения. Не беда: достаточно добавить к новшеству некую внешнюю деталь, напоминающую дверь. Например, сделать его прямоугольным, прикрепить на высоте пояса ручку или поместить красную табличку с белыми буквами «ВЫХОД», да что угодно, – и любой житель Земли интуитивно догадается, для чего служит этот псевдопортал и как им пользоваться.

Поначалу такая подмена может показаться обманом; как ни маскируй новое изобретение под дверь, дверью оно не становится. У него нет привычных нам признаков двери: деревянного полотна, подвешенного на петлях в стенном проеме. Устройство работает совершенно иначе. Обозначения и символы, как и аналогии, правдивы лишь отчасти: с их помощью от многоуровневых описаний различных предметов отсекаются все детали, которые мы в данном контексте считаем несущественными, – то есть не относящимися напрямую к нашей цели. При этом важно (с точки зрения использования этого предмета), что какой бы символ, образ или знак мы ни выбрали, он должен напоминать нам о назначении той самой как-бы-двери, а именно: возможности попасть из одного места в другое. Какая разница, как это работает, лишь бы работало! По сути, «дверь» может вообще никуда не вести – в «Подлинных именах» ничто никуда и не ведет. Подключенные к сети герои по большей части остаются неподвижны, пока программы перемещают их проекции в виртуальных мирах.

Любопытно, что в мире «Подлинных имен» сами проекции действительно перемещаются, так как симулирующие их программы перекидываются в разные точки всемирной компьютерной сети. И тем не менее для обитателей сети все это несущественно и неощутимо, поскольку физическое местоположение самих компьютеров никак не отображается внутри моделируемых ими пространств. Только ближе к концу новеллы для защиты от их автоматизированного врага этим полувиртуальным существам приходится отслеживать расположение их основных компьютеров, и тогда они прибегают к обычным средствам вроде военной навигации и географических карт.

Интересно, что то же самое происходит и внутри обычного мозга. Ведь и ему невдомек, где он находится. Разумеется, большинство современных образованных людей знают, что мысли возникают в голове – однако сам мозг, если ему не сообщить, об этом не знает. Вообще, не будь образования, человеческий мозг не имел бы ни малейшего понятия о существовании такого органа, как мозг. Мы полагаем, что мысли располагаются где-то сразу за лицом – местом многих органов чувств. Хотя даже это представление не всегда верно: визуальные мозговые центры, например, расположены далеко от глаз на затылке, где без подсказки ни один мозг не додумался бы их искать.

Словом, символьные обозначения в «Подлинных именах» и не должны отражать правду – то есть правдиво описывать устройство и действие какого-то объекта или программы. Символы существуют не для этого. Задача символа – обозначить, как использовать объект или программу. А поскольку понятие «пользы» всегда определяется пользователем, причем независимо от описываемого объекта, то форма и вид символа должны соответствовать накопленным ранее представлениям самого пользователя. Иначе говоря, они должны быть связаны с теми умственными процессами, которые наиболее точно и образно выражают его намерения. Именно поэтому Роджер проецирует свою надзирательницу так, как его сознание привыкло воспринимать жабу.

Такой принцип подбора символов, выражающих назначение предметов – точнее, намерения пользователей по отношению к ним, – уже стал второй натурой для разработчиков самых первых компьютерных систем быстрого взаимодействия, а именно: ранних компьютерных игр – прообразов Иного Плана, где разворачивается основное действие новеллы. В семидесятых годах идея наглядных иконок принадлежала исследовательской группе Алана Кэя в Xerox, но лишь в начале восьмидесятых годов благодаря дальнейшим разработкам команды Стивена Джобса в Apple Computer идея воплотилась в компьютере Macintosh, став неотъемлемой частью компьютерной революции.

Примерно в то же время появились менее известные попытки представить в виде иконок не то, для чего программы нужны, а то, как они работают. Такой подход мог бы значительно облегчить программистам разработку новых программ на основе существующих. Попытки в целом оказались менее успешными, возможно, из-за необходимости слишком углубляться в недра работы программ. Однако эти проходящие трудности не помешали видению Винджа, для которого очевидно, что современные формальные, негибкие и невыразительные языки – лишь ранний этап развития высокоуровневого программирования в будущем.

Дни программирования в его нынешнем виде, безусловно, сочтены. Нам недолго осталось составлять громадные вычислительные системы путем скрупулезных и в то же время концептуально убогих процессуальных спецификаций. Вскоре мы начнем выражать свои намерения относительно желаемых результатов в терминах, жестах или на примерах как минимум таких же выразительных, какими мы привыкли сообщать свои обычные повседневные желания или убеждения. Такие выражения будут поступать на вход огромных, умных, понимающих намерения программ, которые самостоятельно напишут необходимые операционные коды. Нам больше не потребуется понимать малейшие нюансы работы компьютера. Все это достанется тем продвинутым утилитам, на которые будет возложена трудоемкая задача применения однажды заложенных в них знаний об искусстве низкоуровневого программирования.

Как только мы найдем более удобные способы сообщать компьютерам о том, чего от них хотим, мы спокойно вернемся в привычный мир выражения наших потребностей и желаний. Ведь по большому счету пользователя заботит не то, как работает программа, а лишь то, что она делает – в смысле понятных ему воздействий на интересующий его объект.

Однако, чтобы это произошло, необходимо изобрести и освоить новые технологии для выражения намерений. Для этого нам придется отказаться от старых, пусть и развивающихся языков программирования, годящихся исключительно для описания процессов. Задача может оказаться сложнее, чем представляется. Нетрудно решить, что наша задача – лишь описать конечный результат с помощью более привычных средств выражения, но это решение сопряжено с серьезными рисками.

Первая опасность – увязнуть в самообмане. При написании программы, или статьи, или чего угодно существует соблазн убедить себя: «Я понимаю, чего хочу, просто не могу это четко выразить». Однако это говорит о чрезмерно упрощенном представлении себя в виде некоего чистого и незамутненного ядра сознания, имеющего однозначные желания, намерения и цели. Такое дофрейдистское самовосприятие служит оправданием встроенной в нас противоречивости; мы убеждаем себя, что уточнение наших стремлений – всего лишь вопрос упорядочивания каналов ввода-вывода между нашим внутренним и внешним «я». Беда в том, что мы так не устроены, как бы нам того ни хотелось.

Другая опасность подстерегает нас всякий раз, когда мы пытаемся улизнуть от ответственности за понимание средств, которыми достигаются наши цели. Доверять в выборе способов любому услужливому посреднику – запрограммированному нами или нет – всегда чревато. Чем больше у них свободы выбора якобы ради лучшего достижения наших целей, тем больше опасность возникновения неожиданных проблем. Мы рискуем заметить слишком поздно, что наши цели неверно истолкованы, причем, возможно, умышленно, как в классических драмах о Фаусте, ученике чародея или в «Обезьяньей лапке» Джекобса.

И наконец, величайшая угроза кроется в готовности жадных и ленивых начальников пойти ва-банк и создать программы, способные наращивать власть за счет самообучения и саморазвития, которое постоянно приумножает и усиливает их возможности. Это выглядит заманчиво не только с точки зрения власти, но и ради простого освобождения человека от необходимости обдумывать и формулировать собственные желания. Предложи вам джинн исполнить три желания, разве не будет первым из них: «Скажи, чего я хочу больше всего?» Проблема же с такими мощными машинами в том, что достаточно малейшей случайности или недосмотра в дизайне, чтобы они поставили свои цели превыше наших – пускай даже и с самыми благими намерениями защитить нас от самих себя, как в рассказе «Опустив руки» Джека Уильямсона, или от неожиданного врага, как в «Колоссе» Д. Ф. Джонса, или потому что созданная нами машина, как ЭАЛ Артура Кларка, посчитает нас непригодными для возложенной нами же миссии или просто начнет преследовать собственные цели, как Почтарь у Винджа, печатающий сообщения на телетайпе ввиду нехватки времени на маскировку под человека.

Ну а как же быть с последним и неизбежным вопросом, поставленным в финале «Подлинных имен»? Возможно ли, чтобы пользователь из плоти и крови начал выстраивать свое второе, более могущественное «я» внутри машины? Мыслимо ли такое? И если да, останутся ли эти гибриды человека и компьютера такими же во всех смыслах, как их прототип, станут ли естественным продолжением реальной личности? Или это будут новые, искусственные сущности, лишь отдаленно напоминающие оригиналы? Что, если симуляция стареющей Эритрины, невероятно усовершенствованная, продолжит жить в намного более роскошном месте, чем Провиденс? Предположим, что ей захочется разделить свою новую жизнь с Роджером – ведь не стоит лишать романтики любое продолжение, – и эти два всемогущих существа полюбят друг друга. И вот тогда возникает вопрос: что общего у этих сверхсуществ с их оригиналами? Для ответа на него необходимо разобраться, кем эти двое были прежде. А поскольку это не реальные люди, а плод воображения автора, задуматься нам следует над собственной природой.

Как только мы зададимся вопросом о самих себе, нам волей-неволей придется разбираться в том, как мы устроены. И вот тут-то и начинается самое интересное, потому что, на мой взгляд, внутри сознания каждого нормального человека есть часть, которую мы зовем «собой», но и она пользуется символами и образами, подобно игрокам Внутреннего Мира, передающим свои желания мониторам в виде волшебных заклинаний.

Для объяснения этой теории работы человеческого сознания мне понадобится кратко изложить некоторые тезисы моей новой книги «Общества разума». Мое понимание того, что происходит в мозгу человека, во многом схоже с описанием игроков Иного Плана у Винджа, когда те внедрялись в сети вычислительных машин и посредством примитивных символьных обозначений управляли армией систем, о которых мы имеем довольно смутное представление.

Ни для кого не секрет, что люди знают о внутреннем устройстве собственного сознания гораздо меньше, чем об окружающем мире. Мы понимаем, как работают различные устройства, но имеем мало представления о суперкомпьютерах собственного мозга. Разве неудивительно, что мы умеем думать, не зная, что значит думать? Не странно ли, что у нас возникают идеи, хотя мы не можем объяснить, что такое идея? И как получается, что мы порой лучше понимаем своих друзей, чем самих себя?

Вернемся к тому, как мы управляем автомобилем, не зная принципов работы ни двигателя, ни рулевого привода. Если задуматься, разве не так же мы оперируем собственным телом? Мы попросту решаем двигаться в определенном направлении, и участие сознания при этом такое же, как при повороте некоего мысленного руля. В голове вырисовывается лишь общее намерение: «Пора идти, где тут дверь?» – и все остальное происходит само собой. А задумывались ли вы, какие сложные процессы включает в себя элементарный поворот при ходьбе? Дело-то посложнее, чем чуть уменьшить или увеличить размах шага с одной стороны, как при гребле в лодке. Сделай вы только это, вы бы завалились на первом же повороте.

Поэкспериментируйте: внимательно проследите за собой во время поворота, и вы заметите, что заранее даете себе подсказки, в результате чего уже наклоняетесь в ту сторону, куда собираетесь повернуть. Затем, на следующем шаге вы выпрямляетесь – и вот уже движетесь в другом направлении. При ближайшем рассмотрении все невероятно сложно: сотни взаимосвязанных мышц, костей и суставов разом приводятся в действие интерактивными программами, которые едва ли поймет ученый-эксперт в моторике. Однако вашему сознанию достаточно сказать или подумать: «Иди туда!» (если вообще уместно считать сознание самостоятельно думающим органом). Таким образом, мы управляем сложнейшими механизмами внутри себя, пользуясь не технически развернутыми схемами нашего внутреннего устройства, а знаками, сигналами и символами настолько же фантастическими, как и волшебство у Винджа. Тут уместно задуматься, имеем ли мы моральное право достигать своих целей путем наложения заклинаний на беспомощные орды наших внутренних рабов.

Следующим шагом становится открытие, что подобно тому, как мы, не задумываясь, ходим, мы так же, не задумываясь, мыслим! То есть мы так же обыденно и привычно эксплуатируем исполнителей нашей умственной деятельности.

Допустим, перед вами поставлена задача. Вы над ней размышляете и через какое-то время находите решение. Ответ приходит в голову неожиданно, просто возникает идея, и вы говорите: «Ага, я понял. Сделаю то-то и так-то». А если вас спросить, как вы пришли к решению, ничего вразумительного вы сказать не сможете. Обычные варианты:

«Мне пришло в голову…»

«Меня вдруг осенило…»

«До меня дошло…»

Если бы мы по-настоящему разбирались в своем сознании, нами так часто не управляли бы непонятные нам самим мотивы. Не было бы и столь различных теорий по психологии. Почему, когда человека спрашивают, откуда у него возникла такая хорошая идея, он прибегает к неуместным репродуктивным метафорам вроде «вынашивания» или «зарождения» мысли? Мы даже говорим о «пережевывании» и «переваривании», словно сознание находится где угодно, кроме головы. Будь мы в состоянии заглянуть к себе в умы, мы бы наверняка выразились более обстоятельно, чем «погодите, я подумаю».

Многие уверены в том, что компьютеры никогда не смогут стать сознательными, разумными, проявлять собственную волю или какую-либо «осознанность». Таких людей обычно ставит в тупик мой вопрос, почему они считают, что сами обладают этими замечательными качествами. Их ответы, как правило, сводятся к одному: «Раз я осознаю, значит, я осознаю».

Вот только откуда такая уверенность? «Самосознание» предполагает понимание того, что происходит внутри сознания, но никто в здравом уме не возьмется утверждать, что люди в буквальном смысле могут обратить взгляд внутрь и разобраться в себе.

Поразительно, насколько мы убеждены в собственной способности понимать, что происходит у нас внутри, когда на самом деле особых подтверждений тому нет. Да, каким-то людям свойственно особое качество, называемое иногда «проницательностью», помогающее им правильно оценить настроения и побуждения других людей. Некоторым порой даже неплохо удается распознать их в самих себе. Однако это не оправдывает применение к данным способностям терминов вроде «самосознания» или «самопознания». Не лучше ли называть их «человекопониманием» или «человекознанием»? Есть ли хоть какие-то основания предполагать, что подобные навыки сильно отличаются от того, как мы учимся всему остальному? В этом следует видеть не умение «вглядеться внутрь», а просто еще один способ «разглядеть со стороны». Ведь, скорее всего, мы познаем себя точно так же, как постигаем все прочее.

Ясно одно: то, что мы называем «самосознанием», – лишь небольшая часть нашего разума. Оно выстраивает собственные модели мира – крайне упрощенные по сравнению с окружающей нас реальностью или с грандиозными суперкомпьютерами мозга – системами, работу которых на сегодняшний день не понимает никто. И в этих воображаемых мирках действует простая магия, где каждый объект имеет четкое назначение и смысл. Вдумайтесь, как сложно увидеть в молотке что-либо иное, чем предмет для забивания гвоздей, или представить, что мяч можно не только кидать и ловить. Почему же мы так зациклены на восприятии предметов с точки зрения их пользы? Потому что высшие уровни нашего сознания предназначены исключительно для целенаправленного решения задач.

Как известно, все механизмы в наших головах эволюционировали, в первую очередь, чтобы удовлетворять нашим естественным или приобретенным потребностям в пропитании, жилье, безопасности и продолжении рода. Позднее, в течение последних нескольких миллионов лет, мы развили еще более мощные подсистемы, которые неведомым нам образом анализируют всякие действия и увязывают их с возможными последствиями. Они накапливают то, что мы называем знанием. И хотя нам приятно считать знание абстрактным, а наше стремление к нему – благим и чистым, знание интересно нам в плане достижения наших целей (даже когда мы приходим к выводу, что сначала для этого необходимо накопить побольше знаний). Поэтому, говоря «знание – сила», мы признаем, что сами по себе знания неотделимы от средств достижения целей. В этом вся суть: знать полезно лишь то, что помогает понять, как действовать. Это настолько неотделимо от механизма разума, что само собой напрашивается утверждение: любое знание бесполезно, если мы не видим ему применения.

Итак, мы пришли к пониманию функции сознания: это та часть мышления, которая специализируется на управлении другими умственными системами, запрятанными гораздо глубже. При этом оно понятия не имеет о том, как они работают. Как уже говорилось, мы ходим, не ведая, как все происходит. Сознание пытается разобраться в этих подсистемах, лишь когда те начинают барахлить. Так человек с поврежденной ногой может впервые сознательно задуматься над процессом ходьбы: «Для поворота налево нужно наклониться влево» – и сообразить, что он не знает как. Очень часто только при столкновении с особенно трудной задачей мы начинаем углубляться в то, что, как правило, решается за нас бессознательно. В такие моменты мы обычно говорим: «Мне надо собраться с мыслями. Почему же я никак не могу сосредоточиться на важных вопросах, а не отвлекаться на посторонние вещи?»

Именно подобного рода трудности приближают нас к пониманию работы собственного разума, когда мы, вооружившись крупицами наших знаний об этих механизмах, пытаемся их починить или заменить. Удивительнее всего, что именно в такие моменты мы считаем себя «сбитыми с толку», ведь уже одно это понимание говорит об уме, в отличие от полного неведения относительно собственной бестолковости. Более того, мы сильно досадуем на состояние растерянности, недооценивая уровень самопонимания, который для этого требуется. Что ж, получается, сознание просто достигает своего предела: оно не способно досконально разобраться в собственном устройстве. Во всяком случае, даже самые «осознанные» попытки копания в себе сводятся к прагматичному миру волшебных символов и знаков, поскольку до сих пор ни одному человеку не удавалось прийти к пониманию работы наших подспудных программ посредством самоанализа.

В том-то и заключается ирония «Подлинных имен». Несмотря на научно-фантастический антураж, история Винджа реалистично описывает наш собственный жизненный удел! Повторюсь: мы оперируем нашим разумом так же бессознательно, как управляем автомобилем или телом, как игроки в тех мистических играх манипулируют своими сверхмашинами – посредством символов, образов, заклинаний и, конечно, тайных, сугубо личных имен.

Та часть, которую мы зовем «сознанием», сидит, так сказать, перед терминалами когнитивного мышления и пытается управлять непостижимой мозговой машиной, не разбираясь в ее устройстве, а выбирая простые символы из списка опций, время от времени всплывающих на наших умственных экранах.

А ведь если вдуматься, то по-другому и быть не может! Представьте на минуту, что наш разум способен заглянуть сам в себя. Что хорошего в возможности лицезреть во всех подробностях сеть из триллионов проводов нашей нервной системы? Ученые годами разглядывают фрагменты этих структур в мощные микроскопы, однако ни на йоту не приблизились к пониманию того, что и как в этих сетях происходит. Вообразите, что нам это все предстало бы целиком и сразу!

Есть еще мистики, уверенные в существовании других, лучших способов заглянуть в наше сознание. Одна из их рекомендаций – натренировать мозг останавливать поток сознания и попытаться (по возможности, не двигаясь) уловить мельчайшие нюансы умственной жизни. Приведет ли это к более ясным открытиям, чем взгляд в микроскоп? Может быть; только это не решит основополагающей проблемы понимания сложной системы! Ведь как только остановятся обычные мыслительные процессы, мы сразу же лишимся частей разума, уже наученных интерпретировать сложные явления. И вообще, будь мы даже и способны уловить сигналы, исходящие из обычно недоступных закоулков сознания, едва ли мы что-либо в них поймем, поскольку они оперируют на чрезвычайно низком уровне.

Чтобы выяснить, почему так происходит, давайте снова обратимся к такому простому занятию, как ходьба.

Допустим, вам при ходьбе удалось увидеть и услышать сигналы собственного спинного и малого мозга. Вы бы в них хоть что-нибудь поняли? Возможно, хотя вряд ли. Подобные эксперименты несложно провести с помощью устройств обратной связи на биологическом уровне, позволяющих слышать и видеть внутренние сигналы. В результате можно даже быстрее освоить новые навыки, например, приспособиться к действиям с поврежденной конечностью. Однако мы по-прежнему никоим образом не приближаемся к пониманию работы собственного организма. Мы просто обзаводимся новым набором магических символов и возвращаемся к привычному полусознательному управлению. Вполне вероятно, что новый набор символов складывается где-то в нервной системе и дает о себе знать, испуская поверхностные сигналы. Однако приборы биологической обратной связи раскрывают суть процесса познания не более, чем наши обычные органы чувств.

Ученые, занимающиеся моторикой, уже десятки лет назад научились вызывать подобные сигналы при помощи электроники. Полученные данные повлекли за собой разнообразные теории относительно наших систем взаимодействия и управления. Только эти теории не явились результатом отрешенных раздумий или пассивных наблюдений над сложными биосигналами. То малое, что нам известно, добыто целенаправленной и интенсивной эксплуатацией накопленных за три века открытий в области аналитической механики, а также новейших достижений последнего столетия в сфере управления сервоприводами.

Для науки вообще нехарактерно, чтобы одно лишь внимательное наблюдение приводило к новым открытиям и познанию. Человеку необходим хотя бы некий зачаток, намек на новую теорию или новый подход к описанию; другими словами, нам необходима «новая идея». Поскольку «причины» и «смысл» предмета наблюдения нам неведомы, то для их представления нужен другой умственный источник, изобретающий волшебные образы.

Откуда же берутся эти новые идеи? В основном представления любого конкретного человека определяются социально-культурными условиями общества, в котором он растет. Остальные же идеи, которые «приходят» в голову нам самим, тоже зарождаются в обществах, но только в тех, которые создает наше индивидуальное сознание.

Ведь нельзя считать разум человека единым целым, а мозг – органом, имеющим единственный централизованный механизм управления. Мозг не вырабатывает мысли подобно тому, как печень выделяет желчь. Мозг представляет собой сложнейшую конструкцию мельчайших агентов, специализирующихся на решении определенных задач, необходимых другим агентам. Например, для восприятия слов мы задействуем не те же самые секции мозга, что для распознавания звуков природы, включая музыкальные звуки. Также известно, что за распознавание лиц отвечает совершенно особая часть мозга, отличная от тех, что обрабатывают обычное зрение. По моим подозрениям, у нас в черепе расположена чуть ли не сотня разных видов компьютеров, каждый со своей особенной архитектурой. Накопленные в течение четырехсот миллионов лет эволюции, они связаны между собой в одну многопрофильную сеть специалистов, где каждый знает, к кому из «коллег» обратиться, чтобы решить поставленную задачу. При этом каждый из этих узко специализированных агентов использует свой стиль программирования и свою символику; никакого единого стандарта или общего универсального языка у них нет.

Из этого следует, что если один из агентов этого «общества разума» задумает разобраться в другом, ничего не получится из-за несовместимости их архитектур и языков. Разве можно понять друг друга, имея так мало общего? Даже людям, говорящим на разных языках, общаться затруднительно. Что же говорить о сигналах в разных частях человеческого разума, у которых гораздо меньше сходства, чем у двух языков, как правило, с общими древними корнями. Скорее всего, они неспособны к общению в принципе – кроме обмена символами, запускающими их работу.

Тогда возникает вопрос: «А как же удается общаться людям разных профессий, имеющим разный опыт, представления и цели?» Людям проще, потому что целой личности известно гораздо больше, чем маленьким фрагментам ее сознания. К тому же воспитывают нас всех более-менее одинаково, и наши общие знания обеспечивают прочный фундамент для взаимопонимания. Так что нам просто свойственно переоценивать наши коммуникативные способности. Многие на первый взгляд разные профессии на самом деле довольно схожи в том, что мы зовем «здравым смыслом» – знанием, общим для всех. Поэтому нам, собственно, и не требуется друг другу многое объяснять. Мы вообще редко сообщаем другим что-то новое: скорее, мы просто показываем на примерах, что имеем или, наоборот, не имеем в виду, тем самым давая собеседнику подсказки, как следует связать уже известные ему понятия. То есть мы чаще уточняем «который из», чем объясняем «как именно».

Задумайтесь, насколько трудно бывает описать, казалось бы, элементарные вещи. Мы не можем толком объяснить, как удержать равновесие на велосипеде, отличить изображение от настоящего объекта или просто о чем-то вспомнить. Иной может возразить, мол, нельзя требовать от нас способности выразить словами то, чему мы учимся еще до того, как начинаем говорить! Вполне справедливое возражение, которое лишь подтверждает, насколько трудно понять друг друга фрагментам сознания, которые и вовсе никогда не говорят, – а ведь их у нас большинство.

Вообще, само понятие «смысла» зависит от масштабов. Вопрос «Что это значит?» имеет смысл только в отношении системы, которая может вмещать в себя множество разных значений. А наделять общим значением крошечный фрагмент так же бессмысленно, как утверждать, что кирпич – это крошечный домик.

Легко сказать, что сознание – это общество, только какая от этого польза, если не знать, как оно организовано? Если бы все эти узкоспециализированные агенты конкурировали между собой, наступила бы анархия, и чем мы больше бы узнавали, тем меньше бы умели. Поэтому какая-то организация, вроде иерархии ступеней на производстве или уровней в государственном управлении, все же должна существовать. Для чего нужна иерархия? Во всех больших, слаженных и продуктивных обществах низшие слои специализируются на выполнении узконаправленных задач, тогда как высшие уровни занимаются стратегическими целями и долгосрочным планированием. В этом еще одна фундаментальная причина сложности при переводе между нашими сознательными и бессознательными мыслями. Термины и символы, которые мы используем на сознательном уровне, служат в основном для выражения наших намерений и планов, тогда как их конкретное исполнение передается на более низкие уровни, где все происходит на неизвестных нам языках процессов и устройств. И когда зонды нашего сознания пытаются проникнуть в мириады мельчайших подпрограмм, из которых состоит мышление, они сталкиваются с непонятными кракозябрами все более ограниченного применения.

Проблема в том, что эти крошечные специализированные «языки» очень скоро выглядят абракадаброй по одной простой причине. Это не знакомые нам трудности перевода с одного языка на другой – здесь проблема понятна: разные языки настолько богаты и многообразны, что нам сложно подобрать один-единственный эквивалент. Мы зовем это «неоднозначностью». А когда мы пытаемся разобраться в крошечных языках низших уровней сознания, мы сталкиваемся с обратной проблемой: чем ограниченнее языки, тем сложнее проводить между ними параллели не из-за изобилия смыслов, а из-за их скудности. Чем меньше задач выполняет каждая из подсистем, тем меньше вероятность найти между ними хоть какие-нибудь соответствия. О переводе не может быть и речи.

Чем же неоднозначность лучше? Да тем, что даже в самой безнадежно запутанной проблеме надежда на решение всегда есть. А когда проблема безнадежно проста, надежды просто нет!

Итак, вернемся к вопросу о том, насколько жизнь симулятора внутри машины отличается от нашей обычной жизни «снаружи». Мой ответ вам уже известен: по сути ничем, поскольку мы и сами существуем в виде процессов, живущих в машинах внутри машин. Миры нашего сознания уже наполнены чудодейственными, волшебными символами, которые присваивают всему, с чем мы сталкиваемся, смысл и значение.

Образованным людям давно известно, насколько воображаемый нами мир отличается от изученного «реального мира». Представьте себе стол. Наш разум видит в нем привычные форму и назначение: предмет, на который что-то кладут или ставят. При этом наука утверждает, что перед нами – скопление бесчисленного множества молекул. Стол сохраняет свою форму только потому, что какие-то из этих молекул вибрируют рядом друг с другом вследствие свойств силового поля, не дающего им разлететься в разные стороны. Точно так же наш разум приписывает звуку произнесенного слова некий смысл и значение, хотя с точки зрения физики слово – лишь колебания давления на уши, вызываемые столкновением мириад молекул воздуха (то есть тех же самых частиц, движение которых на сей раз менее ограничено).

Поэтому давайте согласимся раз и навсегда: все мы уже испытали на себе, каково это – быть компьютерным симулятором!

«Нонсенс, – первая реакция большинства. – Уж я-то точно не чувствую себя машиной».

Откуда такая уверенность? Как можно утверждать, что чувствуешь то, чего никогда не испытывал? Смотрите: вы либо машина, либо нет. И если вы не машина, то как вы можете утверждать, что знаете, как ощущает себя машина?

«Ну допустим. Только будь я машиной, я-то уж наверняка бы об этом знал!»

А вот и нет. Это всего лишь наивное и великое заблуждение, равносильное утверждению: «Я мыслю, значит, понимаю, как работает мышление». Как мы убедились, между нашим сознанием и тем, откуда оно берется, столько слоев, что утверждать это настолько же нелепо, как заявлять: «Я вожу машину, значит, понимаю, как работает двигатель»!

«Будь мозг компьютером, каким же должен быть тогда его масштаб! В мозге человека содержатся миллиарды нервных клеток, и каждая из них сама по себе невыразимо сложна. Кроме того, каждая клетка сложнейшим образом переплетена с миллионами других. Можно, конечно, называть это «машиной», но построить такую машину не под силу никому!»

Мне хорошо понятна причина подобных возражений. Сравнение с машиной как будто упрощает, выставляет нас примитивными. Согласен, звучит и правда оскорбительно – но лишь потому, что слово «машина» у нас ассоциируется со своим устаревшим значением. На протяжении тысяч лет мы использовали это слово в отношении рычагов, шкивов, паровозов, пишущих машинок и других примитивных устройств. Аналогично, в наше время при слове «компьютер» мы думаем о сложении и вычитании чисел и об их хранении в некоей ограниченной «памяти». Эти понятия просто не годятся для описания машин, способных мыслить, как мы. В этом смысле термины устарели. Подобно тому, как слово «дом» может означать не больше или гораздо больше, чем дерево и камень, так же и наше сознание можно описать, как «не больше или гораздо больше, чем просто машина».

А что касается масштабов, то эти возражения тоже практически полностью отстали от жизни. Пожалуй, это было справедливо в пятидесятых годах, когда компьютеры не обрабатывали и миллиона бит. Или в шестидесятые, когда миллион бит стоил миллион долларов. Но сегодня тот же объем памяти стоит не более сотни долларов (причем за это время наши правители и доллар понизили), и уже существуют компьютеры, обрабатывающие миллиарды бит информации.

Единственное, чего нам пока недостает, – это знаний о том, как сделать машины разумными. Из всего вышесказанного вы уже наверняка догадались, что исследования в области искусственного интеллекта следует направить на то, как правильно связать структуру с функциональностью посредством символов, подобно фантазии Винджа. Станет ли такое когда-нибудь возможным?

Никогда не говори «никогда».