До Дарвина мир объединяла не наука, а традиции. Все, что существовало во Вселенной, от самой возвышенной сущности до самой скромной (муравей, камушек, дождевая капелька), было созданием еще более возвышенной сущности, Бога, всемогущего и всеведущего разумного Творца, – он был поразительно похож на второе по значению возвышенное существо, поплоше. Подобное положение вещей можно назвать нисходящей теорией творения. Дарвин заменил ее теорией творения, возникающей «ниоткуда», как пузырьки в газировке. Роберт Маккензи Беверли¹², один из критиков Дарвина в XIX веке, выразился об этом весьма живо:

Эта «инверсия причинности» и в самом деле была «странной», и недоверие Беверли до сих пор отдается эхом среди обескураживающе значительной части населения, даже в XXI веке.

Если мы вернемся к теории случайного творения Дарвина, мы можем представить себе всю деятельность по созданию нашего мира как некий процесс постепенного развития того, что я условно называю пространством созидания. Начало должно быть положено первыми примитивными репликаторами, как мы убедились в главе 3, и постепенно процесс должен был бы усложняться, проходя через многочисленные волны естественного отбора, продвигаясь к многоклеточной жизни во всех ее формах. Действительно ли подобный процесс способен породить все те чудеса, что мы наблюдаем в биосфере? Скептики еще со времен Дарвина пытались всячески продемонстрировать, что то или иное чудо просто недостижимо таким трудоемким и лишенным разумного выбора путем. Они постоянно ищут нечто живущее, что не могло возникнуть бы путем естественного отбора. Я назвал этот процесс «поиском небесного крюка», поскольку это похоже на мифическую уверенность, что в небе можно за что-нибудь зацепиться, чтобы поднять некий груз (Деннет, 1995). Небесный крюк болтается очень высоко в пространстве созидания, и его не помогают ухватить даже наши предки, а уж они-то точно считались когда-то результатом особого акта творения. Скептики снова и снова пытаются найти этот небесный крюк, но обнаруживают вместо него удивительный подъемный кран, лишенное малейшего волшебства устройство в пространстве созидания, которое позволяет все более эффективно исследовать возможности созидания, поднимаясь все выше и выше. Подъемным краном для природы служит эндосимбиоз; он поднимает простые одиночные клетки до уровней все возрастающей сложности, в царство многоклеточных организмов. Подъемным краном служит и половое размножение: оно позволяет генам перемешиваться и делает слепой отбор путем проб и ошибок существенно эффективнее. Язык и культура тоже служат подъемными кранами, они приумножают новое и открывают огромные пространства возможностей для все более умных (но без всякой примеси чуда) творцов. Если бы язык и культура не стали бы одним из инструментов научно-технической эволюции, у нас не было бы плантаций светящихся в темноте кустов табака с генами светлячков.

Это не волшебство. Они точно так же являются плодами Древа Жизни, как паутина или плотины бобров, однако вероятность их возникновения без участия рук и культурных достижений Homo sapiens равна нулю.

По мере того как мы узнаем все больше и больше о нанотехнологиях жизни, которые делают подобные достижения возможными, мы начинаем понимать вторую странную инверсию причинности, произошедшую век спустя благодаря другому блестящему англичанину: Алану Тьюрингу. Вот перед вами эта инверсия Тьюринга, сформулированная в стиле Беверли:

Математические вычисления совершались и до изобретения Тьюринга, они проводились в научных и инженерных целях в сотнях, может быть, тысячах проектов. Только вычислителями были люди, а не машины. Многие из них были женщинами, многие обладали степенью в области математики. Они были человеческими существами, которые прекрасно понимали, что такое арифметика, однако Тьюринг первым понял, что им не нужно было ее знать! Он отметил: «Поведение компьютера в любой момент определяется символами, которые он наблюдает, и “состоянием его ума” в данный момент» (Тьюринг, 1936, 5). Это «состояние ума» (так гласит страшноватая цитата Тьюринга) представляло собой механический набор инструкций типа «если… то…», указывающих, что делать и в какое «состояние ума» входить дальше (и повторять до тех пор, пока в инструкции не появится СТОП). Тьюринг показал, что можно создать бездумные машины, абсолютно ничего не знающие, но способные в совершенстве исполнять арифметические действия, следовать «инструкциям» механическим путем. Еще более важным было то, что он продемонстрировал, что если в инструкции включить функцию разветвления, возможность выбора пути, возникающую при соблюдении определенных условий (все те же «если… то» инструкции, такие, как «если встретил 0, замени его на 1 и сверни налево, а если встретил 1, оставь все как есть и сверни направо и перейди в состояние n»), машины смогут совершать бесконечно сложные действия, определяемые этими инструкциями, то есть программами. Программы придают им свойство компетентности: они могут делать любые вычисления. Другими словами, программируемый цифровой компьютер есть та самая универсальная машина Тьюринга, способная имитировать любую цифровую вычислительную машину специального назначения, следуя набору инструкций, которые реализуют это специальное назначение в программном обеспечении¹³. (Вам не нужно перепрограммировать ваш смартфон, чтобы он выполнял какие-то новые задачи; достаточно загрузить приложение и превратить его в астрономический атлас, переводчик, ручной калькулятор или грамматический справочник…) Благодаря Тьюрингу людям стало доступно огромное Пространство Алгоритмов обработки информации, он предвидел, что путь от Абсолютного Невежества к Искусственному Интеллекту проходит через это пространство этакой длинной лестницей со множеством ступеней.

Многие люди не могут смириться с инверсией причинности Дарвина. Их называют креационистами. Они до сих пор продолжают искать тот самый небесный крюк – «необъяснимую сложность» (Behe, 1996) некоторых созданий биосферы, которые якобы не могли бы возникнуть в результате описанных Дарвином процессов. Точно так же многие люди не в состоянии принять и инверсию Тьюринга, и практически по тем же причинам. Они хотят верить, что чудеса разума недоступны устройствам, сделанным из обычной материи, что мозг является если не совсем в буквальном смысле чудом, то хотя бы загадочной субстанцией, бросающей вызов естественным наукам. Они не хотят залечить картезианскую травму.

Но почему? Мы уже упоминали о не самых приглядных мотивациях таких людей: страхе, спеси, любви к конспирологии и тайнам. Есть и другие причины (ответ на вопрос как? или на вопрос зачем?): и Дарвин, и Тьюринг утверждали, что открыли нечто весьма тревожное, почти невыносимое для человеческого разума – умения, компетенции без понимания. Беверли выразил эту идею более образно: он назвал ее творческими способностями без интеллекта! Представьте, насколько это идет вразрез с нормами, закрепленными в наших социальных и образовательных практиках: понимание якобы является (лучшим) источником познания. Мы отправляем наших детей в университеты, чтобы там они смогли понять законы развития и существования нашего мира, получить навыки работы, которые потом станут им хорошим подспорьем в жизни, сформировать знания и способности, научиться пользоваться всем тем внушительным запасом познаний, который мы накопили для них. (Я использую «познание» и «понимание» в данном контексте в качестве синонимов, отдавая преимущество «познанию», поскольку это слово используется наиболее часто в слоганах благодаря аллитерации со словами «знание» и «понимание».) Почему мы так пренебрежительно относимся сегодня к зубрежке? Да потому что мы убедились (не правда ли?), что понимание темы или метода – единственный путь (единственный или даже лучший?) к познанию темы или метода. Мы отвергаем бездумное заучивание, которое похоже на заполнение пустых ячеек в таблице безо всякого понимания цели. Мы презираем идею, что раскраска по номерам может создать творческих личностей. Наш девиз должен был бы звучать так:

Следует отметить, что в этом подходе гораздо больше идеологии, чем кажется. Нам уже известны случаи, когда применение этого «священного принципа» приводило к катастрофическим последствиям, – например, эксперимент с «новой математикой». С его помощью безуспешно пытались обучить детей вначале теории и различным абстрактным концептам, вместо того чтобы начать со сложения и вычитания, таблицы умножения, простых дробей и элементарных алгоритмов вроде деления в столбик и счета по два, по пять и по десять.

Служба в армии служит одним из самых эффективных способов усвоения знаний в мире, превращая средних школьников в профессиональных механиков реактивных двигателей, операторов радаров, штурманов и целый сонм иных технических специалистов благодаря большим дозам «работы на земле». Понимание возникает у этих специалистов постепенно, на базе больших объемов чисто практической грязной работы, и благодаря им мы имеем яркое эмпирическое доказательство того, что умение не всегда зависит от понимания, и часто служит лишь предпосылкой для будущего понимания. Дарвин и Тьюринг рассматривали крайний случай подобной точки зрения: совершенство мира и понимание его возрастают в конечном счете из неосознанных процессов, превращающихся со временем во все более умелые – и, соответственно, осознанные – системы. Это на самом деле очень странное превращение, опровергающее додарвиновское видение Творца, трудившегося над проектом эволюции новых создателей в нашем лице.

Наш скептицизм по поводу умения без понимания содержит в себе некую логику, но не имеет причин. Оказывается, представление о том, что уметь что-либо без понимания невозможно «само собой», неверно; оно только кажется правильным, да и кажется лишь потому, что наш ум был сформирован таким образом, чтобы думать именно так. Для того чтобы рассеять эти чары, потребовалось вмешательство Дарвина, а затем и Тьюринг довершил разрушение мифа, явив миру новую идею, что мы можем перевернуть традиционный порядок и построить разумную систему на основе каскада постоянно совершенствующихся умений, тем же путем, как эволюция с помощью естественного отбора создавала все более совершенные конструкции, устройства, органы, инстинкты.

Между двумя странными инверсиями Дарвина и Тьюринга большая разница. Дарвин показал, как совершенное создание может возникнуть в результате цепочки процессов в отсутствие сколько-нибудь разумного замысла; а последовательности Тьюринга как раз наоборот являются результатом весьма интеллектуального творчества. Дарвин открыл эволюцию путем естественного отбора, Тьюринг изобрел компьютер. Многие люди полагают, что разумный Господь создал все условия для того, чтобы начался эволюционный естественный отбор, а Тьюринг появился, чтобы сыграть ту же самую роль в разработке идеи (материального, неживого, лишенного способности мыслить) компьютера, который впоследствии станет местом, где понимание может возникнуть из некоего подобия крошечной эволюции, серии улучшений, состряпанных из основных вычислительных элементов. Разве роль Тьюринга как разумного Творца противостоит, а не, наоборот, расширяет сферу действия странной инверсии Дарвина? Вовсе нет, и поиск ответа на этот вопрос станет важнейшей темой и главной задачей остальной части этой книги. Краткое объяснение состоит в том, что Тьюринг сам представляет собой одну из ветвей Древа Жизни, и его достижения, практические и теоретические, являются косвенными продуктами слепых дарвиновских процессов, точно такими же, как паутина или плотины бобров. В этом нет никакого драматического разрыва, никакого нарушения непрерывности, нам по-прежнему не нужен небесный крюк, который бы перенес нас от пауков, плетущих паутину, и бобров, строящих плотину, к Тьюрингу и его машинам. Однако некий пробел все-таки существует, поскольку творческий метод Тьюринга разительно отличается от методов пауков и бобров, и нам необходимо ясно и четко осознать, в чем эта разница. Если творчество без понимания столь поразительно плодотворно – способно создать, к примеру, соловья, – почему нам необходимо понимать природу наших способностей создавать оды соловьям и компьютерам? Как и почему человеческий способ понимания появился на сцене эволюции? Во-первых, давайте сделаем эту разницу яркой и зримой.

Термиты являют собой прекрасный пример созидания без понимания, эти существа способны построить крепкие, безопасные, отлично проветриваемые дома в отсутствие чертежей и начальников (королева термитов скорее играет роль сокровищ короны, чем главного начальника); а Антонио Гауди – почти совершенное подобие того самого Творца, богоподобный руководитель, вооруженный схемами, чертежами, методичками, заполненными всевозможными творческими указаниями и причинами, почему так, а не иначе. Его великое творение в Барселоне – образец великолепного творческого вдохновения, превзойти которое практически невозможно, однако оригинал машины Тьюринга, Pilot ACE (его можно сегодня увидеть в Лондонском музее науки) вполне мог бы завоевать первую премию в соревновании с собором. Этот компьютер стал одной из первых работающих вычислительных машин, он произвел первые расчеты в 1950 году в Национальной физической лаборатории Британии и вполне мог посоперничать с собором Гауди в оригинальности, сложности и стоимости. Оба творца вынуждены были убеждать инвесторов финансировать их амбициозные творения и оба разработали заранее планы и диаграммы, сопроводили их вспомогательными пояснениями. Таким образом в обоих случаях вероятная реальность зависела от существования замысла в голове гения, от дизайнерских разработок, от понимания смысла отдельных частей и этапов¹⁴. Когда дело дошло до конкретного воплощения, обнаружились и работники, которые имели весьма слабое представление о том, что они делают, и не до конца понимали, зачем это все нужно. Понимание процессов, естественно, распределялось между участниками проектов: Гауди не должен был соображать, как смешивать раствор или с какого конца тесать камень, как каменщик, а Тьюринг не обязан был становиться виртуозом паяльника или экспертом по изготовлению вакуумных трубок. Распределение экспертных способностей или понимания процессов подобного рода служит отличительной чертой человеческого творчества, и оно чрезвычайно важно для сегодняшнего высокотехнологичного созидания, но так было не всегда. Одинокий мастер мог изготовить, понимая в деталях особенности конструкции и порядок действий, копье или даже лодку, деревянную повозку или соломенную хижину, но вряд ли такое возможно с радио, автомобилем, атомной электростанцией.

Пристальный взгляд на некоторые результаты человеческого труда и изобретенные нами технологии для их создания поможет найти ключевые моменты на пути от безмозглой бактерии к Баху, однако прежде всего мы должны ввести в рассказ термин, который зародился в философии, но распространился уже на многие другие области научного и технического знания.

Термин «онтология» происходит от греческого слова «сущее». В философии сюда относится набор «сущностей», в которые верит человек, или набор сущностей, который подразумевается или определяется некоторыми теориями. Что такое ваша онтология? Верите ли вы в привидения? Тогда привидения присутствуют в вашей онтологии вместе со столами, стульями, песнями и отпуском, снегом и всем остальным. Оказалось, что этот термин удобно также расширить за пределы первоначального смысла, например использовать его для обозначения «сущностей», которые может распознавать животное и на которые оно должно ориентироваться в поведении (можно ли сказать, что у животных есть верования?), и – совсем недавно – для обозначения «сущностей», с которыми компьютерная программа должна взаимодействовать, чтобы выполнять свою работу (а можно ли сказать, что и у программы есть верования?). Отпуск не входит в онтологический набор полярного медведя, однако снег в нем присутствует вместе с тюленями. Снег, вероятно, не включен в онтологический набор ламантинов, однако лодочный мотор вполне может в него попасть вместе с водорослями, рыбой и другими ламантинами. Система GPS вашей машины помнит про улицы с односторонним движением, левые и правые повороты, ограничения скорости и знает текущую скорость, с которой вы едете (если она не равна нулю, система может запретить вам ввод другого адреса на ходу), однако ее онтология включает также и количество спутников, их сигналы, какой спутник что сообщает, она не беспокоит вас этими своими познаниями, но нуждается в них, чтобы выполнять свои функции.

Онтологию GPS разработал программист, обладающий специальными знаниями; процесс научно-технических разработок, вероятнее всего, шел путем многочисленных проб и ошибок, были исследованы разные схемы и варианты. Онтология полярного медведя или ламантина была сформирована в результате сложной комбинации генетической эволюции и индивидуального опыта. В онтологии ламантинов, по идее, должны быть водоросли, в точности как в онтологии у человеческого детеныша – соска, они сложились за долгие века инстинктивно и генетически. Всякий ламантин, в онтологии которого есть подвесной лодочный мотор, получил его из собственного опыта. Нашему человеческому бытию соответствуют чрезвычайно разные онтологии. Некоторые из нас верят в ведьм, а другие – в электроны, третьи – в какой-то морфический резонанс и мерзких снеговиков. Однако в онтологии существует некое огромное общее ядро, которое разделяют большинство нормальных людей с довольно раннего возраста – к шести годам мы уже практически все с ним согласны.

Эта общая онтология была названа явленным образом в ярком манифесте Уилфрида Селларса (1962). Подумайте о мире, в котором мы живем, он полон других людей, растений, животных, мебели и домов, машин… а также цветов, радуг, закатов, голосов, причесок, занятий спортом, денег, проблем, возможностей и ошибок и многого другого. В нем присутствуют мириады «сущностей», которые мы легко можем распознать, показать, полюбить или возненавидеть, и во многих случаях мы можем их использовать и даже создавать. (Мы не можем создать закат, однако при соблюдении определенных условий, имея немного воды и капельку изобретательности, можно сделать радугу.) Все эти вещи мы используем в нашей повседневной жизни, сопровождая ими наши взаимодействия и разговоры, и в грубом приближении для каждого существительного в нашей повседневной речи мы можем найти сущность, которую оно означает. Так, «образ» становится «явью»: это очевидно для всех, и все знают, что это очевидно для всех, и это тоже все знают. Это понимание приходит к вам с родным языком; это мир, каким мы его видим¹⁵.

Селларс противопоставил этому явленному образу образ научный, населенный молекулами, атомами, электронами, гравитацией, кварками и бог его знает чем еще (темная энергия? струны? браны?). Даже ученые проводят большую часть своей сознательной жизни, представляя себе происходящее в повседневных терминах. («Передай, пожалуйста, ручку», – типичная единица коммуникации, зависящая от явленного нам образа, с помощью которого люди выражают свои обычные потребности и желания, способности слышать, видеть, понимать и действовать; свойств, позволяющих идентифицировать марку ручки, ее размер и вес, способ ее использования; и массы иных вещей. Создание робота, который сможет понимать и выполнять подобную просьбу, – далеко не тривиальная задача, разве что вы собираетесь сделать робота, способного понять только одну эту фразу, ну, или парочку других.)

Научный образ – это то, что все должны выучить в школе, и большинство людей (непрофессионалов) приобретают весьма приблизительные знания о нем. Эти две версии мира довольно заметно различаются сегодня, практически как два разных биологических вида, однако когда-то они были единым целым и вылупились из простого архаичного образа мира, «который известен всякому», он включал в себя местных животных и знакомые растения, оружие и орудия труда, дома и социальные роли, а также гномов и богов, воскурения и заклинания, которые могли сглазить вас или, наоборот, принести обильную добычу на охоте. Постепенно наши предки узнали, какие «сущности» нужно убрать из их онтологий, а какие, наоборот, ввести. Навсегда ушли ведьмы, русалки и лепреконы, а на замену явились атомы, молекулы и микробы. Древние протонаучные мыслители, такие как Аристотель, Лукреций и значительно позже Галилей, проводили свои исследования, не делая различий между онтологией повседневной жизни (явленный образ) и онтологией науки, однако они заложили основы нового типа осмысления мира, и наиболее убедительные их выводы были подхвачены современниками. Устранение некоторых их самых соблазнительных ошибок стало основной задачей современной науки в процессе создания онтологии научного образа мира.

В отличие от термина «онтология», термины «явленный образ» и «научный образ» пока не перекочевали из философии в другие области научного знания, но я стараюсь сделать все возможное, чтобы изменить это, поскольку мне давно кажется, что они могут стать лучшим способом прояснить отношения между «нашим» миром и миром науки. Откуда же эти повседневные представления берутся? Селлар посвятил себя созданию образа мысли человека и человеческих сообществ. Можем ли мы распространить его концепцию на другие виды? У них ведь тоже есть нечто вроде онтологий в расширенном смысле. Есть ли у них явленные образы и как они отличают себя от нас? Эти вопросы важны для нашего исследования, поскольку, чтобы осознать, насколько велик был переворот, совершенный Дарвином, нужно понять, что он перевернул и как он к этому пришел.

Иногда полезно начать с самого примитивного примера, примера, не имеющего никакого отношения к сознанию и вообще к жизни: например, электронного устройства, которое контролирует лифт. Когда я был совсем юным, в лифтах, перевозивших людей, работали лифтеры – люди, работа которых заключалась в том, чтобы ездить вверх и вниз на лифте день напролет, останавливая лифт на нужном этаже, чтобы впустить и выпустить пассажиров. Они крутили любопытную ручку, которая могла поворачиваться по часовой стрелке и против часовой, чтобы лифт поднимался или опускался, и должны были обладать определенной ловкостью, чтобы уметь останавливать лифт в точности на нужном этаже. Людям часто приходилось поднимать ногу или, наоборот, внимательно ее опускать на пару-тройку дюймов при выходе из кабины или входе в нее, а лифтеры предупреждали пассажиров, чтобы они не споткнулись или не упали. У них была целая куча правил, что говорить в каждом из случаев и на какие этажи ехать в первую очередь, как открывать двери, и тому подобное. Обучение лифтера заключалось в заучивании всех этих правил и применении их на практике: постепенно следование правилам становилось их второй натурой. Сами правила вырабатывались годами, в процессе внесения изменений, мелких улучшений в конструкцию лифта. Представим себе, что этот процесс наконец достиг результата и получился почти идеальный сборник правил работы в лифте. Все работает безупречно. Всякий, кто аккуратно следует всем правилам, становится превосходным лифтером. (Я обнаружил одно из этих руководств в сети, публикацию армии США – это неудивительно, учитывая их привязанность к строевой подготовке и приказам. Страничку руководства можно увидеть на рисунке 4.1.)

А теперь представьте, что случится, если все эти функции лифтера взяла на себя простая компьютерная программа. (На самом деле это происходило постепенно, путем внедрения различных автоматических механических устройств, освобождавших лифтера от наиболее трудоемких и требовавших меньшей квалификации задач, однако мы представим, что лифты переведены с ручного управления на компьютерное за очень короткий срок.)

Рисунок 4.1. Руководство по управлению лифтом

Производитель лифтов, предположим, пригласил команду инженеров-программистов, вручил им руководство для лифтеров и заявил: «Вот вам все спецификации, в них содержится все, что мы хотим: создайте компьютерную программу, которая бы включала все правила из этой брошюры, и действовала, как лучший лифтер, – и мы вас отблагодарим». Программисты, изучая руководство, составляют список действий, которые должна выполнять программа, и условий, при которых они обязательны или, наоборот, запрещены. В процессе работы они могут убрать часть лишних предписаний из руководства – к примеру, размещая датчики, они ставят их так, чтобы лифт всегда останавливался на правильном уровне, тем самым устраняя цикл, который заставляет лифтера постоянно напоминать: «Пожалуйста, внимательнее, не споткнитесь» или «Внимательнее, спуск», но при этом они могут оставить в этом месте программы записанный голос, сообщающий: «Такой-то этаж, будьте внимательны».

В руководстве также записано, какое максимальное количество пассажиров может вместить лифт за один раз, и программисты столкнутся с вопросом, ставить ли в лифте турникет, который считал бы пассажиров? Вероятно, это не самая хорошая идея. Гораздо эффективнее весы, которые взвешивают всех пассажиров – они проще в установке и не создают дополнительных проблем. Посмотрим, как это вписывается в онтологию лифта: вместо исчисляемого существительного вроде «пассажира» или «места» появляется неисчисляемое типа «вес» или «груз». Мы можем метафорически сказать, что лифт отныне спрашивает себя: «Какой вес?» вместо «Сколько пассажиров?» Точно так же мы можем предположить, что полярный медведь не стремится сосчитать снежинки, но ощущает присутствие или отсутствие снега, или муравьед чувствует, что пора начинать жевать, когда у него на языке окажется достаточное количество муравьев, в отличие от насекомоядной птицы, которая выслеживает отдельных насекомых. Обратите, пожалуйста, внимание на то, что на самом деле совсем не обязательно предполагать наличие реального сознания у лифта, чтобы понять, как он знает, что можно ехать; поэтому мы можем наделить животных различными онтологиями, не решая вопрос, осознают они их или просто пользуются плодами процессов, которые мы можем интерпретировать (с помощью методов обратной реконструкции или прогнозирования) как формирование этих онтологий.

Но вернемся к онтологии лифта. Он может использовать показатель «вес» в целом ряде процессов, но он должен отвечать также и на индивидуальные запросы: «вверх», «вниз», поступающие извне, или «пятый», «подземный этаж» или «держать дверь открытой», поступающие изнутри. Для большей безопасности ему необходим самоконтроль, чтобы периодически проверять работу различных органов, следить за их правильным функционированием, в том ли они состоянии, в каком должны быть. Он должен освещать кнопки, когда их нажимают, и выключать свет, когда задание по данной кнопке выполнено (или по каким-то еще причинам).

Удобство (или неудобство) управления лифтом может варьироваться, но небрежность программы, используемой для отслеживания поломок и сбоев, даст о себе знать моментально. Если в вестибюле здания в ряд выстроились лифты (например, в офисном здании или в гостинице), важно, чтобы все лифты находились на связи друг с другом, или чтобы у них был управляющий орган, через который проходили бы все команды (проектирование лифтов с использованием дейктической функции, отвечающей на вопрос: «Где ты находишься, относительно места, где сейчас нахожусь я?» позволяет упростить и усилить кооперацию между отдельными лифтами и убрать из цепочки взаимодействий роль всезнающего главного контролера).

Для создания схемы контроля работы лифта часто используется профессиональный жаргон, который представляет собой смесь из повседневного человеческого языка и специальных кодов. Строка этого псевдокода может выглядеть примерно так: «если ЭТАЖ ВЫЗОВ > ТЕКУЩИЙ ЭТАЖ, ПОДНЯТЬСЯ ДО ЭТАЖ ВЫЗОВ = ТЕКУЩИЙ ЭТАЖ И ОСТАНОВИТЬСЯ, ОТКРЫТЬ ДВЕРЬ, ЖДАТЬ…»

Когда план действий записан псевдокодом и начинает походить на желаемый, псевдокод переводится в профессиональный исходный код, гораздо более строгую и структурированную систему операций, в которой все термины жестко определены – переменные, подпрограммы и так далее. Исходный код тоже довольно легко может быть расшифрован человеком – ведь он сам его и пишет, – то есть правила и термины руководства по управлению лифтом все еще можно разгадать в нем, если вы знаете, как их искать. Их можно найти по двум признакам: во-первых, названия, присвоенные операциям и переменным обычно выбираются из надписей, которые потом будут на разных деталях (ВЫЗОВ ЭТАЖА, ОБЩИЙ ВЕС, НАЗОВИ ЭТАЖ…). А во-вторых, программисты часто добавляют комментарии к исходным кодам, руководящие указания, которые призваны пояснить другим читателям кодов, что имел в виду программист и что делают разные части кода. Когда вы пишете программу, полезно добавлять комментарии и для собственных нужд, чтобы не забыть, какую функцию вы заложили в строку кода. Если вы заметите ошибку, это поможет вам вернуться. Исходный код должен быть составлен очень тщательно, ведь нельзя пропустить ни одного знака и все элементы поставить на правильные места, поскольку в итоге он будет превращен в компьютерную программу; она переведет исходный код в последовательность фундаментальных операций, которые должна будет выполнять реальная (или виртуальная) машина.

Компьютер не умеет догадываться, что имел в виду программист, когда писал строку кода; исходный код должен сообщить компьютеру, какую точно операцию надо совершить, а компьютерная программа может разными способами выполнить те или иные задачи и теоретически способна выбрать наиболее эффективный путь в зависимости от обстоятельств.

Где-то в описании кода, среди тысяч строк, вы найдете фразу следующего содержания:

Примечание в фигурных скобках исчезнет после компиляции исходного кода. Точно так же слова, написанные заглавными буквами, не войдут в код, который будет нанесен компьютером на компьютерный чип, обеспечивающий работу программы; она нужна только программистам, чтобы запомнить, чему равны различные переменные, а слова «В ФУНТАХ» напоминают программистам, что число, которое они вставят в программу, должно равняться максимальному весу пассажиров в фунтах. (В 1999 году зонд НАСА Mars Climate Orbiter, стоимостью 125 миллионов долларов, подошел к Марсу слишком близко, поскольку часть контрольных устройств использовала в качестве меры длины метры, а другая измеряла расстояние до поверхности в футах. Космический зонд подошел слишком близко к поверхности планеты и разрушился. Да, люди делают ошибки.) Короче, комментарии и примечания помогают нам понять принципы устройства системы, но невидимы для программного обеспечения. Когда программа закончена, протестирована и признана работающей, окончательная версия записывается на диск памяти, к которому имеет доступ центральный процессор. И все те правила и выкладки, которые казались столь ясными и четкими во время создания алгоритма, растворяются в потоке нулей и единиц, которые может прочесть уже только процессор.

Основной целью этого отступления в начале программирования была демонстрация того, что автоматизированный лифт странным образом похож на живое существо и кардинально от него отличается. Во-первых, лифт ведет себя полностью в соответствии с требованиями. Это хороший лифт, он совершает правильные движения. Мы даже можем назвать его «умным» (он не хуже лучших лифтеров прошлого). Во-вторых, он обязан своим совершенством тому факту, что его проект имел правильную онтологию. Он использует переменные, которые отражают изменения важных для его деятельности свойств того мира, в котором он выполняет работу, и его не касается все остальное (старые или молодые пассажиры ездят в нем, живые они или мертвые, богатые или бедные и т. п.). В-третьих, ему не нужно знать, какова его онтология или почему она такая, – это касается только разработчиков программы действия лифта. Разработчики должны понимать логическое обоснование программы, ввиду самой природы научно-конструкторских работ: это ведь полностью творение разума. И именно в этом как раз заключается то самое глубинное отличие от онтологии простых живых существ, плодов эволюционного естественного отбора, а не разумного творения.

Даже бактерии весьма совершенны в процессе выживания, они совершают правильные действия и знают, что для них хорошо; деревья и грибы тоже хорошо соображают, что им полезно, точнее, достаточно умно устроены, чтобы выполнять нужные действия в нужное время. У них у всех есть что-то типа разума, как у лифта, но не развитое сознание, как у людей¹⁶. Этот разум, как у лифта, представляет собой – должен представлять – результат некоего конструирования путем проб и ошибок, постепенного усовершенствования внутреннего устройства, обеспечивающего переход из одного состояния в другое путем вероятностного выбора без каких-либо гарантий и создающего возможность выживания, обеспечения определенного набора потребностей. В отличие от лифта, живые существа не получают свое внутреннее строение от разумных инженеров, которые работали бы, спорили, обдумывали устройство и особенности конструкции, они вообще ни от кого ничего не получали, и у них нет ничего, совсем ничего, что играло бы роль комментариев к исходному программному коду. Это ключевой момент той трансформации взглядов, которую произвели Дарвин и Тьюринг посредством их странных инверсий причинности.

Лифты могут делать потрясающе хитроумные вещи – оптимизировать траектории, чтобы сэкономить время и энергию, автоматически менять скорость, чтобы минимизировать неприятные ощущения у пассажиров, «думать обо всем», о чем лифту положено думать, следовать инструкциям и даже отвечать на наиболее часто задаваемые вопросы. Хорошие лифты отрабатывают свое обслуживание. Они все это делают без нейронов, внутренних органов, допамина, глутамата и других органических компонентов мозга. Поэтому справедливо будет утверждать, что их «умное» поведение представляет собой превосходный пример компетентности без малейшего понимания или даже намека на сознание. Хотя, конечно, трудно не считать, что механизм, который обеспечивает эту ограниченную компетентность, обладает каплей, даже скорее парой капель понимания. (В том же примерно духе его детальный самомониторинг можно считать чем-то вроде первичного шажка в сторону сознательности.)

Не важно, готовы мы или нет к тому, чтобы позволить лифту иметь микроскопический шанс на наличие у него разума, но то же самое мы должны допустить и в отношении бактерий, деревьев и грибов. Они демонстрируют впечатляющую компетентность выживая-в-своих-жизненных-нишах, благодаря восхитительно сконструированным механизмам, чье устройство они несут в себе, записанным на генах. Но этот механизм был создан естественным отбором, и поэтому нигде и никогда в истории этого созидательного процесса вы не найдете никаких рациональных объяснений типа того, что это как-то влияло на функции более крупной системы или на создание каких-либо отдельных частей – этот процесс не сопровождался никоим образом никакими комментариями, целями, задачами, как это происходит с конструктором в людском обществе. Тем не менее разумные объяснения для этих процессов существуют, их можно обнаружить путем обратной реконструкции. Вы можете рассчитывать на то, что обнаружится причина, почему части живого существа соединились именно таким образом, почему его поведение следует определенным правилам, и эта причина объяснит вам форму и строение существа (или позволит понять, почему тот или иной орган стал рудиментарным или приспособился для новых задач). Это объяснение будет простым с точки зрения инженерного решения: если вы удалите тот или иной элемент или измените его форму, система перестанет функционировать или будет функционировать плохо. Утверждения о блуждающей рациональности и должны быть, и могут быть проверены и доказаны вопреки всем сомнениям во многих случаях.

Но вернемся к столь успешно автоматизированному лифту. Та-дам! Живой человек – не воображаемый гомункулус – был заменен машиной. Машина следует тем же самым правилам, что и оператор-человек, неправда ли? Увы, это не так. Он вроде как следует тем же самым правилам. Это нечто среднее между человеческим поведением, когда человек запоминает и буквально представляет у себя в воображении правила, которым следует в своих действиях, и поведением какой-нибудь планеты, чье движение по орбите описано изящной формулой, которой планета «подчиняется». Мы, люди, часто как раз и ведем себя как будто мы нечто промежуточное между этими двумя формами, когда некие правила настолько хорошо запомнились и вошли в привычку, что мы их просто не осознаем и не замечаем (например, когда пишем какой-то текст, мы автоматически начинаем новое предложение с большой буквы). Мы каким-то образом следуем правилам грамматики родного языка, хотя далеко не все мы профессиональные лингвисты: вряд ли кто-то из нас, кроме профессионалов, может сформулировать, почему разные слова склоняются по-разному, почему «класть» правильно, а «ложить» – нет. При этом уже годам к десяти почти у каждого из нас установлена и полностью отлажена успешно работающая программа, почти в совершенстве справляющаяся с пониманием родного языка и разговором на нем.

Прежде чем мы займемся разумом животных, я хотел бы рассмотреть некоторые примеры создания объектов, которые помогут сформулировать проблему, которую решила эволюция, создав разумных животных.

С момента окончания Второй мировой войны прошло больше семидесяти лет, но история до сих пор хранит свои секреты. Достижениям Алана Тьюринга, взломавшего знаменитый немецкий шифровальный код «Энигма» в Блетчли-парке, присвоено теперь звание героических, и их славят потомки, однако целый ряд деталей тех событий до сих пор считается «слишком деликатным», чтобы их обнародовать. Только студенты, изучающие историю атомной энергетики, вероятно, хорошо знакомы с ролью, которую генерал Лесли Гровс сыграл в доведении Манхэттенского проекта до успешного завершения. Всего шесть лет прошло с того дня в августе 1939 года, когда письмо Альберта Эйнштейна и Лео Силарда о проекте создания ядерной бомбы оказалось на столе у президента Рузвельта, и взрывом первой бомбы, уничтожившей Хиросиму 6 августа 1945 года. Первые три года ушло на основные исследования и создание «базовой концепции», и ведь почти все, кто был вовлечен в проект с самого начала, уже тогда прекрасно понимали, что они собирались сделать. В 1942 году Лесли Гровс был назначен директором того, что потом получило название «проект «Манхэттен», и последующие три крайне насыщенных года ушли на окончательную разработку технических деталей и решение очень трудоемкой (и абсолютно новой) задачи по переработке оружейного урана. Были наняты и обучены тысячи рабочих, которых приставили к специально изобретенным машинам по выделению изотопа урана-235, который составляет около 1 % предварительно очищенного урана-238.

На кульминационной стадии проекта в нем были заняты на полную ставку более 130 тысяч человек, и на этой стадии лишь совсем немногие понимали, что они делают. Вот она, компетентность без понимания! Потребность знать была задавлена полностью. На предприятии К-25, на производстве диффузных газов в городке Ок-Ридже, в штате Теннесси, десятки тысяч мужчин и женщин работали посменно, внимательно следя за показателями и нажимая кнопки и дергая за рычаги, отлично выполняя работу, которой их обучили, и не понимали вообще ничего. Их реакция на трагедию Хиросимы показала, что они представления не имели, изготавливают они детали самолетов, или масло для подводных лодок, или еще что-то. Поразительно, как была устроена система обучения, которая превращала людей в специалистов, которые не догадывались даже, в какой области экспертами они были. Уровень секретности никогда ранее не был столь высок (и может быть, уже никогда и не будет). Лесли Гровс и команда руководителей должны были понимать суть проекта, естественно; они были разумными творцами, вооруженными детальным и точным пониманием специфики и целей программы. И только благодаря этому своему пониманию они смогли создать защищенную среду для не ведающих, что они творили, хорошо обученных людей.

Этот проект выявил один очень важный момент: вполне возможно создавать достаточно качественный и высокий уровень компетентности, сопровождающийся практически полным отсутствием понимания конечной цели для отдельных конкретных задач. Насколько я могу судить, по сей день точное распределение обязанностей и допуска к конечным целям Манхэттенского проекта остается тщательно охраняемой тайной. Что было позволено знать инженерам и архитекторам, которые проектировали здание К-25? Это было самое огромное здание в мире на тот момент, над проектом которого они трудились долгие месяцы. Некоторым из них было просто необходимо знать, что станут перегонять по многокилометровым специальным, тщательно изолированным трубам, но инженерам, проектировавшим крышу, фундамент и двери, вероятнее всего, мало что было ведомо. Приятно думать, что когда Гровс и его команда напрягали интеллект, разрабатывая систему, в которой тысячи рабочих мест почти не требовали что-либо понимать, Тьюринг и его коллеги на другой стороне Атлантики придумывали умную машину, которая должна была заменить всех этих невежественных гомункулусов электроникой. Несколько лет спустя ученые и инженеры, работавшие в одном из этих судьбоносных военных проектов, начали совершенствовать изобретение Тьюринга – комплект лишенных понимания, но компетентных элементов для создания совершенно новой области – искусственного интеллекта.

Сам Тьюринг предсказывал в 1950 году, что к концу столетия «значения слов и настрой в среде образованных людей изменятся настолько, что можно будет спокойно говорить о мыслящих машинах без опасения нарваться на возражения». Первые работы в этой области были блестящими, революционными, наивно оптимистическими, и, если можно так сказать, полными высокомерия. Искусственный интеллект обязан был уметь не только думать, но и видеть, естественно, поэтому возник порыв создать зрячую машину. Известный «летний проект по созданию искусственного зрения» в Массачусетском технологическом институте в середине 1960-х годов стал первой попыткой «научить машину видеть» в течение длинных каникул, отбросив временно все остальные задачи на потом. Электронные мозги, над которыми работали ученые в те времена, сегодня показались бы гигантскими по размерам, но слабыми и невыносимо медленными, и одним из побочных результатов стал выбор эффективности как приоритета исследований. Никому не был нужен компьютер, который реагировал бы на набор обычных данных в течение нескольких дней, главной целью его создания было достижение беспрецедентной скорости обработки реальных данных в реальном времени.

Первым был ИИ, или GOFAI (Good Old-Fashioned AI «старый добрый искусственный интеллект» [Haugeland, 1985]), – попытка «интеллектуалистского» подхода, стремление записать то, что знает человек-эксперт языком компьютера, машины, способной манипулировать логическими устройствами, готовой управлять «огромными» хранилищами данных, заполненных тщательно складированными знаниями о мире, создавая теоремы, которые призваны были бы помогать принимать решения на основе анализа всей имеющейся информации и адекватно контролировать различные побочные действия интеллекта и воздействующие на него факторы. Ретроспективно этот первый ИИ можно рассматривать как попытку создать сочетание картезианского, рационального эксперта, хранящего в памяти бесчисленное количество предложений, с устройством, сочетающим понимание со способностью делать выводы на основе релевантных аксиом и обнаруживать противоречия в собственном видении мира, то есть настолько эффективное, насколько это вообще возможно. В конце концов, что такое разумный помощник, как не отлично информированное, рационально рассуждающее существо, которое может достаточно быстро думать, использовать нужные знания, хранящиеся в его памяти, планировать действия и предвидеть все вероятные последствия? Это казалось отличной идеей в те времена, и для некоторых исследователей она до сих пор не утратила актуальности¹⁷.

Стремление достичь максимума скорости и эффективности диктовало необходимость, прежде всего, решить проблемы, казавшиеся на первый взгляд «элементарными». Многие из этих задач уже были решены, правда, в весьма упрощенной форме, и применялись в мире простых автоматов (в лифтах, посудомоечных машинах, даже на нефтеперерабатывающих предприятиях и в самолетах), в медицинской диагностике, в игрушках и других ограниченных областях исследований или взаимодействий: бронирование билетов, проверка орфографии и даже грамматики и тому подобное. Мы вполне можем считать эти устройства дальними родственниками строжайше засекреченных и изолированных систем, созданных Гровсом и его элитарной командой интеллектуальных творцов. Они придерживались принципа Достаточного Знания и полагались на понимание проектировщиков, способных создать системы из подсистем, заранее снабженных ровно теми компетенциями, которые могут им понадобиться для обеспечения результата и решения проблем, с которым им придется столкнуться. Несмотря на всю свою гениальность, первые разработчики ИИ не были всемогущими (а времени у них было не так много), поэтому они ограничили диапазон и разнообразие исходных данных, которые могла обработать каждая из подсистем, и создали программы, способные лишь охранять тысячи разных мастерских, чтобы защитить дурковатых гениев (подпрограммы), трудившихся в них.

Они узнали много, не известного ранее, усовершенствовали старые и придумали новые методы и технологии, но, прежде всего, они позволили понять, насколько трудна и драматична была задача по созданию свободного, творческого, открытого новому человеческого разума. Мечта о закодированном по собственному разумению, организованном и подчиняющемся командам, эффективном бюрократе и всезнайке, ходячей (или хотя бы разговаривающей) энциклопедии если еще и не полностью отброшена, однако, по мере того как размеры задачи представали в своей реальной огромности, внимание постепенно смещалось в сторону разработки разных стратегий: технологий обработки больших баз данных Big Data, статистических методов поиска паттернов анализа и интеллектуальной обработки данных, т. н. data mining с использованием методов машинного обучения, направленных на получение нужной информации на основе восходящего способа.

Я должен буду в дальнейшем рассказать об этих усовершенствованиях подробнее; в настоящий момент уже можно признать, что существенное увеличение скорости и размеров компьютеров открыло возможности для внедрения более «расточительных», «бессмысленных», менее «бюрократических», более похожих на эволюционные подходы процессов обработки информации, и в этих направлениях уже достигнуты впечатляющие результаты. Благодаря этим новым перспективам мы можем уже обдумывать даже в некоторых деталях, каким образом относительно простые системы, контролирующие бактерий, червяков, термитов, к примеру, смогли эволюционировать в результате восходящих, случайных, жестких и грубых процессов естественного отбора. Другими словами, мы хотели бы понять, как эволюция умудряется играть роль Лесли Гровса и организовывать невежественные силы в эффективные команды, в отсутствие Гровсовских познаний и предвидений.

Нисходящее интеллектуальное созидание работает. Опережающее планирование, обсуждение проблем, корректировка задач и четкое понимание причин каждого шага – эта стратегия демонстрировала эффективность в трудах изобретателей и реформаторов на протяжении тысячелетий; она доказала эффективность через бесчисленные победы изобретательности и предвидения во всех областях человеческой деятельности, начиная с науки и инженерного дела, и заканчивая политическими кампаниями, кулинарией, сельским хозяйством и мореплаванием. До открытий Дарвина люди были уверены, что существует только один способ созидания: созидание без разумного творца считалось невозможным. Однако нисходящий путь созидания на самом деле приложил руку к гораздо меньшему количеству вещей в нашем мире, чем принято считать, и некоторые «творения» – процитируем в очередной раз Беверли – не имеют к нему никакого отношения. «Странная инверсия причинности» Дарвина и не менее революционная инверсия Тьюринга были двумя сторонами одного и того же открытия: существования «компетентности без понимания», «умения без разумения». Разумность, понимание – это вовсе не божественный дар, который должен сопровождать любое созидание; это результат взаимодействия систем, лишенных разума, но способных действовать: естественный отбор с одной стороны, бездумные вычисления – с другой. Эти две теории были полностью доказаны и не подлежат никаким сомнениям, однако до сих пор вызывают смятение и недоверие у некоторых людей. Я постарался переубедить их в этой главе. Креационисты не найдут ни в одном из живых организмов программный код с комментариями, а картезианцы не обнаружат нематериальный res cogitans, «в котором сконцентрировано все знание».