Глава 7
Единство разума
Фрэнк Вильчек
профессор физики в Массачусетском технологическом институте, лауреат Нобелевской премии 2004 года по физике, автор книги «Красота физики. Постигая устройство природы».
Я познакомился с Фрэнком Вильчеком в 1980-х годах, когда он пригласил меня к себе домой в Принстон, чтобы кое-что обсудить. «Мой адрес – дом 112 по Мерсер-стрит, – написал он. – Ищите дом без подъездной дороги». Несколько часов спустя я сидел в старой гостиной Эйнштейна и беседовал с будущим лауреатом Нобелевской премии по физике. Если Фрэнк и испытывал, подобно мне, благоговение перед историческим местом, по его виду догадаться об этом было невозможно. Он разве что скупо прокомментировал трудности с парковкой перед «домом без подъездной дороги».
В отличие от большинства физиков-теоретиков, Фрэнк давно проявляет большой интерес к ИИ, о чем свидетельствуют следующие три «наблюдения»:
1. Фрэнсис Крик рассуждал об «удивительной гипотезе»: сознание, также известное как разум, является развивающимся свойством материи, из чего, если данное утверждение истинно, следует, что «всякий интеллект есть машинный интеллект. От естественного искусственный интеллект отличается не сутью, а способом появления».
2. «Искусственный интеллект не является продуктом инопланетного вторжения. Это артефакт определенной стадии человеческой культуры, отражающий ценности этой культуры».
3. Поразительное утверждение Давида Юма «Разум есть и должен быть только рабом аффектов», высказанное в 1738 году, относилось, конечно, сугубо к человеческому разуму и человеческим аффектам. «Но логико-философская точка зрения Юма применима и к ИИ. Проще говоря, поведение определяют стимулы, а не абстрактная логика».
По мнению Вильчека, «главное в истории XX и XXI столетий то, что [по мере развития] вычислительной техники мы учимся все лучше и лучше рассчитывать последствия [фундаментальных] законов. Существует также обратная связь: когда лучше понимаешь материю, проще создавать такие компьютеры, которые ускоряют вычисления. Это своего рода восходящая спираль».
В очерке ниже Фрэнк утверждает, что человеческий разум на данный момент обладает преимуществом, однако наше будущее, не ограниченное ни Солнечной системой, ни, несомненно, нашей Галактикой, невозможно без содействия ИИ.
1. Простой ответ на спорные вопросы:
– может ли искусственный интеллект быть сознательным?
– может ли искусственный интеллект быть творческим?
– может ли искусственный интеллект быть злым?
Эти вопросы часто задаются сегодня в популярных медиа и научных дебатах. Но плоды дискуссий противоречат друг другу. Позвольте ответить на эти вопросы следующим образом.
Отталкиваясь от физиологической психологии, нейробиологии и физики, смело скажу, что меня сильно удивит, если мы не ответим «Да» на все три вопроса. Причина проста, но при этом весома: факты, накопленные в перечисленных областях, неоспоримо доказывают отсутствие принципиального различия между естественным и искусственным интеллектом.
В своей одноименной книге 1994 года знаменитый биолог Фрэнсис Крик выдвинул «удивительную гипотезу» о том, что разум возникает из материи. Он утверждает, что разум во всех своих проявлениях есть «не более чем поведение огромного скопления нервных клеток и связанных с ними молекул».
«Удивительная гипотеза» на самом деле является основой современной нейробиологии. Люди пытаются понять, как работает разум, изучая функционирование мозга, и пытаются понять, как функционирует мозг, изучая, как информация кодируется в электрических и химических сигналах, преобразуется физическими процессами и используется для управления поведением. В своих научных устремлениях они не учитывают экстрафизическое поведение. До сих пор в тысячах тщательно продуманных экспериментов эта стратегия никогда не подводила. Просто не возникало необходимости учитывать влияние сознания или творчества без привязки к деятельности мозга для объяснения наблюдаемых явлений из области психофизики или нейробиологии. Никто и никогда не сталкивался с силами разума, существующими отдельно от обыкновенных физических событий в биологических организмах. Разумеется, многого о мозге и разуме мы не понимаем, но «удивительная гипотеза» вполне правдоподобна.
Если мы выдвинемся за пределы нейробиологии и примем во внимание весь спектр научных экспериментов, доказательства покажутся еще более убедительными. В современной физике объектом интереса часто становятся чрезвычайно малые явления. Чтобы их исследовать, экспериментаторам приходится принимать серьезнейшие меры предосторожности, препятствующие возникновению «шума». Нередко оказывается необходимым создавать комплексную защиту от паразитных электрических и магнитных полей; компенсировать крошечные вибрации от микро-землетрясений или проезжающих мимо машин; работать при экстремально низких температурах и в вакууме и т. д. Но имеется примечательное исключение: никогда не было необходимости делать поправку на мысли людей поблизости (или, если уж на то пошло, людей в отдалении). Как кажется, никаких «мысленных волн», отдельных от известных физических процессов и способных влиять на физические события, не существует.
Этот вывод, если на него опираться, стирает различия между естественным и искусственным интеллектом. Из него вытекает, что, доведись нам дублировать или точно имитировать физические процессы в мозге – теоретически это возможно, – и соединить входы и выходы с органами чувств и мышцами, то мы сумеем воспроизвести в физическом артефакте наблюдаемые проявления естественного интеллекта. Мы не упустим ничего наблюдаемого. Как у наблюдателя, у меня нет реальных причин приписывать артефакту меньшую или большую сознательность, творческий потенциал или злонамеренность, чем в ситуации, когда я приписываю эти свойства естественным носителям разума, то есть другим людям.
Так, комбинируя нейробиологическую «удивительную гипотезу» Крика с убедительными доказательствами физики, мы приходим к выводу, что естественный интеллект является частным случаем искусственного интеллекта. Этот вывод заслуживает особого названия, и я назову его «удивительным следствием».
Благодаря ему у нас появляется ответ на наши три вопроса. Поскольку сознание, творчество и зло являются очевидными признаками естественного человеческого интеллекта, они будут и возможными признаками искусственного интеллекта.
Сто или даже пятьдесят лет назад поверить в гипотезу о том, что разум возникает из материи, и сделать вывод, что естественный интеллект является особым случаем искусственного интеллекта, означало совершить, так сказать, прыжок веры. Ввиду обилия пробелов – точнее, даже пропастей – в тогдашнем понимании биологии и физики, такие утверждения действительно выглядели чрезвычайно сомнительными. Но эпохальные достижения в указанных областях изменили эту картину.
В биологии: Столетие назад не только мышление, но и метаболизм, наследственность и восприятие виделись сугубо загадочными «элементами» человеческой жизни, недоступными для физического объяснения. Сегодня же мы располагаем чрезвычайно богатыми и подробными описаниями механизмов обмена веществ, наследственности и многих функций восприятия – с молекулярного уровня и выше.
В физике: Столетие развития квантовой физики и ее практического применения привело к тому, что специалисты снова и снова обнаруживают, сколь разнообразным и странным может быть поведение материи. Сверхпроводники, лазеры и многие другие нынешние чудеса демонстрируют, что крупные совокупности молекулярных единиц, каждая из которых проста сама по себе, могут проявлять качественно новое, «эмерджентное» поведение, полностью при этом подчиняясь физическим законам. Химия, в том числе биохимия, словно опрокинула рог изобилия эмерджентных явлений, и все они получили достаточно прочное физическое обоснование. Физик-теоретик Филипп Андерсон в статье под названием «Больше значит иначе» предлагает вариант классической дискуссии об эмерджентности. Он начинает с признания того, что «редукционистская гипотеза» [то есть полнота физических объяснений, основанных на известных взаимодействиях простых элементов] «все еще остается предметом споров среди философов, но подавляющее большинство физиков, полагаю, принимают ее без вопросов». Но далее он подчеркивает, что «поведение больших и сложных агрегатов элементарных частиц, как выясняется, не следует воспринимать через простую экстраполяцию свойств немногих частиц». Каждый новый уровень количества и сложности стимулирует появление новых форм организации, структуры которых кодируют информацию по-новому, а их поведение точнее всего описывается с использованием новых концепций.
Электронные компьютеры являются великолепным примером эмерджентности. Здесь, как говорится, все карты на столе. Инженеры обычно проектируют машины по методу «снизу вверх», опираясь на известные (и достаточно сложные) физические принципы, и творят устройства, способные обрабатывать информацию поистине поразительным образом. Ваш айфон может обыграть вас в шахматы, быстро отыскать и передать информацию о чем угодно, а также фотографировать в отличном качестве. Поскольку процесс, посредством которого компьютеры, смартфоны и другие интеллектуальные устройства проектируются и производятся, полностью прозрачен, не может быть никаких сомнений в том, что их замечательные способности порождаются регулярными физическими процессами, каковые возможно проследить до уровня электронов, фотонов, кварков и глюонов. Очевидно, что грубая материя может, скажем так, резко поумнеть.
Позвольте обобщить изложенное выше. Из двух твердо подтвержденных гипотез мы делаем следующие выводы:
– человеческий разум возникает из материи;
– материя есть то, что изучает физика;
– человеческий разум возникает из физических процессов, которые мы понимаем и можем воспроизводить искусственно;
– естественный интеллект представляет собой частный случай искусственного интеллекта.
Конечно, наше «удивительное следствие» может оказаться ошибкой; ведь первые два вывода сугубо гипотетичны. Но даже ошибка должна привести к потрясающему открытию – перед нами великолепный новый феномен с крупномасштабными физическими последствиями, разворачивающийся в обыденных, ничем не примечательных и хорошо изученных физических обстоятельствах (в материальной среде человеческого мозга, при конкретных температуре и давлении). При этом каким-то образом данному феномену удавалось на протяжении многих десятилетий ускользать от внимания решительных следователей, вооруженных передовым инструментарием. Разве это не поразительное открытие?
2. Будущее интеллекта
В нашей природе заложено стремление к улучшению человеческих тел и разума. Если обратиться к истории, одежда, очки и часы являются примерами все более сложного «дополнения реальности», они повышают нашу выносливость, усиливают восприятие и осведомленность. Это значимые улучшения естественных человеческих способностей, и их современная обыденность не должна затмевать эту значимость. Сегодня смартфоны и интернет переносят стремление человека к «расширению себя» в области, более важные для нашего осознания себя разумными существами. По сути, они предоставляют нам быстрый доступ к обширному коллективному знанию и обширной коллективной памяти.
При этом автономный искусственный интеллект первенствует в различных «думательных» играх, будь то шахматы или го, и принимает на себя решение множества сложных задач по распознаванию образов, скажем, реконструкции событий и реакций внутри Большого андронного коллайдера (по «метели» следов возникающих частиц), чтобы обнаружить новые частицы, или собирает по нечетким рентгеновским снимкам, результатам МРТ и прочим типам изображений свидетельства для диагностики проблем со здоровьем.
Куда ведет нас стремление к самосовершенствованию и инновациям? Пусть точную последовательность событий и временны́е рамки, в которых они будут развиваться, предсказать невозможно (по крайней мере, для меня), некоторые базовые соображения позволяют предположить, что в конечном счете наиболее «могучие» воплощения разума будут принципиально отличаться от знакомого нам человеческого мозга.
Рассмотрим шесть факторов, по которым технологии обработки информации превосходят человеческие возможности – в значительной степени, качественно или в том и другом отношении.
Скорость: Организованное движение электронов, основа современной искусственной обработки информации, может намного опережать процессы диффузии и химических изменений, посредством которых действует наш мозг. Современные компьютерные тактовые частоты приближаются к 10 гигагерцам, что соответствует 10 миллиардам операций в секунду. Ни одна единица измерения скорости не применима к поразительному разнообразию процессов человеческого мозга, но фундаментальным ограничением выступает латентность потенциалов действия, которые ограничивают показатель несколькими десятками в секунду. Вероятно, не случайно «частота кадров», при которой мы способны определить, что фильмы на самом деле являются последовательностями кадров, составляет около «кадров» 40 в секунду. Следовательно, электронная обработка данных выполняется почти в миллиард раз быстрее.
Размер: Линейные размеры типичного нейрона составляют около 10 микрон. Молекулярные размеры, наш практический предел, приблизительно в 10 000 раз меньше, а модули искусственной обработки данных тяготеют к этим масштабам. Их размеры повышают эффективность коммуникации.
Стабильность: Тогда как человеческая память является, по существу, непрерывной (аналоговой), искусственная память может использовать дискретные (цифровые) функции. Тогда как аналоговые значения склонны разрушаться, цифровые значения могут храниться, обновляться и воспроизводиться максимально точно.
Рабочий цикл: Человеческий мозг устает от усилий. Нужно время на питание и сон. Вдобавок он стареет и дряхлеет. В конце концов мозг умирает.
Модульность (открытая архитектура): Поскольку искусственные устройства обработки информации способны использовать точно спроектированные цифровые интерфейсы, они без труда «ассимилируют» новые модули. Так, если мы хотим, чтобы компьютер «видел» ультрафиолетовое или инфракрасное излучение или «слышал» ультразвук, достаточно подать сигнал соответствующего датчика непосредственно в его «нервную систему». Архитектура мозга гораздо более закрыта и непрозрачна, а иммунная система человека активно сопротивляется внедрению имплантатов.
Квантовая готовность: Один пример модульности заслуживает особого упоминания в связи с его потенциальными перспективами. В последнее время физики и информатики пришли к выводу, что принципы квантовой механики позволяют внедрять новые вычислительные принципы, которые могут обеспечить качественно новые формы обработки информации и (возможно) новые уровни интеллекта. Но эти возможности опираются на особенности квантового поведения, весьма, скажем так, деликатные и совершенно не подходящие, как кажется, для взаимодействия с теплой, влажной и грязной «средой обитания» человеческого мозга.
Очевидно, что в качестве носителя интеллекта человеческий мозг далеко не оптимален. Тем не менее, пусть универсальные домашние роботы или механические солдаты без труда покорят прибыльные рынки, в настоящее время не существует машины, которая хотя бы отдаленно напоминала общий человеческий интеллект, необходимый для полноценной реализации задач уборки или войны. Несмотря на свою относительную слабость во многих отношениях, человеческий мозг имеет некоторые важные преимущества перед своими искусственными конкурентами. Позвольте перечислить пять из них.
Трехмерность: Хотя, как уже отмечалось, линейные размеры нынешних искусственных процессоров значительно меньше, чем размеры мозга, процедура их изготовления (чаще всего литография, травление) является, по существу, двумерной. Это наглядно проявляется в геометрии компьютерных плат и микросхем. Конечно, можно накладывать платы друг на друга, но расстояние между слоями будет намного больше, а связь – заметно хуже, чем внутри слоев. Мозг куда лучше используют все три измерения.
Самовосстановление: Человеческий мозг способен восстанавливаться после многих травм или ошибок или даже их избегать. Компьютеры часто приходится чинить или перезагружать извне.
Связь: Человеческие нейроны обычно поддерживают несколько сотен соединений (синапсов). Более того, сложная структура этих связей очень значима. (См. следующий пункт.) Компьютерные блоки обычно поддерживают всего несколько соединений в регулярных фиксированных схемах.
Развитие (самосборка с интерактивным «ваянием»): Человеческий мозг наращивает свои единицы путем деления клеток и объединяет их в последовательные структуры посредством перемещения и наложения. Также он размножает обильные связи между клетками. Важную часть «ваяния» обеспечивают активные процессы в младенчестве и детстве, когда человек взаимодействует со своим окружением. Многие связи со временем исчезают, а другие укрепляются в зависимости от эффективности их использования. То есть тонкая структура мозга настраивается посредством взаимодействия с внешним миром – богатейшим источником информации и обратной связи!
Интеграция (датчики и исполнительные механизмы): Человеческий мозг оснащен различными сенсорными органами, в частности выведенными вовне глазами, и универсальными исполнительными механизмами, в том числе руками, которые строят, ногами, которые ходят, и ртом, который говорит. Эти датчики и исполнительные механизмы легко интегрируются в центры обработки информации в мозгу благодаря миллионам лет естественного отбора. Мы интерпретируем «сырые» сигналы и контролируем действия, уделяя им минимальное сознательное внимание. Обратная сторона в том, что мы не знаем, как это происходит, а реализация всего перечисленного непрозрачна. Выяснилось, что удивительно трудно достичь человеческого подобия в отношении этих «рутинных» функций ввода-вывода.
Эти преимущества человеческого мозга перед разрабатываемыми в настоящее время искусственными системами убедительно велики. Человеческий мозг является великолепным доказательством того, что существует как минимум несколько способов добиться большего от материи. Когда же наша инженерия сможет его воспроизвести – если вообще сможет?
Точный ответ мне неведом, но позвольте высказать несколько обоснованных предположений. Проблемы трехмерности и, в меньшей степени, самовосстановления не выглядят непреодолимыми. Это довольно сложные инженерные задачи, но постепенные улучшения здесь достаточно легко вообразить, а общее направление развития вполне понятно. Пусть человеческое зрение, руки и другие органы чувств и исполнительные механизмы удивительно эффективны, их способности далеко не исчерпывают физические возможности. Оптические системы могут делать снимки более высокого разрешения с большим охватом, глубиной и насыщенностью, а также в большем количестве областей электромагнитного спектра; роботы могут двигаться быстрее и становиться сильнее, и т. д. В ряде сфер деятельности уже доступны компоненты, необходимые для «сверхчеловеческой» производительности. «Узкие места» быстро и надежно ликвидируются устройствами обработки информации.
Тем самым мы переходим к оставшимся, полагаю, наиболее важным преимуществам человеческого мозга по сравнению с искусственными системами, то есть к связности и интерактивному развитию. Эти два преимущества являются синергетическими, поскольку именно интерактивное развитие формирует обширную, но способную растягиваться структуру детского мозга благодаря экспоненциальному росту нейронов и синапсов, для настройки того экстраординарного инструмента, которым она становится. Компьютерные ученые постепенно начинают открывать для себя всю мощь архитектуры мозга: как отмечалось, нейронные сети, чей базовый дизайн, как следует из их названия, отталкивался именно от мозга, добились ряда поразительных успехов в играх и распознавании образов. Но современная инженерия не создала ничего похожего – в эзотерической (на сегодняшний день) области самовоспроизводящихся машин – на силу и универсальность нейронов и синапсов. Это, не исключено, новый великий рубеж научных исследований. Здесь может указать путь биология, поскольку мы в целом неплохо понимаем суть биологического развития и можем его воспроизвести.
Суммируя: преимущества искусственного интеллекта перед естественным кажутся постоянными, тогда как преимущества естественного интеллекта перед искусственным, сколь угодно существенные, выглядят временными. Полагаю, инженерам понадобится немало десятилетий на то, чтобы догнать природу, но всё уложится – если не будет катастрофических войн, изменений климата или эпидемий, тормозящих технический прогресс, – в несколько столетий.
Если я прав, мы можем рассчитывать сразу на несколько поколений, на протяжении которых люди, при помощи интеллектуальных устройств, будут сосуществовать со все более и более мощными автономными ИИ. Нас ожидает сложная, быстроменяющаяся экология интеллекта, чьим следствием окажется быстрая эволюция разума. Учитывая внутренние преимущества, которыми в конечном счете станут располагать сконструированные устройства, в авангарде этой эволюции выступят киборги и сверхразум, а отнюдь не слегка «подновленный» Homo Sapiens.
Другим важным стимулом станет исследование враждебных сред как на Земле (например, в глубинах океана), так и за пределами планеты, в космосе. Организм человека плохо приспособлен к условиям обитания вне узкой полосы температур, давления и состава атмосферы. Человек нуждается в большом количестве специфических и сложных питательных веществ и в большом количестве воды. Кроме того, он не обладает радиационной выносливостью. Как наглядно продемонстрировала пилотируемая космическая программа, обитание людей вне «наземной» зоны комфорта – дело непростое и дорогое. Киборги или автономные ИИ окажутся гораздо более полезными для подобных исследований. Квантовые ИИ с их чувствительностью к шуму могут даже «предпочитать» стужу и тьму глубокого космоса.
В трогательном отрывке из романа «Странный Джон» (1935) гениального фантаста Олафа Стэплдона герой, сверхчеловеческий разум (мутант), характеризует Homo Sapiens как археоптерикса духа. Он говорит это с любовью своему другу и биографу – совершенно обычному человеку. Археоптерикс был благородным существом, звеном эволюции на пути к новым достижениям.
