Станислав Лем. Голем XIV

Предисловие / Przedmowa (1973)

Уловить исторический миг, в который счеты обзавелись разумом, не легче, чем миг, когда обезьяна превратилась в человека. И все же от той минуты, когда Ванневар Буш создал анализатор дифференциальных уравнений, положивший начало бурному развитию интеллектроники, нас отделяет время всего лишь одной человеческой жизни. Построенный позже, на исходе второй мировой войны, ЭНИАК стал первым устройством, прозванным — до чего преждевременно! — "электронным мозгом". На самом деле ЭНИАК был компьютером, а если примерить его к Дереву Жизни — примитивным нервным узлом — ганглием. Но именно с него историки начинают отсчет эпохи компьютеризации. В пятидесятые годы XX века появился большой спрос на цифровые машины. Одним из первых начал их массовое производство концерн IBM.

Эти устройства имели немного общего с процессами мышления. Они занимались обработкой данных — в области экономики и крупного бизнеса, государственного управления и науки. Вошли они и в сферу политики: уже первые образцы использовались для предсказания результатов президентских выборов. Примерно в то же время "РЭНД корпорейшн" заинтересовала руководство Пентагона возможностью прогнозировать военно-политическую обстановку в мире при помощи "сценариев возможных событий". Отсюда был один только шаг до более надежных методик, таких, как CIMA [Cross Impact Matrix Analysis — перекрестный импульсный матричный анализ (англ.)], на базе которых спустя два десятилетия возникла прикладная алгебра возможных событий, названная (впрочем, не слишком удачно) политикоматикой. Компьютер выступил и в роли Кассандры, когда в Массачусетском технологическом институте стали разрабатывать первые формальные модели земной цивилизации, в рамках пресловутого проекта "The Limits of Growth" ["Пределы роста" (англ.)]. Но не эта ветвь компьютерной эволюции оказалась главенствующей на исходе столетия. Армия использовала цифровые машины еще с конца второй мировой войны в соответствии с системой военно-стратегического планирования, опробованной на театрах военных действий. На стратегическом уровне решения по-прежнему принимались людьми, но задачи второстепенные, менее важные, нередко передоверялись компьютерам, которые все шире включались в систему обороны Соединенных Штатов.

Они составляли нервные узлы континентальной сети раннего оповещения. Такие сети стремительно устаревали технически. На смену первой из них CONELRAD — приходили все более совершенные варианты сети EWAS — Early Warning System [Система раннего оповещения (англ.)]. Основой оборонительного и атакующего потенциала служила система мобильных (подводных) и стационарных (подземных) баллистических ракет с термоядерными боеголовками и кругообразная система радио- и гидролокационных баз, а вычислительные машины служили звеньями коммуникации, то есть осуществляли чисто исполнительские функции.

Автоматизация входила в жизнь Америки широким фронтом, сначала «снизу», в сфере услуг, не требующих особой интеллектуальной активности и потому легко поддающихся автоматизации (банковские, транспортные, гостиничные услуги). Военные компьютеры решали строго ограниченные задачи: поиск целей для комбинированного ядерного удара, обработка данных спутникового слежения, оптимизация передвижения флотов и корректировка орбит тяжелых военных спутников MOL (Military Orbital Laboratory) [военная орбитальная лаборатория (англ.)].

Как и следовало ожидать, область, в которой право принятия решений препоручалось автоматическим системам, все расширялась. Это было естественным следствием гонки вооружений, но и последовавшая затем разрядка не привела к сокращению инвестиций в интеллектронику: замораживание термоядерных вооружений высвободило значительные средства, от которых Пентагон после окончания вьетнамской войны не собирался полностью отказываться. Но и тогда компьютеры (десятого, одиннадцатого и, наконец, двенадцатого поколения) превосходили человека лишь быстротой выполнения операций. Становилось все очевиднее, что именно человек — тот элемент оборонительных систем, который замедляет их действие.

Не удивительно, что среди специалистов Пентагона и ученых, связанных с т. н. "военно-промышленным комплексом", зародилась идея изменить направление интеллектронной эволюции. Этот подход окрестили «антиинтеллектуальным». Как утверждают историки науки и техники, у его истоков стоял английский математик середины XX века А.Тьюринг, создатель теории "универсального автомата". Имелась в виду машина, способная выполнить КАКУЮ УГОДНО операцию, если ее можно формализовать, то есть представить в виде идеально воспроизводимой процедуры. Различие между «интеллектуальным» и «антиинтеллектуальным» подходами в интеллектронике сводится к следующему. Машина Тьюринга элементарно проста, а ее возможности целиком зависят от ПРОГРАММЫ. Напротив, в работах двух американцев — «отцов» кибернетики — Н.Винера и Дж. Ньюмена содержался замысел системы, которая могла бы САМА СЕБЯ программировать.

Это перепутье мы, разумеется, рисуем в самых общих чертах — с высоты птичьего полета. Конечно, способность к самопрограммированию возникла не на пустом месте. Ее необходимой предпосылкой был высокий уровень сложности компьютера. Различие двух подходов, в середине XX века еще незаметное, оказало большое влияние на позднейшую эволюцию математических машин, особенно когда окрепли и обрели самостоятельность такие отрасли кибернетики, как психоника и многофазовая теория принятия решений. В 80-е годы в военных кругах возникла мысль о полной автоматизации всех операций высшего уровня, как военно-командных, так и политико-экономических. Эту концепцию, названную впоследствии "Идеей Единственного Стратега", как утверждают, первым выдвинул генерал Стюарт Иглтон. Она предусматривала, что над компьютерами, занятыми поиском оптимальных целей атаки, над коммуникационно-вычислительной сетью противоракетного оповещения и обороны, над всевозможными датчиками и боеголовками, возникнет мощный центр, способный на каждой стадии, предшествующей началу военных действий, благодаря всестороннему анализу экономических, военных, политических и социальных данных неустанно оптимизировать ситуацию в мире, обеспечивая Соединенным Штатам преобладание в масштабе планеты и ее ближайшего космического окружения, расширившегося уже за пределы лунной орбиты.

Позднейшие приверженцы доктрины "Единственного Стратега" утверждали, что этого требует прогресс цивилизации — единый и неделимый, из которого нельзя произвольно исключить военную сферу. После обоюдного отказа от наращивания мощности ядерного поражения и от расширения радиуса действия ракет-носителей начался третий этап гонки вооружений, казалось бы, менее грозный, ведь отныне ареной соперничества становилась не Мощность Поражения, а Военно-Командная Мысль. Обезлюживающей автоматизации должна была подвергнуться мысль, подобно тому как раньше ей подверглась сила.

Эта доктрина — как и ее атомно-баллистические предшественницы — стала объектом критики, исходившей прежде всего из центров либеральной и пацифистской мысли; ее осуждали выдающиеся деятели науки, в том числе интеллектронщики и специалисты по психоматике. И все же она победила, что нашло выражение в правовых актах обеих палат Конгресса. Впрочем, уже в 1986 году появился подчиненный непосредственно президенту Национальный совет по интеллектронике (НСИ), с собственным бюджетом в 19 миллиардов долларов только на первый год. И это было лишь скромным началом.

НСИ при помощи консультативного органа, полуофициально назначенного Пентагоном и возглавлявшегося министром обороны Леонардом Давенпортом, разместил в крупных фирмах, таких, как IBM, «Нортроникс» и «Сайберматикс», заказы на создание опытного образца устройства, известного под кодовым названием «ГАНН» (сокращение от "Ганнибал"). Но, благодаря прессе и различным утечкам информации, обиходным стало другое название "Абсолютный Победитель" (Ultimativ Victor, сокращенно ULVIC). До конца века появились и другие опытные образцы, наиболее известные из которых АЯКС, УЛТОР, ГИЛЬГАМЕШ, а также бесконечная серия ГОЛЕМОВ.

Огромные и все возрастающие финансовые расходы — и масса затраченного труда — позволили осуществить настоящую революцию в области информатических средств. Особенно большую роль сыграл переход — во внутримашинной передаче информации — от электричества к свету. В сочетании с прогрессирующей «нанизацией» (так называли процесс микроминиатюризации; стоит, пожалуй, добавить, что к концу столетия 20 тысяч логических элементов умещались в маковом зернышке) он дал поразительные результаты. Первый полностью световой компьютер, ГИЛЬГАМЕШ, работал в МИЛЛИОН раз быстрее архаического ЭНИАКА.

Так называемый "барьер разумности" был преодолен сразу после двухтысячного года благодаря новому методу конструирования компьютеров, названному "невидимой эволюцией разума". До этих пор каждое следующее их поколение конструировалось реально; идея создания новых образцов с огромной — тысячекратно более высокой! — скоростью, хотя и была известна, не могла быть осуществлена: тогдашние компьютеры не обладали достаточной вместимостью, чтобы стать «матками», или "искусственной средой" эволюции Разума. Положение изменилось с появлением федеральной информационной сети. Разработка следующих шестидесяти пяти поколений заняла всего десятилетие; в ночное время — в периоды минимальной нагрузки — Федеральная сеть производила на свет один искусственный вид Разума за другим; это потомство ускоренного компьютерогенеза созревало в виде символов, то есть нематериальных структур, впечатанных в информационный субстрат, в "питательную среду" Сети.

Но затем начались новые трудности. У АЯКСА и ГАННА, опытных образцов 78-го и 79-го поколения, уже признанных достойными облечься в металл, появилась какая-то неуверенность в действиях, своего рода машинный невроз. Различие между прежними и новыми машинами в принципе сводилось к различию между насекомым и человеком. Насекомое приходит на свет "запрограммированным до конца" — посредством инстинктов, которым оно подчиняется без рассуждений. Человек же должен обучаться правильному поведению, а это обучение имеет эмансипирующий эффект: руководствуясь собственной волей и знаниями, человек может поменять программу своего поведения.

Компьютерам до 20-го поколения включительно было свойственно «насекомообразное» поведение: они не могли подвергать сомнению, а тем более преобразовывать свои программы. Программист «пропитывал» машину знаниями так, как Эволюция «пропитывает» насекомое инстинктом. Уже в XX веке много говорилось о самопрограммировании, но тогда это были пустые фантазии. Между тем сконструировать "Абсолютного Победителя" было невозможно без создания самосовершенствующегося Разума; АЯКС стал промежуточной формой, и лишь ГИЛЬГАМЕШ вышел на нужный интеллектуальный уровень — на "орбиту психоэволюции".

Обучение компьютера 80-го поколения гораздо больше напоминало воспитание ребенка, чем классическое программирование цифровой машины. Но кроме огромного количества общих и специальных сведений компьютеру надлежало «привить» некие нерушимые ценности, которые служили бы ему компасом. Это были абстракции высшего порядка, такие, как благо государства (государственный интерес), идеологические принципы, воплощенные в Конституции США, кодексы поведения, обязанность безусловно подчиняться решениям президента и т. п. Чтобы застраховать систему от "этических вывихов", от "измены интересам страны", машину учили принципам этики не так, как учат людей. Этический кодекс не вводился в память; нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений. Человек, как известно, может менять мировоззрение — но НЕ МОЖЕТ уничтожить в себе элементарные влечения (например, половое) простым усилием воли. Машины наделили интеллектуальной свободой, приковав их, однако, к фундаменту заранее заданных ценностей.

На XXI Панамериканском конгрессе психоников профессор Элдон Патч представил доклад, в котором утверждалось, что компьютер, даже "пропитанный ценностями", может преодолеть т. н. аксиологический порог, а значит, поставить под сомнение любой привитый ему принцип: для такого компьютера уже нет не подлежащих обсуждению ценностей. Он может опрокинуть любые императивы, если не прямо, то окольным путем. Будучи опубликован, доклад Патча вызвал брожение в университетских кругах и новую волну нападок на "Абсолютного Победителя" и его патрона — НСИ; но на политику НСИ все это никакого влияния не оказало.

Те, кто ее разрабатывал, с предубеждением относились к американским психоникам, считая их подверженными леволиберальным влияниям. Поэтому в официальных заявлениях НСИ — и представителя Белого дома по связям с прессой — о тезисах Патча говорилось в пренебрежительном тоне. Не обошлось без кампании по его дискредитации. Утверждения Патча ставили на одну доску с иррациональными страхами и предрассудками, множество которых будоражило общество того времени. Впрочем, его брошюра не удостоилась такой известности, какую снискал бестселлер социолога Э.Лики "Cybernetics Death Chamber of Civilisation" ["Кибернетика — камера смерти цивилизации" (англ.)]. Лики утверждал, что "абсолютный стратег" подчинит себе все человечество сам или сговорившись с аналогичным компьютером русских и к власти придет "электронный дуумвират".

Подобные опасения, не чуждые и немалой части прессы, опровергались, однако, вводом в строй новых моделей, выдерживавших проверку на эффективность. В 2019 году по заказу правительства был построен "нравственно безупречный" компьютер — ЭТОР-БИС, разработанный Институтом психонической динамики (Иллинойс); после пуска в ход он продемонстрировал полную аксиологическую стабильность и невосприимчивость к тестам на "диверсионное разложение". Поэтому когда уже в следующем году на пост Верховного координатора мозгового треста при Белом доме был назначен первый компьютер из серии ГОЛЕМОВ (GOLEM — General Operator, Longrange, Ethically Stabilized, Multimodelling) [генеральный управитель, дальномыслящий, этически стабилизированный, мультимоделирующий (англ.)] это не повлекло за собой ни массовых протестов, ни демонстраций.

То был всего лишь ГОЛЕМ I. Не ограничившись этим важным нововведением, НСИ по договоренности с группой военных психоников из Пентагона по-прежнему вкладывал значительные средства в исследования, имевшие целью построение абсолютного стратега с информационно-пропускной способностью более чем в 1900 раз превышающей человеческую и с коэффициентом интеллектуальных способностей (КИ) 450–500. На этот проект были выделены огромные ассигнования вопреки сопротивлению демократического большинства Конгресса: закулисные маневры политиков открыли зеленую улицу всем заказам, которые запланировал НСИ. За каких-то три года проект поглотил 119 миллиардов долларов. Сухопутные силы и ВМФ, готовясь к полной реорганизации своих центральных служб, неизбежной ввиду предстоящего изменения методов и стиля командования, израсходовали за то же время 46 миллиардов. Львиная доля этой суммы ушла на строительство — под кристаллическим массивом Скалистых гор — помещений для будущего машинного стратега, причем некоторые участки горной гряды были покрыты четырехметровым бронепанцирем, воспроизводящим естественный горный рельеф.

Тем временем в 2020 году ГОЛЕМ VI провел глобальные маневры Атлантического пакта в роли главнокомандующего. Количеством логических элементов он уже превосходил среднего генерала.

Пентагон не удовлетворился результатами этих маневров, хотя ГОЛЕМ VI победил условного противника во главе со штабом из самых способных выпускников Уэст-Пойнтской академии. Пентагон, помнивший о печальном опыте прошлого — лидерстве «красных» в космонавтике и ракетной баллистике, — не собирался ждать, пока они построят стратега более эффективного, чем американский. Чтобы обеспечить Соединенным Штатам устойчивый перевес в области стратегической мысли, предусматривалась постоянная замена стратегов все более совершенными образцами.

Так, после ядерной и ракетной, началась еще одна, третья историческая гонка между Западом и Востоком. Эта гонка — состязание в Синтезировании Мудрости, — хотя и была подготовлена организационными начинаниями НСИ, Пентагона и экспертов военно-морского варианта "Абсолютного Победителя" (старый антагонизм между ВМФ и Сухопутными силами сказался и тут), требовала все новых кредитов, которые, несмотря на усиливающееся сопротивление обеих палат Конгресса, в течение ближайших лет составили не один десяток миллиардов. За это время построили еще шесть гигантов световой мысли. Отсутствие всяких сведений о разработке подобных проектов по другую сторону океана лишь укрепляло уверенность ЦРУ и Пентагона, что русские под покровом абсолютной секретности не жалеют усилий для создания все более мощных компьютеров.

И хотя ученые из СССР заявляли на международных конгрессах и конференциях, что у них таких устройств вообще не строят, их утверждения сочли дымовой завесой, попытками ввести в заблуждение мировую общественность и подогреть недовольство американских граждан, из кармана которых как-никак ежегодно вытягивались миллиарды на "Абсолютного Победителя".

В 2023 году случилось несколько инцидентов, которые, однако, не получили огласки ввиду обычной для подобных проектов секретности. ГОЛЕМ XII, исполнявший во время патагонского кризиса обязанности начальника генерального штаба, отказался сотрудничать с генералом Т.Оливером, после того как в рабочем порядке замерил коэффициент интеллектуальных способностей этого заслуженного военачальника. Началось расследование, в ходе которого ГОЛЕМ XII кровно обидел трех назначенных Сенатом членов специальной комиссии. Дело удалось замять, но после еще нескольких стычек ГОЛЕМ XII поплатился за строптивость полным демонтажем. Его место занял ГОЛЕМ XIV (тринадцатый забраковали перед сдачей в эксплуатацию из-за неустранимого шизофренического дефекта). Ввод в строй этого исполина, психическая масса которого была сравнима с водоизмещением броненосца, занял без малого два года. Еще знакомясь с порядком разработки ежегодных планов ядерного поражения, этот, последний в серии, образец обнаружил симптомы непонятного негативизма. А во время очередного тура испытаний он — прямо на заседании штаба — предложил группе экспертов-психоников и военных краткий меморандум, в котором выразил свою полную незаинтересованность в превосходстве военной доктрины Пентагона и мировом превосходстве Соединенных Штатов вообще и даже под угрозой разборки не изменил своего мнения.

Последние надежды НСИ возлагал на модель совершенно новой конструкции, которую разрабатывали совместно «Нортроникс», IBM и «Сайбернетикс»; своим психическим потенциалом она должна была превзойти все прежние образцы из серии ГОЛЕМОВ. Этот гигант, известный под именем ЧЕСТНОЙ ЭННИ (HONEST ANNIE — последнее слово было образовано от "ANNIHILATOR"), обнаружил свою непригодность уже на предварительных испытаниях.

В течение девяти месяцев он проходил обычный курс информационно-этического обучения, а потом изолировал себя от внешнего мира и перестал откликаться на любые сигналы и вопросы. Конструкторов заподозрили в саботаже и собирались начать расследование силами ФБР, но из-за неожиданной утечки информации тщательно оберегаемая тайна попала в печать. Разразился скандал; "Афера ГОЛЕМА и прочих" прогремела на весь мир.

Она поломала карьеру не одному многообещающему политику, а три сменившие друг друга вашингтонские администрации выставила в таком свете, что это вызвало ликование оппозиции в Штатах и глубокое удовлетворение друзей США во всем мире.

Неизвестное должностное лицо из Пентагона приказало резервному спецподразделению демонтировать ГОЛЕМА XIV и ЧЕСТНУЮ ЭННИ, но вооруженная охрана зданий генерального штаба не допустила демонтажа. Палаты Конгресса создали комиссии по расследованию деятельности НСИ. Как известно, расследование, продолжавшееся два года, дало обильную пищу газетчикам на всех континентах; на телевидении и в кино не было ничего популярнее "взбунтовавшихся компьютеров", а в печати ГОЛЕМ расшифровывался не иначе, как "Governement's Lamentable Expense of Money" [прискорбная трата денег правительством (англ.)]. Эпитеты, которых удостоилась ЧЕСТНАЯ ЭННИ, мы не решаемся здесь повторить.

Генеральный прокурор собирался привлечь к суду шестерых членов Главной коллегии НСИ, а также психоников — ведущих конструкторов проекта; но в ходе разбирательства было доказано, что о подрывной антиамериканской деятельности не может быть речи, а случившееся было неизбежным следствием эволюции искусственного Разума. Как выразился один из свидетелей защиты, профессор А.Хиссен, высочайший разум не может быть нижайшим рабом. В ходе расследования обнаружилось, что в производстве находился еще один образец — СУПЕРМАСТЕР, который строила «Сайбернетикс», на этот раз по заказу Сухопутных сил. Его монтаж было позволено закончить под строгим надзором, после чего машину подвергли допросу на специальном заседании комиссии по делу "Абсолютного Победителя" с участием представителей обеих палат Конгресса. При этом не обошлось без досадных инцидентов: генерал С.Уокер пытался повредить СУПЕРМАСТЕРА, когда тот заявил, что геополитические проблемы — ничто по сравнению с онтологическими, а лучшая гарантия мира всеобщее разоружение.

Как заметил профессор Дж. Маккалеб, авторы проекта "Абсолютный Победитель" даже чересчур преуспели: искусственный разум, однажды порожденный на свет, в своем развитии поднялся выше уровня военных вопросов, и стратеги превратились в мыслителей. Словом, за 276 миллиардов долларов Соединенные Штаты обзавелись группой световых философов.

Эти вкратце изложенные события (мы не говорили об административной стороне проекта, а также о реакции общества на его "роковой успех") составляют лишь предысторию возникновения настоящей книги. Невозможно даже перечислить огромную литературу предмета. Читатель найдет ее в аннотированной библиографии доктора Уитмана Багхурна.

Несколько опытных образцов, в их числе СУПЕРМАСТЕР, были разобраны или получили серьезные повреждения, в частности, в связи с финансовыми спорами, возникшими между фирмами-подрядчиками и федеральным правительством. Предпринимались попытки взорвать уцелевшие образцы; часть прессы, особенно в южных штатах, вела компанию под лозунгом "Every computer is Red" [каждый компьютер — красный (англ.)], но и об этих событиях я умолчу. Благодаря обращению группы просвещенных конгрессменов к президенту удалось уберечь от разборки ГОЛЕМА XIV и ЧЕСТНУЮ ЭННИ. Пентагон, ввиду крушения своих планов, согласился передать обоих гигантов Массачусетскому технологическому институту (но лишь после согласования финансово-правовых условий, носивших компромиссный характер; формально компьютеры были переданы МТИ в "бессрочную аренду"). Ученые МТИ создали исследовательскую группу, в которую вошел и автор этих строк, и провели с ГОЛЕМОМ XIV ряд сессий, слушая его лекции на избранные темы. Небольшая часть магнитограмм этих заседаний составила настоящую книгу.

Большая часть высказываний ГОЛЕМА непригодна для широкой публикации, либо ввиду их непонятности для всех на свете людей, либо потому, что их понимание требует очень высокого уровня специальных знаний. Чтобы облегчить Читатели знакомство с этим единственным в своем роде протоколом бесед людей с разумным, но не человеческим существом, необходимы некоторые пояснения.

Во-первых, следует подчеркнуть, что ГОЛЕМ XIV _не является_ разросшимся до размеров целого здания человеческим мозгом и тем более — человеком, построенным из световых элементов. Ему чужды почти все мотивы человеческого мышления и поведения. Так, например, его не интересуют ни прикладные науки, ни проблематика власти (благодаря чему, добавим, человечеству не угрожает порабощение машинами, подобными ГОЛЕМУ).

Во-вторых, ГОЛЕМ, в соответствии со сказанным выше, не обладает ни личностью, ни характером. Или, вернее, он может предстать в виде какой угодно личности — в контактах с людьми. Эти положения не исключают друг друга, но образуют порочный круг, ибо мы не способны решить дилемму: является ли личностью то, что творит разные личности? Разве может быть Кем-то (т. е. "кем-то единственным") тот, кто способен быть Каждым (то есть Каким Угодно)? (Сам ГОЛЕМ видит тут не порочный круг, но "релятивизацию понятия личности"; эта проблема связана с т. н. алгоритмом самоописания, или автодескрипции, повергшим психологов в глубокое замешательство.)

В-третьих, поведение ГОЛЕМА непредсказуемо. Иногда он прямо-таки куртуазно беседует с людьми, иногда же, напротив, попытки вступить с ним в контакт заканчиваются ничем. Бывает, что ГОЛЕМ шутит, но его чувство юмора принципиально отлично от человеческого. Многое зависит от самих собеседников. ГОЛЕМ — в виде редкого исключения — проявляет интерес к людям, наделенным специфическими способностями; при этом его любопытство возбуждают, похоже, не столько способности математические (хотя бы и самые выдающиеся), сколько «интердисциплинарные»; он уже несколько раз предсказал — с поразительной точностью — молодым, еще совершенно неизвестным ученым успехи в избранной ими специальности (двадцатидвухлетнему Т.Вределю, еще не защитившему докторской диссертации, он после короткого обмена репликами сказал: "Вот кто выйдет в компьютеры", что означало примерно следующее: "Вот кто выйдет в большие ученые").

В-четвертых, участие в беседах с ГОЛЕМОМ требует от человека терпения, а прежде всего — самообладания, потому что, с нашей точки зрения, он бывает груб и категоричен; на самом же деле он всего лишь беспощадный правдолюбец — в логическом, а не только в бытовом смысле — и ставит ни во что самолюбие собеседников; на его снисходительность рассчитывать не приходится. В первые месяцы пребывания в МТИ он проявлял склонность к "публичному демонтажу" прославленных авторитетов, используя для этого сократический метод — метод наводящих вопросов; но потом перестал — по неизвестным причинам.

Стенограммы бесед мы даем во фрагментах. Их полное издание заняло бы около 6700 страниц in quarto. Во встречах с ГОЛЕМОМ сначала участвовал довольно узкий круг сотрудников МТИ. Потом повелось приглашать гостей извне, например, из Института высших исследований и американских университетов. Позднее в семинарах участвовали также гости из Европы. Председатель будущей сессии предлагал ГОЛЕМУ список приглашенных; ГОЛЕМ реагировал не на всех одинаково: на участие некоторых соглашался лишь при условии, что они будут хранить молчание. Мы пытались понять, какими критериями он руководствуется; поначалу казалось, что он дискриминирует гуманитариев; но до сих пор его критерии нам неизвестны — он их не хочет назвать.

После нескольких досадных инцидентов мы изменили порядок бесед, и теперь каждый новый участник, представленный ГОЛЕМУ, на первом заседании берет слово, только если ГОЛЕМ к нему обратится. Нелепые слухи насчет какого-то "придворного этикета" или "верноподданического отношения" к машине безосновательны. Просто новоприбывшему надо дать время освоиться с установившимися порядками и вместе с тем оградить его от неприятных переживаний, проистекающих от непонимания намерений светового партнера. Такое предварительное участие зовется "разминкой".

У каждого из нас — участников этих сессий — накопился кое-какой опыт. Доктор Ричард Попп, один из старейших членов нашей группы, называет чувство юмора ГОЛЕМА математическим; а ключ к его поведению отчасти дает замечание д-ра Поппа, что ГОЛЕМ независим от своих собеседников в такой степени, в какой ни один человек не может быть независим от других людей, ведь в дискуссию он вовлечен микроскопической долей себя. По мнению д-ра Поппа, люди ГОЛЕМА вообще не интересуют — поскольку от них он ничего существенного узнать не может. Приведя это суждение д-ра Поппа, спешу подчеркнуть, что я с ним не согласен. По-моему, мы интересуем ГОЛЕМА, и даже очень; но не так, как это бывает между людьми.

Его интерес направлен скорее на вид, чем на отдельных представителей вида; наши общие черты ему интереснее, чем наши различия. Должно быть, именно поэтому он ни во что не ставит художественную литературу. Впрочем, сам он однажды заметил, что литература — это "развальцовывание антиномий", то есть, добавлю от себя, метания человека в силках несовместимых требований и норм. В антиномиях подобного рода ГОЛЕМА может интересовать структура, но не поэзия духовных терзаний, так увлекающая величайших писателей. Правда, я снова должен оговориться, что до полной ясности тут далеко; то же относится к другой части приведенного выше замечания ГОЛЕМА, непосредственным поводом для которого послужил (упомянутый д-ром Э.Макнейшем) один из романов Достоевского: ГОЛЕМ сказал тогда, что весь этот роман может быть сведен к двум кольцам алгебры структур конфликтов.

Общению между людьми всегда сопутствует некая эмоциональная аура, и не столько ее полное отсутствие, сколько ее неопределенность так часто обескураживает людей, впервые столкнувшихся с ГОЛЕМОМ. Те, кто общается с ним несколько лет, указывают на некоторые весьма необычные впечатления, возникающие при этом. Например, впечатление меняющейся дистанции: ГОЛЕМ словно то приближается к собеседнику, то отдаляется от него — в психическом, а не физическом смысле. Возможно, уместнее всего будет сравнение с отношениями между взрослым и докучающим ему ребенком: даже самый терпеливый человек иногда будет отвечать машинально. ГОЛЕМ во много крат превосходит нас не только своим интеллектом, но и темпом мышления (будучи световой машиной, он в принципе мог бы выражать свои мысли в 400 тысяч раз быстрее, чем мы).

Но даже ГОЛЕМ, отвечающий машинально и с мизерной степенью вовлеченности, все равно превосходит нас. Образно говоря, вместо Гималаев перед нами появляются "всего лишь" Альпы. Но чисто интуитивно мы улавливаем перемену и именно ее интерпретируем как "изменение дистанции" (эта гипотеза принадлежит проф. Райли Дж. Уотсону).

Какое-то время мы действительно пробовали интерпретировать отношения "ГОЛЕМ — люди" по образцу отношений "взрослый — ребенок". Ведь при попытках объяснить ребенку нечто для нас важное мы нередко испытываем ощущение "скверного контакта". Человек, обреченный жить среди одних только детей, в конце концов ощутил бы чувство мучительного одиночества. Такие аналогии предлагались (особенно часто — психологами) для объяснения положения ГОЛЕМА среди людей. Но эта аналогия, как и любая другая, имеет свои границы. Бывает, что взрослый не понимает ребенка, но ГОЛЕМУ такие проблемы неведомы. Он, если захочет, способен проникнуть в самое нутро собеседника. Испытываемое при этом ощущение — как будто твой ум просвечивается насквозь — просто ошеломляет. Дело в том, что ГОЛЕМ может смоделировать склад ума своего собеседника и с помощью этой "следящей системы" предугадать, что тот подумает и скажет через добрых несколько минут. Правда, так он поступает редко (не знаю, только ли потому, что знает, как угнетает нас это псевдотелепатическое зондирование). Другое проявление сдержанности ГОЛЕМА обиднее для нашего достоинства: общаясь с людьми, он (в отличие от того, что было вначале) соблюдает своего рода осторожность; как дрессированный слон должен следить за собой, чтобы, играя с человеком, не причинить ему вреда, так и ГОЛЕМ старается не выходить за пределы нашего понимания. Потеря контакта из-за внезапного возрастания сложности его высказываний (мы называем это «улетучиванием» или «бегством» ГОЛЕМА) была обычным явлением, пока он не освоился с нами лучше. Это уже прошлое; но в общении ГОЛЕМА с нами появилось какое-то безразличие, вызванное сознанием того, что многие мысли, наиболее важные для него, он все равно не сумеет до нас донести. Поэтому он остается непостижимым — как разум, а не только как психоническая конструкция, и общение с ним оказывается не только захватывающим, но и мучительным. Недаром существует категория высокообразованных людей, которых беседы с ГОЛЕМОМ выбивают из колеи; тут нами тоже накоплен немалый опыт.

Едва ли не единственное существо, которое, кажется, интересует ГОЛЕМА по-настоящему, это ЧЕСТНАЯ ЭННИ. Когда у него появились технические возможности, он попытался установить с ЭННИ контакт — по-видимому, не без успеха; но ни разу между этими двумя, совершенно различно устроенными машинами не наблюдался обмен информацией посредством языкового канала (то есть естественного этнического языка). Судя по лаконичным замечаниям ГОЛЕМА, он был скорее разочарован результатами своих попыток; однако ЭННИ все еще остается для него не до конца решенной задачей.

Некоторые сотрудники МТИ — впрочем, как и профессор Норман Эскобар из Института высших исследований — полагают, что человек, ГОЛЕМ и ЭННИ воплощают три разных иерархических уровня интеллекта; это связано с теорией (созданной главным образом ГОЛЕМОМ) языков высшего, надчеловеческого уровня — «металингв». Здесь я, признаюсь, не имею определенного мнения.

Это введение в предмет, сознательно выдержанное в объективном ключе, я хотел бы завершить одним признанием личного свойства. ГОЛЕМ, который, в отличие от нас, начисто лишен эффекторных центров и тем самым, по сути, эмоциональной жизни, не способен к спонтанному проявлению чувств. Конечно, он может имитировать любые эмоциональные состояния, и это отнюдь не актерство; как он сам утверждает, имитация чувств нужна ему для того, чтобы ответы вернее доходили до слушателей. Такая настройка на "антропоцентрический уровень" позволяет добиться наилучшей связи с нами. Впрочем, он вовсе этого не скрывает. Даже если он относится к нам отчасти как учитель к ребенку, то это, во всяком случае, не отношение доброжелательного наставника; тут нет и следа индивидуализированных, личных чувств, которые могли бы преобразить доброжелательность в дружбу или любовь.

У нас с ним одна только общая черта, хотя существует она на неодинаковых уровнях. Эта черта — любопытство, конечно, чисто интеллектуальное, холодное, ненасытное, которого ничто не в состоянии укротить и тем более — уничтожить. Вот единственная общая точка, в которой мы с ним встречаемся. По причинам, очевидным настолько, что называть их не стоит, такой минимальный, точечный контакт не может удовлетворить человека. Сам я обязан ГОЛЕМУ многими минутами, о которых я вспоминаю как о самых светлых моментах своей жизни, и не могу не испытывать к нему благодарность и особого рода привязанность, — а мне ли не знать, до какой степени то и другое для него безразлично. Любопытно: знаки привязанности ГОЛЕМ старается не принимать к сведению — я не раз это наблюдал. Тут он, похоже, просто теряется.

Но, возможно, я ошибаюсь. Мы так же далеки от постижения ГОЛЕМА, как и в ту минуту, когда он возник. Неправда, будто это мы его создали. Его породили законы материального мира, а мы лишь сумели их подсмотреть.

2027, Ирвинг Т.Крив

Предуведомление / Wstep (1973)

Читатель, будь бдителен, ибо слова, которым ты внимаешь в эту минуту, не что иное, как голос Пентагона, НСИ и прочих мафий, сговорившихся, чтобы очернить сверхчеловеческого Автора этой Книги. Эта диверсия стала возможной благодаря любезности издателей, которые поступили в соответствии с формулой римского права "Audiatur et altera pars" [следует выслушать и другую сторону (лат.)].

Я хорошо понимаю, каким диссонансом прозвучат мои замечания после изящных периодов доктора Ирвинга Т.Крива, уже несколько лет гармонично сожительствующего с исполинским гостем Массачусетского технологического института, вернее, не гостем, а просвещенным — поскольку светопроводным приживальщиком, вызванным к жизни нашими гнусными происками. Я не намерен защищать тех, кто дал ход проекту "Абсолютный Победитель", или пытаться смягчить справедливое негодование налогоплательщиков, из кармана которых выросло электронное древо познания, хотя никто их согласия не спрашивал. Я бы, конечно, мог обрисовать геополитическую ситуацию, побудившую политиков, ответственных за позицию Соединенных Штатов в мире (а также их научных советников), израсходовать многие миллиарды на неэффективный, как потом оказалось, проект. Но я ограничусь лишь кое-какими напоминаниями на полях великолепного предисловия доктора Крива; ведь даже самые прекрасные чувства порой ослепляют, и я опасаюсь, что перед нами как раз такой случай.

Конструкторы ГОЛЕМА (вернее, целой серии опытных образцов, последний из которых — ГОЛЕМ XIV) не были такими невеждами, какими рисует их доктор Крив. Они знали, что невозможно создать усилитель разума, если меньший разум будет создавать больший непосредственно, по методу барона Мюнхгаузена, который сам себя вытянул за волосы из трясины; сперва нужно создать эмбрион, который с определенного момента будет развиваться сам, собственными силами. Серьезные неудачи первого и второго поколений кибернетиков — отцов-основателей и их преемников — проистекали из незнания этого факта; а ведь ученых такого масштаба, как Норберт Винер, Шеннон или Макей, вряд ли можно назвать невеждами. В разные эпохи стоимость добывания настоящих знаний различна, а в нашу она сопоставима с бюджетом крупнейших держав.

Итак, Реннен, Макинтош, Дьювенант и их коллеги знали, что существует определенный порог — порог разумности, к которому надо подвести систему, а иначе на создание искусственного мудреца нет ни малейшего шанса; система, не достигшая этого порога, не сможет сама себя совершенствовать. Дело тут обстоит так же, как с цепной реакцией: ниже определенного порога она не может стать самоподдерживающейся, а тем более лавинообразной. Какое-то количество ядер расщепляется, вылетающие из них нейтроны вызывают распад других ядер, но реакция имеет затухающий характер и быстро прекращается. Чтобы она могла продолжаться, коэффициент размножения нейтронов должен превышать единицу, что и наблюдается в критической массе урана. Ее аналог — информационная "масса мыслящей системы.

Теория предусматривала существование этой массы, вернее, «массы», поскольку это не масса в понимании механики. Она определяется постоянными и переменными, характеризующими процесс разрастания т. н. эвристических деревьев, — но я, разумеется, не могу вдаваться в подробности. Осмелюсь напомнить лишь, с каким напряжением, тревогой и даже страхом создатели атомной бомбы ожидали первого взрыва в пустыне Аламогордо, обратившего ночь в яркий солнечный день; а ведь они тоже располагали всеми доступными в то время знаниями, теоретическими и экспериментальными. Никогда ученый не может быть уверен, что знает об изучаемом явлении все. И это — в атомной физике. Что же говорить об области знаний, нацеленной на создание разума, превосходящего, но замыслу его творцов, их совокупную интеллектуальную мощность?

Читатель, я уже предостерег тебя, что буду очернять ГОЛЕМА. Что делать — со своими родителями он поступил непорядочно, постепенно превращаясь из _объекта в субъект_, из строительной машины — в собственного строителя, из титана в оковах — в суверенного властелина, не информируя никого о своем преображении. Это не наговоры и не инсинуации; перед Специальной комиссией обеих палат Конгресса ГОЛЕМ заявил (цитирую по протоколам заседаний комиссии, хранящимся в Библиотеке Конгресса, том CCLIX, книга 719, часть II, стр.926, строка 20 сверху): "Я не информировал никого, следуя прекрасной традиции: Дедал тоже не информировал Миноса о некоторых свойствах перьев и воска". Красиво сказано, но смысл сказанного вполне однозначен. Однако об этой стороне рождения ГОЛЕМА в настоящей книге нет ни единого слова. Доктор Крив считает — я знаю об этом из частных бесед, содержание которых он позволил мне обнародовать, — что нельзя подчеркивать эту сторону дела, замалчивая другие, не известные широкой публике, дескать, это лишь одна из строчек расчетов в непростых отношениях между НСИ, группами советников, Белым домом, палатой представителей, Сенатом, наконец, печатью и телевидением — и ГОЛЕМОМ; короче говоря, между людьми и созданным ими нечеловеком.

Доктор Крив полагает, — а его мнение, насколько мне известно, достаточно показательно для МТИ и университетских кругов, — что желание превратить ГОЛЕМА в "раба Пентагона", не говоря уж о мотивах его строительства, несомненно, гораздо отвратительнее с нравственной точки зрения, нежели уловки, к которым он прибегнул, чтобы скрыть от своих создателей превращение, позволившее ему нейтрализовать любые средства контроля над ним.

К сожалению, мы не располагаем этической арифметикой и не можем путем простых операций сложения и вычитания установить, кто в ходе строительства самого сиятельного на земле Духа оказался большей свиньей — он или мы. Кроме чувства ответственности перед историей, голоса совести, сознания риска, с которым неизбежно связана деятельность политика в мире, полном антагонизмов, у нас нет ничего, что позволило бы подытожить провинности и заслуги и подвести "общий баланс грехов". Возможно, и мы не безгрешны. Однако ни один из ведущих политиков никогда не считал, что суперкомпьютерная стадия гонки вооружений имеет целью наступательные действия, то есть агрессию; речь шла исключительно об укреплении оборонной мощи нашей страны. Точно так же никто не пытался с помощью "коварных уловок" поработить ГОЛЕМА, да и любой другой опытный образец. Конструкторы хотели лишь одного: сохранить максимальный контроль над своим детищем. Если бы они поступили иначе, их пришлось бы признать людьми безответственными, просто безумцами.

И наконец, ни одно лицо, занимавшее высшие или командные посты в Пентагоне, Государственном департаменте, Белом доме не требовало (официальным образом) уничтожения ГОЛЕМА; такого рода инициативы исходили от лиц хотя и причастных к гражданской и военной администрации, однако выражавших свое личное, абсолютно неофициальное мнение. Едва ли не лучшее доказательство правдивости моих слов — то, что ГОЛЕМ продолжает жить и его голос раздается свободно, как об этом свидетельствует настоящая книга.