Книга: Информация. История. Теория. Поток
Назад: Глава 7. ТЕОРИЯ ИНФОРМАЦИИ. (Все, что мне нужно, — обыкновенный мозг)
Дальше: Глава 9. ЭНТРОПИЯ И ЕЕ ДЕМОНЫ. То, что уже смешано, разделить нельзя
Глава 8. ИНФОРМАЦИОННЫЙ ПОВОРОТ. Основа, на которой построен мозг
Вполне возможно, что опасно использовать теорию информации в тех областях, для которых она не была предназначена, но я не думаю, что это кого-нибудь остановит.Дж. К. Р. Ликлайдер (1950)
Большинство математических теорий приобретают четкие очертания довольно долго, но теория информации Шеннона родилась полностью сформировавшейся, словно Афина из головы Зевса. Тем не менее появившаяся в 1949 году маленькая книжка Шеннона и Уивера привлекла очень мало общественного внимания. Первую рецензию написал математик Джозеф Л. Дуб, который пожаловался, что книжка скорее “намекающая”, чем математическая, “и не всегда очевидно, что математические намерения автора благородны”. Журнал по биологии предположил: “Сначала может показаться, что это прежде всего инженерная монография, не имеющая или имеющая мало отношения к человеческим проблемам. На самом деле теория имеет некоторые замечательные следствия”. The Philosophical Review писал, что философы не должны пропустить эту книгу: “Шеннон разработал концепцию информации, которая неожиданно оказалась расширением термодинамического понятия энтропии”. Самая странная рецензия вряд ли вообще была рецензией: пять абзацев в Physics Today от сентября 1950 года, подписанных Норбертом Винером из Массачусетского технологического института.
Винер начал снисходительно:
Около пятнадцати лет назад очень умный молодой студент пришел к руководству МТИ с идеей теории коммутации электрических цепей, зависящей от логической алгебры. Этим студентом был Клод Э. Шеннон.
В настоящей книге, продолжал Винер, Шеннон вместе с Уорреном Уивером “собрал взгляды на инженерное проектирование системы связи”. Основная идея, предложенная Шенноном, пишет Винер, “состоит в том, что количество информации есть отрицательная энтропия”. И добавил, что сам “автор данной рецензии” разрабатывал эту же идею примерно в то же время.
Винер объявил книгу работой, “чье происхождение было независимо от моей собственной работы, но которая с самого начала связана с моими исследованиями взаимным влиянием, распространявшимся в обоих направлениях”. Он упомянул “тех из нас, кто пытался найти аналогию в исследованиях демона Максвелла” и добавил, что еще многое предстоит сделать.
Затем Винер выдвинул предположение, что исследование языка не может быть полным без уделения большего внимания нервной системе человека: “Восприятие и передача нервами речи в мозг. Я говорю это не в качестве критики”.
Винер заключил рецензию абзацем, посвященным другой новой книге, “моей собственной “Кибернетике”. Обе книги, сказал он, представляют собой первые залпы орудий по области, которая скоро начнет быстро развиваться.
В своей книге я воспользовался привилегированным положением автора, решил рассуждать более умозрительно и затронуть более широкий круг вопросов, чем предпочли д-р Шеннон и д-р Уивер... Пространство для двух разных книг не только существует. Понятно, что обе они необходимы.
Он поздравил коллег с разработкой хорошо продуманного и независимого подхода к кибернетике.
Тем временем Шеннон уже написал короткую рецензию на книгу Винера для Proceedings of the Institute of Radio Engineers. И вряд ли можно сказать, что та была хвалебной. Это “великолепное введение”, написал он. Между Винером и Шенноном явно существовало небольшое напряжение. Его можно было почувствовать, оценив примечание, которое украшало первую страницу написанного Уивером раздела “Математической теории связи”:
Д-р Шеннон сам подчеркивает, что основная философия теории связи появилась именно благодаря профессору Норберту Винеру. А профессор Винер указывает, что многие из ранних работ Шеннона по коммутации электрических цепей и математической логике предшествовали возникновению его собственного интереса в этой области, и благородно добавляет, что Шеннон определенно заслуживает признания за независимую разработку таких фундаментальных аспектов теории, как введение идеи энтропии.
Коллега Шеннона Джон Пирс позже писал: “Голова Винера была занята его собственной работой... Знающие люди говорили мне, что Винер, находясь под обманчивым впечатлением, будто он уже знает то, что сделал Шеннон, так в итоге никогда и не узнал этого”.
“Кибернетика” была только что выдуманным словом, это потом оно окажется у всех на слуху. Кибернетика предлагала область исследований, возможное философское движение, полностью придуманное гениальным и обидчивым мыслителем. Греческое слово, которое он выбрал, означало рулевой: κυβερνήτης, kubernites, — от которого также (и это неслучайно) произошло слово губернатор. Винер хотел, чтобы кибернетика стала наукой, которая бы объединила изучение способов коммуникации и управления, а также исследования человека и машины. Норберт Винер был известен миру как необычный человек — одаренный юноша, спортсмен, сын гарвардского профессора. “Юноша, которого его друзья гордо называют умнейшим мальчиком в мире, — писала The New York Times на первой странице, когда ему исполнилось четырнадцать лет, — оканчивает Университет Тафтса в следующем месяце... Способности Норберта Винера к обучению феноменальны, но выглядит и ведет он себя как обычный мальчик... Самое поразительное в его облике — чрезвычайно темные глаза”. Когда Винер писал мемуары, в названии он всегда использовал слово “вундеркинд”: “Бывший вундеркинд: мое детство и юность” и “Я — математик: дальнейшая жизнь вундеркинда”.
После Тафтса (математика), Гарвардской магистратуры (зоология), Корнелла (философия) и снова Гарварда Винер уехал в Англию, в Кембридж, где изучал символическую логику и Principia Mathematica у самого Бертрана Рассела. Расселу он не понравился.
“Явился вундеркинд по имени Винер, д-р (из Гарварда) восемнадцати лет, — писал он другу. — Юношу избаловали, он считает себя Господом Всемогущим, у нас с ним постоянная борьба по поводу того, кто кого будет учить”. Со своей стороны, Винер не любил Рассела: “Он айсберг. Его разум впечатляет, как впечатляет проницательная, холодная логическая машина, которая нарезает вселенную на аккуратные кусочки по три дюйма с каждой стороны”. По возвращении в США в 1919 году Винер присоединился к штату МТИ, тогда же, когда и Вэнивар Буш. В 1936-м туда прибыл Шеннон и прослушал один из курсов математики Винера. Когда началась война, Винер был одним из первых, кто присоединился к секретным группам математиков, работающих над управлением зенитными установками.
Он был низкого роста и полным, носил очки с очень толстыми стеклами и мефистофельскую бородку. Если работа Шеннона по управлению зенитным огнем сводилась к выделению сигнала в шумовой среде, то Винер занимался самим шумом — флуктуациями сигнала в приемнике радиолокационной станции, случайными отклонениями в процессе полета.
Шум ведет себя в соответствии со статистическими законами, понял ученый. Это как броуновское движение, “чрезвычайно живое и полностью случайное”, которое ван Левенгук наблюдал под микроскопом в XVII веке. Винер провел подробнейшее математическое исследование броуновского движения в 1920-е. Отсутствие последовательности импонировало ему: не только траектории движения частиц, но и математические функции, казалось, вели себя неподобающим образом. Это был, как он писал, дискретный хаос, и потребовалось несколько десятилетий, чтобы окончательно понять, что он имел в виду. В рамках проекта, занимавшегося управлением зенитным огнем (в этом проекте Шеннон был скромным членом команды Лабораторий Белла), Винер и его коллега Джулиан Бигелоу написали легендарную 120-страничную монографию. Она была засекречена, и те несколько десятков человек, которым позволили ее увидеть, называли эту работу “Желтая угроза” из-за цвета папки, в которой она находилась, и из-за того, что разобраться в самой статье было непросто. Формально она называлась “Экстраполяция, интерполяция и сглаживание стационарных временных рядов с инженерными применениями”. В ней Винер разработал статистический метод предсказания дальнейших действий исходя из неопределенных и искаженных данных о прошлом. Слишком амбициозная задача для существовавших в то время артиллерийских орудий, но Винер проверил ее на дифференциальном анализаторе Вэнивара Буша. Как зенитное орудие с оператором, так и самолет с пилотом были гибридами машины и человека. Один должен был предсказать поведение другого.
Винер был настолько же многословным, насколько Шеннон сдержанным. Он много путешествовал и был полиглотом, социально активным человеком, который принимал науку близко к сердцу. Его формулировка второго закона термодинамики, например, звучала как настоящий крик души:
Мы плывем вверх по течению, борясь с огромным потоком дезорганизованности, который в соответствии со вторым законом термодинамики стремится все свести к тепловой смерти, всеобщему равновесию и одинаковости. То, что Максвелл, Больцман и Гиббс в своих физических работах называли тепловой смертью, нашло своего двойника в этике Кьеркегора, утверждавшего, что мы живем в мире хаотической морали. В этом мире наша первая обязанность состоит в том, чтобы устраивать произвольные островки порядка и системы. Эти островки не существуют вечно в том виде, в котором мы их некогда создали. Подобно Черной королеве, мы должны бежать со всей быстротой, на которую только способны, чтобы остаться на том месте, где однажды остановились.
Его интересовало, какое место ему будет отведено в истории, а целился он высоко. Кибернетика, писал он в мемуарах, является “новой интерпретацией человека, человеческих знаний о вселенной и обществе”. Там, где Шеннон видел себя математиком и инженером, Винер считал себя прежде всего философом, и из своей работы над управлением зенитным огнем он извлек философские уроки о целях и поведении. Если определить поведение как “любое изменение сущности с учетом ее окружения”, то это слово можно применять и к машинам, и к животным. Поведение, ориентированное на цель, является целесообразным, а цель иногда может быть введена в машину, а не передана оператору-человеку — например, если мы имеем дело с механизмом поиска цели: “Термин “сервомеханизмы” был придуман именно для обозначения машин со встроенным целесообразным поведением”. Основной идеей было управление, или саморегуляция.
Чтобы как следует ее проанализировать, он позаимствовал туманный термин из электротехники — “обратная связь”, возврат энергии из выхода цепи обратно на вход. Если обратная связь положительна, как в случае, когда звук из громкоговорителей усиливается через микрофон, она неудержимо растет и выходит из-под контроля. Но, если обратная связь отрицательна, как в механическом регуляторе паровых машин, впервые проанализированном Джеймсом Клерком Максвеллом, она может привести систему к равновесию; она служит источником стабильности. Обратная связь могла быть механической: чем быстрее вращается регулятор Максвелла, тем шире раскидываются рычаги, а чем шире раскидываются рычаги, тем медленнее регулятор должен вращаться. Обратная связь может быть и электрической. В любом случае ключом является информация. Зенитным орудием, например, управляет информация о координатах самолета и о предыдущих позициях самого орудия. Друг Винера Бигелоу подчеркивал: “Это не какая-то определенная физическая вещь типа энергии, длины или напряжения, а лишь информация (передаваемая любым способом)”.
Винер чувствовал, что примеры отрицательной обратной связи должны встречаться повсюду. Он видел ее в работе глаз и рук, которыми управляет нервная система человека, выполняющего обычное действие — взять карандаш. Он специально изучал неврологические нарушения, расстройства, при которых страдала физическая координация или речь. Он рассматривал их с очень необычной точки зрения — как случаи исчезновения обратной связи: например, разновидности атаксии, когда сигналы либо прерываются в спинном мозге, либо неверно интерпретируются в мозжечке.
Его анализ был подробным и математическим, с уравнениями, что практически не встречалось в неврологии того времени. Тем временем системы управления с обратной связью начали проникать на сборочные линии заводов, поскольку механические системы тоже могут изменять свое поведение. Обратная связь — это регулятор, рулевой.
Итак, первая книга Винера называлась “Кибернетика” и была опубликована осенью 1948 года сразу в США и во Франции с подзаголовком “Управление и связь в животном и машине”. Книга была смесью определений и анализа и, к удивлению издателей, неожиданно стала бестселлером года. Популярные американские новостные журналы Time и Newsweek рекомендовали ее. Винер и кибернетика оказались отождествлены с феноменом, будоражившим тогда умы общественности, — вычислительными машинами. С окончанием войны был снят покров секретности с первых проектов в области электронных вычислений, в частности с ENIAC, 30-тонного монстра из вакуумных ламп, реле и припаянных вручную проводов, находившегося в электротехнической школе при Университете Пенсильвании. Он мог хранить и умножать до двадцати десятизначных чисел; военные использовали его для расчета артиллерийских таблиц. Компания International Business Machines (.IBM), производящая табуляторы для обработки нанесенных на перфокарты данных для военных проектов, тоже построила в Гарварде гигантскую вычислительную машину Mark /. В Британии, все еще под покровом секретности, шифровальщики из Блетчли-парк создавали вычислительную машину Colossus на вакуумных лампах. Алан Тьюринг начинал работу над еще одной в Манчестерском университете. Публика, едва узнав об этих машинах, естественно, тут же стала считать их “мозгом”. Все задавали один и тот же вопрос: “Могут ли машины думать?”
“Они растут с пугающей скоростью, — заявил Time в итоговом выпуске. — Они начали с молниеносного решения математических уравнений. Теперь они действуют как настоящие механические мозги”. Винер поощрял подобные спекуляции, если не сказать необузданные фантазии:
Д-р Винер не видит причин, по которым они не могут учиться на опыте, словно чудовищные и не по годам развитые дети, быстро проходящие курс средней школы. Один такой механический мозг, заполненный опытом, может стоять во главе целой индустрии, заменив не только механиков и клерков, но и многих управляющих... По мере того как люди создают все более совершенные вычислительные машины, поясняет Винер, и по мере того, как они изучают собственный мозг, люди и машины, кажется, все сильнее походят друг на друга. Человек, считает Винер, воссоздает свой чудовищно увеличенный образ.
Заметная доля успеха трудной для понимания и неуклюжей книги Винера была связана с тем, что в центре внимания всегда оказывался человек, а не машина. Винер был заинтересован не в освещении развития вычислительной части теории, к которой он в любом случае имел отдаленное отношение, а скорее в том, как вычисления могут пролить свет на устройство человека. Оказалось, что его интересуют нарушения работы мозга, механические протезы и общественные беспорядки, которые могут последовать за появлением умной техники. Он беспокоился, что та обесценит человеческий мозг, точно так же как заводские машины обесценили человеческие руки.
Он рассмотрел параллель человек — машина в главе “Вычислительные машины и нервная система”. Сначала он описал различие между аналоговыми и цифровыми машинами, правда, пока не используя этих слов. Первый тип, такой как дифференциальный анализатор Буша, где данные изображаются посредством измерений на какой-либо непрерывной шкале, — это аналоговые машины. Другой, который он назвал числовыми машинами, представлял числа непосредственно и точно, как настольные калькуляторы. В идеале эти устройства используют двоичную систему счисления. Для сложных вычислений им потребуется применить некоторую форму логики. Какую? Шеннон ответил на этот вопрос в своей дипломной работе 1937 года, и Винер предложил такой же ответ:
... алгебра логики par excellence, или Булева алгебра. Этот алгоритм, подобно двоичной арифметике, основан на дихотомии, т. е. на выборе между “да” и “нет”, между пребыванием в классе и вне класса.
Мозг, утверждал он, хотя бы отчасти тоже представляет собой логическую машину. Там, где вычислительные машины используют реле — механические, электромеханические или чисто электрические, — у мозга есть нейроны. Эти клетки находятся в одном из двух состояний в любой момент времени: активны (сигнал) или в покое (отдых). Поэтому их можно рассматривать как реле с двумя состояниями. Они соединены друг с другом в точках контакта, известных как синапсы. Они передают сообщения. Для хранения сообщений у мозга есть память. Вычислительным машинам тоже нужно физическое хранилище, которое можно назвать памятью. (Ученый хорошо понимал, что это упрощенная картина сложной системы, что другие типы сообщений — скорее аналоговые, чем цифровые, — возможно, передаются химическими веществами, известными как гормоны.) Винер также предположил, что функциональные расстройства, такие как “нервный срыв”, могут иметь аналоги в электронике. Разработчикам вычислительных машин нужно подумать, как справляться с несвоевременным наплывом данных — с чем-то похожим на “дорожные пробки и перегрузки нервной системы”.
И мозг, и электронные компьютеры для выполнения логической работы используют некоторое количество энергии, “которая вся тратится и рассеивается в виде тепла”, и оно должно быть выведено кровеносной системой или вентиляционным и охлаждающим оборудованием. Но это в действительности не так важно, писал Винер. “Информация есть информация, не материя и не энергия. Материализм, не признающий этого, в наши дни не выживет”.
* * *
И вот настало время восторгов.
“Мы снова находимся в одном из тех удивительных периодов научного прогресса, по-своему похожем на досократовский”, — заявил похожий на гнома белобородый нейрофизиолог Уоррен Маккаллох на Собрании британских философов. Он сказал, что, слушая Винера и фон Неймана, ощутил себя участником дебатов античных ученых. Родилась новая физика связи, заявил он, и метафизика никогда уже не будет прежней: “Впервые в истории науки мы знаем, как мы знаем, и, следовательно, способны ясно это изложить”. Он высказал еретическую мысль: познающий есть вычислительная машина, мозг состоит из реле, возможно, десятков миллиардов реле, каждое получает сигналы от других реле и посылает их далее. Сигналы квантованы, они либо есть, либо их нет. Поэтому столпом мира, сказал он, снова оказываются атомы Демокрита — “наименьшие неделимые частицы, которые мечутся по пустоте”.
Это был мир Гераклита, всегда “в движении”. Я имею в виду не то, что каждое реле само по себе моментально уничтожается и воссоздается, словно пламя, но то, что оно занято информацией, которая поступает через множество каналов, проходит через него, крутится внутри и снова попадает в мир.
То, что эти идеи перешагнули границы дисциплин, во многом заслуга Маккалоха, генератора эклектицизма и перекрестного опыления. Вскоре после начала войны он организовал серию конференций в Beekman Hotel на Парк-авеню в Нью-Йорке при финансировании Фонда Джосиа Мэйси-мл., основанного на пожертвования наследников китобоев с острова Нантакет. На ноги становился целый спектр наук — так называемые общественные науки вроде антропологии и психологии, искавшие новое математическое основание; отпрыски медицины с гибридными названиями, такие как нейрофизиология; не вполне науки, такие как психоанализ. Маккалох приглашал экспертов из всех областей, а также математиков и инженеров-электротехников. Он ввел правило Ноева ковчега — звал по двое, чтобы в зале всегда был кто-то, кто может понять, что говорит выступающий. В состав основной группы входили знаменитый антрополог Маргарет Мид и ее тогдашний муж Грегори Бейтсон, психологи Лоуренс К. Франк и Генрих Клювер и великолепная, порой соперничающая пара математиков — Винер и фон Нейман.
Мид, которая стенографировала заседания так, что никто другой не мог прочесть ее записи, сказала, что во время первой встречи она так волновалась, что сломала зуб и не поняла этого до конца заседания. Винер рассказал, что все науки, особенно общественные, на самом деле занимаются коммуникацией, что их объединяет идея сообщения. Встречи начались под неуклюжим названием “Конференции о круговой причинности и механизмах обратной связи в биологических и социальных системах”. Из уважения к Винеру, чьей славой наслаждались собравшиеся, название заменили на “Конференции по кибернетике”. В ходе конференций стало привычным использовать новый, неудобный и слегка подозрительный термин “теория информации”. Некоторые из дисциплин принимали его охотнее других. Впрочем, было совсем не ясно, включена ли информация в их картину мира.
Заседание (1950 год, 22 и 23 марта) началось с самолюбования. “Группа и предмет обсуждения спровоцировали огромный интерес, — сказал Ральф Жерар, невролог из медицинской школы Университета Чикаго, — почти национальную моду. Появились обширные статьи в таких хорошо известных научных журналах, как Time, News-Week и Life”. Помимо прочего, он ссылался на обложку и главный материал вышедшего зимой журнала Time. Статья называлась “Думающая машина”:
Профессор Винер является буревестником (хотя внешне он больше похож на тупика) математики и прилегающих территорий... Замечательные новые компьютеры, как воскликнул Винер с тревогой и триумфом, являются... предвестниками целой новой науки о связи и управлении, которую он без промедления назвал кибернетикой. Винер указал, что новейшие машины уже напоминают человеческий мозг как по структуре, так и функционально. Пока у них нет чувств и “исполнительных органов” (рук и ног), но почему бы им не появиться?
Действительно, говорил Жерар, его область знаний подверглась сильному влиянию новых способов мышления, пришедших из инженерных работ по построению систем связи, благодаря им нервный импульс начали рассматривать не просто как “физико-химическое событие”, но и как знак или сигнал. Поэтому брать уроки у “вычислительных машин и систем связи” полезно и одновременно опасно.
Самонадеянно повторять за прессой, что машины являются мозгом и что наш мозг не более чем вычислительная машина. С тем же успехом можно сказать, что телескоп — это глаз, а бульдозер — мускул.
Винер чувствовал, что должен ответить. “Я не был в состоянии предотвратить появление этих отчетов, — заявил он, — но я попытался повлиять на то, чтобы публикации оказались более сдержанными. Я все равно не верю, что их нужно осуждать за использование слова “думать”.
Основной целью Жерара было обсудить, можно ли с цифровой или аналоговой точки зрения корректно описать мозг с его таинственной нейронной архитектурой, ветвящимися деревьями дендритов и химическим варевом сложных взаимосвязей. Его прервал Грегори Бейтсон, который считал, что все эти аналогии только сбивают с толку. Своим пониманием Жерар был обязан “квалифицированному обучению, которое получил здесь, преимущественно у Джона фон Неймана” — тот сидел в зале. Тем не менее Жерар ответил Бейтсону сам. Аналоговый — это логарифмическая линейка, где числа представлены как расстояния; цифровой — это абак, где вы либо считаете костяшку, либо нет; посередине ничего нет. Реостат, устройство для приглушения света, — аналоговый; выключатель на стене, который либо включает, либо выключает свет, — цифровой. Волны мозга и нервная химия, утверждал Жерар, аналоговые.
В результате началась дискуссия. Фон Нейману было что сказать. В последнее время он разрабатывал “теорию игр”, которую рассматривал фактически как математику неполной информации. Он же играл ведущую роль в разработке архитектуры новых электронных вычислительных машин. Он хотел, чтобы та часть группы, которой был ближе аналоговый подход, вышла на более абстрактный уровень, то есть признала, что цифровые процессы происходят в беспорядочном, непрерывном мире, но тем не менее они цифровые. Когда нейрон переходит из одного возможного состояния в другое — “состояние нервной клетки без сообщения и состояние клетки с сообщением”, — химия перехода способна содержать след промежуточного состояния, но для теоретических целей этим обстоятельством можно пренебречь.
Он предположил, что в мозгу, как и в вычислительной машине на вакуумных лампах, “за тем, что нам кажется непрерывными процессами, на самом деле стоят дискретные переходы”. Маккаллох только что аккуратно изложил это в своей статье “О цифровых компьютерах, называемых мозгом”: “Кажется, в этом мире лучше рассматривать даже очевидно непрерывный процесс как некоторое число небольших шагов”. Из всех присутствующих спокойным оставался только новичок Клод Шеннон.
Следующим выступал эксперт по речи и звуку Дж. К. Р. Ликлайдер из новой психоакустической лаборатории в Гарварде, которого все называли Ликом. Еще один молодой ученый, живущий сразу в двух мирах — отчасти психолог, отчасти инженер-электротехник. Позже в том же году он уедет в МТИ, где откроет новое отделение психологии внутри отделения электротехники. Он работал над идеей оцифровки речи, беря звуковые волны и сокращая их до наименьшей величины, которую можно было передать сделанным дома вручную “триггером” — устройством из материалов, купленных за 25 долларов: вакуумных ламп, резисторов и конденсаторов. Даже люди, привыкшие к треску и шипению телефонов, удивлялись, насколько можно сократить речь, чтобы она оставалась разборчивой. Шеннон внимательно слушал — не только потому, что был знаком с соответствующим разделом телефонной инженерии, но и потому, что сталкивался с этими проблемами во время войны на секретной работе по шифрованию аудиосигнала. Винер тоже сосредоточился, отчасти из-за интереса к разработке слуховых протезов.
Когда Ликлайдер описал некоторые искажения как нелинейные — не логарифмические, а “что-то среднее”, — Винер перебил его: “Что значит “среднее”? X плюс Y поделить на N?”
Ликлайдер вздохнул: “Математики всегда так делают — ловят меня на неточных утверждениях”. На самом деле у него не было проблем с вычислениями, и позже он предложил оценку того, сколько информации, используя новую терминологию Шеннона, может быть послано по линии связи при заданном диапазоне (5000 циклов) и определенном отношении сигнала к шуму (33 децибела). Числа выглядели вполне реалистично для коммерческого радио. “Я думаю, что 100 тыс. бит информации может быть передано по такому каналу связи”, — бит в секунду, хотел сказать он. Это было ошеломляющее число; для сравнения, он подсчитал скорость обычной человеческой речи: десять выбранных из словаря в 64 фонемы (26 “для простоты” — логарифм из количества выборов равен 6) фонем в секунду, таким образом, получается скорость 60 бит в секунду. “Исходя из предположения, что все фонемы равновероятны... ” — “Да! — прервал Винер. — Что, разумеется, не так”.
Винер поинтересовался, пытался ли кто-нибудь сделать подобные расчеты “сжатия для глаза” для телевидения. Какое количество “настоящей информации” необходимо для правильной интерпретации? И добавил: “Я часто не понимаю, почему люди вообще пытаются смотреть в телевизор”.
У Маргарет Мид возник другой вопрос. Она не хотела, чтобы группа забывала, что значение может существовать отдельно от фонем и словарных определений. “Если вы говорите об информации другого рода, — сказала она, — если вы пытаетесь передать тот факт, что кто-то злится, каков будет порядок вычисления искажения, чтобы извлечь гнев из сообщения, которое в остальном передаст в точности те же слова?”
Слово взял Шеннон. Забудем о смысле, сказал он и объявил, что, даже несмотря на то, что его темой является избыточность письменного английского языка, он вовсе не собирается изучать смысл.
Он говорил об информации как о чем-то, передаваемом из одной точки в другую: “Это может быть, например, случайная последовательность знаков, информация для управляемой ракеты или телевизионный сигнал”. Важно было то, что он собирался представить появление информации как статистический процесс, генерирующий сообщения с различными вероятностями. Он показал примеры строк из текста, который использовал в “Математической теории связи” (ее читали немногие из группы), и описал свой “эксперимент по предсказанию”, в котором объект угадывал текст буква за буквой. Он рассказал, что английский язык имеет определенную энтропию — величину, связанную с избыточностью, — и что он мог использовать эти эксперименты для ее вычисления. Его слушатели были поражены, особенно Винер, размышлявший о собственной “теории предсказаний”.
“Мой метод имеет некоторые параллели с этим, — сказал Винер. — Извините, что перебил”.
Между подходами Винера и Шеннона существовала разница. Для Винера энтропия была мерой беспорядка, для Шеннона — неопределенности. На самом деле оба осознавали, что это одно и то же. Чем больше присущего языку порядка существовало в отрывке английского текста — порядка в виде статистических структур, сознательно или подсознательно известных говорящим на языке, — тем больше в нем предсказуемости и тем меньше, в терминах Шеннона, информации передается каждой последующей буквой. Когда подопытный уверенно угадывает следующую букву, она избыточна, и ее появление не несет новой информации. Информация — это неожиданность.
У остальных были вопросы о различных языках, иных стилях прозы, идеографическом письме и фонемах. Один психолог спросил, будет ли газетная статья статистически отличаться от работ Джеймса Джойса. Леонард Сэвидж, статистик, который работал с фон Нейманом, спросил, как Шеннон выбрал книгу для теста, случайно?
— Я просто подошел к полке и взял книгу.
— Я бы не назвал это случайностью, — сказал Сэвидж. — Существует опасность, что это могла оказаться книга об инженерных системах. — Шеннон не сказал им, что на самом деле это была детективная повесть.
Еще кто-то хотел знать, может ли Шеннон сказать, будет ли бормотание ребенка более предсказуемым, чем речь взрослого.
— Думаю, будет, — ответил тот, — если вы знаете ребенка.
На самом деле английский язык — это множество разных языков; наверное, их столько, сколько англоговорящих людей, у каждого своя статистика. Он также породил искусственные диалекты — язык символической логики с его ограниченным и точным алфавитом и язык, который один из спрашивающих назвал “самолетным”, им пользуются диспетчеры и пилоты. Не стоит забывать и о том, что язык постоянно меняется.
Хейнц фон Ферстер, молодой физик из Вены и один из первых приверженцев Витгенштейна, интересовался, как степень избыточности в языке может меняться с развитием языка, особенно при переходе от устной культуры к письменной.
Фон Ферстер, как и Маргарет Мид и другие, чувствовал себя некомфортно, исключая смысловое значение из понятия информации. “То, что они называют теорией информации, я хотел назвать теорией сигнала, — рассказывал он позднее, — потому что информации там еще не было. Были “бип-бипы” — и ничего кроме, никакой информации. В тот момент, когда набор сигналов преобразуется в другие сигналы, которые может понять наш мозг, рождается информация, но в писке ее нет”. Но Ферстер обнаружил, что и сам по-новому размышляет о сути языка, его истории в мышлении и культуре. Сначала, заметил он, никто не воспринимает буквы или фонемы как базовые единицы языка.
Я думаю о старых текстах майя, иероглифах египтян или первых шумерских табличках. В ходе развития письменности осознание того, что язык может быть разбит не только на слова, но и на слоги и буквы, требует значительного времени или какого-то толчка. У меня есть ощущение, что существует обратная связь между письменностью и речью.
Дискуссия изменила его отношение к понятию и роли информации. Он добавил примечание к конспекту восьмой конференции: “Информацию можно рассматривать как порядок, вычлененный из беспорядка”.
Как бы сильно ни старался Шеннон сфокусировать внимание слушателей на чистом определении информации, лишенной смыслового значения, эта группа ученых не желала расставаться с семантикой. Они быстро поняли основные идеи Шеннона и уже говорили на далекие от первоначального разговора темы. “Если бы мы согласились с определением информации как чего-то, что меняет вероятности или снижает неопределенность, — заметил Алекс Бейвлас, занимавшийся социальной психологией, — тогда было бы удобно рассматривать эмоциональную уравновешенность”. А что сказать о жестах и выражениях лица, похлопываниях по спине или подмигиваниях через стол?
Психологи постепенно принимали новый взгляд на процессы, которые происходят в мозге, и в результате их дисциплина оказалась на пороге радикального преобразования.
Нейрофизиолог Ральф Жерар вспомнил шутку. Новенький на вечеринке, где все друг друга хорошо знают. Один говорит: “72”, и все смеются. Другой говорит: “29”, и собравшиеся заходятся в хохоте. Новичок спрашивает, что происходит.
Его сосед говорит: “Мы знаем много анекдотов, мы рассказывали их так часто, что теперь просто произносим их номера”. Гость подумал, что он тоже попробует, и через некоторое время сказал: “63”. Практически никакой реакции. “В чем дело, разве это не анекдот?” — “О да, это один из наших лучших анекдотов, просто вы плохо его рассказали”.
На следующий год Шеннон вернулся с роботом. Это был не слишком умный робот, непохожий на человека, но он произвел впечатление на группу кибернетиков. Он находил выход из лабиринтов. Они назвали его мышью Шеннона.
Ученый выкатил на сцену тумбу с решеткой 5x5 квадратов на верхней панели. По краям и поперек любого из двадцати пяти квадратов можно поставить перегородку, чтобы получались лабиринты разной конфигурации. В любой квадрат можно воткнуть булавку в качестве цели. По лабиринту перемещался стальной стержень, движимый парой моторов, один для движения влево-вправо, другой — вперед-назад. Внутри были размещены около семидесяти пяти электрических реле, соединенных друг с другом, они включались и выключались, формируя “память” робота. Шеннон щелкнул выключателем, и машина заработала.
“Когда машина была выключена, — сказал он, — реле фактически забыли все, что знали о лабиринте, так что сейчас они начинают заново”. Его слушатели были восхищены. “Вы видите, как палец исследует лабиринт в поисках цель. Когда он достигает центра квадрата, машина принимает новое решение, какое направление пробовать следующим”. Когда стержень упирается в перегородку, моторы начинают обратное движение, и реле записывают событие. Машина принимает каждое “решение”, основываясь на предыдущем “знании” — невозможно было избежать этих психологических слов, — в соответствии с разработанной Шенноном стратегией. Стержень проходит пространство лабиринта методом проб и ошибок, поворачивая в тупики и натыкаясь на стены. Наконец “мышь” нашла цель, прозвенел колокольчик, включилась лампочка, и моторы остановились.
Затем Шеннон поместил “мышь” назад, на исходную позицию, для нового забега. В этот раз она прошла прямо к цели без неверных поворотов, не наткнувшись ни на одну перегородку. Она “научилась”. Будучи помещенной в другую, неисследованную часть лабиринта, она снова возвращалась к методу проб и ошибок, пока в конце концов “не построила полную информационную схему и не оказалась способна достичь цели без ошибок, начав из любой точки”.
Чтобы стратегия изучения и поиска цели работала, машина должна была запоминать информацию о каждом квадрате, в котором побывала, — в каком направлении она последний раз покинула квадрат. Было всего четыре возможности — север, запад, юг и восток, так что, как объяснил Шеннон, на каждый квадрат в качестве памяти было назначено по два реле. Два реле означали два бита информации — достаточно для выбора из четырех альтернатив, потому что было четыре возможных состояния: выключено-выключено, выключено-включено, включено-выключено и включено-включено.
Затем Шеннон переставил перегородки так, что старое решение больше не работало. Машина в этом случае должна “нащупывать путь”, пока не найдет новое решение. Однако иногда особенно странное сочетание нового лабиринта и старой памяти заставляло машину входить в бесконечный цикл: “Когда она прибывает в точку A, она помнит, что старое решение говорит перейти к B, поэтому она идет по кругу: A, B, C, D, A, B, C, D. Она попала в порочный круг, или в состояние паразитного самовозбуждения”. “Невроз!” — воскликнул Ральф Жерар.
Шеннон добавил “противоневрозную цепь”: счетчик, установленный для выхода из цикла, если машина повторяет одну и ту же последовательность шесть раз. Леонард Сэвидж заметил, что это в некотором роде жульничество. “У нее нет никаких способов узнать, что она “психованная”, она просто распознает, что это происходит слишком долго?”— спросил он. Шеннон подтвердил.
— Как это по-человечески, — заметил Лоуренс К. Франк.
— Это должен был увидеть Джордж Оруэлл, — сказал психиатр Генри Бросин.
Шеннон организовал память машины так, что каждая последовательная смена направлений движения вела к определенному квадрату, но особенность такой организации заключалась в том, что проделать этот путь назад было невозможно. Достигнув цели, машина не "знала”, как вернуться в исходную точку. Знание как таковое происходило из того, что Шеннон называл полем векторов, совокупностью двадцати пяти векторов направления. "Изучив память, нельзя сказать, откуда пришел стержень”, — объяснил он.
"Так же как и человек, знающий город, — заметил Маккаллох, — он может перейти из одного места в любое другое, но не всегда помнит, какой дорогой шел”. “Мышь Шеннона” была сродни серебряной танцовщице Бэббиджа и металлическим лебедям и рыбам Механического музея Мерлина: автомат, представляющий собой симуляцию жизни. Такие автоматы никогда не переставали удивлять и развлекать. Рассвет эры информации принес новое поколение искусственных мышей, жуков и черепах, создаваемых сначала с помощью вакуумных ламп, а затем транзисторов.
Они были грубыми, почти тривиальными по сравнению с тем, что появилось всего нескольких лет спустя. Общий объем памяти “мыши” составлял 75 бит. Тем не менее Шеннон мог заявлять, что она решала задачу путем проб и ошибок, помнила решение и повторяла его безошибочно, учитывала информацию, полученную в ходе дальнейшего опыта, и “забывала” решение, когда менялись обстоятельства. Машина не только имитировала живое поведение, она выполняла функции, которые прежде отводились исключительно мозгу.
Денеш Габор, венгерский инженер-электротехник, который позже получил Нобелевскую премию за изобретение голографии, жаловался: “В реальности запоминает лабиринт, а не “мышь”. Это было так, но до определенной степени. В конце концов, никакой “мыши” не было. Электрические реле могли быть размещены где угодно, и они хранили память. Они стали фактически мыслительной моделью лабиринта — теорией лабиринта.
Послевоенные Соединенные Штаты были не единственным местом, где биологи и неврологи неожиданно объединились с математиками и электротехниками, хотя американцы иногда и вели себя так, будто, кроме них, никого не существовало. Винер, который пространно рассказал о своих путешествиях во вступлении к “Кибернетике”, пренебрежительно писал, что исследователей Англии он находит “хорошо информированными”, но прогресса “в объединении предмета исследований и сведении воедино различных направлений” не заметно. Английские ученые — в основном молодые, с небольшим опытом раскрытия шифров, радиолокации и управления огнем — в ответ на появление теории информации и кибернетики в 1949 году начали объединяться. Одной из их идей было создание обеденного клуба на английский манер: “ограниченное членство и дискуссии после еды”, предложил Джон Бейтс, один из первых, кто стал заниматься электроэнцефалографией. Потребовалось серьезное обсуждение названия, правил членства, места проведения и эмблемы. Бейтс хотел видеть интересующихся электричеством биологов и ориентированных на биологию инженеров и предложил пригласить “около пятнадцати человек, которые думали над теми же идеями, что и Винер, до того как вышла его книга”.
Впервые они собрались в подвале Национальной больницы нервных заболеваний в Блумсбери и решили назваться “Ратио-клуб” — это могло означать все что угодно. (Их летописцы Филип Хасбандс и Оуэн Холланд, проинтервьюировавшие многих из оставшихся в живых членов клуба, сообщали, что половина из них произносила его как “Рэй-ши-о”, а другая половина — как “Ра-ти-о”). На первое собрание они пригласили Уоррена МакКаллоха.
Они говорили не только об изучении того, что происходит в человеческом мозге, но и о возможности его “построения”. Психиатр У. Росс Эшби объявил, что работает над идеей того, что “мозг, состоящий из случайно соединенных синапсов, придет в необходимый вид упорядоченности в результате полученного опыта”, то есть что разум есть самоорганизующаяся динамическая система. Другие хотели обсудить распознавание образов, шум в нервной системе, роботизированные шахматы и способность механизмов к самоосознанию. Маккаллох выразился так: “Подумайте о мозге как о телеграфном реле, которое, включившись по сигналу, посылает другой сигнал”. Со времен Морзе реле сильно изменились: “Если рассматривать мозг на молекулярном уровне, эти события окажутся атомами. Каждый из них либо появляется, либо нет”. Основной единицей является выбор, и он двоичный: “Это наименьшее событие, которое может быть либо истинным, либо ложным”.
Им удалось привлечь и Алана Тьюринга, опубликовавшего собственный манифест, который начинался весьма провокационной фразой “Я предлагаю рассмотреть вопрос, может ли машина думать”. Дальше следовало хитрое признание в том, что он сделает это, даже не пытаясь определить понятия “машина” и “думать”. Его идея состояла в том, чтобы заменить вопрос тестом, который он назвал “Игрой в имитацию” и которому было суждено прославиться как тест Тьюринга. В первоначальном виде “Игра” включала троих: мужчину, женщину и того, кто спрашивает. Последний сидит в комнате один и задает вопросы (идеально — с помощью “телепринтера, связывающего обе комнаты”, считал Тьюринг). Цель — определить, кто из игроков мужчина, а кто женщина. Один из них, например мужчина, пытается обмануть задающего вопросы, тогда как второй пытается помочь тому выяснить истину. “Лучшей стратегией для женщины, пожалуй, будет давать правдивые ответы, — предположил Тьюринг. — Она может добавлять такие вещи, как “я женщина, не слушай его!”, но это ничего не даст, поскольку мужчина может делать такие же замечания”.
Но что если стоит вопрос не “какого пола?”, а “какого рода?” — человек или машина?
Считается, что отличительный признак человеческого существа заключается в его “интеллектуальных способностях”, поэтому и возникла идея этой игры в безличные сообщения, передаваемые между комнатами вслепую. “Перед нами не стоит задачи наказать машину за ее неспособность блистать на конкурсах красоты, — сухо писал Тьюринг, — как и наказывать человека за проигрыш в гонке с аэропланом”. И, раз уж на то пошло, за медлительность в арифметике. Тьюринг предлагал воображаемые вопросы и ответы:
В.: Пожалуйста, напиши мне какой-нибудь сонет о Форт-Бридже.О.: Я пас. Никогда не мог(ла) писать стихов.
Но, прежде чем продолжить, он счел необходимым пояснить, какого рода машину имеет в виду. “Существующий ныне интерес к “думающим машинам”, — отмечал он, — возник с появлением определенного вида машин, обычно называемых “электронный компьютер” или “цифровой компьютер”. Эти устройства выполняют работу людей-вычислителей быстрее и надежнее. Тьюринг описал (в отличие от Шеннона) природу и свойства цифрового компьютера. Джон фон Нейман, когда конструировал следующую за ENIAC машину, тоже сделал это. Цифровой компьютер состоит из трех частей — “хранилища информации”, соответствующего памяти человека-вычислителя или бумаге; “исполнительного устройства”, которое выполняет отдельные операции; “управления”, которое работает со списком инструкций, следя за тем, чтобы те выполнялись в правильном порядке. Инструкции закодированы числами. Их иногда называют “программой”, объяснял Тьюринг, а составление таких списков можно назвать “программированием”.
Идея не нова, говорил Тьюринг и цитировал Бэббиджа, которого представлял как знаменитого когда-то, а теперь забытого ученого, лукасианского профессора математики Кембриджского университета с 1828 по 1839 годы. Тьюринг объяснял, что у Бэббиджа “были все основные идеи”, что он “планировал такую машину, названную аналитической, но она никогда не была завершена”. Она использовала бы колеса и карточки — ничего общего с электричеством. Существование (по крайней мере почти существование) машины Бэббиджа позволило Тьюрингу противостоять суеверию, которое, по его ощущениям, начало формироваться в 1950-е. Люди, казалось, чувствовали, что магия цифровых компьютеров по существу электрическая, как и нервная система. Но Тьюринг очень старался думать о вычислениях универсально, то есть абстрактно. Он знал, что электричество здесь ни при чем:
Поскольку машина Бэббиджа не была электрической, а все цифровые компьютеры в определенном смысле эквивалентны друг другу, мы видим, что использование электричества не может иметь теоретической значимости... Применения электричества, таким образом, рассматривается как несущественное совпадение.
Знаменитый компьютер Тьюринга был машиной, выполненной с помощью логики: воображаемая лента, произвольные символы. У него было время и неограниченная память, он был способен на все, что можно было выразить в шагах и операциях. Он мог даже оценивать верность доказательства в системе Principia Mathematical “В случае если формулу нельзя ни доказать, ни опровергнуть, такая машина определенно не будет вести себя удовлетворительно, потому что она продолжает работу бесконечно без какого-либо результата, но это нельзя считать реакцией, сильно отличающейся от реакции математиков”. Тьюринг предположил, что машина может участвовать в “Игре в имитацию”.
Конечно, он не мог претендовать на то, что доказал это. Главным образом он старался изменить терминологию споров, которые, как он считал, были бессмысленными. Он предложил несколько прогнозов на ближайшие пятьдесят лет: память компьютеров увеличится до 109 бит (он представлял себе несколько очень больших компьютеров и не мог предвидеть, что в будущем появится множество маленьких счетных устройств с памятью на много порядков больше), и их можно будет запрограммировать для “Игры в имитацию”, чтобы обманывать задающего вопросы человека по крайней мере в течение нескольких минут (так и случилось).
Мне кажется, что первоначальный вопрос — “могут ли машины думать?” — бессмыслен и не заслуживает обсуждения. Тем не менее я считаю, что к концу века использование слов и общее просвещенное мнение изменятся настолько, что можно будет говорить, что машины думают, без опасения столкнуться с опровержениями.
Он не дожил до того, чтобы увидеть, насколько точным оказалось его пророчество. В 1952 году его арестовали по обвинению в гомосексуализме, судили, лишили доступа к секретным данным. Британские власти вынудили его пройти курс инъекций эстрогена. В 1954 году он покончил с собой.
Многие годы практически никто не знал о важнейшей секретной работе Тьюринга над проектом “Энигма” в Блетчли-парк. Но его идеи о думающих машинах привлекали внимание по обе стороны Атлантики. Некоторые из тех, кто находил их абсурдными и даже пугающими, обращались к Шеннону с просьбой высказать мнение по этому вопросу, и тот всегда выступал на стороне Тьюринга. “Идея думающей машины, без сомнения, кажется нам противоестественной, — заявил Шеннон одному инженеру. — На самом деле, думаю, обратная идея того, что мозг человека способен быть машиной, которую можно функционально воспроизвести с помощью неживых объектов, вполне привлекательна”. Как минимум более полезна, чем “гипотетические неосязаемые и недостижимые “жизненные силы”, “души” и тому подобное”.
Ученые-информатики хотели знать, на что способны их машины. Психологи хотели знать, является ли мозг компьютером или, скорее, только компьютером. В середине века информатика была новой наукой, и такой же новой была психология.
Психология к середине века достигла точки умирания. По сравнению с другими науками ей всегда было сложнее объяснить, чем именно она занимается. Первоначально предметом ее изучения была душа в противоположность телу (соматологии) и крови (гематологии). “Психология есть доктрина, которая исследует душу человека и проявления ее; это часть, без которой человек не может существовать”, — писал в XVII веке Джеймс де Бек.
Однако почти по определению душа была невыразима — вряд ли ее можно представить вещью, материальным объектом для изучения. Еще сильнее дело осложняла (в психологии как ни в одной другой области) связь наблюдателя с наблюдаемым. В 1854 году, когда психологию можно было назвать скорее “философией ума”, Дэвид Брюстер жаловался, что ни одна другая область знаний не продвинулась вперед настолько мало, как “наука о разуме, если ее можно назвать наукой”.
Человеческий разум, рассматривающийся как материальная субстанция одним исследователем и как духовная — другим, в то время как остальные таинственным образом объединяют оба взгляда, ускользает от познания чувствами и умом и лежит словно неплодородная заброшенная земля, на которой каждый из проходящих мыслителей оставляет свои умственные сорняки.
Пределы интроспекции были очевидны. К началу XX века в поисках строгости, проверяемости и, пожалуй, математизации исследователи разума разошлись по радикально противоположным путям, и путь Зигмунда Фрейда был лишь одним из многих. В США Уильям Джеймс почти в одиночку сконструировал дисциплину психологии: он стал профессором первого университетского курса и автором первого полного учебника и сдался, когда закончил его. Он писал, что его “Принципы психологии” были “противной, раздутой, опухшей, жирной, водянистой массой, не свидетельствующей ни о чем, кроме двух фактов: первый — что такой вещи, как наука психология, не существует и второй — что Уильям Джеймс некомпетентен”.
В России новая разновидность психологии началась с физиолога Ивана Петровича Павлова, известного своим исследованием работы пищеварительной системы и получившим за нее Нобелевскую премию. Павлов отвергал и само слово “психология”, и связанную с этой наукой терминологию. Джеймс, когда бывал в хорошем настроении, рассматривал психологию как науку об умственной жизни, но для Павлова разума не существовало, только поведение. Психические состояния, мысли, эмоции, цели и задачи — все это было неосязаемым, субъективным и недоступным. Данные понятия несли на себе отпечаток религии и суеверий. Для того, что Джеймс считал главным, — “поток мысли”, “самосознание”, ощущение времени и пространства, воображение, рассуждения и воля — в лаборатории Павлова не было места. Единственное, что мог наблюдать ученый, — это поведение: его как минимум можно было записать и измерить. Бихевиористы, в частности Джон Б. Уотсон из США и затем Б. Ф. Скиннер, создали науку, которая основывалась на стимулах и реакции: поощрение едой, звонки, удары током; слюноотделение, нажатие на рычаг, бег по лабиринту. Уотсон говорил, что единственной целью психологии является предсказание того, какая реакция последует за определенным стимулом и какие стимулы провоцируют определенное поведение. Между стимулом и реакцией находился черный ящик, про который было известно, что он состоит из органов чувств, нейронных путей и моторных функций, но он оставался недоступным. Фактически бихевиористы еще раз подтверждали, что душа непознаваема. В течение полувека программа их исследований процветала, потому что давала результаты об условных рефлексах и управлении поведением.
Как позже сформулировал Джордж Миллер, бихевиористы утверждали: “Вы говорите о памяти, вы говорите о предчувствии, вы говорите о своих чувствах, вы говорите об этих менталистских понятиях. Это вздор. Покажите мне это, укажите на это”. Они могли научить голубей играть в пинг-понг, а крыс — проходить лабиринты. Но к середине столетия наступило разочарование. Чистота бихевиористов стала догмой, их отказ признавать существование психических состоянии — клеткой, а психологи все еще мечтали понять, что такое разум.
Теория информации указала им путь. Ученые анализировали обработку информации и строили машины для этой обработки. У машин была память. Они воспроизводили способность к обучению и поиску цели. Бихевиорист, пускающий крысу в лабиринт, обсуждал бы связь между стимулом и реакцией, но отказывался бы рассматривать разум крысы; теперь инженеры строили из нескольких электрических реле модели того, что происходит в крысиной голове. Они не просто вскрывали черный ящик, они конструировали собственный. Сигналы передавались, кодировались, хранились и извлекались из памяти. Создавались и совершенствовались внутренние модели внешнего мира. Психологи заметили это. От теории информации и кибернетики они получили набор полезных метафор и даже продуктивную терминологию.
“Мышь Шеннона” можно было рассматривать не только как грубую модель мозга, но также и как модель поведения. Неожиданно психологи научились говорить о планах, алгоритмах, синтаксических правилах. Они смогли исследовать не просто то, как живые существа реагируют на внешний мир, но и то, как они себе его представляют.
Теория информации, сформулированная Шенноном, казалось, приглашает исследователей посмотреть в том направлении, о котором сам он и не помышлял. Он объявил: “Основополагающей проблемой связи является проблема воспроизведения, точно или приблизительно, в одной точке сообщения, выбранного в другой точке”. Психолог вряд ли мог пропустить возможность рассмотреть ситуацию, когда отправителем сообщения был внешний мир, а получателем — человеческий разум.
Глаза и уши виделись каналами передачи сообщений, так почему бы не проверить и не измерить их как микрофоны и камеры? “Новые способы измерения информации, — писал химик из нью-йоркского Хантер-колледжа Гомер Джейкобсон, — сделали возможным количественное определение информационной емкости человеческого уха”. Он начал этим заниматься. Затем он сделал то же самое для глаза и пришел к оценке в 400 раз большей. Вдруг стало возможным обсуждать множество других, более изощренных экспериментов, и некоторые из них непосредственно следовали из работы Шеннона о шуме и избыточности. В 1951 году группа проверила вероятность того, что слово будет правильно услышано при двух различных условиях: испытуемые знали, что произнесенное слово — одно из нескольких возможных; произнесенное слово могло быть любым. Результат казался очевидным, но никогда до этого не проверялся. Экспериментаторы исследовали попытки понять два разговора одновременно. Они начали оценивать, сколько информации содержит группа предметов — знаков, или букв, или слов — и сколько может быть понято или запомнено. В стандартных экспериментах с речью и звонками, нажатием клавиши и постукиванием ногой язык стимулов и реакций начал уступать передаче и приему информации.
Некоторое время исследователи обсуждали этот терминологический переход открыто, позже он стал невидимым. В 1958 году англичанин Дональд Бродбент, экспериментальный психолог, исследовавший проблемы внимания и кратковременной памяти, написал об эксперименте: “Разница между описанием результатов в терминах стимула и реакции и в терминах теории информации становится особенно заметной... Без сомнения, можно разработать адекватное описание результатов в терминах “стимул — реакция”... но такое описание выглядит неуклюже по сравнению с описанием в терминах теории информации”. Бродбент основал отделение прикладной психологии в Кембриджском университете, и оттуда, как и из других мест, последовал поток разнообразных исследований, посвященных тому, как люди обрабатывают информацию: влияние шума на производительность, избирательное внимание и фильтрация восприятия, кратковременная и долговременная память, распознавание образов, решение задач. Но куда отнести логику? К психологии или информатике? Уж точно не только к философии.
Влиятельным коллегой Бродбента в США был Джордж Миллер, который в 1960 году помог создать Центр когнитивных исследований при Гарвардском университете. Миллер уже был известен как автор опубликованной в 1956 году статьи под несколько эксцентричным названием “Магическое число семь плюс или минус два: о некоторых пределах нашей способности обрабатывать информацию”. Семь представлялось числом предметов, которое большинство людей могли держать в рабочей памяти одновременно: семь знаков (типичный телефонный номер в Америке того времени), семь слов или семь объектов, показанных экспериментатором-психологом. По утверждению Миллера, это число постоянно возникало и в других экспериментах. Испытуемым в лаборатории давали глоток воды с разным количеством соли в ней, чтобы понять, сколько степеней солености они могут различать. Их просили заметить различие в тоне или громкости звука. Им показывали случайные узоры из точек, которые быстро появлялись на экране, и спрашивали, сколько их было (если меньше семи, испытуемые почти всегда отвечали правильно, если больше — почти всегда давали приблизительную оценку). Цифра семь продолжала появляться как граница. “Это число по-разному маскируется, — писал ученый, — иногда чуть возрастая, иногда будучи чуть меньше, чем обычно, но никогда не меняется настолько сильно, чтобы не быть узнанным”.
Ясно, что в некотором роде это было грубым упрощением; как заметил Миллер, люди могут распознать любое из тысячи лиц или слов и запомнить длинные последовательности символов. Чтобы понять, какого рода это упрощение, Миллер обратился к теории информации, конкретнее — к пониманию Шенноном информации как выбора из возможных альтернатив. “Наблюдатель считается каналом связи”, — объявил он. Ужасная формулировка, с точки зрения бихевиористов, которые тогда доминировали в профессии. Информация передается и хранится — информация о громкости, солености или количестве. Он объяснил идею о битах:
Один бит информации есть количество информации, которое требуется, чтобы сделать выбор между двумя равновероятными возможностями. Если мы должны решить, выше человек шести футов или ниже, и если мы знаем, что шансы 50 на 50, то нам нужен один бит информации...Два бита позволяют выбрать из четырех равновероятных вариантов. Три бита дают возможность выбрать из восьми равновероятных вариантов и т.д. То есть, если есть 32 равновероятных варианта, нам придется сделать пять последовательных бинарных выборов весом в один бит каждый, чтобы узнать, какая из альтернатив верна. Таким образом, общее правило простое: каждый раз, когда количество вариантов возрастает вдвое, добавляется один бит информации.
Магическая цифра семь на самом деле находится рядом с тремя битами. Простые эксперименты измерили способность к различению или емкость канала в одном измерении; более сложные измерения получаются при комбинировании переменных в нескольких измерениях — например, размер, яркость и тон. Люди делают то, что теория информации называет перекодированием, — объединяют информацию во все большие группы, например, организуя телеграфные точки и тире в буквы, буквы в слова, слова во фразы. В то время аргументы Миллера стали чем-то вроде манифеста. Перекодирование, объявил он, “кажется мне жизненной силой процесса мышления”.
Идеи и способы измерения, которые дала нам теория информации, позволили подойти к некоторым из этих вопросов с количественной стороны. Теория дает измерительную линейку для проверки стимулов и измерения поведения испытуемых... Информационные идеи уже доказали свою ценность при изучении способности к различению и в изучении языка, они многое обещают в исследовании способности к обучению и памяти, и предполагалось даже, что они способны быть полезными на стадии формирования теорий. Множество вопросов, казавшихся бессмысленными двадцать или тридцать лет назад, сейчас могут быть пересмотрены.
Это было началом движения, известного как когнитивная революция в психологии, и оно заложило основы дисциплины, названной когнитивной наукой (когнитивистикой), объединяющей психологию, информатику и философию. Некоторые философы впоследствии назвали этот момент информационным поворотом. “Те, кто совершил информационный поворот, считают информацию основой, на которой построен мозг, — писал Фредерик Адамс. — Информация должна была внести вклад в изучение сознания”. Как любил говорить сам Миллер, разум прибыл верхом на машине.
Шеннона вряд ли можно было назвать публичной личностью, он так и не стал широко известен обычным людям, но он достиг культового статуса в академических кругах и иногда выступал с популярными лекциями об “информации” в университетах и музеях. Он объяснял основные идеи, приводил стих из Матфея 5:37 “Но да будет слово ваше: да, да; нет, нет; а что сверх этого, то от лукавого” как образец для определения бита и избыточного кодирования, рассуждал о будущем компьютеров и автоматов. “Ну и в заключение, — сказал он в Университете Пенсильвании, — я думаю, что этот век будет свидетелем огромного роста и развития всего информационного бизнеса, бизнеса по сбору и передачи информации из одной точки в другую и — возможно, самое важное — бизнеса ее обработки”.
Из-за всех этих психологов, антропологов, лингвистов, экономистов и представителей социальных наук, карабкающихся на праздничную платформу теории информации, некоторые математики и инженеры почувствовали себя неуютно.
Шеннон сам назвал платформу праздничной. В 1956 году он написал короткое предупреждение: “Наши коллеги ученые во многих областях, привлеченные фанфарами и новыми направлениями, открывшимися для научного анализа, используют эти идеи в собственных целях... Хотя волна популярности определенно приятна для тех из нас, кто работает в этой области, она в то же время несет элемент опасности”. Теория информации в своей основе есть ветвь математики, напомнил он. Он верил, что ее идеи окажутся полезными и в других областях, но не всюду и не так буквально: “Создание прикладных приложений не является тривиальным переводом слов под начало новой теории, а скорее медленным трудным процессом появления гипотез и экспериментальных подтверждений”. Более того, он чувствовал, что упорная работа необходима и в “нашем собственном доме”. Он призывал проводить больше исследований и меньше демонстраций достижений.
Что касается кибернетики, то это слово стало угасать. Кибернетики Мэйси провели последнюю встречу в 1953 году в “Нассау Инн” в Принстоне; Винер поссорился с несколькими членами группы, и теперь с ним практически не разговаривали. Подвести итог поручили Маккаллоху, и голос его звучал невесело. “Мы всегда в чем-нибудь не соглашались друг с другом, — сказал он. — Даже если бы это было не так, я не вижу причин, по которым Господь согласился бы с нами”.
На всем протяжении 1950-х годов Шеннон оставался интеллектуальным лидером открытой им области знаний. Из его исследований появлялись глубокие, наполненные теоремами статьи, скрывавшие множество возможностей развития и закладывавшие основы для широких исследовательских областей. То, что Маршалл Маклюэн позже назвал “медиа”, для Шеннона было каналом, а канал в свою очередь являлся объектом строгого математического исследования. Его можно было использовать самыми разными способами, а результаты представлялись многообещающими: широковещательные каналы и каналы подключения к линии, шумные и бесшумные каналы, каналы Гаусса, каналы с ограниченным вводом и ограничением расхода, каналы с обратной связью и каналы с памятью, многопользовательские каналы и каналы с множественным доступом. (Когда Маклюэн объявил, что медиа есть сообщение, он лукавил. Понятие медиа одновременно и противоположно сообщению, и переплетено с понятием сообщения.)
Значимость одного из важных открытий Шеннона, теоремы об источнике шифрования, возросла, когда оказалось, что коррекция ошибок может эффективно бороться с шумом и искажениями. Сначала это было просто теоретическим завораживающе приятным фактом, ведь коррекция ошибок требовала вычислений, которые все еще были дороги. Но в течение 1950-х годов работа над методами коррекции ошибок настолько продвинулась, что обещания Шеннона начали реализовываться, и необходимость коррекции стала очевидной. Одним из приложений теории оказалось исследование космоса с помощью ракет и спутников, их задачей было посылать сообщения на очень большие расстояния, и они располагали ограниченной мощностью. Теория кодирования стала важнейшей частью информатики, и коррекция ошибок и сжатие данных развивались здесь бок о бок. Без них не существовали бы модемов, СО и цифрового телевидения. Для математиков, интересующихся случайными процессами, теоремы кодирования тоже являлись мерой энтропии.
Тем временем Шеннон продвинулся дальше, на этот раз в области устройства компьютеров. Одно его открытие показывало, как максимально увеличить пропускную способность сети с многими ветвями; сеть могла состоять из каналов связи, железнодорожных путей, линий электропередач или водопроводных труб. Другое было удачно названо “Надежные схемы из низкосортных реле” (хотя для публикации оно было переименовано в “Надежные схемы из ненадежных реле”). Ученый анализировал функции коммутации, теорию искажения сигнала в зависимости от скорости его передачи и дифференциальную энтропию. Все это оставалось незаметным для широкой публики, но сейсмические движения, которые возникли с рождением вычислительной техники, чувствовали все, и Шеннон был частью этого процесса.
Еще в 1948 году он закончил первую статью о проблеме, которая, по его словам, “сама по себе не важна”: как запрограммировать машину для игры в шахматы. Начиная с XVIII и XIX веков люди пытались сделать это: различные шахматные автоматы демонстрировались по всей Европе, и время от времени обнаруживалось, что в них спрятан маленький человек. В 1910 году испанский математик и жестянщик Леонардо Торрес де Кеведо построил настоящую шахматную машину, целиком механическую, названную “Шахматист”, которая могла играть простейший эндшпиль из трех фигур — короля и ладьи против короля.
Теперь же Шеннон показал, что компьютеры, выполняющие числовые вычисления, можно заставить сыграть настоящую шахматную партию. Как объяснил ученый, эти устройства, “состоящие из нескольких тысяч вакуумных ламп, реле и других элементов”, сохраняли числа в “памяти”, и продуманный процесс преобразования может заставить эти числа представлять поля и фигуры шахматной доски. Описанные им принципы с тех пор используются в каждой шахматной программе. В момент зарождения вычислительной техники многие немедленно предположили, что шахматы будут решены до конца, со всеми их комбинациями и ходами. Они думали, что быстрые электронные компьютеры будут разыгрывать совершенные шахматные партии, точно так же как они думали, что вычислительные машины будут давать надежные долгосрочные прогнозы погоды. Однако Шеннон сделал грубый расчет и предположил, что количество возможных шахматных партий будет больше 10120 — число, по сравнению с которым возраст вселенной сопоставим с наносекундами. Так что компьютеры не могли играть в шахматы, используя прямой перебор. Они, по замыслу Шеннона, должны были рассуждать почти так же, как человек.
Шеннон посетил американского чемпиона по шахматам Эдуарда Ласкера в его нью-йоркской квартире на 23-й улице, и Ласкер предложил варианты усовершенствования программы. Когда в 1950 году упрощенная версия статьи была опубликована в Scientific American, Шеннон не мог удержаться, чтобы не задать вопрос, который был у всех на устах: “Думает” ли подобная шахматная машина?”
С точки зрения бихевиористов, машина действует так, будто она думает. Всегда считалось, что для искусной игры в шахматы требуется способность к рассуждению. Если мы будем рассматривать мышление как свойство, проявляющееся во внешних действиях, а не как внутренний метод, то машина, без сомнения, мыслит.
Тем не менее в 1952 году он оценил: для того чтобы научить большой компьютер играть хотя бы на уровне среднего любителя, потребуется работа трех программистов на протяжении полугода. “Проблема обучения игре в шахматы лежит в будущем даже дальше, чем машина заранее запрограммированного типа. Предлагавшиеся методы очевидно чересчур медленны. Машина просто износится, прежде чем выиграет первую партию”. И все же настоящей целью Шеннона было исследование возможных направлений применения компьютера общего назначения.
Он не отказывал себе в воплощении собственных фантазий. Он разработал и действительно построил машину, совершавшую арифметические операции с римскими цифрами: например, IV умножить на XII равно XLVIII. Он назвал ее THROBAC I — “Экономная ретроспективная машина для вычисления римских цифр” (Thrifty Roman-numeral Backward-looking Computer). Он создал “машину, читающую мысли”, которая могла играть в детскую игу “чет и нечет”. Все эти причуды объединяло одно свойство — попытка перенесения алгоритмических процессов в новые области, абстрактное сопоставление идей и математических объектов. Позже он напишет тысячи слов о научных аспектах жонглирования с теоремами и выводами и процитирует по памяти Э. Э. Каммингса: “Какой-нибудь сукин сын придумает машину, чтобы измерить весну”.
В 1950-е годы Шеннон также пытался разработать машину, которая бы ремонтировала сама себя. Если какое-нибудь реле ломалось, машина должна была найти его и заменить. Он размышлял о возможности существования машины, которая может воспроизводить саму себя, находя необходимые детали и соединяя их.
Лаборатории Белла были рады тому, что он путешествовал и выступал с подобными лекциями, часто демонстрируя свою проходящую лабиринты машину, но публика не всегда была довольна. Можно было услышать, например, слово “Франкенштейн”. “Мне интересно, понимаете ли вы, ребята, с чем играете”, — написал колумнист газеты из Вайоминга.
Что случится, если вы включите один из этих механических компьютеров, но забудете его выключить, прежде чем уйдете на обед? Ну так я вам скажу. С компьютерами в Америке произойдет то же самое, что случилось в Австралии с американскими зайцами. Прежде чем вы сможете умножить 701,945,240 на 879,030,546, каждая семья в стране будет иметь маленький собственный компьютер...Г-н Шеннон, я не хочу умалять значение ваших экспериментов, но, честно говоря, я лично не заинтересован в появлении даже одного компьютера и буду сильно огорчен, если банда из них нападет на меня для того, чтобы умножить, или поделить, или что там они лучше всего делают”.
Через два года после того, как Шеннон написал свое предупреждение о праздничной платформе, более молодой специалист в теории информации Питер Элиас опубликовал заметку, в которой жаловался на статью под заголовком “Теория информации, фотосинтез и религия”. Такой статьи, конечно же, не существовало. Но были статьи по теории информации, жизни и топологии, теории информации и физике повреждения тканей, о клерикальных системах, психофармакологии, интерпретации геофизических данных, кристаллических структурах, мелодии. Элиас, чей отец работал у Эдисона инженером, сам был специалистом, внесшим серьезный вклад в теорию шифрования. Он не доверял более мягким, более легким и банальным работам, пересекавшим междисциплинарные границы. В типичной статье, писал он, “обсуждается удивительно тесная связь между словарем и системой понятий теории информации и психологии (или генетики, или лингвистики, или психиатрии, или организации бизнеса)... идея структурирования, схемы, энтропия, шум, передатчик, приемник и код есть (когда правильно интерпретированы) центральные понятия и того и другого”. Он объявил это воровством: “Впервые поместив дисциплину психологии на прочный научный фундамент, автор скромно оставляет заполнение контуров психологам”. Он предложил коллегам прекратить воровать и заняться честным трудом.
Предупреждения Шеннона и Элиаса появились в одном из новых журналов, полностью посвященных теории информации.
В этих кругах пресловутым модным словом была “энтропия”. Другой исследователь, Колин Черри, жаловался: “Мы слышали об “энтропиях” языков, социальных и экономических систем, о ее использовании в различных исследованиях, которым не хватало методологии. Это что-то вроде всеобъемлющего обобщения, за которое люди хватаются как за соломинку”. Он не сказал, поскольку это еще не было очевидным, что теория информации начинала изменять путь теоретической физики и биологии и что одной из причин этого как раз была энтропия.
В общественных науках непосредственное влияние теории информации уже прошло свой пик. Специализированная математика все меньше помогала психологии и все сильнее — информатике. Но ее вклад был реален. Она оживила общественные науки и подспудно подготовила их к новой эре. Работа началась, информационный поворот был пройден, и вернуться назад было уже невозможно.
Назад: Глава 7. ТЕОРИЯ ИНФОРМАЦИИ. (Все, что мне нужно, — обыкновенный мозг)
Дальше: Глава 9. ЭНТРОПИЯ И ЕЕ ДЕМОНЫ. То, что уже смешано, разделить нельзя
