Глава 15
«Информация» по Винеру, по Шеннону и… И по нашим нынешним представлениям

Дэвид Кайзер – «атипичный» физик, интересующийся и пишущий о пересечениях его «родной» дисциплины с политикой и культурой.

На первой нашей встрече (в Вашингтоне, штат Коннектикут), предшествовавшей появлению настоящего сборника, он подробно рассказал, как менялось восприятие термина «информация» со времен Винера, то есть с военно-промышленной эпохи и периода холодной войны. Винер уподоблял информацию энтропии – в том отношении, что ее невозможно сохранить (и монополизировать); по его мнению, благодаря этому обстоятельству наши атомные секреты и прочие тайны недолго будут оставаться таковыми. Сегодня, хотя, как и предполагал Винер, информация, правдивая и ложная, быстро распространяется по всему другому Вашингтону, в экономическом пространстве она действительно накапливается, коммодифицируется и монетизируется.

Эта ситуация, как говорит Дэвид, «не совсем хороша и не совсем плоха; насколько я могу судить, все определяется тем, сильно ли вас раздражает онлайн-реклама носков или европейских речных круизов, вылезающая в браузере через несколько минут после того, как вы ввели соответствующий поисковый запрос».

Если оставить в стороне распространение информации, Дэвид жаловался тем из нас, кто присутствовал на первой встрече, что во времена Винера физикам не составляло особого труда изучить содержание журнала «Физикал ревью». Экземпляры всех номеров укладывались на стол аккуратной стопкой. А сегодня «на нас обрушивается водопад в пятьдесят тысяч открытых научных журналов за минуту», и кто разберет, о чем они пишут? Винер, по утверждению Дэвида, ничего подобного не предвидел, и поневоле возникает вопрос, не пора ли озаботиться новым набором руководящих метафор.

В «Грезящих наяву», обширной истории научной мысли от древних времен до эпохи Возрождения, Артур Кестлер показал, какое напряжение вызывало наиболее драматические рывки нашего космологического воображения. По его утверждению, сегодня, когда мы перечитываем великие произведения Николая Коперника и Иоганна Кеплера, нас поражает не только их удивительное невежество (погруженность в магию и мистицизм раннего периода), но и не менее удивительная современность взглядов.

Я обнаруживаю ту же двойственность – зигзагообразные складки оригами старого и нового – в классической книге Норберта Винера «Человеческое применение человеческих существ». Впервые опубликованная в 1950 году и переработанная в 1954 году, эта работа во многом оказалась пророческой. Винер, полимат из МТИ, раньше многих других наблюдателей осознал, что «понимание общества возможно исключительно посредством изучения сообщений и используемых для их передачи средств связи». Винер утверждал, что контуры обратной связи, главное звено его кибернетической теории, будут играть определяющую роль в социальной динамике. Эти контуры не только объединят людей, но и помогут связать людей с машинами, а также, что особенно важно, свяжут машины с машинами.

Винер предвидел мир, в котором информацию станет возможным отделить от окружающей среды. Люди или машины смогут обмениваться сообщениями через огромные расстояния и использовать их для создания новых предметов в конечных точках, без «перемещения… крупицы материи с одного конца линии на другой». Это предвидение сегодня реализуется в форме сетевых 3D-принтеров. Еще Винер воображал циклы обратной связи в машинах, ведущие к прорывам в области автоматизации, даже для задач, которые прежде подразумевали исключительно человеческую деятельность. «Машина, – писал он, – не отдает предпочтения ни физическому труду, ни труду «белых воротничков».

При этом многие основные положения «Человеческого применения человеческих существ» кажутся ближе к XIX, чем к XXI столетию. В частности, пусть Винер и ссылался при любой возможности на новые для того времени исследования Клода Шеннона по теории информации, сам он, похоже, не до конца разделял шенноновское представление об информации как совокупности минимальных и лишенных значения битов. Впоследствии теория Шеннона успела стать основой для достижений в области обработки больших данных и глубинного обучения, что дополнительно побуждает к ревизии и пересмотру кибернетических воззрений Винера. Чем будет отличаться завтрашний искусственный интеллект, если практики ИИ переосмыслят винеровское представление об «информации»?

Когда Винер писал свою книгу, он опирался на относительно свежий опыт военных исследований и моральной неопределенности (как ему казалось) интеллектуальной деятельности в рамках военно-промышленного комплекса. Всего несколькими годами ранее он заявил со страниц журнала «Атлантик мансли», что не намерен «публиковать никаких будущих работ, способных нанести урон обществу стараниями безответственных милитаристов». Он пребывал в сомнениях по поводу преобразующей силы новых технологий, не потворствовал ни развернувшейся шумихе, ни цифровому утопизму других ученых мужей.

«Прогресс не только сулит новые возможности, но и налагает новые ограничения», – предупреждал Винер. Его беспокоили, наряду с технологическими, антропогенные ограничения, в особенности кризис холодной войны, угрожавший свободе распространения информации, столь критичной для развития кибернетических систем: «Под влиянием сенатора Маккарти и его подражателей, чрезмерно широкого, почти всеохватного определения военной информации и недавних нападок на Государственный департамент мы приближаемся к засекречиванию разума, историческое подобие которого можно отыскать разве что в истории Венеции эпохи Возрождения». Вторя многим заслуженным ветеранам Манхэттенского проекта, Винер утверждал, что послевоенная одержимость секретностью – прежде всего, вокруг ядерного оружия – возникла из-за неправильного понимания научных процессов. По его словам, единственный настоящий секрет производства ядерного оружия заключается в том, возможно ли вообще создание бомб. Едва это удалось выяснить и едва состоялись бомбардировки Хиросимы и Нагасаки, никакая государственная тайна уже не помешает ученым других стран приступить к исследованиям наподобие тех, которые проводили специалисты Манхэттенского проекта. По образному выражению Винера, «для разума нет линии Мажино».

Чтобы доказать это, Винер опирался на недавние идеи Клода Шеннона по теории информации. В 1948 году Шеннон, математик и инженер, работавший в компании «БеллЛабс», опубликовал пару довольно длинных статей в «Техническом журнале» компании. Представляя новую работу широкому кругу читателей в 1949 году, математик Уоррен Уивер объяснял, что в концепции Шеннона «слово “информация”… употребляется в особом смысле, который не следует путать с обычным употреблением. В особенности не следует отождествлять информацию и смысл». По Уиверу, «семантические» аспекты коммуникации важны для лингвистов и поэтов, но не для инженеров наподобие Шеннона. Скорее, «само слово «информация» в теории коммуникации относится не столько к тому, что действительно было сказано, сколько к тому, что могло бы быть сказано». Согласно знаменитой ныне формулировке Шеннона, информационное содержание строки символов определяется логарифмом числа возможных символов, из которых состоит данная строка. Ключевой особенностью подхода Шеннона было понимание энтропийности информации: подобно энтропии газа, это мера неупорядоченности в системе.

Винер заимствовал эту концепцию, когда писал свою книгу. Если информация подобна энтропии, ее нельзя сохранить или «законсервировать». Физика XIX столетия продемонстрировала, что совокупная энергия физической системы должна оставаться неизменной, обеспечивая идеальный баланс между началом и концом процесса. С энтропией дело обстоит иначе, она неумолимо возрастает со временем, и этот императив стал известен как второй закон термодинамики. Ввиду столь резкого различия – энергия накапливается и сохраняется, а энтропия возрастает – подразумевались последствия поистине космического масштаба. Время должно двигаться вперед, будущее не может быть тем же самым, что и прошлое. Вселенная может даже стремиться к «тепловой смерти» в некоем отдаленном грядущем, когда общий запас энергии равномерно рассеется и будет достигнуто состояние максимальной энтропии, с достижением которого дальнейшие изменения невозможны.

Если информация qua энтропия не подлежит сохранению, то, по мнению Винера, со стороны военных лидеров глупо «накапливать военные и научные технологии страны в статичных библиотеках и лабораториях». Действительно, «никакой объем научных исследований, тщательно занесенный в книги и журналы, а затем переданный в библиотеки со штампом «секретно», не сможет защитить нас сколько-нибудь продолжительное время в мире, где актуальный уровень информации постоянно повышается». Винер утверждал, что любые попытки навязать секретность, утаить или придержать информацию обречены на провал, как провалились в свое время попытки изобрести вечный двигатель, опровергнутые вторым законом термодинамики.

Винер критиковал американскую «ортодоксальную» приверженность свободе рынка и рыночный фундаментализм. Для «американцев, применительно к жизненным условиям… вопросы информации будут оцениваться по стандартному американскому критерию: нечто обладает товарной ценностью, если на это нечто имеется спрос на свободном рынке». В самом деле, «судьба информации в типичном американском мире такова: она обречена стать тем, что можно продать или купить»; большинство людей, по мнению Винера, «не в состоянии вообразить фрагмент информации, у которого нет владельца». Винер считал эту точку зрения столь же ошибочной, как и необузданное стремление военных к засекречиванию всего на свете. Он ссылался, опять-таки, на идеи Шеннона: «поскольку информация и энтропия не сохраняются», они «в равной мере непригодны для того, чтобы быть товарами».

Информация не может сохраняться; ладно, с этим разобрались. Но действительно ли Винер рассуждал об «информации» в понимании Шеннона? Суть теории Шеннона, в изложении Уивера, сводилась к тому, чтобы различать общеупотребительное представление об информации как осмысленном сообщении и абстрактное, вычлененное представление о строках символов, выделенных и выстроенных с некоторой вероятностью из огромной вселенной бессмысленности. Для Шеннона «информация» могла определяться количественно, поскольку ее базовая единица, бит, была единицей переноса, передачи, а не понимания.

С другой стороны, когда Винер характеризовал понятие «информация» в своей книге, он регулярно отталкивался от классического, гуманистического значения этого термина. «…фрагмент информации для попадания в общий свод информации данного общества должен сообщать нечто, принципиально отличное от предыдущего общего запаса информации общества». Вот почему «школьники не любят Шекспира»: бессмертные строки Барда могут резко отличаться от случайных битовых потоков, но тем не менее они слишком уж знакомы публике, наделяющей слова смыслом, и находятся на «уровне накопления поверхностных клише текущей эпохи».

Впрочем, когда-то информационное содержание творчества Шекспира было в новинку. В годы послевоенного бума Винера беспокоило, что «огромный объем информации на душу населения» – от газет и кинофильмов до радио, телевидения и книг – порождает посредственность, информационный возврат к средним значениям. «Все чаще и чаще нам приходится употреблять стандартизированные, безвредные и бессодержательные продукты, которые, подобно белому хлебу из пекарен, изготавливаются, скорее, из-за их товарных свойств, а не из-за пищевой ценности». Винер взывал: «Спаси нас Небеса от первых романов, написанных только потому, что молодой человек помышляет о славе романиста, а не потому, что ему есть что сказать! И спаси нас небеса от математических исследований, правильных и элегантных, но лишенных, так сказать, души и тела». Во многом в трактовке термина «информация» Винер был ближе к Мэттью Арнольду (1869), чем к Клоду Шеннону (1948): его больше заботили «душа и тело», чем «бит». Винер также разделял романтическое представление Арнольда о «создателе содержания». «Строго говоря, художник, писатель и ученый – все должны следовать побуждению творить, непреодолимому настолько, что, даже если бы им не платили за работу, они сами изъявляли готовность платить за возможность заниматься творчеством». L’art pour l’art; это лозунг XIX столетия: творцы должны страдать, стремление к осмысленному выражению всегда превосходит стремление к прибыли.

Для Винера именно такова правильная мера «информации»: тело, душа, стремление, выражение. Впрочем, протестуя против коммодификации информации, он вновь вернулся к математике Шеннона и пониманию информации как энтропии.

Перенесемся в наши дни. Во многих отношениях Винер оказался прав. Нарисованная им картина сетевых контуров обратной связи в коммуникациях между машинами стала обыденностью современной повседневной жизни. Более того, с первых дней эпохи интернета цифровое пиратство категорически опровергло убеждение в том, что «информацию» – будь то песни, фильмы, книги или программы – возможно придерживать. Ну да, введите платный доступ – и контент все равно найдет лазейку на свободу, ведь информационная энтропия так велика, что ее невозможно контролировать.

С другой стороны, огромные транснациональные корпорации – в том числе крупнейшие в мире и наиболее прибыльные – ныне исправно опровергают утверждение Винера о том, что «информацию» нельзя накапливать или монетизировать. По иронии судьбы, «информация», которой они обмениваются, ближе к определению Шеннона, чем к винеровскому, вопреки математичности доказательств Шеннона.

Сервис Google Books обеспечивает бесплатное распространение сотен тысяч литературных произведений, но сама компания «Гугл», наряду с «Фейсбук», «Амазон», «Твиттер» и их многочисленными подражателями, усвоила базовую форму «информации» и использует ее для максимизации своих доходов. Петабайты шенноновской информации – казалось бы, бессмысленный поток кликов, лайков и ретвитов, фиксируемый практически для каждого, кто когда-либо выходил в сеть, – просеиваются через запатентованные алгоритмы глубинного обучения для микротаргетинга всего на свете – от показа рекламных объявлений до новостей (правдивых или вымышленных), которые мы встречаем при просмотре веб-страниц.

Еще в начале 1950-х годов Винер предлагал исследователям изучать структуры и правила поведения муравьев – в отличие от людей, – чтобы в один прекрасный день машины могли обрести «почти безграничные возможности интеллектуального развития», доступные для людей (но не для насекомых). Он находил утешение в мысли о том, что машины станут господствовать над нами только на «последних ступенях возрастания энтропии», когда «статистические различия между индивидуумами» станут «равны нулю». Сегодняшние алгоритмы дата-майнинга ставят винеровскую методику с ног на голову. Они приносят прибыль, эксплуатируя наши «древние» мозги, а вовсе не имитируя кору головного мозга, собирают информацию по всем нашим кликам, постам и блогам, по ночным поискам сетевых удовольствий, и стараются учитывать именно крошечные, остаточные «статистические различия между индивидуумами».

Безусловно, некоторые недавние достижения в области искусственного интеллекта оказались поразительными. Компьютеры научились творить визуальные произведения искусства и музыкальные композиции, сопоставимые с произведениями признанных мастеров, то есть создают ту «информацию», которую больше всего ценил Винер. Но на сегодняшний день наибольшее влияние на общество оказывают сбор и обработка информации в понимании Шеннона: она определяет наши покупательские привычки, участие в политической жизни, личные отношения, конфиденциальность в сети и многое другое.

Во что может эволюционировать глубинное обучение, если «информация» впредь будет толковаться так, как предполагал Винер? Куда мы придем, если исследования в области ИИ будут вдохновляться моральными убеждениями Винера, его обеспокоенностью по поводу безудержного милитаризма, стремительного усиления власти корпораций, одержимых извлечением прибыли, самоограничивающей секретности и сведения богатства способов человеческого самовыражения до обмена взаимозаменяемыми товарами? Возможно, глубинное обучение позволит культивировать осмысленную информацию и избавит нас от безудержной и безжалостной погони за бессмысленными битами.