У меня масса данных. — Могут ли Зуглы (иногда) быть Буглами? — Подтверждение-шмодтверждение. — Попперова идея

При том что вера в доказательство вошла в наши привычки и в наше сознание, оно может быть опасно ошибочным.

Представьте, что я вам скажу: у меня есть точные данные, что футболист О.Дж. Симпсон (которого в 90-е годы обвинили в убийстве жены) — не преступник. Я пару дней назад с ним завтракал, и он никого не убил. Серьезно, я не видел, чтобы он хоть кого-то укокошил. Разве это не подтверждает его невиновность? Если бы я такое сморозил, вы бы наверняка вызвали психиатров, санитаров, возможно, даже полицию, решив, что моя логика, сбившаяся от постоянных трейдинговых нагрузок и усиленных раздумий о Черном лебеде, представляет опасность для общества и меня желательно упрятать куда подальше, и поскорее.

Вы бы отреагировали так же, скажи я вам, что я поспал тут недавно на железнодорожных путях в Нью-Рошеле, в штате Нью-Йорк, и остался жив. Смотрите, сказал бы я, я целехонек, и это свидетельствует о том, что лежать на железнодорожных путях безопасно. Но подумайте вот еще о чем. Взгляните еще раз на рисунок 1 в главе 4; человек, наблюдавший за индюшкой в течение первых тысячи дней (но не видевший трагедию тысяча первого), сказал бы вам — справедливо, — что у него нет свидетельств возможности радикальных перемен, то есть Черных лебедей. Однако вы легко спутаете это утверждение — особенно если вы не слишком внимательны — о утверждением, что есть свидетельства невозможности Черных лебедей. Логическая дистанция между двумя этими утверждениями огромна, но в вашем сознании она сократится, причем настолько, что вы преспокойно подмените одно другим. Через десять дней, если вам вообще удастся вспомнить первое утверждение, вы, скорее всего, предпочтете вторую, искаженную, версию: что есть доказательство отсутствия Черных лебедей. Я называю эту путаницу огрехом-перевертышем, ибо вышеприведенные утверждения не взаимозаменимы.

Такое смешивание двух утверждений — это тривиальная, крайне тривиальная (хотя очень существенная) логическая ошибка; но мы не застрахованы от тривиальных логических ошибок, а профессора и мыслители и подавно (сложные умопостроения редко счастливо сочетаются с ясностью рассудка) . Если мы не напряжем мозги, то, скорее всего, бессознательно упростим проблему, потому что наш разум делает но сплошь и рядом в автоматическом режиме, без нашего участия.

В этом следует тщательно разобраться.

Многие путают утверждение "почти все террористы — мусульмане" с утверждением "почти все мусульмане — террористы". Предположим, первое — правда, и 99 процентов террористов — мусульмане. Это означает, что только 0,001 процента мусульман — террористы, поскольку мусульман в мире больше миллиарда, а террористов, допустим, десять тысяч, один на сто тысяч человек. Эта логическая ошибка заставляет вас (без вашего ведома) преувеличивать вероятность того, что случайно взятый мусульманин (скажем, в возрасте от пятнадцати до пятидесяти лет) окажется террористом, примерно в пятьдесят тысяч раз!

По огрехам-перевертышам читатель может легко судить о несправедливости стереотипов. Меньшинства в городах Соединенных Штатов стали жертвой той же путаницы: даже если большинство преступников принадлежит к их этнической подгруппе, большая часть представителей их этнической подгруппы — не преступники; однако они все равно подвергаются дискриминации со стороны людей, которые должны были бы соображать получше.

"Я и не думал говорить, что консерваторы, как правило, глупы. Я имел в виду, что глупые люди, как правило, консервативны", — пожаловался однажды Джон Стюарт Милль. Это извечная проблема: если вы скажете людям, что ключом к успеху не всегда является компетентность, они решат, что вы говорите им: компетентность ничего не решает, все дело в везении.

Наш умозаключающий механизм, которым мы пользуемся в повседневной жизни, не приспособлен к сложной среде, где высказывание радикально меняется при малозаметном изменении формулировки. Ведь, если подумать, в первобытной среде нет сколько-нибудь важной разницы между высказываниями "большинство убийц — дикие звери" и и большинство диких зверей —убийцы". Неточность тут есть, но она не слишком важна. Наша статистическая интуиция эволюционировала не в том окружении, в котором подобные тонкости могут иметь большое значение.

Не обязательно, поскольку не все буглы — зуглы; подростки, которые допускают ошибку при ответе на такой вопрос во время выпускных экзаменов, рискуют не попасть в колледж. Но человек может получать самые высокие оценки на экзаменах и все же невольно покрываться мурашками, когда обитатель неблагополучного квартала заходит с ним в лифт. Эта неспособность автоматически перенести знание и понимание с одной ситуации на другую — или с теории на практику — является весьма тревожным свойством человеческой натуры.

Давайте назовем это ареал-специфичностью человеческих реакций. Под ареал-специфичностью я подразумеваю тот факт, что наши реакции, наш образ мыслей, наша интуиция зависят от контекста, в котором проблема нам предстает, от того, что эволюционные психологи называют ареалом объекта или события. Школьная аудитория — один ареал; повседневная жизнь — другой. Наша реакция на информационный сигнал определяется не его логической насыщенностью, а тем, в какую структуру он встроен и как он взаимодействует с нашей социально-эмоциональной системой. Логические проблемы, которые в аудитории решаются одним образом, в повседневной жизни могут рассматриваться совершенно иначе. Собственно, они и рассматриваются иначе в повседневной жизни.

Знание, даже точное знание, не часто приводит к правильным действиям, потому что, стоит нам расслабиться, и мы тут же забываем то, что знаем, или перестаем соображать, как этим пользоваться, даже если мы — эксперты. Было установлено, что статистики имеют обыкновение оставлять свои мозги в аудитории и допускать за ее порогом самые тривиальные логические ошибки. В 1971 году психологи Дэнни Канеман и Амос Тверски решили помучить профессоров статистики вопросами, сформулированными не как статистические вопросы. Один был приблизительно таков (для большей ясности я поменял пример): представьте, что вы живете в городе, где есть две больницы — одна большая, другая маленькая. В определенный день в одной из этих двух больниц рождается 60 процентов мальчиков. В какой больнице это скорее могло бы произойти? Многие профессора делали ошибку (во время обычной беседы), называя большую больницу, в то время как суть статистики заключается в том, что большие выборки более стабильны и имеют меньше отклонений от долгосрочного среднего показателя (в нашем случае 50 процентов каждого пола), чем маленькие выборки. Эти профессора провалили бы экзамены, которые сами же принимают. Еще работая квант-инженером, я выявил сотни таких серьезных ошибок, сделанных статистиками, забывшими о том, что они статистики.

Если вам нужен еще один пример нашей смехотворной ареал-специфичности, сходите как-нибудь в элитный "Рибок Спорт-клуб" в Нью-Йорке и посмотрите, сколько народу, проехав пару этажей на эскалаторе, сразу же устремляется к степ-тренажерам.

Эта ареал-специфичность наших выводов и реакций двунаправлена: постижению некоторых проблем нас лучше учит жизнь, чем учебники, а другие нам легче понять в теории, чем на практике. Порой человек запросто решает проблему в жизненной ситуации, но встает в тупик, когда она предлагается ему в виде абстрактной логической задачи. В разных обстоятельствах мы используем разные ментальные механизмы — так называемые модули; в нашем мозгу нет центрального компьютера общего назначения, который работал бы с логическими правилами, применяя их одинаково ко всем возможным ситуациям.

И, как я уже сказал, мы позволяем себе допускать логические ошибки в реальности, но не в аудитории. Для иллюстрации этой асимметрии лучше всего подходит диагностика рака. Представьте себе врачей, которые обследуют пациента на наличие признаков рака, — такие анализы обычно проводят с пациентами, которые хотят знать, вылечились они или болезнь рецидивировала. ("Рецидив" — это неправильный термин: речь просто о том, что лечение убило не все раковые клетки и необнаруженные злокачественные клетки стали бесконтрольно размножаться.) С помощью современных технологий невозможно исследовать каждую из клеток пациента, поэтому врач делает некоторую выборку, сканируя тело с максимально возможной тщательностью. Затем он высказывает предположение на основании того, чего не увидел. Как-то раз я изумился, когда доктор заявил мне после плановой проверки: "Не беспокойтесь, мы установили, что вы здоровы". — "Как?" — спросил я. "Результаты обследования указывают на отсутствие рака", — был ответ. — "Каким образом?" — поинтересовался я. "Больные клетки не выявлены", — ответил он. И этот тип еще называет себя врачом!

В медицинской литературе употребляется сокращение НПЗ, что означает "нет признаков заболевания". При этом не существует ПОЗ, "признаки отсутствия заболевания". Но мой опыт обсуждения этой проблемы со множеством докторов, даже тех, которые публикуют статьи о своих исследованиях, показывает, что многие из них в пылу разговора допускают огрехи-перевертыши.

В 1960-е годы, в пору наивысшего зазнайства науки, врачи, уверенные в своей способности воссоздать в лаборатории материнское молоко, ни в грош его не ставили, не осознавая, что материнское молоко может содержать полезные компоненты, которые укрылись от их просвещенного внимания; отсутствие свидетельств о пользе материнского молока принималось за свидетельство отсутствия пользы оного (еще один пример платонизма: "нет смысла" кормить грудью, раз можно кормить из бутылочки). Многие пострадали от этой наивной логики: те, кого в младенчестве не кормили грудью, оказались больше подвержены ряду болезней, в том числе определенным видам рака — видимо, в материнском молоке есть какие-то необходимые защитные питательные вещества, о которых мы пока ничего определенного не знаем. Больше того, благотворное влияние, которое кормление грудью оказывает на матерей, — например снижение риска рака груди,—тоже не учитывалось.

Та же история с миндалинами: удаление миндалин повышает риск поражения горла раком, но на протяжении десятилетий врачи и не подозревали, что эта "бесполезная" ткань может быть для чего-нибудь, им неведомого, нужна. То же самое с пищевой клетчаткой во фруктах и овощах: врачи в 1960-е годы считали ее бесполезной, потому что не имели доказательств ее необходимости, и в результате мы получили неправильно вскормленное поколение.

Клетчатка, как выясняется, замедляет всасывание сахара в кровь и вычищает из желудочно-кишечного тракта предраковые клетки. Вообще медицина за всю свою историю причинила немало вреда, и виной тому — эти простые огрехи-перевертыши.

Я не говорю, что у врачей не должно быть системы взглядов, я лишь призываю к открытости и гибкости — к чему стремились Менодот и его школа, насаждая скептико-эмпи-рическую медицину, избегающую теоретизирования. Медицина сейчас изменилась к лучшему, но многие отрасли знания — нет.

Данный нам природой ментальный механизм, который я называю наивным эмпиризмом, побуждает нас искать свидетельства, подтверждающие наши представления о прошлом и об окружающем нас мире, — их всегда несложно найти. К сожалению, дурацкое дело нехитрое, особенно при наличии подходящих инструментов. Вы подбираете факты, согласующиеся с вашими теориями, и называете их доказательствами. Например, дипломат продемонстрирует вам свои "достижения", а не то, в чем он не преуспел. Математики попытаются убедить вас, что их наука нужна обществу, ссылаясь на те случаи, когда она оказалась полезной, а не на те, когда было попусту затрачено время, и тем более не на те бесчисленные математические экзерсисы, за которые общество дорого заплатило, поскольку элегантные математические построения крайне неэмпиричны.

Даже при проверке гипотезы мы склонны искать факты, ее подтверждающие. Конечно, подтверждение найти несложно-— достаточно внимательно приглядеться или поручить это практиканту. Я могу найти подтверждение почти чему угодно, так же как опытный лондонский таксист сможет даже в праздничный день найти пробку, чтобы накрутить цену.

Кое-кто идет дальше, приводя мне примеры событий, которые мы смогли с некоторой долей успеха предвидеть, — такие и в самом деле есть, например высадка человека на Луне или бурный рост экономики в XXI веке. Можно найти множество "контрдоказательств" идеям этой книги. Лучшим из них будет то, что газеты прекрасно предсказывают театральные спектакли и кинопоказы. Смотрите, я вчера предсказал, что сегодня взойдет солнце, и оно взошло!

Обнадеживает то, что этот наивный эмпиризм можно обойти. Я сказал, что ряд подтверждающих фактов не обязательно является доказательством. Тысячи белых лебедей не доказывают отсутствия в мире черных. Однако есть исключение: я хорошо знаю о том, что неправильно, но плохо — о том, что правильно. Если я вижу черного лебедя, я могу с уверенностью сказать, что не все лебеди белые\ Если я видел, как человек совершает убийство, я могу почти не сомневаться, что он преступник. Но, если я не видел, как человек совершает убийство, я не могу быть уверен в его невиновности. То же относится к диагностике рака: выявление одной-единствен-ной злокачественной опухоли доказывает, что у вас рак, но невыявление ее не позволяет вам со стопроцентной уверенностью сказать, что рака у вас нет.

Нас приближают к истине отрицательные, а не подтверждающие примеры! Неверно выводить общее правило из наблюдаемых фактов. Вопреки традиционным представлениям накопление подтверждающих наблюдений, подобных наблюдениям индюшки, не увеличивает запаса наших знаний. Просто есть вещи, к которым я могу по-прежнему относиться скептически, и вещи, которые я могу спокойно считать бесспорными. Иными словами, результаты наблюдений односторонни. Вот и вся премудрость.

Эта асимметрия чрезвычайно полезна. Она позволяет нам быть не абсолютными скептиками, а всего лишь полускептиками. Некоторое преимущество реальной жизни над книгами заключается в том, что при принятии решений вы можете интересоваться только одной стороной дела: если вам необходима уверенность в наличии у пациента заболевания, а не уверенность в его здоровье, отрицательных результатов вам будет достаточно. Итак, данные сообщают нам много, но не так много, как мы ожидаем. Иногда в массе данных нет никакого смысла, а иногда единственный факт бесценен. Иной раз тысяча дней не докажет вашу правоту, но один день с легкостью может доказать вашу неправоту.

Активнее всех развивал эту идею одностороннего полускептицизма сэр доктор профессор Карл Раймунд Поппер — единственный специалист по философии науки, которого действительно читают и обсуждают люди, играющие активную роль в реальной жизни (чего нельзя сказать о профессиональных философах). Сейчас, когда я пишу эти строки, его черно-белое фото смотрит на меня со стены моего кабинета. Это подарок, который я получил в Мюнхене от эссеиста Иохена Вегнера, который, как и я, считает Поппера единственным "нашенским" среди современных мыслителей — ну почти. Он пишет для нас, а не для своих собратьев философов. Мы — это практикующие эмпирики, признающие неопределенность своей стихией и полагающие, что осознание того, как действовать в условиях неполноты информации, — главная и самая насущная задача человека.

Поппер вывел из этой асимметрии полномасштабную теорию, использующую технику "фальсификации" (по Попперу, "фальсифицировать" — значит доказать неправильность), которая позволяет провести границу между наукой и не-наукой. Тут же разгорелись жаркие споры о ее практическом применении, хотя это не самая интересная и не самая оригинальная из Попперовых идей. Мысль об асимметричности знания так мила деловым людям, потому что для них она очевидна; на ней зиждется весь их бизнес. "Проклятый" философ Чарльз Сандерс Пирс, который, подобно художнику, добился лишь посмертного признания, тоже придумал некий "чернолебяжий" метод, когда Поппер еще под стол пешком ходил, — этот метод даже называют "подходом Пирса — Поп-пера". Гораздо сильнее и оригинальнее идея Поппера об "открытом" обществе, которое кладет в основу своего развития скепсис, опровергая и ниспровергая окончательные истины. Поппер обвинил Платона в том, что он "закупорил" наш разум (я привожу его аргументы в Прологе). Но самое великое достижение Поппера — это его догадка о фундаментальной, суровой и необоримой непредсказуемости мира; о чем я буду говорить позже в главе о предсказаниях.

Конечно, "фальсифицировать" (то есть с полной уверенностью заявлять, что что-то неправильно) весьма и весьма непросто. Несовершенство метода тестирования может привести к ошибке. У врача, обнаружившего раковые клетки, может оказаться неисправное оборудование, создающее оптические иллюзии; или белый халат может натянуть экономист, помешанный на "гауссовых кривых". Свидетель преступления может быть в стельку пьян. Однако факт остается фактом: вы способны судить о том, что неправильно, но не о том, что правильно. Не вся информация равноценна.

Поппер ввел механизм предположений и опровержений, который работает следующим образом: вы делаете (смелое) предположение и начинаете искать данные, которые докажут вашу неправоту. Это альтернатива поиску подтверждающих фактов. Если вам кажется, что опровергать просто, то вы заблуждаетесь, — мало у кого от природы есть такая способность. Я признаюсь, что у меня ее нет; я здорово напрягаюсь.

Ученые-когнитивисты изучили нашу природную тягу к поиску подтверждений; они называют ее установкой на подтверждение. Опыты показывают, что люди сосредоточиваются только на прочитанных книгах из библиотеки Умберто Эко. Любое правило можно проверить либо прямым путем, рассматривая случаи, когда оно работает, либо косвенным, фокусируясь на тех случаях, когда оно не срабатывает. Как мы уже выяснили, опровергающие примеры гораздо важнее для установления истины. Но мы словно бы об этом не ведаем.

Первый известный мне эксперимент, исследующий этот феномен, был проведен психологом П. К. Уэйсоном. Он предлагал испытуемым последовательность из трех чисел — 2, 4, 6 — и просил их догадаться, по какому принципу она сгенерирована. На первом этапе испытуемые называли другие числовые последовательности, соответствие которых заложенному в примере принципу экспериментатор подтверждал или отрицал. И только потом испытуемые формулировали сам принцип. (Обратите внимание на сходство этого эксперимента с рассуждениями в главе I о том, какой нам предстает история: предполагая, что история генерируется в соответствии с какой-то логикой, мы видим только события, не принципы, но хотим угадать, что ею движет.) Правильный ответ — "натуральные числа в восходящем порядке", всего-то. Чтобы до этого додуматься (что удавалось лишь единицам), нужно было предложить нисходящий ряд цифр (на что экспериментатор сказал бы "нет"). Уэйсон заметил, что испытуемые формулировали для себя некий принцип и приводили примеры, нацеленные на его подтверждение, вместо того чтобы попытаться придумать последовательность, противоречащую их гипотезе. Испытуемые упорно пытались найти подтверждение правилу, которое сами же и изобрели.

Но бывают исключения. Опытные шахматисты-гроссмейстеры, как известно, действительно концентрируются на слабости потенциального хода. Но не обязательно играть в шахматы, чтобы практиковаться в скептицизме. Ученые считают, что именно умение копаться в собственных слабостях делает их хорошими шахматистами, а не игра в шахматы превращает их в скептиков. Таким же образом биржевой игрок Джордж Сорос, прежде чем сделать ставку, собирает данные, которые могли бы опровергнуть его первоначальную теорию. Возможно, это и есть истинная уверенность в себе: способность смотреть на мир, не ожидая от него одобрительных кивков.

К сожалению, идея подтверждения укоренена в наших интеллектуальных привычках. Обратите внимание на следующее замечание писателя и критика Джона Апдайка: "Когда Джулиан Джейнс... рассуждает о том, что до конца второго тысячелетия до н. э. у людей не было сознания и они автоматически подчинялись указаниям богов, мы удивляемся, но как завороженные следим за тем, как эта поразительная концепция подкрепляется подтверждающими свидетельствами". Пусть даже концепция Джейнса и верна, но, мистер Апдайк, главная проблема знания (и вывод этой главы) заключается в том, что такого зверя, как подтверждающие свидетельства, не существует.

Вот прекрасная иллюстрация абсурдности подтверждений. Если вы верите, что появление дополнительного белого лебедя подтверждает, что черных лебедей нет, вы — с чисто логической точки зрения — должны также согласиться с тем, что появление красного "мини-кулера" подтверждает, что черных лебедей не существует.

Почему? Подумайте о том, что утверждение "все лебеди белые" подразумевает, что все небелые объекты — не лебеди. То, что подтверждает второе утверждение, должно подтверждать первое. Следовательно, обнаружение небелого объекта, не являющегося лебедем, должно служить таким подтверждением. Этот аргумент, известный как парадокс Гемпеля, был заново придуман моим другом, (мыслящим) математиком Брюно Дюпиром во время одной из наших интенсивно медитативных прогулок по Лондону — одной из тех увлеченных прогулок-дискуссий, когда не замечаешь дождя. Он указал пальцем на красный "мини" и воскликнул: "Смотри, Нассим, смотри! Черного лебедя нет!"

Мы не настолько наивны, чтобы считать человека бессмертным только потому, что не видели, как он умирает, или невиновным потому, что не застукали его за совершением убийства. Проблема наивных обобщений преследует нас не повсюду. Но эти светлые зоны индуктивного скептицизма обычно охватывают события, с которыми мы встречались в быту и в отношении которых мы научились избегать тупых обобщений.

Например, когда детям показывают какого-нибудь представителя группы и предлагают угадать свойства других, невидимых представителей, они способны выбрать, какие свойства обобщать. Покажите ребенку фотографию толстяка, скажите, что он принадлежит к такому-то племени, и попросите описать его соплеменников; ребенок (скорее всего) не решит, что все племя страдает излишней тучностью. Но на цвет кожи реакция будет другая. Если вы покажете ребенку людей с темной кожей и попросите описать их соплеменников, то услышите в ответ, что они тоже темнокожие.

По всей видимости, мы оснащены специфическими и сложными индуктивными инстинктами, которые ведут нас за собой. Исследования в области детской психологии опровергли мнение великого Дэвида Юма и всей британской эмпирической школы, что мы учимся обобщениям только на основании опыта и эмпирических наблюдений и что, следовательно, вера — дитя привычки. Мы рождаемся, как оказалось, с умственными механизмами, заставляющими нас выборочно обобщать опыт, то есть полагаться на индуктивное знание в одних областях, но оставаться скептиками в других. Делая так, мы опираемся не на опыт какой-нибудь тысячи дней, а на познания, накопленные нашими предками в процессе эволюции и внедрившиеся в нашу биологию.

А ведь сведения, полученные нами от предков, могут быть неверными. Я имею в виду, что мы, скорее всего, унаследовали инстинкты, необходимые для выживания в районе восточно-африканских Великих озер — судя по всему, там находится наша прародина, — но эти инстинкты, безусловно, неважно работают в современном буквенно оснащенном, информационно насыщенном и статистически сложном окружении.

Действительно, наше окружение несколько сложнее, чем представляется нам (и нашим органам управления). В каком смысле? Современный мир, являясь Крайнестаном, целиком зависит от редких — крайне редких — событий. В нем Черный лебедь может появиться после тысяч и тысяч Белых, поэтому нам следует воздерживаться от суждений гораздо дольше, чем нам свойственно. Как я говорил в главе 3, нереально (биологически нереально) встретить человека высотой в несколько миль, поэтому наша интуиция исключает такие события. Но тиражи книг или масштабы общественных потрясений не подвластны таким ограничениям. За тысячу дней не удостоверишься в том, что писатель бездарен, что рынок не рухнет, что война не начнется, что проект безнадежен, что страна — "наш союзник", что компания не разорится, что аналитик брокерской конторы — не шарлатан и что сосед не нападет на соседа. В далеком прошлом люди могли делать выводы гораздо быстрее и точнее.

Более того, сегодня число "чернолебяжьих" зон неизмеримо выросло. В первобытном мире их было немного: впервые встреченный дикий зверь, новые враги, внезапные природные катаклизмы. Эти события повторялись достаточно часто, чтобы поселить в нас врожденный страх. Инстинктивная склонность к поспешным выводам и к "туннелированию" (то есть к фокусированию на небольшом количестве известных зон неопределенности) укоренена в нас и сейчас. Короче говоря, эта склонность — наша беда.