Книга: Путеводитель по лжи
Назад: Логические ошибки
Дальше: Байесовский метод в науке и в суде

ЗНАНИЕ ТОГО, ЧЕГО ВЫ НЕ ЗНАЕТЕ

Насколько мы знаем, есть известное известное, то есть вещи, о которых мы знаем, что мы их знаем. Мы также знаем, что существует известное неизвестное: иными словами, есть вещи, которых мы не знаем. Но ведь существует и неизвестное неизвестное — вещи, о которых мы не знаем, что мы их не знаем.

Министр обороны США Дональд Рамсфелд

Это совершенно вымученная формулировка, и потому очень сложно уловить смысл сказанного. И совсем не нужно повторять столько раз одно и то же слово — министра было бы проще понять, если бы он сказал: «Есть вещи, которые мы знаем, вещи, которые мы точно не знаем, а также такие, о которых мы даже не догадываемся, но их не знаем». Есть, конечно, и четвертый вариант — вещи, о которых мы знаем, что не осознаем, что их знаем. Возможно, с вами такое случалось — кто-то задает вам вопрос, вы на него отвечаете, а потом думаете: «Интересно, а откуда я это знаю?»

Так или иначе, основная мысль ясна, я думаю? Что вам действительно может повредить, так это те вещи, про которые вы думаете, что знаете их, но на самом деле нет (вспомните цитату из Марка Твена / Джоша Биллингса в ), а также вещи, про которые вы не догадывались, но которые играют важную роль для принятия решения (неизвестное неизвестное). Формулирование хорошего научного вопроса требует понимания того, что мы знаем и что нам неизвестно. Хорошо сформулированная научная гипотеза опровергаема — мы можем предпринять какие-то действия, по крайней мере теоретически, чтобы проверить природу вещей и определить, верна ли наша гипотеза. На деле это означает, что мы должны вспомнить об альтернативных объяснениях, прежде чем проводить эксперимент, и спланировать его таким образом, чтобы все возможные альтернативы были исключены.

Если вы испытываете новое лекарство на двух группах людей, экспериментальные условия должны быть одинаковыми, чтобы по результатам принять решение: да, лекарство А лучше, чем лекарство Б. Если все участники эксперимента из группы А примут свое лекарство в комнате с окнами, из которых открывается красивый вид, а испытуемые из второй группы будут проходить эксперимент в вонючей подвальной лаборатории, то результаты окажутся обескураживающими и вы не сможете увидеть разницу в воздействии препарата — ведь к результатам будет примешано много других факторов. Вонючая подвальная лаборатория — это известное известное. То, что лекарство А лучше, чем лекарство Б, — это известное неизвестное (для этого мы и проводим эксперимент). Неизвестным неизвестным в этой ситуации будет какой-то другой потенциальный фактор, который может повлиять на чистоту эксперимента. Возможно, те, у кого повышенное давление, реагируют на лекарство А лучше в любом случае, а те, у кого оно низкое, лучше реагируют на лекарство Б. Как только вы выявите фактор, мешающий вам докопаться до истины, категория неизвестного неизвестного легко перейдет в категорию известного неизвестного. И тогда можно будет модифицировать эксперимент или провести дополнительное исследование.

Чтобы подготовить хороший эксперимент — или оценить тот, что уже был кем-то проведен, — нужно уметь находить альтернативные объяснения. Можно сказать, что открывать неизвестное неизвестное — основная задача ученого. Получая в результате эксперимента неожиданные данные, мы радуемся, потому что узнали то, чего не знали раньше. Иногда ученых, которые до последнего придерживаются своей теории, сравнивают с фильмами категории B. Я таких не знаю. Настоящие ученые прекрасно понимают, что они узнают что-то новое, только когда результаты получаются не такими, каких они ожидали.

Итак, вот выводы.

  1. Есть какие-то известные нам вещи, например расстояние от Земли до Солнца. Вы, возможно, не дадите правильный ответ на вопрос, каково оно, не подсмотрев в справочник, но вы точно понимаете, что ответ науке известен. Это «известное известное».
  2. Есть вещи, которых мы не знаем, например как нейронная активность приводит к ощущению радости. И мы отдаем себе отчет в том, что нам неизвестен ответ на этот вопрос. Это «известное неизвестное».
  3. Есть какие-то вещи, которые мы знаем, но мы не подозреваем, что их знаем, или забываем о том, что их знаем. Какова девичья фамилия вашей бабушки? Кто сидел рядом с вами в третьем классе? Если какие-то подсказки помогут вам вспомнить информацию, вы обнаружите, что знаете ее, хотя заранее и не подозревали об этом. И хотя Рамсфелд не говорит об этом феномене, дадим ему название — «неизвестное известное».
  4. Есть какие-то вещи, которых мы не знаем, и нам даже неизвестно то, что мы их не знаем. Купив дом, вы наняли нескольких специалистов оценить состояние крыши, фундамента, посмотреть, нет ли нигде термитов или иных древоточцев. Если вы никогда не слышали о радоне, а вашего агента по недвижимости гораздо больше интересовала прибыль от сделки, нежели здоровье вашей семьи, то вам даже в голову не придет проверить, нет ли в доме утечки. Меж тем, во многих домах его уровень довольно высок, это известный канцероген. Такое положение дел можно назвать «неизвестное неизвестное» (хотя, прочитав этот абзац, вы поймете, что это уже не так). Обратите внимание, знаете вы о чем-то неизвестном или нет, зависит от вашей компетенции и опыта. Инспектор службы по борьбе с вредителями сообщит вам лишь о том, что видно невооруженным глазом, — ему известно, что в вашем доме могут скрываться повреждения (в тех местах, к которым он не сумел подобраться). Но природа и масштаб этой угрозы, если таковые имеются, ему неизвестны, однако он понимает, что она может быть («известное неизвестное»). Если вы слепо поверите его сообщению и решите, что проверка завершена, это будет означать, что вы не отдаете себе отчета, что в доме могут быть повреждения («неизвестное неизвестное­»).

Мы можем наглядно представить четыре варианта, предложенные министром Рамсфелдом, в такой четырехчастной табличке:

Мы знаем, что мы это знаем:

ХОРОШО — ПОЛОЖИТЕ ЭТО В БАНК

Мы знаем, что мы этого не знаем:

НЕПЛОХО — МЫ МОЖЕМ УЗНАТЬ ОБ ЭТОМ

Мы не знаем, что мы это знаем:

БОНУС

Мы не знаем, что этого не знаем:

ОПАСНОСТЬ — ПОДВОДНЫЕ КАМНИ

Самую большую опасность представляют ситуации, в которых есть неизвестное неизвестное. Наиболее страшные катастрофы, случившиеся по вине человека, можно отнести на счет таких вот случаев. Когда обваливаются мосты, страны проигрывают войны, люди лишаются права выкупить дом по закладной — все это зачастую случается потому, что кто-то не учел вероятности того, что не располагает всей информацией, и долгое время ошибочно полагал, будто просчитал все возможные случаи. Одна из основных целей обучения в докторантуре по специальности юриспруденция или медицина, MBA или военное руководство — научить определять то, что неизвестно, и по зрелом размышлении превращать неизвестное неизвестное в известное неизвестное.

Ну и еще одна группа, о которой министр Рамсфелд не сказал ни слова, — неверное известное, вещи, которые на самом деле не таковы, как мы о них думаем. В эту категорию относятся неверные по сути утверждения, в которые мы верим. И это одно из самых грустных и порой фатальных заблуждений.

Назад: Логические ошибки
Дальше: Байесовский метод в науке и в суде