Делая выводы из исследования, мы всегда рискуем допустить ошибку, даже если это хорошо спланированное и тщательно проведенное исследование. Тем не менее степень этого риска можно рассчитать с помощью объективных статистических процедур, разработанных для оценки вероятности того, что данный вывод из конкретной серии наблюдений может оказаться ложным. Допустим, мы хотим выяснить, повлияло ли участие в групповой дискуссии на установки, касающиеся употребления наркотиков. Мы можем оценить мнения участников до начала дискуссии и после ее окончания. Оценки по шкале мнений, полученные испытуемыми из нашей выборки, будут сначала просуммированы удобным и эффективным способом, чтобы преобразовать их в форму определенных статистических данных. Вычислив средние значения, медианы или моды, можно ответить на вопрос «Чему равна типичная или средняя оценка до дискуссии и после нее?» Рассчитав вариабельность реакции (диапазон ее изменения или среднее квадратическое отклонение), можно сказать, насколько реакции индивидуальных испытуемых отклоняются от этого характеристического показателя.

Однако чтобы определить, действительно ли именно групповая дискуссия привела к изменению установок в желательном направлении, необходимо сравнить полученные статистические данные с оценочным значением изменений, которые произошли бы просто за счет повторной оценки мнений, в отсутствие дискуссии. Сравнение полученного распределения оценок с теоретическими распределениями различных типов позволяет оценить вероятность того, что данные не имеют случайного характера, а отражают определенную статистическую закономерность. Вероятность того, что дифференцированное поведение — различное для испытуемых, поведение которых первоначально было сходным, — в ответ на воздействие переменной отражает «истинные» различия, находится в прямой зависимости от трех факторов: количества наблюдений, величины различий и вариабельности реакции. Вероятность статистической значимости полученных различий возрастает с ростом количества (N) наблюдений, с увеличением различий в поведении (представленных в форме каких — либо статистических данных) между группами и с уменьшением отклонений внутри каждой отдельной группы.

Понятие значимости результатов в психологии определяется как соответствие минимальному критерию, по которому устанавливают, что данный результат обусловлен влиянием экспериментального воздействия, а не случайными флуктуациями (дисперсией ошибки) в наблюдениях. В качестве такого минимального стандартного уровня задается уровень вероятности р<0,05 (р меньше, чем 0,05, или 5 %). Это означает, что обнаруженные изменения могут быть обусловлены чистой случайностью в пяти случаях из ста. Поэтому мы можем считать, что наш случай — это один из тех 95 случаев, когда различия нельзя приписать случайности. При определенных обстоятельствах исследователь может задать более строгий вероятностный критерий отвержения, например р<0,01 или даже р<0,001 (т. е. только в одном случае из тысячи экспериментатор сделает ложный вывод, приняв обнаруженные им различия за истинный результат экспериментального воздействия).

Хотя риск ошибки, сопряженный с получением выводов, снижается, если формулировать заключение с использованием вероятностных, а не абсолютных понятий, остается еще значительный риск, связанный с распространением выводов, касающихся данной выборки или поведения, в двух направлениях. Можно распространить выводы на более абстрактный, концептуальный уровень объяснения или перенести их на более конкретный, специфический пример. В первом случае можно совершить ошибку при экстраполировании выводов на более широкую область, поскольку предполагаемая общая закономерность, или теоретический процесс, может не проявляться в частных результатах. Во втором случае возникает необходимость предположить, что по общим закономерностям можно прогнозировать поведение конкретного человека.

В каждом из этих случаев возможны ошибки, относящиеся к двум типам. Если уровень значимости обнаруженных различий р<0,05, то экспериментатор, заключивший, что он обнаружил истинный эффект, ошибется в пяти случаях из ста. Это объясняется тем, что одни только случайные факторы могут порождать различия такой же величины и данный эксперимент может быть как раз одним из этих пяти возможных случаев. Такие ошибки называются ошибками первого рода (или типа альфа): сделан вывод о существовании зависимости, хотя на самом деле она отсутствует. Теперь давайте иначе посмотрим на весь наш вероятностный процесс принятия решений и предположим, что различия не признаны значимыми, потому что они находятся на уровне p<0,06 (т. е. не соответствуют обычному критерию научной обоснованности выводов). Тогда в 94 случаях из 100 исследователь заключит, что зависимость не существует, в то время как в действительности дело обстоит как раз наоборот. Это ошибка второго рода (или типа бета).

Чем руководствуется психолог, принимая решение о том, стоит ли ему рисковать (ошибка первого рода) или следует проявить консерватизм (ошибка второго рода)? Ясно, что при выборе стратегии подобного решения необходимо учитывать практические последствия, вытекающие из экспериментальных выводов, относительную величину потерь или опасности, которые возникнут из — за ошибок каждого типа, и наконец, характер влияния этих ошибок на развитие науки — приведут ли они к стимуляции творческого мышления или будут ему препятствовать. Например, при обобщениях с целью получения концептуальных теоретических утверждений о физических или психологических явлениях прогрессу науки сильнее мешают ошибки второго рода (из — за которых могут преждевременно быть прекращены исследования в какой — либо области), чем ошибки первого рода (которые легко могут обнаружить другие исследователи, проведя независимые репликации экспериментов). Однако если репликации проводятся редко, то ошибка первого рода может так и остаться неисправленной, в результате чего много сил будет потрачено зря на проверку следствий исходной необоснованной гипотезы.