Термин «регрессия» может слегка сбить с толку, поскольку кажется, что выражение «регрессия к среднему значению» — это совсем не то, что исследование соотношения между набором независимых переменных и зависимой переменной. Одно и то же слово используется для таких разных целей потому, что Карл Пирсон, изобретатель корреляционного метода, названного его именем, впервые использовал его для изучения корреляции внутри популяции связанных между собой индивидов. Корреляция роста отцов и детей всегда показывает регрессию к среднему значению. У необычайно высоких отцов сыновья, как правило, ниже их, у отцов очень маленького роста сыновья обычно повыше. Корреляция здесь — это простой анализ регрессии, связывающей одну переменную с другой. Множественная регрессия изучает связь каждой отдельной переменной из целого набора с каждой другой переменной из другого набора.
