回帰分析とは?

説明

回帰分析はほとんどすべての統計的手法の根幹をなすだけに、あまりに一般的すぎたり、あまりに特殊に説明されたりする場合が多い。ただ回帰分析がどのようなものか気になる人に一言で説明するなら、変数の間の関係を明らかにする方法だと言えるだろう。

この有用で驚くべき分析法は、優生学を生み出したフランシス・ゴルトン^{francis Galton}のアイデアから生まれた。

ゴルトンは遺伝学を研究する中で、父と息子の身長に関するデータに接することになったが、おおむね父が背が高ければ息子も背が高く、父が背が低ければ息子も背が低い傾向があるように見えた。このような関係自体はそれ以前からすべての人が知っていることだったが、ゴルトンは世代が過ぎるにつれてそれが全体の平均へと回帰^regressする現象に注目した。

背の高い父の息子も背が高くはあるが父よりは低くなる傾向があり、背の低い父の息子も背が低くはあるが父よりは高くなる傾向があったのである。これは常識的に考えてみれば当然のことで、もしそうでなかったなら、世代が過ぎるにつれて身長が無限大に発散したり$0$に収束したりしてしまっただろう。

一方で、必ずしも平均へと回帰するばかりでもないのは、成長環境や突然変異のように、どうしても生じてしまう誤差があるためである。それにもかかわらず、はっきりと現れる線形関係は、ゴルトンをして「身長は生まれつきのもの」であると確信させたことだろう。

それならば、正確にではなくとも、ある程度の誤差はあっても、父の身長だけを見て息子の身長をおおよそ当てられるのではないか?もし親の身長$x$と息子の身長$y$が$y = a + b x$のような関係をもつなら、$x$に父の身長を代入することで息子の身長を推測するのである。もちろんこれほど正確に当たることはないだろうが、平均的にはおおよそ当たるだろう。

こうして出てきたのがまさに回帰分析である。もちろん今となっては回帰分析は非常に多様な分野に応用されており、世代が過ぎるといった言い方も必要ないため、「回帰」という言葉はその意味を失った。ただ語源がそうだったのだなと思って流してしまってかまわない。