何かの実験で、下の表が得られたとします。
どうやら何となく直線っぽいグラフが描けそうですが、どんな直線が一番いいと思いますか？ よさそうなところに適当に描くわけにもいきません。
最適な直線を決めるためのいい方法があります。最小２乗法と言います。何となくの話は以前、書きました。今回はもっと具体的に。
www.omoshiro-suugaku.com
求める直線の式をf(ｘ)＝ａｘ＋ｂ……★とし、最も適切なａ、ｂを求めることにします。ｘ＝2のとき、実測値のｙ＝5と★で計算した値ｆ(2)の差は5－ｆ(2)です。同じようにｘ＝4のときの差は7－ｆ(4)、ｘ＝6のときは10－ｆ(6)です。ここで
とおき、このＳが最小になるようなａ，ｂを決められたらベスト！だと思いませんか？ Ｓは、つまり誤差を2乗したものたちの和です。Ｓを実際に計算してみましょう。5－f(2)＝5－(2ａ＋ｂ)＝5－2ａ－ｂなどを代入して計算すれば（結構大変だけれど）、
を得ます。これを最小にすればいいのです。高校2年までの知識で済まそうとするなら、ａの2次式と見て
と変形し、平方完成してグラフの頂点の高さを求め（ｂだけの式になる）、その高さを最小にするｂを求める、とやればいいでしょう。しかしかなり大変です。実はラクな方法があります。手順のみ書きましょう。★★をａで微分し、０とおきます。ａで微分するときにはｂは定数と思えばよいのです（「ａで偏微分（へんびぶん）する」と言う）。すると118ａ＋24ｂ－196＝0です。次に★★をｂで微分し、０とおくと6ｂ＋24ａ－44＝0です。これらを連立してａ、ｂを求めればよいのです。手作業では少し大変なのでパソコンを使うとａ＝0/11≒0.909、ｂ＝122/33≒3.697 を得ます。これで求める式は ｙ＝0.909ｘ＋3.697 と分かりました。最後に求まった直線は回帰直線と呼ばれます。なお、ひょっとしてＳの式を2乗の和でなく、Ｓ＝｜5－ｆ(2)｜＋｜7－ｆ(4)｜＋｜10－ｆ(6)｜のように、絶対値を使った方がいいと思った人もいるかも知れません。しかし、絶対値にしてしまうと微分もできないし、扱いが面倒です。また今回は原理の説明のために数値を相手に計算しましたが、実際にはａ，ｂをすぐに求められる公式があります。
最小2乗法は、連立1次方程式で変数の数が式の本数と異なる場合に「なるべく適切な解を求める」ときにも用いられます。
