ASCII.jpデジタル用語辞典の解説
最小二乗法
出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報
出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報
出典 株式会社平凡社百科事典マイペディアについて 情報
出典 株式会社平凡社世界大百科事典 第2版について 情報
出典 ブリタニカ国際大百科事典 小項目事典ブリタニカ国際大百科事典 小項目事典について 情報
二乗和を最小にする方法。もっとも簡単な例は、x1, x2,……, xnが与えられたとき
を最小にするようにθを定める問題で、この場合には
のときf(θ)が最小になる。
次の例は回帰直線である。二つの変量X、Yについての測定結果を
(x1, y2), (x1, y2),……, (xn, yn)
とするとき、xy平面上の直線y=mx+bに含まれる定数m、bを、二乗和
が最小になるように定めると、YのXに関する回帰直線が得られる。これも二乗和を最小にする方法である。
次に連立一次方程式
を考えよう。方程式の数Nが未知数の数nより大きいとき、一般にはこの連立一次方程式は解をもたない。このような場合も含めて
と置いて、二乗和
を最小にするようにx1, x2,……, xnを定める方法が最小二乗法である。連立一次方程式(*)が解をもつこととfの最小値が0であることとは同等である。f(x1,……, xn)を最小にするx1, x2,……, xnは、次の連立一次方程式
を解いて求められる。この方程式(**)を正規方程式という。
最小二乗法は統計学において母数を推定する場合にも用いられる。X1, X2,……, Xnは独立な確率変数で、各Xiの平均値が未知の母数θ1,θ2,……,θkを含むものとする。
E(Xi)=i(θ1,θ2,……,θk) i=1,……, n(X1, X2,……, Xn)の実現値(x1, x2,……, xn)が与えられたとき、二乗和
を最小にするようなθ1,θ2,……,θkの値1,
2,……,
kをθ1,θ2,……,θkの推定値とするのである。
[古屋 茂]
… は,各xiと期待値μの偏差平方和, s=(x1-μ)2+……+(xn-μ)2を最小にするμの値に等しい。これはもっと複雑な問題で,xiの期待値が未知パラメーターμ1,……,μpの線形結合li1μ1+……+lipμpで表されているときに偏差平方和,
を最小にするような推定方式(最小二乗法)の特別な場合に当たる。最小二乗法による推定量は一般にxiが等分散,無相関のとき線形最良推定量であることが示される。…
※「最小二乗法」について言及している用語解説の一部を掲載しています。
出典|株式会社平凡社世界大百科事典 第2版について | 情報
4/19 日本大百科全書(ニッポニカ)を更新
12/21 デジタル大辞泉を更新
12/21 デジタル大辞泉プラスを更新
12/10 日本大百科全書(ニッポニカ)を更新
10/28 デジタル大辞泉プラスを更新
10/28 デジタル大辞泉を更新