1. 平均二乗誤差
1. 平均二乗誤差
平均二乗誤差は、推定量の性能を測る指標の一つであり、推定量の誤差の二乗の期待値として定義されます。
推定量を、真のパラメータをとしたとき、平均二乗誤差は以下の式で表されます。
2. バイアス・バリアンス分解
バイアスは推定量の期待値と真のパラメータとの差のことを指し、バリアンスは推定量の分布の広がりを示します。
バイアスとバリアンスの定義は以下の通りです。
- バイアス:
- バリアンス:
はバイアスとバリアンスを用いて以下のように分解することができます。
ここで、中央の項は、 となります。
となるため、この項は0になります。
これらを用いると、次のように変形することができます。
この式は、推定量の誤差がバイアスとバリアンスの二つの要素から成り立っていることを示しています。
バイアスが大きいと、推定量は真の値から離れた値を取りがちになります。
バリアンスが大きいと、推定量は真の値周辺で大きく散らばることを意味します。
最適な推定量は、これら二つの要素がバランスよく小さくなることです。
これにより、推定量を評価する際には、ただ単にが小さいことだけでなく、バイアスとバリアンスがどのように寄与しているかを考慮する必要があります。
理想的には、両者を低減させる推定量が望ましいですが、実際にはトレードオフの関係にあり、バイアスを減らすとバリアンスが増える傾向があります(バイアス-バリアンストレードオフ)。
2. 不偏性
1. 不偏推定量
推定量が不偏であるとは、その期待値が推定しようとしている真のパラメータの値に等しい場合を指します。
数式で表すと、推定量に対して、不偏性は以下のように定義されます。
ここで、は推定量の期待値であり、は推定しようとしているパラメータの真の値です。
推定量がこの条件を満たすとき、この推定量を不偏推定量と呼びます。
不偏推定量は、推定の過程で誤差(バイアス)がないことを保証します。
しかし、不偏性が保証されても、その推定量が必ずしも最も良い推定量であるとは限りません。
推定量の品質は、バリアンスや他の特性も含めて総合的に評価されるからです。
2. 一様最小分散不偏推定量
がの不偏推定量の場合、となり、になることがわかります。
不偏推定量の中で最小の分散を持つ推定量がばらつきが少なく、良い推定量と言えそうです。
一様最小分散不偏推定量は、全ての不偏推定量の中で最小の分散を持つ推定量を指します。
数式での定義は以下の通りです。
を満たす場合、は一様最小分散不偏推定量です。
この性質は、同じ量を推定する場合に、最も信頼性の高い推定値を提供します。
3. 具体例
不偏推定量の具体例を確認してみます。
サンプルが平均、分散の分布に従うと仮定します。
平均の不偏推定量
標本平均は以下の式で定義されます。
実際に期待値を計算してみます。
標本平均の期待値を計算すると、平均に等しくなります。
これは、が の不偏推定量であることを意味します。
分散の不偏推定量
標本分散は以下の式で定義されます。
実際に期待値を計算してみます。
ここでは分散を使って次のように表すことができます。
同様にも分散を使って、次のように表すことができます。
これらを利用して、式を変形していきます。
標本分散の期待値を計算すると、分散に等しくなります。
これは、が の不偏推定量であることを意味します。
3. 一致性
一致性とは、推定量がサンプルサイズが無限大に近づくにつれて、推定しようとしている母数(パラメータ)の真の値に確率収束する性質を指します。
つまり、観測データの量が多くなればなるほど、推定量はその真の値に近づくということです。
一致性の定義は、数学的には次のように表されます。
推定量が母数に対して一致推定量であるとは、任意の正の値に対して、以下の条件が成立することを意味します。
ここで、はサンプルサイズを表し、は確率を表します。
この式は、「サンプルサイズが無限大に近づくにつれて、推定量が真の値からより小さな距離内に収まる確率がに近づく」という意味になります。
4. 十分性
十分性は、観測データが含む真のパラメータに関する情報を、推定量がどれだけ保持しているかを表します。
十分性は次のように定義されます。
あるサンプルがあり、その確率密度関数または確率質量関数が で与えられるとき、統計量がパラメータに対して十分であるとは、条件付き分布がに依存しない場合を指します。
数式で次のように表されます。
つまり、統計量が与えられると、元のデータ (X) が追加の情報を提供しないことを意味します。
十分統計量に関しては、次の記事で詳しく解説しています。
5. 有効性
有効性は、推定量の性質を評価する指標の一つで、推定量の分散の小ささを示します。
有効性の高い推定量は、同じサンプルサイズであれば、他の推定量よりも真のパラメータ値をより正確に推定することができます。
不偏推定量の有効性は、その分散を用いて評価されます。
理論的な下限であるクラメール・ラオの下限に分散がどれだけ近いかによって、推定量の有効性が決まります。
クラメール・ラオの不等式は、推定量の分散が下限を提供します。
ここで、はサンプルサイズ、はフィッシャー情報量で、真のパラメータに関する情報の量を示します。
推定量がこのクラメール・ラオの下限に等しい場合、その推定量は有効推定量と呼びます。
つまり、推定量の分散がクラメール・ラオ下限に等しくなると、その推定量はそのサンプルサイズにおいて最も正確な不偏推定量と言えます。
また、有効推定量は最小の分散を持つ推定量のため、一様最小分散不偏推定量であるともいえます。
フィッシャー情報やクラメール・ラオの不等式に関しては、次の記事で詳しく解説しています。
6. 推定量の相対効率
推定量の相対効率は、二つの推定量の効率を比較する際に使用される指標です。
特に、二つの不偏推定量の分散を比較することで、どちらが「より良い」推定量であるかを定量的に評価することができます。
1. 効率
クラメール・ラオの不等式から、不偏推定量に関して次の式が成り立ちます。
この式の左辺がに近いほど分散小さい良い推定量となります。
この左辺を不偏推定量の効率と呼びます。
2. 相対効率
相対効率は、一方の推定量の分散をもう一方の推定量の分散で割った値として定義されます。
二つの不偏推定量とがあるとき、のに対する相対効率は次のように定義されます。
相対効率が 1 より大きい場合、はよりも効率が高いと評価されます。
相対効率が 1 に等しい場合、二つの推定量は同じ効率性を持ちます。
相対効率が 1 より小さい場合、はよりも効率が低いと評価されます。
3. 一般推定量の相対効率
不偏推定量だけでなく、一般の推定量(バイアスを持つものを含む)に対しても相対効率の概念を適用することができます。
この場合、推定量の効率を比較する際には、単に分散の大小だけでなく、推定量のバイアスも考慮する必要があります。
推定量との平均二乗誤差をととした場合、相対効率は次のように定義されることがあります。
この定義によると、を用いることで、バイアスと分散の両方を含む推定量の全体的な性能を比較することができます。