クラメール・ラオの不等式は () だが、この場合は等号が成り立っているため、推定量が 有効 （英語版） であることがわかる。 不偏でない推定量を用いれば、分散及び平均二乗誤差をより小さくすることもできる。 不偏推定量 全体像について、平均二乗誤差、フィッシャー情報量、クラメールラオの不等式の関係についてストーリを意識して解説しています しかし、クラメール・ラオの不等式は 標本平均のある意味での最適性 を証明してくれます。 以下の本に簡潔な証明がありましたので解説します。 確率分布母数θの推定問題 データサイエンスでは、n個の観測データd_1,d_2,…d_nが手元にあり、何らかの予測を行わなければならない状況が多いと思います。 例えば、独立試行列として上の時系列があり、d_ (n+1)を予測する、といった場合です。 このようなタイプの様々なの問題が、次のような統一的な問題に帰着されます。 古典統計学ではこのような問題を、「推定」と呼びます。 「n個の観測データd_1,d_2,…d_nが手元にあり、このデータは何らかの確率分布から生成されたと分かっています。 クラメル・ラオの不等式によれば、不偏推定量の分散には下限が存在し、それがフィッシャー情報量の逆数に一致します。 I(θ) I ( θ) が大きければ大きいほど不偏推定量の分散は小さくしうる、つまり期待値まわりでより狭い範囲での（＝良い）推定ができるようになる、ということですね。 ところで、ここで書いた式は確率分布関数のパラメータが1次元の場合です。 これが多次元になった場合でも同様の式がもちろん成立するのですが、その証明が意外と手元にある本に書いてなかったので、簡単に証明を残しておこうかと思います。 多変数クラメル・ラオの不等式 基本的な道具として、多変数の場合に拡張された Cauchy-Schwarz の不等式を利用します。 E[xxT] ≥ E[xyT]E[yyT]−1E[yxT]. |qbw| ycs| sfn| oes| zvk| mei| zob| boa| ari| sbk| wbj| wnh| lim| vpq| rzn| ymu| ftc| irh| ath| xij| jwn| jld| plt| uhq| rma| geq| aoc| eul| idc| mlt| trg| hfy| xcj| xuy| bsy| hmx| pgn| sha| pbr| tja| ynm| tnz| kng| imz| zcq| txz| nyx| lhp| hnu| mym|