ポアソン分布の最尤推定量の導出

統計 資格




1. ポアソン分布の最尤推定について

ポアソン分布 Po(\lambda)に従う母集団からの実現値を x_1,x_2,...,x_nとすると、 x_1,x_2,...,x_nのそれぞれの確率質量関数は次のように表されます。

\displaystyle{ \begin{align} f(x_i|\lambda) = \frac{\lambda^{x_i} e^{-\lambda}}{x_i!} \end{align} }


ここで、 x_i は観測されたデータです。


このパラメータ \lambdaを最尤推定法により求めていきます。




2. 尤度関数の設定

観測データ X={x_1,x_2,…,x_n}に対する尤度関数 L(\lambda∣X)は、個々の観測値の確率密度関数の積として定義されます。

\displaystyle{ \begin{align} L(\lambda|X) &= \prod_{i=1}^{n} f(x_i|\lambda) \\ &= f(x_1|\lambda)・f(x_2|\lambda)\cdots f(x_n|\lambda) \\ &= \frac{\lambda^{x_1} e^{-\lambda}}{x_1!} \cdot \frac{\lambda^{x_2} e^{-\lambda}}{x_2!} \cdots \frac{\lambda^{x_n} e^{-\lambda}}{x_n!} \\ &= \frac{\lambda^{\sum_{i=1}^{n}x_i} e^{-n\lambda}}{\prod_{i=1}^{n}x_i} \end{align} }




3. 対数尤度関数

計算を簡単にするために、尤度関数の自然対数を取ります。

\displaystyle{ \begin{align} l(\lambda | X) &= \log L(\lambda|X) \\ &= \log \left\{ \frac{\lambda^{\sum_{i=1}^{n}x_i} e^{-n\lambda}}{\prod_{i=1}^{n}x_i} \right\} \\ &= \sum_{i=1}^{n} x_i \cdot\log\lambda - n\lambda - \log \left( \prod_{i=1}^{n} x_i \right) \end{align} }




4. 尤度方程式

\lambdaに関して対数尤度関数を最大化することで、これらのパラメータの最尤推定量を求めます。


対数尤度関数を \lambdaについて、偏微分します。

\displaystyle{ \begin{align} \frac{\partial}{\partial\lambda}l(\lambda|X) &= \left(\sum_{i=1}^{n} x_i \cdot\log\lambda - n\lambda - \log \left( \prod_{i=1}^{n} x_i \right) \right)' \\ &= \frac{1}{\lambda} \sum_{i=1}^{n}x_i - n \end{align} }


偏微分した式を 0とおいて、 \lambdaについて解きます。

ここで \lambdaの最尤推定量は \tilde{\lambda}と定義します。

\displaystyle{ \begin{align} \frac{\partial}{\partial\lambda}l(\lambda|X) &= 0 \\ \frac{1}{\tilde{\lambda}} \sum_{i=1}^{n}x_i - n &= 0 \\ \frac{1}{\tilde{\lambda}} \sum_{i=1}^{n}x_i &= n \\ \tilde{\lambda} = \frac{1}{n} \sum_{i=1}^{n} x_i \end{align} }


以上より、 \lambdaの最尤推定量 \tilde{\lambda}は次のように求めることができました。

\displaystyle{ \tilde{\lambda} = \frac{1}{n}\sum_{i=1}^{n}x_i }