正規分布モーメント母関数を使用した期待値と分散の導出

この記事ではモーメント母関数の導出および期待値・分散の導出を解説します。

1. モーメント母関数の導出
2. 期待値の導出
3. 分散の導出

正規分布の解説については、次の記事で解説しています。

こちらも合わせて確認してみてください。

venoda.hatenablog.com

期待値の定義通りに期待値・分散の導出は次の記事で解説しています。

venoda.hatenablog.com

1. モーメント母関数の導出

正規分布 $N(\mu, \sigma^ 2)$ の確率密度関数は、次のように定義されます。

$\displaystyle{ \begin{align} f(x) = \frac{1}{\sqrt{2\pi\sigma^2}}\exp \left( {-\frac{(x-\mu)^2}{2\sigma^2}} \right) \end{align} }$

モーメント母関数の定義に従って、正規分布の場合の $M_X(t)$ を設定します。

$\displaystyle{ \begin{align} M_X(t) &= E[e^{tX}] \\ &= \int_{-∞}^{∞} e^{tx} f(x) \\ \end{align} }$

正規分布の確率密度関数を代入します。

$\displaystyle{ \begin{align} M_X(t) &= \int_{-∞}^{∞} e^{tx} \frac{1}{\sqrt{2\pi\sigma^2}}\exp \left( {-\frac{(x-\mu)^2}{2\sigma^2}} \right) \end{align} }$

指数関数の和の法則を用いて、指数部分をまとめます。

$\displaystyle{ \begin{align} M(t) &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp \left({-\frac{(x-\mu)^2}{2\sigma^2}} + tx \right) dx \end{align} }$

指数関数の項を平方完成し、積分可能な形に変換します。

$\displaystyle{ \begin{align} M(t) &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp \left( -\frac{1}{2\sigma^2} (x^2 -2\mu x + \mu^2 -2\sigma^2tx) \right) dx \\ &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp \left( -\frac{1}{2\sigma^2} \left(x^2 -2x(\mu + \sigma^2 t) + \mu^2 \right) \right) dx \\ &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left( -\frac{1}{2\sigma^2} \left( (x - (\mu + \sigma^2 t))^2 - (\mu + \sigma^2 t)^2 + \mu^2 ) \right) \right) dx \\ &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left( -\frac{1}{2\sigma^2} \left( (x - (\mu + \sigma^2 t))^2 - \mu^2 - 2\sigma^2 \mu t - \sigma^4 t^2 + \mu^2 ) \right) \right) dx \\ &= \int_{-∞}^{∞}\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left( -\frac{1}{2\sigma^2} \left( (x - (\mu + \sigma^2 t))^2 - 2\sigma^2 \mu t - \sigma^4 t^2) \right) \right) dx \\ &= \int_{-∞}^{∞} \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left( -\frac{(x - (\mu+\sigma^2t))^2}{2\sigma^2} + \mu t + \frac{\sigma^2t^2}{2} \right) dx \\ &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right) \int_{-∞}^{∞} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left( -\frac{(x - (\mu+\sigma^2t))^2}{2\sigma^2} \right) dx \end{align} }$

ここで、 $\mu+\sigma^ 2t=\mu'$ とおくと、下式のようになる。

$\displaystyle{ \begin{align} M(t) &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right) \int_{-∞}^{∞} \frac{1}{\sqrt{2\pi\sigma^2}} \exp \Big( -\frac{(x - \mu')}{2\sigma^2} \Big) dx \end{align} }$

ここで $\int _ {-∞}^ {∞}〇〇$ の中だけをみると、平均 $\mu'$ と分散 $\sigma^ 2$ の正規分布の確率密度関数となります。

正規分布の確率密度関数となるので、確率変数の総和は下式のように $1$ になります。

$\displaystyle{ \begin{align} \int_{-∞}^{∞} \frac{1}{\sqrt{2\pi\sigma^2}} \exp \left( \frac{(x - \mu')^2}{2\sigma^2} \right) dx = 1 \end{align} }$

これを用いると、モーメント母関数が最終的に次のように導出されます。

$\displaystyle{ \begin{align} M(t) &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right) \int_{-∞}^{∞} \frac{1}{\sqrt{2\pi\sigma^2}} \exp \left( -\frac{(x - \mu')}{2\sigma^2} \right) dx\\ &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)・1\\ &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right) \end{align} }$

以上が正規分布のモーメント母関数の導出になります。

リンク

2. 期待値の導出

期待値はモーメント母関数の一階微分 $M'(t)$ に $t=0$ を代入することで得られます。

$\displaystyle{ E[X] = M'(0) }$

先ほど求めた正規分布のモーメント母関数を使用して、正規分布の期待値を求めてみます。

$\displaystyle{ \begin{align} M'(t) &= \frac{d}{dt} \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\\ &= (\mu + \sigma^2t)\exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\\ \end{align} }$

$t=0$ を代入すると次のように求めることができます。

$\displaystyle{ \begin{align} M'(0) &= (\mu + \sigma^2・0)\exp\left(\mu・0 + \frac{\sigma^2・0}{2}\right)\\ &= \mu \end{align} }$

$M'(0)=E[X]$ となるため、このようにモーメント母関数から期待値を求めることができました。

リンク

3. 分散の導出

分散はモーメント母関数の二階微分 $M''(t)$ に $t=0$ を代入した値を使用して、次のように求めることができます。

$\displaystyle{ \begin{align} V[X] &= E[X^2] - (E[X])^2\\ &= M''(0) - (M'(0))^2 \end{align} }$

先ほど求めた正規分布のモーメント母関数と期待値値を使用して、正規分布の期待値を求めてみます。

$\displaystyle{ \begin{align} M''(t) &= \frac{d^2}{dt^2} \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\\ &= (\sigma^2+(\mu+\sigma^2t)^2)\exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\\ \end{align} }$