条件付き分布

統計 資格




1. 条件付き確率関数

条件付き確率関数は、一方の確率変数の値が既知の場合に、もう一方の確率変数の確率分布を記述します。


具体的には、 X=xで与えられたときの Y=yの条件付き確率は次のように表されます。

\displaystyle{ f_{Y|X}(y|x) = \frac{f_{XY}(x, y)}{f_X(x)} }


ここで、 f_{XY}(x, y)は Xと Yの同時確率密度関数、 f_X(x)は Xの周辺確率密度関数です。




2. 条件付き期待値

条件付き期待値は、 X=xを与えられたときの Yの条件付き期待値は次のように定義されます。


  • 離散型の場合

    X=xで与えられた Yの条件付き期待値は次のように計算されます。

\displaystyle{ \begin{align} E[Y|X=x] &= \sum_{y=0}^{∞} y \ f_{Y|X}(y|x)\\ &= \frac{\sum_{y=0}^{∞} y \ f_{XY}(x, y) }{f_X(x)} \end{align} }


  • 連続型の場合

    X=xで与えられた Yの条件付き期待値は次のように計算されます。

\displaystyle{ \begin{align} E[Y|X=x] &= \int_{-∞}^{∞} y \ f_{Y|X}(y|x) \ dy \\ &= \frac{\int_{-∞}^{∞} y \ f_{XY}(x,y) \ dy}{f_X(x)} \end{align} }




3. 条件付き分散

分散の公式を利用して計算します。

\displaystyle{ \begin{align} V[Y|X=x] &= E[Y^2 | X=x] - (E[Y | X=x])^2 \end{align} }




4. 例題

例題として、次の同時確率分布を使用して、いろいろ計算してみたいと思います。

\displaystyle{ f_{XY}(x, y) = \left\{ \begin{array}{ll} 3x + y & (0 \leq x \leq 1 & and & 0 \leq y \leq 1) \\ 0 & (otherwise) \end{array} \right. }


1. X=xが与えられたときの、Y=yの条件付き確率密度関数の計算

まず最初に、 Xの周辺分布を計算します。

\displaystyle{ \begin{align} f_X(x) &= \int_{0}^{1} f_{XY}(x,y) \ dy \\ &= \int_{0}^{1} (3x + y) \ dy \\ &= \bigg[3xy + \frac{1}{2} y^2\bigg]_{0}^{1} \\ &= 3x + \frac{1}{2} \end{align} }


次に条件付き確率密度関数の定義に当てはめます。

\displaystyle{ \begin{align} f_{Y|X}(y|x) &= \frac{f_{XY}(x, y)}{f_X(x)} \\ &= \frac{3x + y}{3x + \frac{1}{2}} \end{align} }


2. E[Y|X=x]の計算

定義通りに計算していきます。

\displaystyle{ \begin{align} E[Y|X=x] &= \int_{0}^{1} y \ f_{Y|X}(y|x) \ dy \\ &= \frac{\int_{0}^{1} y \ f_{XY}(x,y) \ dy}{f_X(x)} \\ &= \frac{\int_{0}^{1} y \ (3x + y) \ dy}{3x + \frac{1}{2}} \\ &= \frac{\bigg[\frac{3}{2}xy^2 + \frac{1}{3}y^3\bigg]_{0}^{1}}{3x + \frac{1}{2}} \\ &= \frac{\frac{3}{2}x + \frac{1}{3}}{3x + \frac{1}{2}} \\ &= \frac{9x + 2}{18x + 3} \end{align} }


3. V[Y|X=x]の計算

E[Y^2|X=x]を求めて、分散の公式に当てはめていきます。

\displaystyle{ \begin{align} E[Y^2|X=x] &= \int_{0}^{1} y^2 \ f_{Y|X}(y|x) \ dy \\ &= \frac{\int_{0}^{1} y^2 \ f_{XY}(x,y) \ dy}{f_X(x)} \\ &= \frac{\int_{0}^{1} y^2 \ (3x + y) \ dy}{3x + \frac{1}{2}} \\ &= \frac{\bigg[xy^3 + \frac{1}{4}y^4\bigg]_{0}^{1}}{3x + \frac{1}{2}} \\ &= \frac{x + \frac{1}{4}}{3x + \frac{1}{2}} \\ &= \frac{4x + 1}{12x + 2} \end{align} }


分散の公式に当てはめて、分散を求めます。

\displaystyle{ \begin{align} V[Y|X=x] &= E[Y^2 | X=x] - (E[Y | X=x])^2 \\ &= \frac{4x + 1}{12x + 2} - \bigg( \frac{9x + 2}{18x + 3} \bigg)^2 \\ \end{align} }


4. E[ E[Y|X=x] ] = E[Y]が成り立つことを示す

E[Y|X=x] = \frac{9x + 2}{18x + 3}となるので、 E[E[Y|X=x]]は次のようになります。

\displaystyle{ \begin{align} E[E[Y|X=x]] &= E\bigg[\frac{9X + 2}{18X + 3}\bigg] \\ &= \int_{0}^{1} \frac{9x + 2}{18x + 3} (3x + \frac{1}{2} ) dx \\ &= \int_{0}^{1} \frac{9x + 2}{18x + 3}・\frac{6x + 1}{2} dx \\ &= \int_{0}^{1} \frac{9x + 2}{6} dx \\ &= \bigg[\frac{1}{6}\big(\frac{9}{2}x^2 + 2x\big)\bigg]_{0}^{1} \\ &= \frac{13}{12} \end{align} }


E[Y]を求めるために、 Yの周辺分布を求めてから E[Y]を計算します。

\displaystyle{ \begin{align} f_Y(y) &= \int_{0}^{1} f_{XY}(x,y) \ dx \\ &= \int_{0}^{1} (3x + y) \ dx \\ &= \bigg[\frac{3}{2}x^2 + xy\bigg]_{0}^{1} \\ &= y + \frac{3}{2} \end{align} }


\displaystyle{ \begin{align} E[Y] &= \int_{0}^{1} y \ f_Y(y) \ dy \\ &= \int_{0}^{1} y・(y + \frac{3}{2}) \ dy \\ &= \int_{0}^{1} (y^2 + \frac{3}{2}y) \ dy \\ &= \bigg[\frac{1}{3}y^3 + \frac{3}{4}y^2\bigg]_{0}^{1} \\ &= \frac{13}{12} \end{align} }


以上より、

\displaystyle{ E[E[Y|X=x]] = E[Y] }

となることを示すことができました。