条件付き期待値の定理

確率論

先日の「不定個の同一分布独立確率変数の和の平均」のところの式(6)（ここでは番号を振り直して式(1)とします）

  • E[Y]=E[E[Y|N] ]・・・・(1)

がなぜ成り立つのかの説明が不十分だったような気がしました。ここで補足を入れます。


「不定個の同一分布独立確率変数の和の平均」ではYが連続確率変数でしたが、説明を簡単にするために離散確率変数であるとします。Nも離散確率変数です。
条件確率の定義により

  • Pr\{Y=y|N=n\}=\frac{Pr\{Y=y\;and\;N=n\}}{Pr\{N=n\}}

よって

  • Pr\{Y=y\;and\;N=n\}=Pr\{Y=y|N=n\}Pr\{N=n\}・・・・(2)

ところで

  • Pr\{Y=y\}=\Bigsum_{n}Pr\{Y=y\;and\;N=n\}・・・・(3)

となります。ただし、\BigsumはNのとる可能な値全てについての和をとります。(3)に(2)を代入して

  • Pr\{Y=y\}=\Bigsum_{n}Pr\{Y=y|N=n\}Pr\{N=n\}・・・・(4)

また

  • E[Y|N=n]=\Bigsum_yyPr\{Y=y|N=n\}・・・・(5)

です。ただし\BigsumはYのとる可能な値全てについての和をとります。また

  • E[E[Y|N] ]=\Bigsum_nE[Y|N=n]Pr\{N=n\}・・・・(6)

です。これも\BigsumはNのとる可能な値全てについての和をとります。(6)に(5)を代入すると

  • E[E[Y|N] ]=\Bigsum_n\Bigsum_yyPr\{Y=y|N=n\}Pr\{N=n\}

ここで(2)を用いれば

  • E[E[Y|N] ]=\Bigsum_n\Bigsum_yyPr\{Y=y\;and\;N=n\}=\Bigsum_yy\Bigsum_nPr\{Y=y\;and\;N=n\}

ここで(3)を用いれば

  • E[E[Y|N] ]=\Bigsum_yyPr\{Y=y\}=E[Y]

よって式(1)が証明出来ました。



ではこれをYが連続確率変数の場合に拡張するにはどうしたらよいでしょうか？　そうすると最初の条件確率の定義のところで

  • Pr\{Y=y|N=n\}やPr\{Y=y\;and\;N=n\}

が無限小になってしまうので、うまくいきません。Y=yの代わりに[tex:y{\le}Y

  • [tex:Pr\{y{\le}Y

という関係を利用する必要がありそうです。
これについては「条件付き期待値の定理（２）」で検討します。