甘利俊一著「情報理論」の「雑談」

先日買ってきた甘利俊一氏の「情報理論」

• 情報理論 (ちくま学芸文庫)

を読んでいますが、各章節の最後に「雑談」というセクションが設けてあります。まだ最初の雑談しか読んでいませんが、なかなか面白くて、かつ、骨があって、消化するのにこちらの能動的な働きかけを要求する性質のものです。最初の「第１章　情報の数量的認識　第１節　情報とエントロピー」の末尾の雑談にはこんな話が載っています。

相互情報量のところでは、いろいろと楽しい問題を作ることができる。私は以前に次のような問題を試験に出したことがあった。

「○×をつける問題が試験に出たが、当たる確率は五分五分でどちらをつけてよいかさっぱりわからない。隣にすわるは秀才で鳴るＡ君である。彼はわからないときはよく○につける傾向があり、彼が○をつけたときは、その正解率は70%、彼が×をつけたときはその正解率は90%である。ここでこっそりカンニングをして、Ａ君の答えを見ることにしたいのだが、それによって得られる情報量を求めよ。」

このとき、Ｂ君が手をあげた。
「先生、質問があります。」
「なんだ。」
「私は理論のほうは苦手で、実験が得意です。それで、この問題を実験によって解いてはいけないでしょうか。」

なかなかのウィットです。
ところで、この問題の解答は残念ながらこの本には載っていません。そこで、私の答案をここにアップしておきます。あっているかどうか、よく分かりませんが・・・

私の解答

正解の事象を、Ａ君の回答をで表す。そして正解が○であることをで、×であることをで表す。Ａ君の回答が○であることをで、×であることをで表す。
まず「当たる確率は五分五分」なので、事象の確率をで表すと 、

• 、

Ａ君が○をつけたときの正解率が70%なので、

• 、

Ａ君が×をつけたときの正解率が90%なので

• 、

まず、Ａ君の答案を見ない場合ののエントロピーは

• 

次にＡ君の答案を見たあとののエントロピーは

• 
  • 
  • 
  • 

よってを求めるためにはとを求めなければならない。

• 
• 

だから

• 
• 

これらを解くと

• 、

これらを上のの式に代入すると

• 

よってＡ君の答えを見ることによって得られる情報量は

• （ビット）

Ａ君が秀才と呼ばれている割には（？）カンニングで得られる情報量は少ない。