「サイバネティックス」という本の「第3章 時系列、情報および通信」(4)
上位エントリ:サイバネティックス
先行エントリ:「サイバネティックス」という本の「第3章 時系列、情報および通信」(3)
「(3)」での話は、時間とは無関係に情報を定義したものでした。しかし、現実にラジオやテレビその他で利用されている電波では情報が次々に送られているのでした。このような通信のありさまの数学的モデルを作る話に進みます。その際、ウィーナーは単位時間あたりに伝達される情報の量が一定であるような通信波形を考えています。そしてこの波形がエルゴード的であると仮定しています。このように仮定することにはいろいろ問題があると私は思うのですが・・・・。まずは、最初の近似としてはこのように仮定してよいでしょう。
ここでもう一度、思い出すべきと思うのは、この通信波形は時系列であるということ、つまり「(2)」で述べたように波形の変化が確率的に決まるということです。通信波形は時間の関数ではありますが、通常の時間の関数とは異なり、その未来の値が確率的に決まるものです。ですから、1つの通信波形を扱うのは意味がなく、確率的に変化する可能な波形全体の確率分布を解析する必要があります。
しかし、この波形にエルゴード性を仮定すると、ある一つの実現例としての波形を解析するだけでこと足りることになります。
ウィーナーはこの第3章のもう少しあとのほうで予測と濾波の理論を展開していますが、その前にその概略とみなせるものを記述しています。ここでは、それについて読解した内容をご紹介したいと思います。
しかしその前にこれは私の感想なのですが、予測というのは情報科学全体から見たらマイナーな話題ではないか、と思います。サイバネティックスがヌエ的に見える原因のひとつがこれではないかと思っています。ウィーナーの宣言するサイバネティックスはまさに情報科学なのですが、ウィーナー自身の業績はサイバネティックスの中では隅っこに位置づけられる、というふうに見えます。それにくらべると濾波の理論は情報科学への係わりがもう少し明確です。これは、雑音の混じったアナログ信号から雑音を取り除く方法を与えるものです。その当時としてはラジオや無線などへの応用がなされたことと思います。この濾波の理論は予測の理論と密接に関連しているということなので、その意味では予測の理論も間接的に情報科学の領域内にあると見てよいのかもしれません。
まず予測の理論から見ていきます。予測とは、時系列の無限の過去から現在までの値の変化を元に、ある未来の時点におけるその時系列の値を予測することです。時系列の値は確率的に変化しますから、もちろん、未来の値を正確に予測することは不可能です。ウィーナーが目指しているのはそうではなくて、誤差が一番少ないような予測をすることです。確率的に変化するならばその未来の値を求めることは出来ないように思われます。しかし、この時系列はエルゴード的であると仮定しています。そうすると過去における確率的な変化の様子からその時系列におけるさまざまな統計パラメータ(たとえば、平均、標準偏差など)を推定することが出来、それに基づいて未来のある時点における時系列の値の確率分布が求まるのです。これによってその時点での予測値を決定することが出来ます。
このことをもう少し詳しく見ていきます。まずは、その時系列の過去における確率的な変化の様子から、その時系列におけるさまざまな統計パラメータを推測するというところです。
「「サイバネティックス」という本の「第2章 群と統計力学」(7)」に登場したバーコフのエルゴード定理
- ・・・・・(1)
の左辺を和の代わりに積分で書くと以下のようになります。
- ・・・・・(2)
(2)では、ある関数の現在から無限の未来までの時間平均が、その関数の任意の時点における集合平均に等しいことが示されていました。ところで(私は数学的にうまく証明出来ないのですが)この関数の時間平均を現在から無限の未来(つまり)ではなく無限の過去から現在(つまり)までの範囲での平均にしても値は変わらないことが直感的には分かります。よって、
- ・・・・・(3)