線形代数学の復習：実対称行列は対角化可能である（１）

オルスホーゼンとフィールドの論文「Natural image statistics and efficient coding」の翻訳が終わりました。正直なところ、私には理解出来ていない箇所がいくつかあります。さて、そこを攻略していくのではなくて、以前、放置していた主成分分析の勉強に進みたいと思っています。構想としては、主成分分析の内容を確認し、次に次元削減の概念を確認する。そして、ニューラルネットワークの一種であるオートエンコーダのアンディアを紹介し、それが行う次元削減が主成分分析の次元削減とどう異なるか、について把握したい、と思っています。このことが以前翻訳したヒントン教授の論文「Reducing the Dimensionality of Data with Neural Networks」の理解に役立つのではないか、と期待しています。

さて、主成分分析の勉強に進みたいのですが、そこでは分散共分散行列というものの対角化の話が主要な役割をはたします。この箇所で私は詰まってしまいました。「分散共分散行列」は要素が実数からなる実行列で、しかも行と列を入れ替えても同じになる対称行列、つまり実対称行列なのですが、実対称行列が必ず対角化出来ることをどうやって証明すればよいかで、はたと、止まってしまったのです。私は、分からなくて止まってしまうと、そこにこだわってしまう性分です。

ということで、しばらくは実対称行列は対角化可能であることを示すための記事になる予定です。

【補題１】

が実正方行列であるとする。集合を考える。ならば、がたとえ複素数であっても、に属する実ベクトルの一次結合で表される。
（証明）

• の実部のベクトルと虚部のベクトルをそれぞれ、とすれば、と書くことが出来ます。なお、、はそれぞれ実ベクトルです。
• よって、からが成り立ちます。ところで、とはそれぞれ実行列と実ベクトルの積なので実ベクトルになります。よって、であるためにはかつでなければなりません。よって、。
• よって、であるは全て、に属する実ベクトルの一次結合で表されることになります。