１個のニューロンの学習（９）

パーセプトロンとしての１個のニューロンが学習する能力があることが分かりましたが、これを応用してどのようなことが出来るか考えてみたいと思います。

• 図６
• 

上の図のようなニューラルネットワークの構成を考えます。ニューロンは５つあり、その全てのニューロンが左側のパネル（入力部）の全てのマス目からの入力信号を受けるものとします。入力パターンとして数字の「１」〜「５」までの数字を考えます。それらは以下のようなパターンになっているとします。

• 　　
• 　

これら５つのパターンを繰り返し見せて、ニューロンならば「１」のパターンを入力された時にのみ出力が１になるように学習させます。同時に、ニューロンならば「２」のパターンを入力された時にのみ出力が１になるように、ニューロンならば「３」のパターンを入力された時にのみ出力が１になるように、というふうに各ニューロンがそれぞれ１つのパターンのみに反応するように学習させます。それぞれのニューロンは１つのパターンを他のパターン群から区別するだけですからこれは線形分離可能なパターン群になり、学習は成功します。学習が完了すると、上記の５パターンのうち１つを入力されたらそれに対応するニューロンだけが１を出力するようになります。これはあたかも数字を読んで認識しているように見えます。

もう少しこのニューラルネットワークの認識能力を調べてみましょう。上のような学習を完了したニューラルネットワークに下の図のような数字の「６」

• 図７
• 

を見せたら（入力したら）、どのように反応するでしょうか？　これは推論することが出来ません。どのニューロンが反応する（１を出力する）かは、学習を始める際の初期条件にもよりますしパターンを見せる順序にもよります。そこで、今度は学習内容を変えます。学習時に上の数字の「１」から「５」までのパターンだけを見せるのではなく、上の「６」とか、あるいは、まったく何なのかわからない

• 図８
• 

のようなパターンも見せることにします。そしてこのような「１」〜「５」以外のパターンを見せた時には「これは不正解である（）」という教師信号を５つのニューロンの全てに送ることにします。つまり、図７や８のパターンを見せられた時にはどのニューロンも反応しないようにします。この学習も成功します。

では、このニューラルネットワークの学習能力の限界はどこにあるのでしょうか？　それは「パターン認識（２）」で述べたように、このニューラルネットワークに

• 図９
• 

や

• 図１０
• 

も「１」であると認識させようとした時に明らかになります。ニューロンに図９と１０を「１」であると学習させ

• 図１１
• 

を「１」ではないと学習させても、この学習は成功しません。図９、１０と図１１は線形分離可能ではないのです。このニューロンへの入力は７×５＝３５個あって、１つのパターンは３５次元空間上の点として表されるので、線形分離不可能といっても「パターン認識（４）」で説明したような図で説明することは出来ませんが、図９、１０と図１１は線形分離不可能です。