Yoshua Bengo教授の論文Learning Deep Architectures for AI

ニューラルネットワーク

Yoshua Bengo教授の論文Learning Deep Architectures for AIはディープラーニングを理解する上で重要な論文なので、翻訳しました。

ＡＩのためのディープ・アーキテクチャの学習
Yoshua Bengo
モントリオール大学コンピュータ科学とオペレーションズリサーチ学部
カナダ。Qc, H3C 3J7、モントリオール。C.P. 6128
Yoshua.Bengio@umontreal.ca
http://www.iro.umontreal.ca/~bengioy
テクニカルレポート　1312

  • 摘要

理論から導かれる結果は、（例えば、視覚、言語、そして他のAIレベルの課題における）高レベルの抽象を表現できるような複雑な関数を学習するためには、深い（ディープな）アーキテクチャが必要であることを強く示唆している。ディープ・アーキテクチャは多くの隠れた層を持つニューラルネットのような非線型操作の複数の層から、つまり多くの下位の命題式を再利用する複雑な命題式から成る。ディープ・アーキケクチャのパラメータ空間を探索することは困難な最適化問題であるが、ディープ・ビリーフ・ネットワークのためのアルゴリズムのような学習アルゴリズムは近年この問題に取り組むために、ある分野において最先端の技術を打ち負かし、注目に値する成功とともに提案されてきた。この論文では、ディープ・アーキテクチャのための学習アルゴリズムについての、特に、ディープ・ビリーフ・ネットワークのようなより深い（ディープな）モデルを構築するのに使われる制限ボルツマンマシンのような一層モデルの教師なし学習の構成要素として利用されているアルゴリズムについての、動機や原則を検討する。