Learning Deep Architectures for AI の翻訳です。
13.他のコメント
13.1. ディープ+分散はニュラルだけを含むとは限らない
この論文の多くはディープ・ニューラル・ネット・アーキテクチャに焦点を合わせているが、ディープ・アーキテクチャのための学習アルゴリズムを調査する考えは、ニューラル・ネットの枠組みを超えて調査されるべきである。例えば、セクション3.3の終わりにほのめかしたように、複数レベルに対するデシジョン・ツリーやブースティング・アルゴリズムを考慮することは興味深いことだろう。
カーネル学習アルゴリズムは調査すべき別の道筋を示唆している。というのは、興味のある分布に関係する抽象概念を把握する特徴空間は、カーネル機械を適用する対象として正しい空間である。高度に変化する関数を学習しようとした時に、セクション3.1で取り上げた次元ののろいを回避するために、学習されたカーネルが非ローカルに汎化する能力を持つような方法を、この方向における研究は考慮すべきである。