1.1.AIの学習のための欲しいものリスト――Learning Deep Architectures for AI
Learning Deep Architectures for AIの翻訳です。
1.1.AIの学習のための欲しいものリスト
上記の課題の若干をまとめて、AIを解決する学習アルゴリズムのために気づいたいくつかの要求を述べる。
- 複雑な、高度に変化する関数、つまり、訓練例の数よりずっと多い変化の数を持つ関数を学習する能力
- AIの課題に必要な種類の複雑な関数を表現するのに役立つ、低レベル、中間レベル、高レベルの抽象内容の入力に人手をほとんど使わずに学習する能力
- 例の非常に大きな集合から学習する能力。訓練に要する計算時間は、例の数によく対応するべきである。つまり線形に近くなるべきである。
- 大部分ラベルのついていないデータから学習する能力。つまり、半教師あり設定で動作すること。そこでは全ての例が「正しく」関連したラベルを持って来るとは限らない。
- 多くの課題を越えて現れるシナジーを利用する能力。つまり、マルチタスク学習。全てのAI課題は背後にある同じ現実についてのさまざまな見方を提供しているのでこれらのシナジーは存在する。
- 多くの課題の極限で、そして将来の課題が前もって知らされない場合、強力な教師なし学習（つまり、観測されたデータの中の統計的な構造を把握すること）は、このソリューションの重要な要素である。
他の要素は等しく重要であるが、この論文内の題材に直接には関係していない。それらには、機械が観測の一連の流れの中で稼働し一連の行動を生み出すことを可能にするために、長さや構造が変化する状況を表現することを学習する能力(Pollack, 1990)や、行動が将来の観測や将来の利益に影響を与える場合に意思決定する能力(Sutton & Barto, 1998)や、世界についてのより適切な情報を集めるために、将来の観測に影響を与える能力（つまり、アクティブ学習の形式(Cohn, Ghahramani, & Jordan, 1995)）、が含まれる。
