自然画像統計と効率的符号化：オルスホーゼン、フィールド著（４）
４．検討
この研究は自然の画像と大脳皮質の単純細胞の応答特性の間の関係を確立した。これらの結果が近年、スパース性を課した、関連するモデル（この点についてはBell*1 *2、Harpur*3を参照）によって再生されているという事実は、スパース符号化戦略に関する単純細胞の受容野の性質についての説得力のある機能的説明を提供する。統計的独立性（つまり全ての高次統計に関してであって、ペアワイズだけではない）のような効率的な符号化の他の目的が、類似の結果を生成する能力がかなりあるだろう、というのは理にかなっているが、このケースで得られた出力活動分布もまたスパースであるということを我々は推測する。将来の、重要でわくわくする課題は、これまで知られていない受容野の特性を予測するために、これらの原理をより高次の大脳皮質視覚野に外挿することであろう。
謝辞
スパース・コーディング・モデルの定式化はMike Lewickiとの議論から利益を得た。George Harpurはコスト関数のベイズ確率的解釈を指摘してくれた。我々は有益な入力についてChris LeeとCarlos Brodyにも謝意を表したい。NINH, F32-MH11062(BAO)からのサポートを頂いた。
参考文献
[1] Atick JJ (1992) Could information theory provide an ecological theory of sensory processing?（情報理論は感覚の処理のエコロジカルな理論を提供するか？） Network, 3:213-251.
[2] Barlow HB (1989) Unsupervised learning.（教師なし学習） Neural Computation, 1: 295-311.
[3] Bell AJ, Sejnowski TJ (1995) An information-maximization approach to blind separation and blind deconvolution.（ブラインド分離とブラインド・デコンボリューションへの情報最大化の取り組み） Neural Computation, 7: 1129-1159.
[4] Bell AJ, Sejnowski TJ (1996) Learning the higher-order structure of a natural sound.（自然音の高次構造の学習） Network (this issue.)
[5] DeAngelis GC, Ohzawa I, Freeman RD (1995) Receptive field dynamics in the central visual pathways,（中枢視覚経路における受容野のダイナミクス） Trends in Neurosciences, 18: 451-458.
[6] De Valois RL, Albrecht DG, Thorell LG (1982) Spatial frequency sellectivity of cells in macaque visual cortex.（マカクザルの視覚野の細胞の空間周波数選択性） Vision Res, 22: 545-559.
[7] Field DJ (1987) Relations between the statistics of natural images and the response properties of cortical cells,（自然画像の統計と大脳皮質細胞の応答特性の間の関係） J Opt Soc Am, A, 4: 2379-2394.
[8] Field DJ (1994) What is the goal of sensory coding?（感覚の符号化の目的は何か？） Neural Computation, 6: 559-601.
[9] Field DJ (1993) Scale-invariance and self-similar 'wavelet' transforms: an analysis of natural scenes and mammalian visual systems.（スケール不変性と自己相似的「ウェーブレット」変換。自然の光景と哺乳類の視覚系の解析） In: Wavelets, Fractals, and Fourier Transforms, Farge M, Hunt J, Vascillicos C, eds, Oxford UP, pp.151-193.
[10] Hancock PJB, Baddeley RJ, Smith LS (1992) The principle components of natural images.（自然画像の主成分） Network, 3: 61-72.
[11] Harpur, GF (1996) Development of low entropy coding in a recurrent network.（再帰ネットワークにおける低エントロピー符号化の発達） Network (this issue.)
[12] Hubel DH, Wiesel TN (1968) Receptive fields and functional architecture of monkey striate cortex.（サルの線状皮質の受容野と機能構造） The Journal of Physiology, 195: 215-244.
[13] JOnes JP, Palmer LA (1987) An evaluation of the two-dimensional Gabor filter model of simple receptive fields in cat striate cortex.（猫の線状皮質の単純受容野の２次元ガボールフィルターモデルの評価） Journal of Neurophysiology, 58: 1233-1258.
[14] Linsker R (1988) Self-organization in a perceptual network.（知覚ネットワークにおける自己組織化） Computer, pp. 105-117.
[15] Olshausen BA, Field DJ (1995) Sparse coding of natural images produces localized, oriented, bandpass receptive fields.（自然画像のスパースコーディングは局所化された、方向のある、周波数選択性のある受容野を生み出す） Technical Report CCN-100-95, Dept. of Psychology, Cornell University. (Submitted to Nature.)（「ネイチャー」に提出された）
[16] Parker AJ, Hawken MJ (1988) Two-dimensional spatial structure of receptive fields in monkey striate cortex.（サルの線状皮質の受容野の２次元空間構造） Journal of the Optical Society of America A, 5; 598-605.
[17] Ruderman DL (1994) The statistics of natural images.（自然画像の統計） Network, 5:517-548.
[18] Sanger TD (1989) An optimality principle for unsupervised learning.（教師なし学習の最適性原理） In: Advances in Neural Information Processing Systems I, D. Tourezky, ed., pp. 11-19.
*1:[3] Bell AJ, Sejnowski TJ (1995) An information-maximization approach to blind separation and blind deconvolution. Neural Computation, 7: 1129-1159.
*2:[4] Bell AJ, Sejnowski TJ (1996) Learning the higher-order structure of a natural sound. Network (this issue.)
*3:[11] Harpur, GF (1996) Development of low entropy coding in a recurrent network. Network (this issue.)
