ディープラーニングとは
狭い意味でのディープラーニングとは層の数が深いニューラルネットワークを用いた機械学習である.複数の層を持つ階層的ニューラルネットワークは,1980 年代には誤差逆伝播学習という方法がすでに提案されていたが,現在ほど多くの層を持った学習をすることはできなかった.その理由として二つの理由が挙げられる.一つ目は,出力層における誤差を入力層に向けて伝播させる間に,誤差情報が徐々に拡散し,入力層に近い層では勾配の値が小さくなって学習がうまく進まないという問題が発生したからだ.このことを勾配消失現象という.二つ目は,層の数が多いニューラルネットワークの学習の目的関数は多くの極小値を持ち,適切な結合の重みの初期値の設定が難しかった.
誤差逆伝播学習
404 Not Found - Qiita - Qiita
qiita.com
301 Moved Permanently
www.sist.ac.jp
