ディープラーニングとは

AI

ディープラーニングとは

狭い意味でのディープラーニングとは層の数が深いニューラルネットワークを用いた機械学習である.複数の層を持つ階層的ニューラルネットワークは,1980 年代には誤差逆伝播学習という方法がすでに提案されていたが,現在ほど多くの層を持った学習をすることはできなかった.その理由として二つの理由が挙げられる.一つ目は,出力層における誤差を入力層に向けて伝播させる間に,誤差情報が徐々に拡散し,入力層に近い層では勾配の値が小さくなって学習がうまく進まないという問題が発生したからだ.このことを勾配消失現象という.二つ目は,層の数が多いニューラルネットワークの学習の目的関数は多くの極小値を持ち,適切な結合の重みの初期値の設定が難しかった.

誤差逆伝播学習

404 Not Found - Qiita - Qiita
誤差逆伝播法(バック・プロパゲーション)
ニューラルネットワークの教師付き学習方法として有名な誤差逆伝播法(バック・プロパゲーション)について、数学的基礎となる最急降下法(勾配法)、合成関数の微分の連鎖律(チェインルール)、シグモイド関数の導関数について説明した後、誤差関数の考え方と具体的な結合係数の更新方法(学習方法)を数式レベルで説明し、直ちにプログラム化...
タイトルとURLをコピーしました