勾配消失問題

G検定

勾配消失問題

ニューラルネットワークでは予測値と実際の値との誤差を出力層から入力層へ向かって伝播させて重みの値を調整していました。(このことを逆誤差伝播法と呼びます)アイデアのように隠れ層を増やした場合、誤差が正確に伝播されなくなっていたのです。このこと...
AI

勾配消失問題

ディープニューラルネットワークにおいて層が深いと、誤差逆伝播法のときに誤差がどんどん小さくなり学習が収束しない問題がある。これを勾配消失問題と呼ぶ。ディープニューラルネットワーク(DNN)の普及に貢献した一つの要素に,勾配消失問題を克服する...