過学習を改善する方法

G検定

バッチ正規化 … 一部の層の出力を正規化する.
https://www.renom.jp/ja/notebooks/tutorial/basic_algorithm/batch_normalization/notebook.html

ドロップアウト … 学習の際に一部のノードを無効化する.
ディープラーニングが学習中に、ところどころ参加しているニューロンをランダムにドロップアウトさせるのです(ここで言うニューロンは、ディープラーニングの各層における、人間の脳のニューロンに当たるものを意味しています)
https://diamond.jp/articles/-/127702

データ拡張 … データの水増しをしてデータの不足を補う.

L2正則化 … パラメータのノルムにペナルティを課す.

タイトルとURLをコピーしました