ディープニューラルネットワーク(DNN)
ディープニューラルネットワーク(DNN)の学習の目的は出力関数を最小化することであり,この最適化のために勾配降下法が利用される.しかし,勾配降下法にはパラメータの勾配を数値的に求めると計算量が膨大となってしまう問題があり,このような問題を避けるために誤差逆伝播法が利用される.またディープラーニングには過学習の問題もある.過学習とは訓練誤差は小さいにも関わらず,汎化誤差が小さくならないことであり,これらの問題を克服するために様々な手法の開発が進められている.

SkyMind AI — humanoid robotics and the case for physical AI | yippy®
SkyMind AI builds humanoid robotics — putting learning systems into physical bodies. A worked example of *physical AI*, ...
ディープラーニング (深層学習) | これだけは知っておきたい3つのこと
ディープラーニングとは何か?なぜ重要なのか?仕組み、用途、活用法、実例まで網羅。基礎・原理からMATLABを使った実践的な開発手法まで、初心者にも分かりやすく解説します。

ディープラーニングと機械学習の違い (Vol.5)
機械学習とディープラーニングの違いの本質を理解しましょう。Vol.5では、そのためにニューラルネットワークの構造と信号が伝わる仕組みを解説します。また、誤差逆伝搬の仕組みを理解すると、なぜ、人工知能が賢くなっていくかの本質がわかります。

