TensorFlowで積層自己符号化器を用いた事前学習を実装してみた | DATUM STUDIO株式会社
datumstudio.jp
図3●積層オートエンコーダ
ディープラーニングを十分に理解するには、学ぶべきことが多くある。それぞれの詳細な解説は専門書などに任せるとして、本講座ではG検定の受験勉強を進める上で重要なキーワードやトピックを紹介していく。
xtech.nikkei.com
オートエンコーダは可視層と隠れ層の2層からなるネットワーク
可視層は入力層と出力層がセットになったもので、入力と出力が同じになるニューラルネットワーク
オートエンコーダは入出力が同じになるニューラルネットワークで、数字の５を入力すると出力も５となる
この学習により、隠れ層には入力の情報が圧縮されたものが反映されることになる
この注意点は入力層（可視層）の次元よりも、隠れ層の次元を小さくしておくこと
こうすることで入力層の次元から、隠れ層の次元まで圧縮（要約）される
ニコニコチャンネル
すべてのクリエイターのために。ニコニコチャンネルはクリエイターがもつ全ての価値を活かせるマルチコンテンツプラットフォ...
ch.nicovideo.jp
積層オートエンコーダでは、
入力層に近い層から順番に学習させるという、逐次的な方法をとった
・例えば
一つ目のオートエンコーダAにて、可視層→隠れ層→可視層の学習をし、重みの調整を行う。次に、オートエンコーダAの隠れ層をオートエンコーダBの可視層として利用する。可視層（オートエンコーダAの隠れ層）→隠れ層→可視層
順番に学習していく
それぞれの隠れ層の重みが調整されるので、全体で見ても重みが調整されたネットワークができる。
このオートエンコーダを順番に学習していく手順の事を「事前学習」と呼ぶ
G検定メモ⑩ ディープラーニング編 - Qiita
G検定の勉強中にメモした走り書きを公開するよ。やっとディープラーニングにたどり着いたよ。まっててね、バーニーおじさん！#5－1 ニューラルネットワークとディープラーニング##1．ディープラーニ…
qiita.com
