積層オートエンコーダとは?

G検定
TensorFlowで積層自己符号化器を用いた事前学習を実装してみた | DATUM STUDIO株式会社
DATUM STUDIO(データムスタジオ)はデータを活用しようとするすべての企業を、人工知能(AI)を通し支援する会社です。AI構築、データ分析、データサイエンティスト育成支援、イベント登壇、書籍執筆などのサービスを提供しています。
図3●積層オートエンコーダ
 ディープラーニングを十分に理解するには、学ぶべきことが多くある。それぞれの詳細な解説は専門書などに任せるとして、本講座ではG検定の受験勉強を進める上で重要なキーワードやトピックを紹介していく。

オートエンコーダは可視層と隠れ層の2層からなるネットワーク
可視層は入力層と出力層がセットになったもので、入力と出力が同じになるニューラルネットワーク

オートエンコーダは入出力が同じになるニューラルネットワークで、数字の5を入力すると出力も5となる
この学習により、隠れ層には入力の情報が圧縮されたものが反映されることになる
この注意点は入力層(可視層)の次元よりも、隠れ層の次元を小さくしておくこと
こうすることで入力層の次元から、隠れ層の次元まで圧縮(要約)される

ニコニコチャンネル
すべてのクリエイターのために。ニコニコチャンネルはクリエイターがもつ全ての価値を活かせるマルチコンテンツプラットフォ...

積層オートエンコーダでは、
入力層に近い層から順番に学習させるという、逐次的な方法をとった
・例えば
一つ目のオートエンコーダAにて、可視層→隠れ層→可視層の学習をし、重みの調整を行う。次に、オートエンコーダAの隠れ層をオートエンコーダBの可視層として利用する。可視層(オートエンコーダAの隠れ層)→隠れ層→可視層
順番に学習していく
それぞれの隠れ層の重みが調整されるので、全体で見ても重みが調整されたネットワークができる。
このオートエンコーダを順番に学習していく手順の事を「事前学習」と呼ぶ

G検定メモ⑩ ディープラーニング編 - Qiita
G検定の勉強中にメモした走り書きを公開するよ。やっとディープラーニングにたどり着いたよ。 まっててね、バーニーおじさん! 5-1 ニューラルネットワークとディープラーニング 1.ディープラーニングの基本 1.1 多層パ...
タイトルとURLをコピーしました