RNN(Recurrent Neural Network)

AI

RNN は時間依存の情報が含まれる系列データの処理に長けているニューラルネットワークである.

回帰型ニューラルネットワーク(英: Recurrent neural network、リカレントニューラルネットワーク、略称: RNN)は、ノード間の結合が配列に沿った有向グラフ(英語版)を形成する人工ニューラルネットワークのクラスである。これによって、時系列のための時間的な動的振る舞いを示すことが可能となる。再帰型ニューラルネットまたは循環ニューラルネットと訳されこともある。本項では「Recurrent」ニューラルネットワークの訳語として「回帰型」、「Recursive」ニューラルネットワークの訳語として「再帰型」を用いる。

順伝播型ニューラルネットワーク(英語版)と異なり、RNNは任意のひと続きの入力を処理するために内部状態(記憶)を使うことができる。これによって、分割化されていない、つながりのある手書き文字認識や音声認識といった課題に応用が可能になっている。

「回帰型ニューラルネットワーク」という用語は、類似した一般構造を持つ2つの広いネットワークのクラスを指し示すために見境なく使われる。1つは有限インパルス、もう1つは無限インパルスである。どちらのネットワークのクラスも時間的な動的振る舞いを示す。有限インパルス回帰型ネットワークは厳密な順伝播型ニューラルネットワークに展開でき、置き換えることができる有向非巡回グラフであるのに対して、無限インパルス回帰型ネットワークは展開できない有向巡回グラフである。

有限インパルスと無限インパルス回帰型ネットワークはどちらも追加の保管状態を持つことができ、この保管場所はニューラルネットワークによる直接的な制御下とすることができる。保管場所は他のネットワークやグラフが時間遅延を取り込むか、フィードバックループを持つのであれば、それらで置き換えることもできる。こういった制御された状態はゲート状態またはゲート記憶と呼ばれ、長・短期記憶ネットワーク(LSTMs)およびゲート付き回帰型ユニット(GRUs)の一部である。

第6回 RNN(Recurrent Neural Network)の概要を理解しよう(TensorFlow編)
時系列データの予測でよく使われるディープラーニングの代表的手法「RNN」を解説。そもそも時系列データとは何か? RNNの特徴や、通常のニューラルネットワークの相違点についても押さえよう。
https://www.renom.jp/ja/notebooks/tutorial/basic_algorithm/LSTM/notebook.html
タイトルとURLをコピーしました