Recurrent neural network とは

リカレントニューラルネットワーク(RNN)は、ノード間の接続がシーケンスに沿った有向グラフを形成する人工ニューラルネットワークのクラスである。これにより、時間シーケンスに対して動的な時間的挙動を示すことが可能になる。フィードフォワードニューラルネットワークとは異なり、RNNは内部状態(メモリ)を使用して一連の入力を処理できます。これにより、セグメント化されていない、接続された手書き認識や音声認識などのタスクに適用できます。
「リカレントニューラルネットワーク」という用語は、類似の一般的な構造を有する2つの広範なクラスのネットワークを指すために無差別に使用され、一方は有限インパルスであり、他方は無限インパルスである。両方のクラスのネットワークは時間的な動的挙動を示す。有限インパルス反復ネットワークは、展開され、厳密にフィードフォワードニューラルネットワークに置き換えられ得る有向非循環グラフであるが、無限インパルス反復ネットワークは、展開され得ない有向循環グラフである。
有限インパルス反復ネットワークおよび無限インパルス反復ネットワークの両方が、追加の格納状態を有することができ、記憶装置は、ニューラルネットワークによって直接制御され得る。ストレージが時間遅延を含んでいる場合や、フィードバックループを持っている場合は、別のネットワークやグラフに置き換えることもできます。そのような制御された状態は、ゲート状態またはゲートメモリと呼ばれ、長い短期記憶(LSTM)およびゲートされた反復単位の一部である。