Bidirectional recurrent neural networks とは

双方向反復ニューラルネットワーク(BRNN)は1997年にSchusterとPaliwalによって発明されました。 BRNNは、ネットワークに利用可能な入力情報の量を増やすために導入されました。例えば、多層パーセプトロン(MLP)および時間遅延ニューラルネットワーク(TDNN)は、入力データの柔軟性に限界があります。入力データの固定が必要なためです。標準的なリカレントニューラルネットワーク(RNNs)も、現在の状態から将来の入力情報に到達することができないため、制限を有する。逆に、BRNNは入力データを固定する必要はありません。さらに、それらの将来の入力情報は、現在の状態から到達可能である。 BRNNの基本的な考え方は、反対方向の2つの隠れたレイヤーを同じ出力に接続することです。この構造により、出力層は過去および将来の状態からの情報を得ることができる。
BRNNは、入力のコンテキストが必要な場合に特に便利です。例えば、手書き認識では、現在の手紙の前後にある手紙の知識によって性能を向上させることができる。