基本RNNセル
以下の図は最も単純な再帰型ネットワークセルである基本的なRNNセルです。このセルは、層の起動 a で表される単純な内部層を1つ持っています。ポイント t の時点における入力 xt に加え、前回の時点におけるセルの内部状態 ht−1 が xt に付加されます。つまり、過去の情報が後まで保持されます。これにより、後のイベントに対する応答に影響を与えることができます。つまりこの方法で、信号に対して遅れを伴う反応を非常に適切にモデリングすることが可能になります。
図21: 基本RNNセルの概略レイアウト：時間ステップ t における入力 xt と前回の時間ステップにおけるセルの状態 ht−1 とが結合され、現在の出力 yt と状態 ht が生成される