ゲート付き再帰型更新セル
ゲート付き再帰型更新
セルは、長短期記憶セルの単純化を試みるものです。図23に概略を示します。
基本RNNセルと同様にGRUセルは、LSTMセルで使用される2つの状態（c と h）の代わりに、状態 h のみを使用します。また、個別の入力と忘却ゲートを使用する代わりに、GRUセルはそれらを更新ゲート u 内で結合します。さらに、層の結果を結合することにより要素ごとの操作を削減する、という優れた処理も行います。
図23: GRUセルの概略レイアウト：GRUセルは、基本セルまたはLSTMセルのほか、その内層の結果を結合するための操作を行います。
は要素の和を取ることによってその入力を単純に結合し、
は入力 x の要素ごとの操作 1 − x をフォワードします。