• 对LSTM的一个改进,提高计算效率

  • 将LSTM的输入门、遗忘门、输出门,变为了两个门

  • 输入门表示需要记住当前的多少信息,遗忘门表示需要遗忘过去的多少信息,这两个会合并为一个细胞状态输出门就表示需要输出多少合并后的记忆

  • GRU将原本的输入门和遗忘门变成了一个更新门,然后将细胞状态和隐藏状态合并了,重置门处理历史隐藏状态当前状态得到候选状态

  • 更新门决定输出多少候选状态历史隐藏状态