对LSTM的一个改进,提高计算效率
将LSTM的输入门、遗忘门、输出门,变为了两个门
输入门表示需要记住当前的多少信息,遗忘门表示需要遗忘过去的多少信息,这两个会合并为一个细胞状态,输出门就表示需要输出多少合并后的记忆
GRU将原本的输入门和遗忘门变成了一个更新门,然后将细胞状态和隐藏状态合并了,重置门处理历史隐藏状态和当前状态得到候选状态
更新门决定输出多少候选状态和历史隐藏状态
对LSTM的一个改进,提高计算效率
将LSTM的输入门、遗忘门、输出门,变为了两个门
输入门表示需要记住当前的多少信息,遗忘门表示需要遗忘过去的多少信息,这两个会合并为一个细胞状态,输出门就表示需要输出多少合并后的记忆
GRU将原本的输入门和遗忘门变成了一个更新门,然后将细胞状态和隐藏状态合并了,重置门处理历史隐藏状态和当前状态得到候选状态
更新门决定输出多少候选状态和历史隐藏状态