一、记忆网络
记忆网络:通过设计记忆模块存储序列模型的中间结果以防丢失信息
意义:可以解决RNN中信息丢失问题

二、RNN序列以及GRU和LSTM
1、传统RNN方法


2、GRU方法:多了两个门

3、LSTM多了一个记忆单元ct

二、前期知识储备
了解Memory NetWork
参考链接:https://arxiv.org/abs/1410.3916
https://zhuanlan.zhihu.com/p/29590286
一、记忆网络
记忆网络:通过设计记忆模块存储序列模型的中间结果以防丢失信息
意义:可以解决RNN中信息丢失问题

二、RNN序列以及GRU和LSTM
1、传统RNN方法


2、GRU方法:多了两个门

3、LSTM多了一个记忆单元ct

二、前期知识储备
了解Memory NetWork
参考链接:https://arxiv.org/abs/1410.3916
https://zhuanlan.zhihu.com/p/29590286
来源:https://www.cnblogs.com/cola-1998/p/11945803.html