这个屌丝很懒，什么也没留下！

LSTM替换RNN的原因_lstm替代了rnn

作者：寸_铁 | 2024-07-17 08:30:55

RNN用gradient decent train的效果很差，是因为RNN有time sequence，w会在不同时间点被反复使用，会产生gradient vanish问题。

LSTM可以handle gradient decent的问题，需要在learning rate很小的情况下train。

为什么要用LSTM代替RNN？

RNN在每个时间点，memory中的data都会被覆盖掉，而LSTM有一个forget gate，会把memory中的值乘上一个值再加上input。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/寸_铁/article/detail/839008