备份深度学习 4篇博客，更新lstm错误链接

README.md

@@ -232,11 +232,10 @@ https://github.com/apachecn/ai-roadmap/blob/master/ai-union-201904/README.md
 
 > 深度学习必学
 
-1. 反向传递: https://www.cnblogs.com/charlotte77/p/5629865.html
-2. CNN原理: http://www.cnblogs.com/charlotte77/p/7759802.html
-3. RNN原理: https://blog.csdn.net/qq_39422642/article/details/78676567
-4. LSTM深入浅出的好文: https://blog.csdn.net/roslei/article/details/61912618
-
+1. [反向传递](/blog/dl/反向传递.md): https://www.cnblogs.com/charlotte77/p/5629865.html
+2. [CNN原理](/blog/dl/CNN原理.md): http://www.cnblogs.com/charlotte77/p/7759802.html
+3. [RNN原理](/blog/dl/RNN原理.md): https://blog.csdn.net/qq_39422642/article/details/78676567
+4. [LSTM原理](/blog/dl/LSTM原理.md): https://blog.csdn.net/weixin_42111770/article/details/80900575
 
 ## 3.自然语言处理
 

blog/dl/LSTM原理.md

@@ -0,0 +1,61 @@
+# LSTM原理
+
+# 长短期记忆网络（Long Short-Term Memory，LSTM）及其变体双向LSTM和GRU
+
+**LSTM**（Long Short-Term Memory）长短期记忆网络，是一种时间递归神经网络，**适合于处理和预测时间序列中间隔和延迟相对较长的重要事件**。LSTM是解决循环神经网络RNN结构中存在的“梯度消失”问题而提出的，是一种特殊的循环神经网络。最常见的一个例子就是：当我们要预测“the clouds are in the (...)"的时候, 这种情况下，相关的信息和预测的词位置之间的间隔很小，RNN会使用先前的信息预测出词是”sky“。但是如果想要预测”I grew up in France ... I speak fluent (...)”，语言模型推测下一个词可能是一种语言的名字，但是具体是什么语言，需要用到间隔很长的前文中France，在这种情况下，RNN因为“梯度消失”的问题，并不能利用间隔很长的信息，然而，LSTM在设计上明确避免了长期依赖的问题，这主要归功于LSTM精心设计的“门”结构(输入门、遗忘门和输出门)消除或者增加信息到细胞状态的能力，使得LSTM能够记住长期的信息。
+
+![](/img/dl/LSTM原理/20180704173253439.jpg)  vs   ![](/img/dl/LSTM原理/20180704173230785.jpg)  
+
+标准的RNN结构都具有一种重复神经网络模块的链式形式，一般是一个tanh层进行重复的学习（如上图左边图），而在LSTM中（上图右边图），重复的模块中有四个特殊的结构。**贯穿在图上方的水平线为细胞状态（cell），黄色的矩阵是学习得到的神经网络层，粉色的圆圈表示运算操作，黑色的箭头表示向量的传输**，整体看来，不仅仅是h在随着时间流动，细胞状态c也在随着时间流动，细胞状态c代表着长期记忆。
+
+上面我们提到LSTM之所以能够记住长期的信息，在于设计的“门”结构，“门”结构是一种让信息选择式通过的方法，包括一个sigmoid神经网络层和一个pointwise乘法操作，如下图所示结构。复习一下sigmoid函数，![](/img/dl/LSTM原理/20180705153027598.jpg)，sigmoid输出为0到1之间的数组，一般用在二分类问题，输出值接近0代表“不允许通过”，趋向1代表“允许通过”。
+
+![](/img/dl/LSTM原理/20180705152515679.jpg)
+
+
+**在LSTM中，第一阶段是遗忘门，遗忘层决定哪些信息需要从细胞状态中被遗忘，下一阶段是输入门，输入门确定哪些新信息能够被存放到细胞状态中，最后一个阶段是输出门，输出门确定输出什么值**。下面我们把LSTM就着各个门的子结构和数学表达式进行分析。
+
+* 遗忘门：遗忘门是以上一层的输出![](/img/dl/LSTM原理/20180705154943659.jpg)和本层要输入的序列数据![](/img/dl/LSTM原理/20180705155022656.jpg)作为输入，通过一个激活函数sigmoid，得到输出为![](/img/dl/LSTM原理/201807051551130.jpg)。![](/img/dl/LSTM原理/20180705155135748.jpg)的输出取值在[0,1]区间，表示上一层细胞状态被遗忘的概率，1是“完全保留”，0是“完全舍弃”
+
+![](/img/dl/LSTM原理/20180705154117297.jpg)
+
+
+* 输入门：输入门包含两个部分，第一部分使用sigmoid激活函数，输出为![](/img/dl/LSTM原理/20180705160829424.jpg)，第二部分使用tanh激活函数，输出为![](/img/dl/LSTM原理/20180705161911316.jpg)。**【个人通俗理解：![](/img/dl/LSTM原理/20180705162106120.jpg)在RNN网络中就是本层的输出，![](/img/dl/LSTM原理/20180705162239540.jpg)是在[0,1]区间取值，表示![](/img/dl/LSTM原理/20180705162835994.jpg)中的信息被保留的程度，![](/img/dl/LSTM原理/20180705162518689.jpg)表示该层被保留的新信息】**
+
+![](/img/dl/LSTM原理/20180705154140100.jpg)
+
+
+到目前为止，![](/img/dl/LSTM原理/20180705162951402.jpg)是遗忘门的输出，控制着上一层细胞状态![](/img/dl/LSTM原理/20180705163019968.jpg)被遗忘的程度，![](/img/dl/LSTM原理/20180705163047274.jpg)为输入门的两个输出乘法运算，表示有多少新信息被保留，基于此，我们就可以把新信息更新这一层的细胞状态![](/img/dl/LSTM原理/20180705163146715.jpg)。
+
+![](/img/dl/LSTM原理/20180705154157781.jpg)
+
+
+* 输出门：输出门用来控制该层的细胞状态有多少被过滤。首先使用sigmoid激活函数得到一个[0,1]区间取值的![](/img/dl/LSTM原理/20180705163549770.jpg)，接着将细胞状态![](/img/dl/LSTM原理/20180705164009353.jpg)通过tanh激活函数处理后与![](/img/dl/LSTM原理/20180705164029948.jpg)相乘，即是本层的输出![](/img/dl/LSTM原理/20180705164102617.jpg)。
+
+![](/img/dl/LSTM原理/20180705154210768.jpg)
+
+
+至此，终于将LSTM的结构理解了，现在有很多LSTM结构的变形，只要把这个母体结构理解了，再去理解变形的结构应该不会再有多麻烦了。
+
+**双向LSTM**
+
+双向RNN由两个普通的RNN所组成，一个正向的RNN，利用过去的信息，一个逆序的RNN，利用未来的信息，这样在时刻t，既能够使用t-1时刻的信息，又能够利用到t+1时刻的信息。一般来说，由于双向LSTM能够同时利用过去时刻和未来时刻的信息，会比单向LSTM最终的预测更加准确。下图为双向LSTM的结构。
+
+![](/img/dl/LSTM原理/20180713200802779.jpg)
+
+
+* ![](/img/dl/LSTM原理/20180713204707320.jpg)为正向的RNN，参与正向计算，t时刻的输入为t时刻的序列数据![](/img/dl/LSTM原理/20180713204850377.jpg)和t-1时刻的输出![](/img/dl/LSTM原理/20180713204838867.jpg)
+* ![](/img/dl/LSTM原理/20180713204802532.jpg)为逆向的RNN，参与反向计算，t时刻的输入为t时刻的序列数据![](/img/dl/LSTM原理/20180713204852425.jpg)和t+1时刻的输出![](/img/dl/LSTM原理/20180713204825347.jpg)
+* t时刻的最终输出值取决于![](/img/dl/LSTM原理/20180713204838867.jpg)和![](/img/dl/LSTM原理/20180713204913638.jpg)
+
+**GRU（Gated Recurrent Unit）**是LSTM最流行的一个变体，比LSTM模型要简单
+
+![](/img/dl/LSTM原理/20180713200829571.jpg)
+
+
+GRU包括两个门，一个重置门![](/img/dl/LSTM原理/20180713205653854.jpg)和更新门![](/img/dl/LSTM原理/20180713205710503.jpg)。这两个门的激活函数为sigmoid函数，在[0,1]区间取值。
+
+候选隐含状态![](/img/dl/LSTM原理/20180713210203944.jpg)使用重置门![](/img/dl/LSTM原理/20180713205653854.jpg)来控制t-1时刻信息的输入，如果![](/img/dl/LSTM原理/20180713205653854.jpg)结果为0，那么上一个隐含状态的输出信息![](/img/dl/LSTM原理/20180713211322965.jpg)将被丢弃。也就是说，**重置门决定过去有多少信息被遗忘，有助于捕捉时序数据中短期的依赖关系**。
+
+
+隐含状态使用更新门![](/img/dl/LSTM原理/20180713205710503.jpg)对上一时刻隐含状态![](/img/dl/LSTM原理/20180713210738834.jpg)和候选隐含状态![](/img/dl/LSTM原理/20180713210203944.jpg)进行更新。更新门控制过去的隐含状态在当前时刻的重要性，**如果更新门一直趋近于1，t时刻之前的隐含状态将一直保存下来并全传递到t时刻，****更新门有助于捕捉时序数据中中长期的依赖关系**。