深度学习中常见的激活函数

　　上一篇文章介绍了激活函数的作用，就想一并整理一下深度学习领域中常见的激活函数。在深度学习中，常见的激活函数有三种：sigmoid函数，tanh函数，ReLU函数，下面分别进行介绍。

　　1.sigmoid函数（S型增长函数）

　　sigmoid函数能够将取值为$(-\infty,+\infty)$的数映射到$(0,1)$。公式和图形如下：$$S(x)=\frac{1}{1+e^{-z}}$$

来源：https://www.cnblogs.com/chester-cs/p/11691509.html