神经网络中的激活函数

一、什么是激活函数：

• 激活函数是神经网络中的一种函数，它在神经元中起到了非线性映射的作用。
• 在神经网络的每个神经元中，都会通过激活函数将输入信号进行处理，然后输出给下一层神经元。
• 通俗解释：逻辑回归模型中的Sigmoid函数就是逻辑回归模型的激活函数，通过将输入特征向量x映射到Sigmoid函数的输入z上，将输出g映射到[0,1]范围内，实现了最终目标：预测结果输出二分类0/1。

二、如何选择激活函数：

每个神经元都可以选择各自的激活函数。

1.Sigmoid激活函数：

• 当某个神经元所解决的是二分类问题（二分类问题，结果只有两个） 时，建议选择Sigmoid激活函数。
• 这时该神经元就是一个普通的逻辑回归模型。
  

2.线性激活函数：

• 当某个神经元解决的是回归问题（回归问题，结果有无限个），且输出可正可负 时，建议使用线性激活函数。
• 这时该神经元就是一个普通的线性回归模型。
  

3.ReLU激活函数：

• 当某个神经元解决的是回归问题（回归问题，结果有无限个），且输出只能是正数 时，建议使用ReLU激活函数。
• 这时该神经元就是一个预测结果非负的线性回归模型。