针对于逻辑回归及分类问题,一方面,需要将\mathbb{R}\rightarrow [0,1]之间;另一方面,给神经网络引入非线性元素,使得神经网络可以完成非线性映射。由此,需要数学上的一类函数实现该功能,这类函数有如下特点:

  • 有界性,一般范围在[0,1]
  • 求导简单
  • 单调性,一般是凸函数

由此,深度学习中将这一类功能函数叫做激活函数,也称为Sigmoid函数

常见可作为Sigmoid函数,如下图[1]:

参考文献

[1]  刘二大人.《PyTorch深度学习实践》完结合集---P6.逻辑斯蒂回归 [EB/OL].,2020-03-18

对应网址

[1] https://www.bilibili.com/video/BV1Y7411d7Ys?p=6

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐