深度学习之激活函数
针对于逻辑回归及分类问题,一方面,需要将之间;另一方面,给神经网络引入非线性元素,使得神经网络可以完成非线性映射。由此,需要数学上的一类函数实现该功能,这类函数有如下特点:有界性,一般范围在[0,1]求导简单单调性,一般是凸函数由此,深度学习中将这一类功能函数叫做激活函数,也称为Sigmoid函数常见可作为Sigmoid函数,如下图[1]:参考文献[1] 刘二大人.《PyTorch深度学习实践》完
·
针对于逻辑回归及分类问题,一方面,需要将之间;另一方面,给神经网络引入非线性元素,使得神经网络可以完成非线性映射。由此,需要数学上的一类函数实现该功能,这类函数有如下特点:
- 有界性,一般范围在[0,1]
- 求导简单
- 单调性,一般是凸函数
由此,深度学习中将这一类功能函数叫做激活函数,也称为Sigmoid函数
常见可作为Sigmoid函数,如下图[1]:
参考文献
[1] 刘二大人.《PyTorch深度学习实践》完结合集---P6.逻辑斯蒂回归 [EB/OL].,2020-03-18
对应网址

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
所有评论(0)