AlexNet中,使用ReLU激活函数来替代Sigmoid激活函数。
相比较于Sigmoid激活函数而言:
1、ReLU激活函数在大于0的部分梯度为常数,不会出现梯度弥散现象;
2、ReLU激活函数在小于0的部分梯度都为0,可以在一定程度上缓解过拟合现象的发生;
3、ReLU激活函数的导数计算非常简单快速
用户访问量
注册用户数
在线视频观看人次
在线实验人次
AlexNet中,使用ReLU激活函数来替代Sigmoid激活函数。
相比较于Sigmoid激活函数而言:
1、ReLU激活函数在大于0的部分梯度为常数,不会出现梯度弥散现象;
2、ReLU激活函数在小于0的部分梯度都为0,可以在一定程度上缓解过拟合现象的发生;
3、ReLU激活函数的导数计算非常简单快速
¥ 5999
·难
·32
¥ 9999
·难
·9
¥ 7999
·难
·12
¥ 199
·易
·34
¥ 899
·适中
·16
¥ 1688
·适中
·203
¥ 28000
·难
·170
¥ 199
·偏易
·3591
¥ 100000
·难
·174
¥ 998
·难
·13
¥ 1899
·难
·16
¥ 199
·易
·343
¥ 5999
·适中
·37
¥ 6999
·难
·20
¥ 5999
·难
·17
¥ 3999
·难
·19
¥ 2999
·难
·59