开发者社区> 问答> 正文

为什么正则化有利于预防过拟合呢?

为什么正则化有利于预防过拟合呢?

展开
收起
因为相信,所以看见。 2020-05-20 15:57:37 606 0
1 条回答
写回答
取消 提交回答
  • 阿里,我所有的向往

    image.png image.png image.png image.png 如果你使用的是梯度下降函数,在调试梯度下降时,其中一步就是把代价函数设计成这样一个函数,在调试梯度下降时,它代表梯度下降的调幅数量。可以看到,代价函数对于梯度下降的每个调幅都单调递减。如果你实施的是正则化函数,请牢记,已经有一个全新的定义。如果你用的是原函数,也就是这第一个项正则化项,你可能看不到单调递减现象,为了调试梯度下降,请务必使用新定义的函数,它包含第二个正则化项,否则函数可能不会在所有调幅范围内都单调递减。

    2020-05-20 15:58:39
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
理解过拟合 立即下载
安全值-量化安全风险 立即下载
机器学习在恶意样本检测方面的实践之路 立即下载