开发者社区> 问答> 正文

为什么LASSO 回归可以带来稀疏性?

已解决

为什么LASSO 回归可以带来稀疏性?

展开
收起
gxx1 2022-04-01 20:42:30 970 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    1.对于一个凸函数,存在向量是有一个次梯度的。我们用次梯度对lasso回归带来的稀疏性进行解释。

    2.从函数图像角度解释次梯度。即一条经过点的直线,其中,这个向量就是这条直线的斜率,也就是梯度。所以对于一个次梯度来说,它要满足的条件就是所形成的这条直线要一直处于原函数的下方。

    3.由于凸函数的一阶性质保证了在 w 处能够满足如上性质的向量,因此对于凸函数中的可导部分,那么它的梯度就等于是它的次梯度。而对于函数的不可导部分,函数的次梯度就会是一个集合。

    2022-04-01 20:45:43
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
理解过拟合 立即下载
纯干货 | 机器学习中梯度下降法的分类及对比分析 立即下载