开发者社区> 问答> 正文

范数L1与L2有什么关系啊?

已解决

范数L1与L2有什么关系啊?

展开
收起
游客ssjzqkudb6hts 2022-04-01 20:29:13 1071 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    1.下降速度。L1和L2都是规则化的方式,我们将权值参数以L1或者L2的方式放到代价函数里面去。然后模型就会尝试去最小化这些权值参数。而这个最小化就像一个下坡的过程,L1和L2的差别就在于这个“坡”不同,L1就是按绝对值函数的“坡”下降的,而L2是按二次函数的“坡”下降。所以实际上在0附近,L1的下降速度比L2的下降速度要快。

    2.最优化问题的平滑性。从最优化问题解的平滑性来看,L1范数的最优解相对于L2范数要少,但是其往往是最优解,而L2范数的解很多,但其更多的倾向于某种局部最优解。

    3.模型空间的限制。

    2022-04-01 20:30:19
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
高维向量检索技术在PG中的设计与实践 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载