需要有一些规则,通常我们会希望根据他的期望风险值判断,但期望风险值要拿到全局数据,除了训练数据外,预测数据也要拿得到,实际现实生活中不会发生这种情况,所以期望风险只是一个理想状态能达到一个全局最优值是达不到的,这时候可以使用经验风险,在训练集上效果最好,但是容易产生过逆和,就是在训练集上表现很好,但在预测集很糟糕。
如果只考虑经验风险的话他更趋向让这个模型复杂化,为了避免这个问题我们引入了结构风险,在经验风险里面增加一个惩罚项,当模型过于复杂就会增加惩罚值使这个模型被抛弃,起到了平衡的作用。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。