1.8如何理解机器学习三要素
统计学习=模型+策略+算法
模型:规律y=ax+b
策略:什么样的模型是好的模型?损失函数
算法:如何高效找到最优参数,模型中的参数a和b
1.8.1模型
机器学习中,首先要考虑学习什么样的模型,在监督学习中,如模型y=kx+b就是所要学习的内容。
模型通常分为****决策函数*或*条件概率分布****
由决策函数表示的模型为非概率模型,由条件概率分布表示的模型为概率模型。
1.8.2策略
评价模型的好坏,使用损失函数进行度量,模型给出的值与实际真实值存在的差别。
损失函数度量模型一次预测的好坏,常用的损失函数有:
1.8.3算法
机器学习的算法就是求解最优化问题的算法。如果最优化问题有显示的解析解,这个最优化问题就比较简单,但通常这个解析解不存在,所以就需要利用数值计算的方法来求解。机器学习可以利用已有的最优化算法,也可以开发独自的最优化算法。