机器学习(五)如何理解机器学习三要素

1.8如何理解机器学习三要素

统计学习=模型+策略+算法

模型：规律y=ax+b

策略：什么样的模型是好的模型？损失函数

算法：如何高效找到最优参数，模型中的参数a和b

1.8.1模型

机器学习中，首先要考虑学习什么样的模型，在监督学习中，如模型y=kx+b就是所要学习的内容。

模型通常分为****决策函数*或*条件概率分布****

由决策函数表示的模型为非概率模型，由条件概率分布表示的模型为概率模型。

1.8.2策略

评价模型的好坏，使用损失函数进行度量，模型给出的值与实际真实值存在的差别。

损失函数度量模型一次预测的好坏，常用的损失函数有：

1.8.3算法

机器学习的算法就是求解最优化问题的算法。如果最优化问题有显示的解析解，这个最优化问题就比较简单，但通常这个解析解不存在，所以就需要利用数值计算的方法来求解。机器学习可以利用已有的最优化算法，也可以开发独自的最优化算法。