开发者学堂课程【机器学习算法 ：机器学习方法三要素-1】学习笔记，与课程紧密联系，让用户快速学习知识。
课程地址：https://developer.aliyun.com/learning/course/535/detail/7168
机器学习方法三要素-1
这一章我们讲解机器学习较为重要的三个要素
内容介绍
一、三要素
二、模型
三、策略
一、三要素
机器学习方法通常都是由模型、策略和算法三部分构成：
方法=模型＋策略＋算法
我们分别来看一下这三种要素的定义：
模型：输入空间到输出空间的映射关系。上一章讲的从模型空间内空过利用样本数据进行学习，得到的假设。学习过程即为从假设空间中搜索适合当前数据的假设。（现在有输入数据，做一定的输出，做了非常多的假设，学习就是从假设空间内挑一个最适合当前的假设出来）
策略：从假设空间众多的假设中选择到最优的橫型的学习标准或规则。
算法：学习模型的具体的计算方法，通常是求解最优化问题。
模型：确定学习范围；找到一个假设空间，在这个假设空间内通过策略（确定学习规则）按照策略寻找最合适的假设。
算法：按规则在范围内学习；怎么找见最好的假设。
二、模型
模型：输入空间到输出空间的映射关系。学习过程即为从假设空间中搜索适合当前数据的假设。
分析当前需要解決的问题，确定模型。
1、需要解决什么问题（将业务数据，转化为需要解决的问题）
2、看一下问题需要干嘛，需要分类
预测分类（classification）：例如 ：泰坦尼克号中的人是生存还是遇难。利用信用度来判别顾客是否购买，分为两类，会购买，不会购买。
3、预测取值，回归（regression）例如：知道父亲的身高预测孩子的身高；知道产品的库存数量，预测产品的价格。
4、发现结构，聚类（clustering）例如：有许多客户，判断他们的购买能力，将客户分为几类。（无监督学习，有详细数据，没有结论，需要通过模型发现数据内在的结构，更具结构分成不同的类别）
5、发现异常数据，异常检测（anomaly detection）：防诈骗识别。
三、策略
策略：从假设空间众多的假设中选择到最优的模型的学习标准或规则。
要从假设空间中选择一个最合适的模型出来，需要解决以下问题：
1、评估某个模型对单个训练样本的效果（得到的假设对单个的样本好不好）
2、评估某个模型对训练集的整体效果
3、评估某个模型对包括训练集、预测集在内的所有数据的整体效果（较为困难）
定义几个指标用来衡量上述问题：
1、损失西数：0-1损失函数、平方损失西数、绝对损失西数、对数损失函数等
2、风险函数 ：经验风险、期望风险、结构风险
基本策略
1、经验风险最小( EMR : Empirical Risk Minimization)
2、结构风险最小(SRM : Structural Risk Minimization)
