所谓机器学习算法就是一个假设集合，用于找到最优模型。机器学习算法可以分为三大类。

• 监督学习：输入特征和输出标签都被定义
  
• 无监督学习：数据集未标注，目标是发现隐藏关系
  
• 强化学习：某种形式的反馈回路，有些参数需要优化
  

这篇文章尝试对一些常见和流行的机器学习算法，进行简单的介绍。

普通最小二乘线性回归

• 线性回归的目标，是拟合一条线，穿过训练集数据分布的区域，并且与大多数点的距离最短
  
• 在简单线性回归中，回归线最小化与各点距离的总和，即“残差平方”的总和。因此，这种方法也被称为“普通最小二乘”
  
• 在多维数据的情况下，也可以实现线性回归。不过在这种情况夏，“线”只是维度为N-1的高维平面，而N是数据集的维度
  

逻辑回归

• 逻辑回归虽然名为回归，但其实是一种分类技术
  
• 与线性回归相反，逻辑回归不假设自变量和因变量之间存在线性关系。不过假定了决策面是线性的
  

支持向量机

• 支持向量机（SVM）是一种有监督的机器学习算法，既能解决分类问题，又能解决回归问题
  
• 在SVM中，我们将数据点绘制在N维空间中，其中N代表特征数量；然后找到一个超平面来区分数据点
  
• 当数据的维度高于数据点数时，这是一个很好的算法
  
• 由于需要处理高维空间，这个算法计算代价高昂
  

K-means聚类

• 尝试把数据分为围绕K个质心的K个组
  
• 有点类似于“物以类聚，人以群分”
  

K-means聚类算法的实现非常简单。

• 随机挑选K个质心
  
• 然后将数据点分配给距离最近的质心
  
• 根据平均位置重新计算质心
  
• 迭代直到质心位置不再更改
  

用于预测时，只要找到距离最近的质心。

决策树

• 决策树是一个树形结构的分类器
  
• 决策树对一个实例或示例的分类，从树根开始直到抵达叶片节点，也就是目标价值
  
• 决策树模仿了人类，所以这个模型很容易理解
  
• 小树比大树好，树越大精度越低
  

这些就是一些关键的机器学习算法，这些算法就像刀叉一样，各有利弊，适用于不同的场景。

如果你还有更多的疑问和兴趣，可以跟作者邮件讨论。他的Twitter地址是：https://twitter.com/alt227Joydeep

— 完 —