一、线性回归
我们希望通过模型求得一个简单的由属性的线性组合构成的一个函数，并且希望它足够好，预测效果与真实值的误差尽可能地小
$f(x_i) = w^Tx_i+b$
这便是一般地多元线性回归地形式
误差地度量采用预测和真实值的2范数进行衡量
二、对数几率回归
采用sigmoid函数将数值转化成0~1区间内的一个数
所以可以利用这个特性简单的对线性模型改造得到可以进行二分类的对数几率回归
将线性回归生成的z值代入sigmoid函数即得到对数几率回归的一般式子，由于函数发生改变，故需要重新求解w和b使得模型最优
一般来讲大于等于1记成正类，小于1记成负类
三、线性判别分析
设法将样本投影到一条直线上，使得同类样本点的投影点尽可能接近，异类样本点的投影点尽可能远离。
