Svm 介绍| 学习笔记

简介: 快速学习 Svm 介绍。

开发者学堂课程【机器学习算法 :Svm 介绍】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/535/detail/7263


Svm 介绍

 

内容介绍

一、约束

二、优化问题

三、优化问题整理

 

一、约束

image.png

间隔如果正类大于等于 d,相较于 d 而言0的范围相对宽松,因为虚线到分类超平面之间没有任何样本点,所以之间的距离就是 d,支持向量到分类超平面的距离也是 d,其他的点是大于 d 的,同样负类带到方程中是小于等于 d 的。

将左右两侧同时除以 d(因为距离肯定是非零正数)得到以下结果

image.png

再拆除,分母不变,分子进行分解得到以下结果

image.png

为了记起来方便,对上面表达式进行化简为:

image.png

上式表明,分类超平面由:

image.png

原因是做了简化后得到前面的式子,左右两边同除这个非零标量后得到结果,其实方程并没有发生改变:

image.png

例:y=2x 对应一条直线,2y=4x 也是对应一条直线,这两条直线是通过一条直线,和以上原理一致,都是同除一个非零标量后结果一致。看上去是两个超平面,其实是同一个。

最初分类结果有时候是1、-1或者0,因为整理公式后发现分类结果为1和-1,运算起来会更方便。

令 y=±1,就可以将不等式方程组统一为一个不等式方程:image.png

当 y=1 时,不等式方程左右两边不变,为正类;

当 y=-1 时,不等式方程右侧变为小于等于1,为负类。

 

二、优化问题

要找到支持向量机以及求出支持向量机的表达式,实际上就是要找到一组支持向量。要求支持向量到分类决策面的距离 d最大,既能满足最优分类器的要求(面向线性可分的记录)。

支持向量到分类超平面的距离是 d:

image.png

d 和约束都已得出公式。如果是正类则大于等于1,负类则小于等于-1。但什么时候等号成立呢?答案是:只有样本向量是支持向量时才能使等号成立。前面讲过分类超平面表达式大于等于 d,只有支持向量符合大于等于 d。所有样本点距离分类超平面最近的距离则为 d。

如果等于0,那么点会落在分类超平面上,如果为1的话,就落在距离分类超平面d距离的虚线上。

如果求支持向量,若想最大化间隔,只需将支持向量所对应的距离求出即可。

image.png

 

三、优化问题整理

优化问题经过转化后,有数学语言表达为:

image.png

其中image.png为向量各元素平方和的二分之一次方,为了方便计算,可以改成image.png的平方的最小值,实质没变,计算变得容易。

另外image.png变为image.png的平方后,计算时(经常会用到求导数,image.png的平方为二次方项,求导后会多出来一个2x)为了简便,image.png的平方改为image.png的平方,实质依然没变。

相关文章
|
6月前
|
机器学习/深度学习 算法 Serverless
什么是支持向量机(SVM)
支持向量机(Support Vector Machine,SVM)是一种用于分类问题的监督算法。主要用于二分类和多分类问题。其基本思想是找到一个超平面,能够将不同类别的样本点尽可能地分开,并使得离超平面最近的样本点尽可能远离超平面,从而实现较好的分类效果。 SVM的关键是找到一个最优的超平面,这个超平面可以通过使得最靠近超平面的样本点之间的间隔最大化来定义。这些最靠近超平面的样本点被称为支持向量。SVM的优化目标可以表示为一个凸二次规划问题,可以通过求解对应的拉格朗日函数来得到最优解。
|
6月前
|
机器学习/深度学习 算法 Serverless
支持向量机(SVM)
支持向量机(Support Vector Machine,SVM)是一种用于分类问题的监督算法。主要用于二分类和多分类问题。其基本思想是找到一个超平面,能够将不同类别的样本点尽可能地分开,并使得离超平面最近的样本点尽可能远离超平面,从而实现较好的分类效果。 SVM的关键是找到一个最优的超平面,这个超平面可以通过使得最靠近超平面的样本点之间的间隔最大化来定义。这些最靠近超平面的样本点被称为支持向量。SVM的优化目标可以表示为一个凸二次规划问题,可以通过求解对应的拉格朗日函数来得到最优解。 SVM除了能够处理线性可分离的问题外,还可以通过核函数的引入处理线性不可分的问题,将样本映射到高维空间,从而
|
4月前
|
机器学习/深度学习 数据采集 算法
Python实现支持向量机SVM回归模型(SVR算法)项目实战
Python实现支持向量机SVM回归模型(SVR算法)项目实战
293 4
|
5月前
|
机器学习/深度学习 数据采集 算法
SVM算法
【6月更文挑战第15天】
59 6
|
6月前
|
机器学习/深度学习 数据采集 算法
深入理解并应用机器学习算法:支持向量机(SVM)
【5月更文挑战第13天】支持向量机(SVM)是监督学习中的强分类算法,用于文本分类、图像识别等领域。它寻找超平面最大化间隔,支持向量是离超平面最近的样本点。SVM通过核函数处理非线性数据,软间隔和正则化避免过拟合。应用步骤包括数据预处理、选择核函数、训练模型、评估性能及应用预测。优点是高效、鲁棒和泛化能力强,但对参数敏感、不适合大规模数据集且对缺失数据敏感。理解SVM原理有助于优化实际问题的解决方案。
|
机器学习/深度学习
【阿旭机器学习实战】【21】通过SVM分类与回归实战案例,对比支持向量机(SVM)3种SVM不同核函数
【阿旭机器学习实战】【21】通过SVM分类与回归实战案例,对比支持向量机(SVM)3种SVM不同核函数
【阿旭机器学习实战】【21】通过SVM分类与回归实战案例,对比支持向量机(SVM)3种SVM不同核函数
|
机器学习/深度学习 算法 Python
2022-11-10-支持向量机SVM
2022-11-10-支持向量机SVM
114 0
|
机器学习/深度学习 算法
|
机器学习/深度学习 算法
SVM学习笔记
SVM学习笔记
127 0
|
机器学习/深度学习 算法 开发者
Svm 介绍| 学习笔记
快速学习 Svm 介绍。
Svm 介绍| 学习笔记
下一篇
无影云桌面