python使用SVM(支持向量机)解决非线性分类问题

简介: python使用SVM(支持向量机)解决非线性分类问题

很多问题使用线性SVM分类器就能有效处理,但实际上也存在很多非线性问题,数据集无法进行线性划分,处理非线性数据集的方法之一是添加更多特征,比如多项式,添加新特征后,数据集维度更高,能够形成一个划分超平面。


下面使用SVC(SVM中的分类算法)处理K-means聚类无法解决的半环形moons数据集的分类问题


Piplline()函数能够对三个函数模块进行封装,将前一个函数的结果传递个下一个函数,


结果可视化如下

1666430931745.jpg

可以看出 SVC模型可以将半环形数据集进行准确的划分,从而解决了K-means中仅仅依靠距离进行分类的局限性,因此,对于非线性问题来说,SVM提供了崭新的思路和良好的解决方案!


源代码如下

import  numpy as np
import  matplotlib.pyplot as plt
from sklearn.datasets import  make_moons
from sklearn.preprocessing import  PolynomialFeatures
from sklearn.preprocessing import  StandardScaler
from sklearn.svm import  LinearSVC
from  sklearn.pipeline import Pipeline
x,y=make_moons(n_samples=100,noise=0.1,random_state=1)
moonAxe=[-1.5,2.5,-1,1.5]
def disdata(x,y,moonAxe):
    pos_x0=  [x[i,0] for i in range(len(y))if  y[i]==1]
    pos_x1 = [x[i,1] for i in range(len(y)) if y[i]==1]
    neg_x0 = [x[i,0] for i in range(len(y)) if y[i]==0]
    neg_x1 = [x[i,1] for i in range(len(y)) if y[i]==0]
    plt.plot(pos_x0,pos_x1,"bo")
    plt.plot(neg_x0,neg_x1,"r^")
    plt.axis(moonAxe)
    plt.xlabel('x')
    plt.ylabel('y')
def dispPredict(clf,moonAxe):
    d0=np.linspace(moonAxe[0],moonAxe[1],200)
    d1= np.linspace(moonAxe[2], moonAxe[3], 200)
    x0,x1=np.meshgrid(d0,d1)
    X=np.c_[x0.ravel(),x1.ravel()]
    y_pred=clf.predict(X).reshape(x0.shape)
    plt.contourf(x0,x1,y_pred,alpha=0.8)
disdata(x,y,moonAxe)
polynomial_svm_clf=Pipeline(
    (("multifeature",PolynomialFeatures(degree=3)),
     ("numscale",StandardScaler()),
     ("SVC",LinearSVC(C=100)))
)
polynomial_svm_clf.fit(x,y)
dispPredict(polynomial_svm_clf,moonAxe)
plt.title('Linear svm classifies moon data')
plt.show()
相关文章
|
13天前
|
机器学习/深度学习 计算机视觉 异构计算
基于YOLOv8深度学习的橙子病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类(2)
基于YOLOv8深度学习的橙子病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类
|
13天前
|
机器学习/深度学习 监控 Python
基于YOLOv8深度学习的橙子病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类(1)
基于YOLOv8深度学习的橙子病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类
|
13天前
|
机器学习/深度学习 计算机视觉 异构计算
基于YOLOv8深度学习的玉米叶片病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类(2)
基于YOLOv8深度学习的玉米叶片病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类
基于YOLOv8深度学习的玉米叶片病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类(2)
|
13天前
|
机器学习/深度学习 监控 搜索推荐
基于YOLOv8深度学习的玉米叶片病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类(1)
基于YOLOv8深度学习的玉米叶片病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类
|
17天前
|
数据采集 SQL 算法
LeetCode题目75:颜色分类【python】
LeetCode题目75:颜色分类【python】
|
30天前
|
机器学习/深度学习 数据采集 人工智能
使用Python和Scikit-learn实现机器学习分类任务
使用Python和Scikit-learn实现机器学习分类任务
40 1
|
1月前
|
机器学习/深度学习 算法 Python
深入浅出Python机器学习:从零开始的SVM教程/厾罗
深入浅出Python机器学习:从零开始的SVM教程/厾罗
|
1月前
|
机器学习/深度学习 数据采集 数据可视化
数据分享|python分类预测职员离职:逻辑回归、梯度提升、随机森林、XGB、CatBoost、LGBM交叉验证可视化
数据分享|python分类预测职员离职:逻辑回归、梯度提升、随机森林、XGB、CatBoost、LGBM交叉验证可视化
|
1月前
|
机器学习/深度学习 算法 数据可视化
Python用KNN(K-近邻)回归、分类、异常值检测预测房价、最优K值选取、误差评估可视化
Python用KNN(K-近邻)回归、分类、异常值检测预测房价、最优K值选取、误差评估可视化
|
1月前
|
机器学习/深度学习 数据采集 算法
【Python机器学习专栏】支持向量机(SVM)在Python中的实践
【4月更文挑战第30天】SVM是一种高效的监督学习算法,适用于分类和回归,尤其擅长处理高维和非线性问题。通过寻找最大边际超平面来分隔数据,SVM具有高效性、鲁棒性、灵活性和稀疏性等特点。