支持向量机高斯核调参小结-阿里云开发者社区

开发者社区> 人工智能> 正文
登录阅读全文

支持向量机高斯核调参小结

简介:

   在支持向量机(以下简称SVM)的核函数中,高斯核(以下简称RBF)是最常用的,从理论上讲, RBF一定不比线性核函数差,但是在实际应用中,却面临着几个重要的超参数的调优问题。如果调的不好,可能比线性核函数还要差。所以我们实际应用中,能用线性核函数得到较好效果的都会选择线性核函数。如果线性核不好,我们就需要使用RBF,在享受RBF对非线性数据的良好分类效果前,我们需要对主要的超参数进行选取。本文我们就对scikit-learn中 SVM RBF的调参做一个小结。

1. SVM RBF 主要超参数概述    

    如果是SVM分类模型,这两个超参数分别是惩罚系数CC和RBF核函数的系数γγ。当然如果是nu-SVC的话,惩罚系数CC代替为分类错误率上限nu, 由于惩罚系数CC和分类错误率上限nu起的作用等价,因此本文只讨论带惩罚系数C的分类SVM。

    惩罚系数CC即我们在之前原理篇里讲到的松弛变量的系数。它在优化函数里主要是平衡支持向量的复杂度和误分类率这两者之间的关系,可以理解为正则化系数。当CC比较大时,我们的损失函数也会越大,这意味着我们不愿意放弃比较远的离群点。这样我们会有更加多的支持向量,也就是说支持向量和超平面的模型也会变得越复杂,也容易过拟合。反之,当CC比较小时,意味我们不想理那些离群点,会选择较少的样本来做支持向量,最终的支持向量和超平面的模型也会简单。scikit-learn中默认值是1。

    另一个超参数是RBF核函数的参数γγ。回忆下RBF 核函数K(x,z)=exp(γ||xz||2)γ>0K(x,z)=exp(−γ||x−z||2)γ>0γγ主要定义了单个样本对整个分类超平面的影响,当γγ比较小时,单个样本对整个分类超平面的影响比较小,不容易被选择为支持向量,反之,当γγ比较大时,单个样本对整个分类超平面的影响比较大,更容易被选择为支持向量,或者说整个模型的支持向量也会多。scikit-learn中默认值是11样本特征数

    如果把惩罚系数CC和RBF核函数的系数γγ一起看,当CC比较大, γγ比较大时,我们会有更多的支持向量,我们的模型会比较复杂,容易过拟合一些。如果CC比较小 , γγ比较小时,模型会变得简单,支持向量的个数会少。

    以上是SVM分类模型,我们再来看看回归模型。

 

    SVM回归模型的RBF核比分类模型要复杂一点,因为此时我们除了惩罚系数CC和RBF核函数的系数γγ之外,还多了一个损失距离度量ϵϵ。如果是nu-SVR的话,损失距离度量ϵϵ代替为分类错误率上限nu,由于损失距离度量ϵϵ和分类错误率上限nu起的作用等价,因此本文只讨论带距离度量ϵϵ的回归SVM。

    对于惩罚系数CC和RBF核函数的系数γγ,回归模型和分类模型的作用基本相同。对于损失距离度量ϵϵ,它决定了样本点到超平面的距离损失,当ϵϵ比较大时,损失|yiwϕ(xi)b|ϵ|yi−w∙ϕ(xi)−b|−ϵ较小,更多的点在损失距离范围之内,而没有损失,模型较简单,而当ϵϵ比较小时,损失函数会较大,模型也会变得复杂。scikit-learn中默认值是0.1。

    如果把惩罚系数CC,RBF核函数的系数γγ和损失距离度量ϵϵ一起看,当CC比较大, γγ比较大,ϵϵ比较小时,我们会有更多的支持向量,我们的模型会比较复杂,容易过拟合一些。如果CC比较小 , γγ比较小,ϵϵ比较大时,模型会变得简单,支持向量的个数会少。

2. SVM RBF 主要调参方法

    对于SVM的RBF核,我们主要的调参方法都是交叉验证。具体在scikit-learn中,主要是使用网格搜索,即GridSearchCV类。当然也可以使用cross_val_score类来调参,但是个人觉得没有GridSearchCV方便。本文我们只讨论用GridSearchCV来进行SVM的RBF核的调参。

     我们将GridSearchCV类用于SVM RBF调参时要注意的参数有:

    1) estimator :即我们的模型,此处我们就是带高斯核的SVC或者SVR

    2) param_grid:即我们要调参的参数列表。 比如我们用SVC分类模型的话,那么param_grid可以定义为{"C":[0.1, 1, 10], "gamma": [0.1, 0.2, 0.3]},这样我们就会有9种超参数的组合来进行网格搜索,选择一个拟合分数最好的超平面系数。

    3) cv: S折交叉验证的折数,即将训练集分成多少份来进行交叉验证。默认是3,。如果样本较多的话,可以适度增大cv的值。

    网格搜索结束后,我们可以得到最好的模型estimator, param_grid中最好的参数组合,最好的模型分数。

    下面我用一个具体的分类例子来观察SVM RBF调参的过程

3. 一个SVM RBF分类调参的例子

    这里我们用一个实例来讲解SVM RBF分类调参。推荐在ipython notebook运行下面的例子。

    首先我们载入一些类的定义。

复制代码
import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets, svm
from sklearn.svm import SVC
from sklearn.datasets import make_moons, make_circles, make_classification
%matplotlib inline
复制代码

    接着我们生成一些随机数据来让我们后面去分类,为了数据难一点,我们加入了一些噪音。生成数据的同时把数据归一化

X, y = make_circles(noise=0.2, factor=0.5, random_state=1);
from sklearn.preprocessing import StandardScaler
X = StandardScaler().fit_transform(X)

    我们先看看我的数据是什么样子的,这里做一次可视化如下:

复制代码
from matplotlib.colors import ListedColormap
cm = plt.cm.RdBu
cm_bright = ListedColormap(['#FF0000', '#0000FF'])
ax = plt.subplot()

ax.set_title("Input data")
# Plot the training points
ax.scatter(X[:, 0], X[:, 1], c=y, cmap=cm_bright)
ax.set_xticks(())
ax.set_yticks(())
plt.tight_layout()
plt.show()
复制代码

    生成的图如下, 由于是随机生成的所以如果你跑这段代码,生成的图可能有些不同。

 

    好了,现在我们要对这个数据集进行SVM RBF分类了,分类时我们使用了网格搜索,在C=(0.1,1,10)和gamma=(1, 0.1, 0.01)形成的9种情况中选择最好的超参数,我们用了4折交叉验证。这里只是一个例子,实际运用中,你可能需要更多的参数组合来进行调参。

from sklearn.model_selection import GridSearchCV
grid = GridSearchCV(SVC(), param_grid={"C":[0.1, 1, 10], "gamma": [1, 0.1, 0.01]}, cv=4)
grid.fit(X, y)
print("The best parameters are %s with a score of %0.2f"
      % (grid.best_params_, grid.best_score_))

    最终的输出如下:

The best parameters are {'C': 10, 'gamma': 0.1} with a score of 0.91

    也就是说,通过网格搜索,在我们给定的9组超参数中,C=10, Gamma=0.1 分数最高,这就是我们最终的参数候选。

    到这里,我们的调参举例就结束了。不过我们可以看看我们的普通的SVM分类后的可视化。这里我们把这9种组合各个训练后,通过对网格里的点预测来标色,观察分类的效果图。代码如下:

复制代码
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max,0.02),
                     np.arange(y_min, y_max, 0.02))

for i, C in enumerate((0.1, 1, 10)):
    for j, gamma in enumerate((1, 0.1, 0.01)):
        plt.subplot()       
        clf = SVC(C=C, gamma=gamma)
        clf.fit(X,y)
        Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])

        # Put the result into a color plot
        Z = Z.reshape(xx.shape)
        plt.contourf(xx, yy, Z, cmap=plt.cm.coolwarm, alpha=0.8)

        # Plot also the training points
        plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.coolwarm)

        plt.xlim(xx.min(), xx.max())
        plt.ylim(yy.min(), yy.max())
        plt.xticks(())
        plt.yticks(())
        plt.xlabel(" gamma=" + str(gamma) + " C=" + str(C))
        plt.show()
复制代码

    生成的9个组合的效果图如下:

 

     以上就是SVM RBF调参的一些总结,希望可以帮到朋友们。


本文转自刘建平Pinard博客园博客,原文链接:http://www.cnblogs.com/pinard/p/6126077.html,如需转载请自行联系原作者


版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
人工智能
使用钉钉扫一扫加入圈子
+ 订阅

了解行业+人工智能最先进的技术和实践,参与行业+人工智能实践项目

其他文章