AI 助理
备案控制台
开发者社区 人工智能 文章 正文

深度学习与CV教程(2) | 图像分类与机器学习基础

2022-05-27 1714
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
模型在线服务 PAI-EAS，A10/V100等 500元 1个月
推荐场景：
基于PAI-EAS挂载OSS部署AIGC服务
交互式建模 PAI-DSW，每月250计算时 3个月
推荐场景：
PAI×LLaMA Factory 微调 Llama3 模型
模型训练 PAI-DLC，5000CU*H 3个月
推荐场景：
低代码 Lora 微调及部署
简介： 图像分类是计算机视觉的核心任务。本文讲解数据驱动的模型算法，包括最邻近算法、KNN分类器、线性分类器的原理、各自的优缺点和实际应用【对应 CS231n Lecture 2】

ShowMeAI研究中心

Image Classification pipeline; 深度学习与计算机视觉; Stanford CS231n

本系列为 斯坦福CS231n《深度学习与计算机视觉(Deep Learning for Computer Vision)》的全套学习笔记，对应的课程视频可以在 这里 查看。更多资料获取方式见文末。

引言

图像分类是计算机视觉的核心任务，计算机视觉领域中很多问题（比如 目标检测 和 语义分割），都可以关联到图像分类问题。图像分类 问题，就是已有固定的分类标签集合，然后对于输入的图像，从分类标签集合中找出一个分类标签，最后把分类标签分配给该输入图像。在本篇内容汇总，ShowMeAI将给大家讲解数据驱动的模型算法，包括简单的 KNN 模型和 线性分类模型。

本篇重点

  • 数据驱动方法
  • KNN算法
  • 线性分类

1.图像分类的挑战

对于计算机而言，图像等同于一个像素矩阵；而对人类，图像是包含丰富语义信息的多媒体呈现，对应不同的物体类别，所以对计算机而言存在巨大的语义鸿沟。

比如，给计算机输入如下小猫的图片，计算机图像分类模型会读取该图片，并计算该图片属于集合 公式 中各个标签的概率。但读取的输入图像数据是一个由数字组成的巨大的 公式 维数组。

在下图中，猫的图像大小高 公式 像素，宽 公式 像素，有 公式 个颜色通道（红、绿和蓝，简称RGB），因此它包含了 公式 个数字，每个数字都是在范围 公式 之间的整型，其中 公式 表示全黑，公式 表示全白。

我们的任务就是把这些数字变成一个简单的标签，比如 「猫」 。

图像分类的挑战; 计算机[眼]中的图像


图像分类算法要足够健壮（鲁棒，robust），我们希望它能够适应下述变化及组合：

  • 视角变化（Viewpoint variation）：同一个物体，摄像机可以从多个角度来展现。
  • 大小变化（Scale variation）：物体可视的大小通常是会变化的（不仅是在图片中，在真实世界中大小也是变化的）。
  • 形变（Deformation）：很多东西的形状并非一成不变，会有很大变化。
  • 遮挡（Occlusion）：目标物体可能被挡住。有时候只有物体的一小部分（可以小到几个像素）是可见的。
  • 光照条件（Illumination conditions）：在像素层面上，光照的影响非常大。
  • 背景干扰（Background clutter）：物体可能混入背景之中，使之难以被辨认。
  • 类内差异（Intra-class variation）：一类物体的个体之间的外形差异很大，比如椅子。这一类物体有许多不同的对象，每个都有自己的外形。

如下图所示是一些变化和图像识别的挑战：

图像分类的挑战; 一些变化和识别挑战

2.数据驱动的方式

一种实现方式是「硬编码」：先获取猫图像的边缘得到一些线条，然后定义规则比如三条线交叉是耳朵之类。然而这种方式的识别效果不好，并且不能识别新的物体。

数据驱动算法; 获取图像边缘得到线条


我们会采用数据驱动算法：不具体写出识别每个物体对应的规则，而是针对每一类物体，找到大量样例图片，灌给计算机进行机器学习，归纳模式规律，生成一个分类器模型，总结出区分不同类物体的核心知识要素，然后用训练好的模型，识别新的图像。

数据驱动算法; 输入/学习/评价


数据驱动算法过程如下：

  • 输入：输入是包含 公式 个图像的集合，每个图像的标签是 公式 种分类标签中的一种。这个集合称为训练集。
  • 学习：这一步的任务是使用训练集来学习每个类的模式规律。一般该步骤叫做分类器训练或者模型学习。
  • 评价：让分类器对它未曾见过的图像进行分类，把分类器预测的标签和图像真正的分类标签 （基本事实) 对比，并以此来评价分类器的质量。

2.1 最邻近算法

本部分内容也可以参考ShowMeAI的 图解机器学习教程 中的文章详解 KNN算法及其应用

我们这里介绍第1个分类器算法：最近邻算法。训练过程只是简单的记住图像数据和标签，预测的时候和训练数据中图片比较找出最接近的输出标签。这个分类器和卷积神经网络没有任何关系，实际中也极少使用，但通过实现它，可以对解决图像分类问题的方法有个基本认识。

1) 图像分类数据集：CIFAR-10

CIFAR-10 是一个非常流行的图像分类数据集。这个数据集包含 10 种分类标签，60000 张 公式 的小图像，每张图片含有一个标签。这 60000 张图像被分为包含 50000 张（每种分类 5000 张）图像的训练集和包含 10000 张图像的测试集。

假设现在我们用这 50000 张图片作为训练集，将余下的 10000 作为测试集并打上标签，Nearest Neighbor 算法将会拿着测试图片和训练集中每一张图片去比较，然后将它认为最相似的那个训练集图片的标签赋给这张测试图片。

结果如下图所示，效果并不是特别好。

图像分类数据集; CIFAR-10


  • 左边：CIFAR-10 数据库的样本图像；
  • 右边：第一列是测试图像，后面是使用 Nearest Neighbor 算法，根据像素差异，从训练集中选出的10张最类似的图片

那么具体如何比较两张图片呢？我们有一些距离度量计算方法，下面展开介绍一下。

2) L1 距离（曼哈顿距离）

距离度量的数学知识也可以参考ShowMeAI的系列教程 图解AI数学基础 中的文章 线性代数与矩阵论 对各种距离度量的展开讲解

在本例中，就是比较 公式 的像素块。最简单的方法就是逐个像素比较，最后将差异值全部加起来。即将两张图片先转化为两个向量 公式 和 公式，然后计算他们的 L1 距离：

公式

  • 其中 公式 为像素点，公式 表示第 公式 个像素点的值。
  • 两张图片使用 L1 距离来进行比较，即逐个像素求差值，然后将所有差值加起来得到一个数值。如果两张图片一模一样，那么 L1 距离为 公式；但是如果两张图片很是不同，那 L1 值将会非常大。


下图是仅一个RGB通道的 公式 图片计算 L1 距离。

L1距离; 4X4图片计算


下面看具体编程如何实现：

① 首先，我们将 CIFAR-10 的数据加载到内存中，并分成4个数组：训练数据和标签，测试数据和标签。

Xtr, Ytr, Xte, Yte = load_CIFAR10('data/cifar10/') # 这个函数可以加载CIFAR10的数据
# Xtr是一个50000x32x32x3的数组，一共50000个数据，
# 每条数据都是32行32列的数组，数组每个元素都是一个三维数组，表示RGB。
# Xte是一个10000x32x32x3的数组；
# Ytr是一个长度为50000的一维数组，Yte是一个长度为10000的一维数组。
Xtr_rows = Xtr.reshape(Xtr.shape[0], 32 * 32 * 3) 
# Xtr_rows是50000x3072的数组，按每个像素点排列，每个像素点有三个值。
Xte_rows = Xte.reshape(Xte.shape[0], 32 * 32 * 3) 
# Xte_rows是10000x3072的数组
''' shape会返回数组的行和列数元组：（行数，列数），shape[0]表示行数, 
Xtr.shape[0]会返回50000；Xtr.shape会返回（50000，32，32，3）
Xtr.reshape(50000，3072)会将Xtr 重构成50000x3072数组，等于 np.reshape(Xtr, (50000,3072))'''
  • Xtr（大小是 50000x32x32x3）存有训练集中所有的图像
  • Xte（大小是 10000x3072）存有测试集中所有的图像
  • Ytr 是对应的长度为 50000 的 1 维数组，存有图像对应的分类标签（从 0 到 9 ）
  • Yte 对应长度为 10000 的 1 维数组

现在我们得到所有的图像数据，每张图片对应一个长度为 3072 的行向量。

② 接下来训练一个分类器并评估效果。我们常常使用准确率作为评价标准，它描述了我们预测正确的得分。

本例中OK，很多其他应用中准确率并不一定是最佳的评估准则，可以参考ShowMeAI的 图解机器学习教程 中的文章详解 模型评估方法与准则

nn = NearestNeighbor() # 创建一个最邻近分类器对象
nn.train(Xtr_rows, Ytr) # 用训练图片数据和标签训练分类器
Yte_predict = nn.predict(Xte_rows) # 预测测试图片的标签
# 并输出预测准确率，是一个平均值
print 'accuracy: %f' % ( np.mean(Yte_predict == Yte) )
  • 请注意以后我们实现的所有分类器都需要有这个接口函数（API）：train(X, y) 函数。该函数使用训练集的数据和标签来进行训练。
  • 从其内部来看，类应该实现一些关于标签和标签如何被预测的模型。这里还有个 predict(X) 函数，它的作用是预测输入的新数据的分类标签。


下面就是使用 L1 距离的 Nearest Neighbor 分类器的实现：

import numpy as np

class NearestNeighbor(object):
  def __init__(self):
    pass

  def train(self, X, y):
    """ X 是 NxD 维的数组，每一行都是一个样本，比如一张图片，D 是样本的数据维度；
    Y 是长度为 N 的一维数组。"""
    # 最邻近分类器只是简单的记住所有的训练数据
    self.Xtr = X
    self.ytr = y

  def predict(self, X):
    """ X 是 NxD 维的数组，每一行都是一个希望预测其标签的样本 """
    num_test = X.shape[0]
    # 确保输出的标签数据类型和输入的标签格式一致，长度是测试样本数
    Ypred = np.zeros(num_test, dtype = self.ytr.dtype)

    # 循环所有测试样本数，即测试数组的行数
    for i in range(num_test):
      # 为第 i 张测试图片找到最接近的训练图片
      # 使用 L1 距离 (差值的绝对值求和)
      '''self.Xtr - X[i,:] 利用传播机制，求测试集第 i 张图片对应的行向量和
      训练集所有图片行向量的差值，得到一个一个50000x3072的差值矩阵；
      abs(self.Xtr - X[i,:] )会将矩阵所有元素求绝对值；
      然后axis = 1 会对差值矩阵按行求和，最终得到一个长度为50000的一维
      数组，存放第 i 张图片和训练集所有50000张图片的 L1 距离。'''
      distances = np.sum(np.abs(self.Xtr - X[i,:]), axis = 1)
      min_index = np.argmin(distances) # 获取距离最小的训练集图片索引
      Ypred[i] = self.ytr[min_index] # 预测第 i 张测试集图片的标签时与其最接近的训练集图片索引

    return Ypred

这段代码的训练时间复杂度为 公式，因为只是简单的存储数据，不管数据多大，都是一个相对固定的时间；如果训练集有 公式 个样本，则预测时间复杂度为 公式，因为测试图片要和训练集每张图片进行比较。

这是一个不太好的分类器，实际对分类器的要求是，我们希望它预测的时候要快，训练的时候可以慢。

这段代码跑 CIFAR-10，准确率能达到 公式。这比随机猜测的 公式 要好，但是比人类识别的水平和卷积神经网络能达到的 公式 还是差很多。

3) L2距离（欧式距离）

距离度量的数学知识也可以参考ShowMeAI的系列教程图解AI数学基础中的文章线性代数与矩阵论对各种距离度量的展开讲解

另一个常用的方法是 L2 距离，从几何学的角度，可以理解为它在计算两个向量间的欧式距离。L2 距离的公式如下：

公式

  • 依旧是在计算像素间的差值，只是先求差值的平方，然后把这些平方全部加起来，最后对这个和开方。


此时的代码只需改动计算距离差异的一行：

distances = np.sqrt(np.sum(np.square(self.Xtr - X[i,:]), axis = 1))
'''np.square(self.Xtr - X[i,:]) 会对差值矩阵的每一个元素求平方'''

注意在这里使用了 np.sqrt，但是在实际中可能不用。因为对不同距离的绝对值求平方根虽然改变了数值大小，但依然保持了不同距离大小的顺序。这个模型，正确率是 公式，比刚才低了一点。

4) L1 和 L2比较

在 L1 距离更依赖于坐标轴的选定，坐标轴选择不同 L1 距离也会跟着变化，判定的数据归类的边界会更趋向于贴近坐标系的轴来分割所属区域，而 L2 的话相对来说与坐标系的关联度没那么大，会形成一个圆，不跟随坐标轴变化。

最近邻算法; L1距离V.S.L2距离


在面对两个向量之间的差异时，L2 比 L1 更加不能容忍这些差异。也就是说，相对于1个巨大的差异，L2 距离更倾向于接受多个中等程度的差异（因为会把差值平方）。

L1 和 L2 都是在 p-norm 常用的特殊形式。

当图像中有特别在意的特征时可以选择 L1 距离；当对图像中所有元素未知时，L2 距离会更自然一些。最好的方式是两种距离都尝试，然后找出最好的那一个。

2.2 k最近邻分类器

本部分内容也可以参考ShowMeAI的图解机器学习教程中的文章详解KNN算法及其应用

只用最相似的 1 张图片的标签来作为测试图像的标签，有时候会因为参照不够多而效果不好，我们可以使用 k-Nearest Neighbor 分类器。KNN的思想是：找最相似的 公式 个图片的标签，公式 中数量最多的标签作为对测试图片的预测。

当 公式 的时候，k-Nearest Neighbor 分类器就是上面所说的最邻近分类器。

如下图所示，例子使用了2维的点来表示图片，分成3类（红、绿、蓝）。不同颜色区域代表的是使用 L2距离的分类器的决策边界。

图像分类; NN分类器 V.S. KNN分类器


上面示例展示了 NN 分类器和 KNN（公式）分类器的区别。从直观感受上就可以看到，更高的 公式 值可以让分类的效果更平滑，使得分类器对于异常值更有抵抗力。

  • 在 公式 时，异常的数据点（比如：在蓝色区域中的绿点）制造出一个不正确预测的孤岛。

  • 在 公式 时分类器将这些不规则都平滑了，使得它针对测试数据的泛化（generalization）能力更好。

    • 注意，5-NN 中也存在一些白色区域，这些区域是因为 5 个近邻标签中的最高数相同导致的分类模糊（即图像与两个以上的分类标签绑定）。
    • 比如：2 个邻居是红色，2 个邻居是蓝色，还有 1 个是绿色，所以无法判定是红色还是蓝色。

1) 超参数调优

模型调优，超参数的实验选择方法也可以参考ShowMeAI的文章 图解机器学习 | 模型评估方法与准则 和 深度学习教程 | 网络优化：超参数调优、正则化、批归一化和程序框架

  • KNN 分类器需要设定 公式 值，如何选择 公式 值最合适？
  • L1 距离和 L2 距离选哪个比较好（还是使用其他的距离度量准则例如点积）？

所有这些选择，被称为超参数（hyperparameter）。在基于数据进行学习的机器学习算法设计中，超参数是很常见的。

超参数是需要提前设置的，设置完成后模型才可以训练学习，具体的设置方法通常要借助于实验，尝试不同的值，根据效果表现进行选择。

特别注意：不能使用测试集来进行调优。

  • 如果使用测试集来调优，而且算法看起来效果不错，真正的危险在于：算法实际部署后，性能可能会远低于预期。这种情况，称之为算法对测试集过拟合。
  • 大家可以理解为，如果使用测试集来调优，实际上就是把测试集当做训练集，由测试集训练出来的算法再预测测试集，性能自然会看起来很好，但实际部署起来效果就会差很多。
  • 最终测试的时候再使用测试集，可以很好地近似度量分类器的泛化性能。

测试数据集只能使用一次，而且是在训练完成后评价最终模型时使用，不可用来调优！

方法1：设置验证集

从训练集中取出一部分数据用来调优，称之为 验证集（validation set）。以 CIFAR-10 为例，可以用 49000 个图像作为训练集，用 1000 个图像作为验证集。验证集其实就是作为假的测试集来调优。

超参数调优; 设置验证集


代码如下：

# 假设 Xtr_rows, Ytr, Xte_rows, Yte 还是和之前一样
# Xtr_rows 是 50,000 x 3072 的矩阵
Xval_rows = Xtr_rows[:1000, :] # 取前 1000 个训练集样本作为验证集
Yval = Ytr[:1000]
Xtr_rows = Xtr_rows[1000:, :] # 剩下的 49,000 个作为训练集
Ytr = Ytr[1000:]

# 找出在验证集表现最好的超参数 k 
validation_accuracies = []
for k in [1, 3, 5, 10, 20, 50, 100]:
  # 使用一个明确的 k 值评估验证集
  nn = NearestNeighbor()
  nn.train(Xtr_rows, Ytr)
  # 这里假设一个修正过的 NearestNeighbor 类，可以把 k 值作为参数输入
  Yval_predict = nn.predict(Xval_rows, k = k)
  acc = np.mean(Yval_predict == Yval)
  print 'accuracy: %f' % (acc,)

  # 把每个 k 值和相应的准确率保存起来
  validation_accuracies.append((k, acc))

程序结束后，作图分析出哪个 公式 值表现最好，然后用这个 公式 值来跑真正的测试集，并作出对算法的评价。

方法2：交叉验证

训练集数量较小（因此验证集的数量更小）时，可以使用交叉验证的方法。还是用刚才的例子，如果是交叉验证集，我们就不是取 1000 个图像，而是将训练集平均分成 5 份，每份 10000 张图片，其中4份用来训练，1份用来验证。然后我们循环着取其中4份来训练，其中1份来验证，最后取所有5次验证结果的平均值作为算法验证结果。

超参数调优; 交叉验证


下面是 5 份交叉验证对 公式 值调优的例子。针对每个 公式 值，得到 5 次验证的准确率结果，取其平均值，然后对不同 公式 值的平均表现画线连接。

超参数调优; k折交叉验证效果


上图可以看出，本例中，当 公式 的时算法表现最好（对应图中的准确率峰值）。如果我们将训练集分成更多份数，直线一般会更加平滑（噪音更少）。

实际情况下，深度学习不会使用交叉验证，主要是因为它会耗费较多的计算资源。一般直接把训练集按照 公式 的比例分成训练集和验证集。但是训练集数量不多时可以使用交叉验证，一般都是分成3、5和10份。

2) KNN分类器优点

① 易于理解，实现简单。
② 算法的训练不需要花时间，因为其训练过程只是将训练集数据存储起来。

3) KNN分类器缺点

① 测试要花费大量时间

  • 因为每个测试图像需要和所有存储的训练图像进行比较在实际应用中，关注测试效率远远高于训练效率；

② 使用像素差异来比较图像是不够的，图片间 L2 距离小，更多的是被背景主导而不是图片语义内容本身主导，往往背景相似图片的 L2 距离就会小。

  • 也就是说，在高维度数据上，基于像素的相似和基于感官上的相似非常不同。感官上不同的两张图片，可能有相同的 L2 距离。

③ 维度灾难

  • KNN 有点像训练数据把样本空间分成几块，我们需要训练数据密集的分布在样本空间里，否则测试图片的最邻近点可能实际距离会非常远，导致和最接近的训练集样本实际上完全不同。但是如果使训练数据密集分布，需要的训练集数量指数倍增加，是数据维度的平方。

4) 实际应用KNN

下面是一些对于实际应用 KNN 算法的建议

① 预处理数据

  • 对数据中的特征进行归一化（normalize），让其具有零均值（zero mean）和单位方差（unit variance）。本小节不讨论，是因为图像中的像素都是同质的，不会表现出较大的差异分布，不需要标准化处理。

② 降维

  • 如果数据是高维数据，考虑使用降维方法，比如 PCA 或者随机投影。

③ 将数据随机分入训练集和验证集

  • 一般规律，公式 数据作为训练集。这个比例根据算法中有多少超参数，以及这些超参数对于算法的预期影响来决定。
  • 如果需要预测的超参数很多，那么就应该使用更大的验证集来有效地估计它们；如果担心验证集数量不够，那么就尝试交叉验证方法；如果计算资源足够，使用交叉验证更好（份数越多，效果越好，也更耗费计算资源）。

④ 在验证集上调优

  • 尝试足够多的 公式 值，尝试 L1 和 L2 两种范数计算方式。

⑤ 加速分类器

  • 如果分类器跑得太慢，尝试使用ANN库（比如 FLANN 来加速这个过程，其代价是降低一些准确率。

⑥ 对最优的超参数做记录

  • 记录最优参数后，不要使用最优参数的算法在完整的训练集上运行并再次训练，这样做会破坏对于最优参数的估计。
  • 直接使用测试集来测试用最优参数设置好的最优模型，得到测试集数据的分类准确率，并以此作为你的 KNN 分类器在该数据上的性能表现。

3.线性分类：评分函数

3.1 线性分类概述

KNN 模型中训练过程中没有使用任何参数，只是单纯的把训练数据存储起来（参数 k 是在预测中使用的，找出 公式 个接近的图片，然后找出标签最多的，并且 公式 是超参数，是人为设定的）。

与之相对的是参数模型，参数模型往往会在训练完成后得到一组参数，之后就可以完全扔掉训练数据，预测的时候只需和这组参数做某种运算，即可根据运算结果做出判断。线性分类器是参数模型里最简单的一种，但却是神经网络里很重要的基础模块。

线性分类的方法由两部分组成：

① 评分函数（score function）

  • 它是原始图像数据到类别分值的映射。

② 损失函数（loss function）

  • 它用来量化评分函数计算的分数与真实标签之间的一致性。该方法可转化为一个最优化问题，在最优化过程中，通过更新评分函数的参数来最小化损失函数值。

3.2 评分函数

评分函数将图像的像素值映射为各个分类类别的得分，得分高低代表图像属于该类别的可能性高低。上面的所有说明都比较抽象，下面以具体的例子说明。

重新回到 KNN 使用的 CIFAR-10 图像分类数据集。

评分函数; 参数化方式-线性分类器


假设我们的训练集有 公式 个样本，这里 公式，每个样本 公式，其中 公式，公式；每个 公式 对应着一个标签 公式，公式 在 公式 上取值，公式 表示总分类数，这里 公式。现在可以定义评分函数： 公式，即把一个 公式 维的图像映射为 公式 个类别的分数。

最简单的模型是线性模型：参数和输入数据相乘。即：

公式

  • 上式中参数 公式 被称为权重，公式 被称为偏置项
  • 在上面的公式中，假设每个图像数据都被拉长为一个长度为 公式 的列向量，大小为 公式。其中大小为 公式 的矩阵 公式 和大小为 公式 的列向量 公式 为该函数的参数（parameters）。

还是以 CIFAR-10 为例，公式 就包含了第 公式 个图像的所有像素信息，这些信息被拉成为一个 公式 的列向量，公式 大小为 公式，公式 的大小为 公式。因此，输入 公式 个数字（原始像素数值），函数输出 公式 个数字（不同分类得到的分值），是一个 公式 维到 公式 维的映射。

注意：

  • 常常混用权重（weights）和参数（parameters）这两个术语，实际上数据和参数相乘，就相当于数据占的比重，这个权重就是参数值；
  • 该方法的一个优势是训练数据是用来学习参数 公式 和 公式 的，一旦训练完成，训练数据就可以丢弃，留下学习到的参数即可。当测试图像时可以简单地把图像数据输入给函数，函数计算出的分类分值来进行分类；
  • 输入数据 公式 是给定且不可改变的，但参数 公式 和 公式 是可改变的。目标就是通过改变这些参数，使得计算出来的分类分值情况和训练集中图像数据的真实类别标签相符；
  • 只需一个矩阵乘法和一个矩阵加法就能对一个测试数据分类，这比 KNN 中将测试图像和所有训练数据做比较的方法要高效很多。

3.3 理解线性分类器

1) 理解一：W是所有分类器的组合

线性分类器; 理解1-计算评分函数


如上图所示，将小猫的图像像素数据拉伸成一个列向量 公式，这里为方便说明，假设图像只有4个像素（都是黑白像素，不考虑RGB通道），即 公式；有 公式 个分类（红色代表猫，绿色代表狗，蓝色代表船，颜色仅代表不同类别，和 RGB 通道没有关系），即 公式。公式 矩阵乘列向量 公式，得到各个分类的分值。

实际上，我们可以看到，参数矩阵 公式 相当于是三个分类器的组合，公式 的每一行都是一个分类器，分别对应猫、狗、船。在线性模型中每个分类器的参数个数与输入图像的维度相当，每个像素和对应的参数相乘，就表示该像素在该分类器中应占的比重。

需要注意的是，这个 公式 一点也不好：猫分类的分值非常低。从上图来看，算法倒是觉得这个图像是一只狗。

我们可以这样理解，线性分类器会计算图像中 3 个颜色通道中所有像素的值与权重矩阵的乘积，进而得到每个类别分值。根据我们对权重设置的值，对于图像中的某些位置的某些颜色，函数表现出喜好或者厌恶（根据每个权重的符号而定）。

举例：可以想象 「船」 分类就是被大量的蓝色所包围（对应的就是水）。那么 「船」 分类器在蓝色通道上的权重就有很多的正权重（它们的出现提高了 「船」 分类的分值），而在绿色和红色通道上的权重为负的就比较多（它们的出现降低了 「船」 分类的分值）。

结合上面的小猫示例，猫分类器对第二个位置的像素比较 「厌恶」 ，而恰好输入的小猫图像第二个位置像素值很大，最终计算得到一个很低的分数（当然，这个分类器是错误的）。

2) 理解二：将线性分类器看做模板匹配

把权重 公式 的每一行看作一个分类的模板，一张图像对应不同分类的得分，是通过使用内积（也叫点积）来比较图像和模板，然后找到和哪个模板最相似。

这种理解角度下，线性分类器在利用学习到的模板，和输入图像做模板匹配。我们设置可以把其视作一种高效的KNN，不同的是不再使用所有的训练集的图像来比较，而是每个类别只用了一张图片来表征（这张图片是我们学习到的模板，而不存在训练集中），而且我们会更换度量标准，使用（负）内积来计算向量间的距离，而不是使用 L1 或者 L2 距离。

线性分类器; 理解2-10个学习后模板


上图是以 CIFAR-10 为训练集，学习结束后的权重的例子。可以看到：

  • 马的模板看起来似乎是两个头的马，这是因为训练集中的马的图像中马头朝向各有左右造成的。线性分类器将这两种情况融合到一起了；
  • 汽车的模板看起来也是将几个不同的模型融合到了一个模板中，这个模板上的车是红色的，是因为 CIFAR-10 中训练集的车大多是红色的。线性分类器对于不同颜色的车的分类能力是很弱的，但是后面可以看到神经网络是可以完成这一任务的；
  • 船的模板如期望的那样有很多蓝色像素。如果图像是一艘船行驶在大海上，那么这个模板利用内积计算图像将给出很高的分数。

3) 理解三：将图像看做高维空间的点

既然定义每个分类类别的分值是权重和图像的矩阵乘积，那么每个分类类别的分数就是这个空间中的一个线性函数的函数值。我们没办法可视化 公式 维空间中的线性函数，但假设把这些维度挤压到二维，那么就可以看看这些分类器在做什么了：

线性分类器; 理解3-二维空间划分


在上图中，每张输入图片是一个点，不同颜色的线代表 3 个不同的分类器。以红色的汽车分类器为例，红线表示空间中汽车分类分数为 公式 的点的集合，红色的箭头表示分值上升的方向。所有红线右边的点的分数值均为正，且线性升高。红线左边的点分值为负，且线性降低。

从上面可以看到，公式 的每一行都是一个分类类别的分类器。对于这些数字的几何解释是：

  • 如果改变 公式 一行的数字取值，会看见分类器在空间中对应的直线开始向着不同方向旋转。而偏置项 公式，则允许分类器对应的直线平移。
  • 需要注意的是，如果没有偏置项，无论权重如何，在 公式 时分类分值始终为 公式。这样所有分类器的线都不得不穿过原点。

3.4 偏置项和权重合并

上面的推导过程大家可以看到：实际我们有权重参数 公式 和偏置项参数 公式 两个参数，分开处理比较冗余，常用的优化方法是把两个参数放到同一个矩阵中，同时列向量 公式 就要增加一个维度，这个维度的数值是常量 公式，这就是默认的偏置项维度。

如下图所示，新的公式就简化成如下形式：

公式

线性分类器; W和b合并后示意图


还是以 CIFAR-10 为例，那么 公式 的大小就变成 公式，而不是 公式 了，多出了包含常量1的1个维度； 公式 大小就是 公式 了，公式 中多出来的这一列对应的就是偏差值 公式：

经过这样的处理，最终只需学习一个权重矩阵，无需学习两个分别装着权重和偏差的矩阵。

3.5 图像数据预处理

在上面的例子中，所有图像都是使用的原始像素值（公式）。在机器学习中，我们经常会对输入的特征做归一化（normalization）处理，对应到图像分类的例子中，图像上的每个像素可以看做一个特征。

在实践中，我们会有对每个特征减去平均值来中心化数据这样一个步骤。

在这些图片的例子中，该步骤是根据训练集中所有的图像计算出一个平均图像值，然后每个图像都减去这个平均值，这样图像的像素值就大约分布在 公式 之间了。

后续可以操作的步骤包括归一化，即让所有数值分布的区间变为 公式。

3.6 线性分类器失效的情形

线性分类器; 难以处理的情形


线性分类器的分类能力实际是有限的，例如上图中的这三种情形都无法找到合适的直线区分开。其中第 1 个 case 是奇偶分类，第 3 个 case 是有多个模型。

4.拓展学习

可以点击 B站 查看视频的【双语字幕】版本

5.要点总结

  • 图像分类中的困难与挑战
  • 数据驱动方法、最邻近算法、 L1 和 L2 距离
  • KNN分类器、超参数调优、KNN的优缺点与实际应用
  • 线性分类的概念、评分函数的理解、参数合并、数据预处理、线性分类器局限性

斯坦福 CS231n 全套解读

ShowMeAI 系列教程推荐

ShowMeAI用知识加速每一次技术成长

文章标签：
人工智能平台 PAI
计算机视觉
自然语言处理
机器学习/深度学习
数据挖掘
人工智能
数据采集
数据可视化
固态存储
算法
存储
关键词：
深度学习人工智能平台 PAI
深度学习机器学习
深度学习图像
深度学习分类
人工智能平台 PAI深度学习
相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务（PAI-EAS）部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理，并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心，专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能，它是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。 本课程将带你入门机器学习，掌握机器学习的概念和常用的算法。
ShowMeAI
目录
相关文章
1778908750453455
|
12天前
|
机器学习/深度学习 人工智能 算法
基于深度学习的地面垃圾识别分类技术
AI垃圾分类系统结合深度学习和计算机视觉技术，实现高效、精准的垃圾识别与自动分类。系统集成高精度图像识别、多模态数据分析和实时处理技术，适用于市政环卫、垃圾处理厂和智能回收设备，显著提升管理效率，降低人工成本。
1778908750453455
42 1
基于深度学习的地面垃圾识别分类技术
qa浪涛
|
1月前
|
机器学习/深度学习 数据处理 数据库
基于Django的深度学习视频分类Web系统
基于Django的深度学习视频分类Web系统
qa浪涛
53 4
基于Django的深度学习视频分类Web系统
阿旭算法与机器学习
|
5月前
|
机器学习/深度学习 自然语言处理 算法
【从零开始学习深度学习】49.Pytorch_NLP项目实战：文本情感分类---使用循环神经网络RNN
【从零开始学习深度学习】49.Pytorch_NLP项目实战：文本情感分类---使用循环神经网络RNN
阿旭算法与机器学习
82 1
子午s
|
2月前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言，首先收集了10种中文文本数据集（"体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"），然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练，最后得到一个识别精度较高的模型，并保存为本地的h5格式。然后使用Django开发Web网页端操作界面，实现用户上传一段文本识别其所属的类别。
子午s
90 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
小言从不摸鱼
|
1月前
|
机器学习/深度学习 PyTorch 算法框架/工具
深度学习入门案例：运用神经网络实现价格分类
深度学习入门案例：运用神经网络实现价格分类
小言从不摸鱼
31 2
源码星辰
|
1月前
|
机器学习/深度学习 传感器 监控
深度学习之动作识别与分类
基于深度学习的动作识别与分类是指通过深度学习模型从视频或传感器数据中自动识别和分类人类动作的过程。这项技术广泛应用于视频监控、安全监控、体育分析、医疗康复、虚拟现实（VR）和增强现实（AR）等领域。
源码星辰
61 1
智能计算老群群
|
2月前
|
机器学习/深度学习 数据采集 数据可视化
深度学习实践：构建并训练卷积神经网络（CNN）对CIFAR-10数据集进行分类
本文详细介绍如何使用PyTorch构建并训练卷积神经网络（CNN）对CIFAR-10数据集进行图像分类。从数据预处理、模型定义到训练过程及结果可视化，文章全面展示了深度学习项目的全流程。通过实际操作，读者可以深入了解CNN在图像分类任务中的应用，并掌握PyTorch的基本使用方法。希望本文为您的深度学习项目提供有价值的参考与启示。
智能计算老群群
509 1
请看我回答~
|
3月前
|
机器学习/深度学习 人工智能 算法框架/工具
深入浅出：使用深度学习进行图像分类
【8月更文挑战第31天】在本文中，我们将一起探索如何利用深度学习技术对图像进行分类。通过简明的语言和直观的代码示例，我们将了解构建和训练一个简单卷积神经网络（CNN）模型的过程。无论你是初学者还是有一定基础的开发者，这篇文章都将为你提供清晰的指导和启发性的见解，帮助你理解并应用深度学习解决实际问题。
请看我回答~
40 1
aliyun5188233982-15207
|
3月前
|
机器学习/深度学习 API 计算机视觉
如何使用深度学习实现图像分类
深度学习在图像分类中扮演着核心角色，通过卷积神经网络（CNN）自动提取图像特征并分类。本文介绍深度学习原理及其实现流程，包括数据准备、构建CNN模型、训练与评估模型，并讨论如何在阿里云上部署模型及其实用场景。
aliyun5188233982-15207
164 2
请看我回答~
|
3月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习中的图像分类：从理论到实践
【8月更文挑战第31天】 本文将带你深入了解深度学习在图像分类领域的应用。我们将从理论基础出发，逐步过渡到实际的代码实现，让你能够亲手构建一个简单的图像分类模型。无论你是初学者还是有一定基础的开发者，都能从中获得启发和收获。
请看我回答~
53 0

热门文章

最新文章

  • 1
    手把手教你用Python实践深度学习
  • 2
    基于深度学习的动物识别系统（YOLOv5清新界面版，Python代码）
  • 3
    Facebook这样看“深度学习”技术
  • 4
    二维码及条形码智能检测软件（Python+YOLOv5深度学习模型+清新界面）
  • 5
    如何从系统层面优化深度学习计算？
  • 6
    云栖科技评论第15期：IBM联合NVIDIA开发世界上“最快商用深度学习系统”
  • 7
    IBM：最新突破将大幅提升深度学习速度
  • 8
    深度学习模型在图像识别中的应用：CIFAR-10数据集实践与准确率分析
  • 9
    领域最全 | 计算机视觉算法在路面坑洼检测中的应用综述(基于2D图像/3D LiDAR/深度学习)（上）
  • 10
    如何评价深度学习在自然语言处理、计算机视觉等领域的应用成果？
  • 1
    机器学习模型评估指标详解
    166
  • 2
    PyTorch模型训练与部署流程详解
    82
  • 3
    探索机器学习中的神经网络：从基础到应用
    79
  • 4
    重构数据处理流程：Pandas与NumPy高级特性在机器学习前的优化
    62
  • 5
    探索机器学习在医疗诊断中的应用
    53
  • 6
    机器学习实战：房价预测项目
    215
  • 7
    强化学习（Reinforcement Learning, RL）** 是一种机器学习技术，其中智能体（Agent）通过与环境（Environment）交互来学习如何执行决策以最大化累积奖励。
    81
  • 8
    集成学习（Ensemble Learning）是一种机器学习技术，它通过将多个学习器（或称为“基学习器”、“弱学习器”）的预测结果结合起来，以提高整体预测性能。
    262
  • 9
    `sklearn.metrics`是scikit-learn库中用于评估机器学习模型性能的模块。它提供了多种评估指标，如准确率、精确率、召回率、F1分数、混淆矩阵等。这些指标可以帮助我们了解模型的性能，以便进行模型选择和调优。
    476
  • 10
    在机器学习和数据科学中，数据预处理是一个至关重要的步骤。数据规范化（或称为特征缩放）是预处理的一种常见技术，它可以帮助我们改进模型的性能。`sklearn.preprocessing`模块提供了多种数据规范化的方法，其中`StandardScaler`和`MinMaxScaler`是最常用的两种。
    94

    • 相关课程

    更多
  • 场景实践 - 机器学习PAI实现精细化营销
  • 场景实践 - 基于阿里云PAI机器学习平台使用时间序列分解模型预测商品销量
  • 场景实践 - 基于机器学习进行收入预测分析
  • 机器学习概览及常见算法
  • 深度学习与自动驾驶
  • 机器学习入门-概念原理及常用算法

    • 相关电子书

    更多
  • GPU在超大规模深度学习中的发展和应用
  • 基于Spark的面向十亿级别特征的 大规模机器学习
  • 基于Spark的大规模机器学习在微博的应用

    • 相关实验场景

    更多
  • 基于函数计算实现AI推理
  • 函数计算实战-云开发创建视觉AI应用
  • 推荐系统入门之使用ALS算法实现打分预测
  • 自然语言入门：NLP数据读取与数据分析
  • 零基础入门Serverless：基于函数计算快速搭建基于人工智能的目标检测系统
    • 下一篇
    阿里云OSS设置跨域访问