一、图像分类
a. 通用图像分类
将不同图片按照内容进行分类
b. 特定图像分类
特定识别人脸、某种动物、汽车等
1.1 人脸验证
下面是两种典型的人脸识别损失函数
1.1.1 DeepID2
上图左侧两个人比较像，都是侧脸，所以箭头短一点，下方一个是侧脸一个是正脸，而且光照也不相同，所以箭头长一点。我们希望经过训练后，上方的两张图片离得远一点(因为这是两个不同的人)，而下方的图片近一些(同一个人)。
目标：当i，j身份相同时，
足够小，否则 
其中 
损失：
（一个minibatch至 少包含2个样本，
为标签。）
1.1.2 FaceNet
随计算一个人得图片做为Anchor，然后选择和他同一个人的图片和不同的人的图片做训练。 其它同上。
目标：
其中 a>0
损失：
（一个minibatch至 少包含3个样本）
1.1.3 人脸验证的其它损失函数
SphereFace: Deep Hypersphere Embedding for Face Recognition, CVPR 2017
NormFace: L2 Hypersphere Embedding for Face Verification, ACM MM 2017
ArcFace: Additive Angular Margin Loss for Deep Face Recognition, CVPR 2019
二、物体检测
任务：找出图片中的物体和每个物体所在的位置。
怎么做这个任务？
找到包含物体的区域，用一个多分类器进行物体分类
怎么知道哪些区域包含物体？
找到很多候选区域，用一个二分类器进行区域分。
2.1 候选区域(Region Proposals)
指可能包含物体的区域、感兴趣区域 （Region of interest, ROI）。
挑选候选区域的多种选择
2.1.1 (C+1)-类的分类
上面提到简单检测物体的思路：
找到很多候选区域，用一个二分类器进行区域分类。
找到包含物体的区域，用一个多分类器(Softmax、SVM等)进行物体分类。
另外一种方法：
设有C个类别，加一个“背景”类
对每个区域用一个多分类器进行(C+1)-类的分类
对每个区域用(C+1)个二分类器进行分类
2.1.2 R-CNN
把每个候选框的图片剪贴出来，变成相同尺寸，经过一个同样的CNN进行一个二分类。这里用的上面提到的C+1类方法。SVM解决二分类问题。至于Bbox reg 用于解决回归问题，坐标定位。
步骤：
训练(或下载)ImageNet分类模型(如AlexNet)
针对检测微调(fine-tune)
提取特征
每个类别训练一个二分类SVM来为候选区域的特征进行分类
对每个类别，训练一个线性回归模型，将特征映射到一组偏移量，用以校正那些稍微有些误 差的候选区域
R-CNN有什么问题吗？
测试慢
需要对每个ROI跑一个完整的CNN前向过程。
非“端到端”过程
找候选区域， SVM和回归器基于CNN的特征进行处理。
SVM和回归器不能更新CNN的特征。
更好的想法？
先在整张图上跑一个CNN的前向过程，然后将每个ROI映射到特征图上。
2.1.3 Fast R-CNN
即先把整张图做一个神经网络，先把特征取好，想要什么特征就取什么特征。
感兴趣区域池化(RoI Pooling)
可见上面提取的图片大小是不同的，这里做一下池化。
结果：
Fast R-CNN问题：
R-CNN和Fast R-CNN它们的那些“框”来自于计算机视觉上的一些方法，万一不准怎么办？
2.1.4 Faster R-CNN
在最后一个卷积层后插入候选区域网络(Region Proposal Network ,RPN)
RPN用来直接产生候选区域; 不需要额外的候选框。
RPN之后, 使用RoI Pooling以及分类 器、回归器，类似Fast R-CNN。
通过Fast R-CNN的一个神经网络得到feature map，在最后一个卷积层后插入了RPN，会输出一些ROI。用神经网络的特征预测哪些区域有误。前面的方法用其它方法预测候选区域不一定准，而且是在Deep Learing兴起之前的一些方法。
候选区域网络 (RPN)
在feature map每个点上做两个预测，在每个点提出k个框(不同大小形状，k常设置为9，3种不同的形状*3种不同的大小如上右图)，把这些框经过一个全连接层得到一个256维的向量去做两个任务1.识别物体(2分类，2k个) 2. 定位(4k个)。
Faster R-CNN 结果
2.1.5 两阶段与单阶段
上面介绍的三个模型有一个共同点，需要一些候选框，再对每个候选框进行处理。我们把这一类的方法称之为：两阶段方法。
两阶段方法较慢，现在人们已经在研发更快的方法：单阶段模型，它不再去预测哪个框是更合适的，所以更快，但精度会有些问题。
单阶段如何实现呢？
2.1.6 YOLO: You only look at once
将图像划分为S×S个网格；
每个网格预测B个矩形框, 每个框的置信度(与任意一个Ground truth框的IOU), 以及C个类别的概率。
这些预测结果可整合为大小为 S ×S ×(B ∗5 + C) 的张量
效果对比
在日常生活中，特定的物体检测应用更加广泛一些
三、图像分割
给定一张图片，对每个像素进行分类。
通常的一些卷积方法会使输出变小，所以我们就需要一些方法来增他特征图。
如何增大特征图？
上采样 (采样和插值)
对于一张输入图片，将其放大到指定尺寸，并用插值方法计算每个像素的值，例如双线性插值。
转置卷积 (不应称为反卷积deconvolution)
http://deeplearning.net/software/theano/tutorial/conv_arithmetic.html
3.1 全卷积网络(Fully Convolutional Networks)
一种典型图片分割网络。
对于一个输入，经过一些卷积后图片变得很小，进行上采样(此时尺寸和刚输入时相同)。
四、图像风格转换
主要的应用为图像分类、物体检测、图像分割，至于图像风格转换比较有趣，因此也分享一下。
