深度学习：轻量级神经网络MoblieNet v1

MobileNet V1

前言

MobileNet是谷歌团队在2017年提出的，专注于移动端和嵌入式设备的轻量级CNN网络，相比于传统卷积，相比于传统卷积网络，在准确率小幅降低的情况下大大减少了参数量与运算量。

它的主要贡献就是提出了深度可分离卷积与增加超参数alpha 与 beta。

深度可分离卷积

传统卷积

首先我们来回顾一下传统卷积操作如上图，input的channel 为3，那么每个卷积核的channel一定为3，卷积核的数量为4，output 的channel的也一定为4。

对于普通的卷积操作，它既可以融合每个平面（平面指HW维度）的特征也可以融合channel的特征。

Depth Wise Conv

接下来介绍DW卷积，这里input channel还是为3，但是每个卷积核的channel变成了1，只负责input 的一个 channel（以前每个卷积核的channel与input channel一致），这样卷积操作过后就只融合了平面的特征，而没有融合channel特征。

Point Wise Conv

为了弥补空间特征，作者在depth wise conv 后面加入了 point wise conv，其实他就是传统的卷积操作，只不过 kernel size 为 1，那么他就会只融合了channel特征。

性能对比

这里作者把深度可分离卷积分为 DW + PW，下面我们来比较一下它们的计算量：

在这里 Dk代表kernel size ，DF代表feature map的 H or W， M为input channel N为卷积核数量。