NAT论文：NAT：Neighborhood Attention Transformer

1. 摘要

 本文提出了Neighborhood Attention Transformer(NAT)，NAT是一种集高效、准确和可扩展的分层Transformer，Neighborhood Attention是一种简单而灵活的Self Attention机制，它将每个query的感受野扩展到其最近的邻近像素，并随着感受野的增大而接近Self-Attention。

在FLOPs和内存使用方面，与相同的感受野大小带有Shifted Window Attention的Swin-Transformer相同，但是NAT受到的约束更少。

此外，NA还包含了局部归纳偏差，这消除了的额外操作，如像素移动。

NAT-Tiny在ImageNet上达到83.2%的Top-1精度，只有4.3 GFLOPs和28M参数，在MS-COCO上的mAP为51.4%，ADE20k上的mIoU为48.4%。

2. 引言

自2020年以来，学术界已经提出很多关于Vision Transformer的架构和方法，也有很多关于高效Transformer的工作被提出。但是，不管是标准的ViT还是高效的ViT，虽然其中的Self Attention相对于嵌入维度具有线性复杂度(不包括线性投影)，但相对于Token数量却具有二次复杂度。而Token的数量通常又与图像分辨率呈线性相关。因此，更高的图像分辨率将会带来复杂度和内存的二次增长。

对于ViT的应用来说，这是一个很严峻的问题，因为过高的复杂度和计算量会影响模型应用于下游的视觉任务，如目标检测和语义分割，因为这些任务中图像分辨率通常比分类大得多。

另一个问题是，卷积的性能大多受益于归纳偏差，如局部性、平移等方差和二维邻域结构，而 dot-product Self Attention是一个全局的操作。虽然Vision Transformer中的MLP层具有具有局部性和平移不变性，但其余的归纳偏差必须通过大量数据或炼丹技术和增强来弥补。

因此，有研究便采用Local attention modules来减轻这个问题。Swin-Transformer是第一个基于Local attention的分层Vision Transformer。Swin-Transformer的层次结构设计和Shifted-Window Self Attention使其可以比较容易地应用到下游任务，同时也通过注入的额外偏差提高了性能。HaloNet探索了另一种Local Attention Block，并发现将Local Attention Block和卷积结合起来可以获得最佳性能，因为该组合操作在内存使用和平移不变性之间进行了最佳权衡。

基于以上描述，作者在本文中提出Neighborhood Attention(NA)，并在此基础上构建Neighborhood Attention Transformer(NAT)，在跨视觉任务上实现了具有竞争性的结果。

NA是dot-product Self Attention的一种局部化，将每个query token的感受野限制在key-value pair中对应token周围的一个固定大小的邻域内。较小的感受野带来更多的局部信息，而较大的感受野带来更多的全局信息。这种设计使感受野能够很好的控制平移不变性和平移等方差的平衡。

NA是受到卷积的局部性的启发，以及它们如何产生更多有利于视觉任务的局部性归纳偏差。它不同于将Self Attention应用于Local Windows(Swin)，可以将其视为与Content-Dependant Kernel的卷积。

3. 主要贡献

1.Neighborhood Attention(NA):一种简单、灵活的视觉注意力机制，它将每一个Token的感受野定位到Token的邻域。并将该模块的复杂性和内存使用量与Self Attention、Window Self Attention和卷积进行了比较。

2.构建了Neighborhood Attention Transformer(NAT)，一种由Neighborhood Attention组成的高效、准确、可扩展的新型分层Transformer。每一层之后都进行下采样操作，将空间大小减少一半。类似的设计可以在许多最近的基于注意力的模型中看到，如Swin和Focal Transformer。与那些模型不同，NAT利用小内核重叠卷积来嵌入和下采样，而不是非重叠卷积。与Swin等现有技术相比，NAT还引入了一组更有效的体系结构配置。

3.展示了NAT在图像分类和下游视觉任务(包括目标检测和语义分割)中的有效性。作者观察到NAT的性能不仅优于Swin Transformer，还优于ConvNeXt。NAT-Tiny模型在ImageNet上仅用4.3 GFLOPs和28M参数就能达到83.2%的top-1精度，在MS-COCO上达到51.4%的Box mAP，在ADE20k上达到48.4%的多尺度mIoU，为这种简单、小规模的Transformer模型创造了水平。

4. 本文方法

与Self Attention相比，Neighborhood Attention不仅减少了计算成本，而且引入了类似于卷积的局部归纳偏差。该操作适用于邻域大小L，当每个像素最小时，它只关注自身周围的1个像素邻域(创建一个3×3方形窗口)。

作者还表明，当邻域大小达到最大值(即输入的大小)时，Neighborhood Attention等于Self Attention。因此，如果邻域大小超过或匹配feature map的大小，在相同的输入下，Neighborhood Attention和Self Attention的输出是相等的。

此外，NAT利用了一个多级分层设计，类似于Swin-Transformer，这意味着特征映射在级别之间被向下采样，而不是一次性全部采样。然而，与Swin-Transformer不同的是，NAT使用重叠卷积来向下采样特征映射，而不是不重叠的映射。这略微增加了计算量和参数，作者也通过提出计算成本较低的配置来弥补这一点。

4.1 Neighborhood Attention

Neighborhood Attention 主要是受卷积如何引入邻域偏差和局部性的启发。 Neighborhood At tention 的目的是允许特征图中的每个像素只关注其相邻的像素。由于邻域依赖于size, 因此 Neighborhood Attention 机制也是如此。

用 ρ ( i , j )  表示 ( i , j )处的一个像素的邻域, 它是最接近 ( i , j ) 的像素的一个固定长度的索引集。对 于大小为 L × L , ∥ ρ ( i , j ) ∥ = L ²  。因此, 在单个像素上的 Neighborhood Attention 可以定义 如下:

其中, 其中Q、 K、 V 是X的线性投影, B _{i , j} 为相对位置偏差, 根据相对位置将其添加到每个注 意力权重中。这个操作可以进一步扩展到所有像素 ( i , j ), 从而形成一种局部注意力的形式。

然而, 如果 ρ  函数将每个像素映射到所有像素, 这将等同于 Self Attention (带有额外的位置 偏差)。这是因为当邻域边界超过输入大小时, ρ ( i , j ) 将包括所有可能的像素。结果, K _{ρ ( i , j )} = K和 V _{ρ ( i , j )} = V , 通过去除偏置项, 推导出 Self Attention 的表达形式:

Neighborhood Attention 在计算上是很廉价的。它的复杂性相对于分辨率是线性的, 不像 Se If Attention 是二次的。此外, 其复杂度也与邻域大小呈线性关系。 ρ  函数将一个像素映射到 一组相邻的像素, 可以很容易地通过 Raster-Scan Sliding Window 操作产生, 原理类似于卷积。

每个像素被简单地映射到一组相邻的像素和自身。图2展示了该操作的示例。对特征图中的每个像素重复此操作。对于不能居中的角像素，扩展邻域以保持感受野的大小。这是一个关键的设计选择，它允许NA随着邻域大小向特征图分辨率增长而一般化到Self Attention。

扩展邻域是通过简单持续选择L2中最接近原始邻域的像素来实现的。例如，对于L=3，每个query将以围绕它的9个key-value像素结束(query位于中心的3×3网格)。

对于角像素，邻域是另一个3×3网格，但query没有定位在中心。图6展示了这个想法的说明。

4.2 Neighborhood Attention Transformer

NAT通过使用2个连续的3×3卷积(stride=2)来嵌入输入，进而产生输入空间大小1/4的输入。这类似于使用patch和4×4 patch的嵌入层，但它使用的是重叠卷积而不是非重叠卷积。

另一方面，使用重叠卷积会增加成本，而2次卷积会引入更多的参数。然而，作者通过重新配置模型来处理这个问题，这将产生更好的权衡。

NAT由4个level组成，每个level后面都链接一个下采样器（最后一个除外）。下采样器将空间大小减少了为原来的一半，而通道数量增加了一倍。这里下采样使用的是3×3卷积(stride=2)。由于tokenizer的降采样倍数为4倍，因此模型生成了大小为H/4×W/4、H/8×W/8、H/16×W/16和H/32×W/32的特征图.使得NAT可以更容易地将预训练过的模型迁移到下游任务中。

此外，在训练较大的模型时，使用LayerScale来提高稳定性。图4展示了整体网络架构的说明。在下表中总结了不同的NAT变体及其关键差异。

5. 实验结果

5.1 分类实验

5.2 目标检测

5.3 语义分割

5.4 可视化分析

相关素材来自于【集智书童】公众号