4模型架构
LVT的架构如表2所示。采用标准的四阶段设计。采用四层重叠的patch嵌入层。第一个将图像采样到stride-4分辨率。另外三个样本将特征映射为stride-8、stride-16和stride-32的分辨率。所有级均由Transformer组成。每个块包含Self-Attention层，后面跟着一个MLP层。CSA嵌入在第1阶段，RASA嵌入在其他阶段。它们是增强的自注意力层，用于处理LVT中的局部和全局特征。
5实验
4.1 消融实验
1、Recursion Times of RASA
作者研究了递归时间和模型性能之间的关系。实验是在ImageNet分类上进行的。作者把递归时间设为1到4。结果如表7所示。
通过上表可以看出，随着递归时间的变长，精度也得到了一定的提升，但是FLOPs也有一定的提升。
2、CSA和RASA的贡献
在下表中。对于ImageNet分类，训练和测试的输入分辨率都是224 × 224。对于ADE20K语义分割，按照SegFormer框架，在MLP解码器中插入VOLO和LVT。在测试期间，图像的短边被调整为512。它被观察到CSA和RASA对性能增益有显著的贡献。
4.2 ImageNet分类
结果如表所示。限制编码器尺寸小于3.5M，遵循MobileNet和PVTv2-B0。编码器是设计重点，因为它是其他复杂任务(如检测和分割)所使用的Backbone。为了将LVT与其他标准模型进行比较，这里将LVT扩展到ResNet50的大小。
4.3 ADE20K语义分割
使用输入分辨率512×512计算。在单个NVIDIA V100 GPU上计算2000张图像的FPS。在推理过程中，将调整图像的大小，使其短边为512。只使用单尺度测试。模型是紧凑的。加上解码器，参数小于4M。可以观察到LVT在之前所有的移动语义分割方法中表现出最好的性能。
4.4 移动端COCO全景分割
输入分辨率为1200 × 800。在推理过程中，将调整所有图像的大小，使大边不大于1333，短边小于800。使用单个NVIDIA V100 GPU，在2000张高分辨率图像上计算FLOPs。包括解码器在内的整个模型所需参数小于5.5M。可以观察到LVT在移动全景分割方面的优势。
6参考
[1].Lite Vision Transformer with Enhanced Self-Attention
