一、本文介绍
本文给大家带来的改进机制是实现级联群体注意力机制CascadedGroupAttention，其主要思想为增强输入到注意力头的特征的多样性。与以前的自注意力不同，它为每个头提供不同的输入分割，并跨头级联输出特征。这种方法不仅减少了多头注意力中的计算冗余，而且通过增加网络深度来提升模型容量，亲测在我的25个类别的数据上，大部分的类别均有一定的涨点效果，仅有部分的类别保持不变，同时给该注意力机制含有二次创新的机会。
欢迎大家订阅我的专栏一起学习YOLO！
专栏目录：YOLOv5改进有效涨点目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
专栏回顾：YOLOv5改进专栏——持续复现各种顶会内容——内含100+创新
二、 CascadedGroupAttention的基本原理
Cascaded Group Attention (CGA) 是在文章 "EfficientViT: Memory Efficient Vision Transformer with Cascaded Group Attention" 中提出的一种新型注意力机制。其核心思想是增强输入到注意力头的特征的多样性。与以前的自注意力不同，它为每个头提供不同的输入分割，并跨头级联输出特征。这种方法不仅减少了多头注意力中的计算冗余，而且通过增加网络深度来提升模型容量。
具体来说，CGA 将输入特征分成不同的部分，每部分输入到一个注意力头。每个头计算其自注意力映射，然后将所有头的输出级联起来，并通过一个线性层将它们投影回输入的维度。通过这样的方式，CGA 在不增加额外参数的情况下提高了模型的计算效率。另外，通过串联的方式，每个头的输出都会添加到下一个头的输入中，从而逐步精化特征表示。
Cascaded Group Attention 的优点包括：
1. 提高了注意力图的多样性。
2. 减少了计算冗余，因为它减少了 QKV 层中输入和输出通道的数量。
3. 增加了网络深度，从而进一步提高了模型容量，同时只增加了很小的延迟开销，因为每个头的 QK 通道维度较小。
这张图描绘了 "EfficientViT" 模型中 "Cascaded Group Attention" (CGA) 模块的架构。
CGA模块位于图中的(c)部分，可以看到它的作用是处理输入特征，并提供分级的注意力机制。在这个模块中，输入首先被分割成多个部分，每个部分对应一个注意力头。每个头独立地计算其自注意力，并产生一个输出。然后，所有头的输出被级联(concatenate)在一起，通过一个线性投影层形成最终的输出。这种设计允许模型在不同的层次上捕捉特征，通过级联增强了特征之间的交互，同时提高了计算效率。
级联组注意力的关键点在于每个注意力头只关注输入的一部分，然后把所有头的注意力合并起来，来获取一个全面的特征表示。这样做的好处是减少了计算重复并增加了注意力的多样性，因为不同的头可能会关注输入的不同方面。这种方法提高了模型的内存和计算效率，同时保持或增强模型的性能。
