YOLOv8目标检测创新改进与实战案例专栏
专栏目录： YOLOv8有效改进系列及项目实战目录 包含卷积，主干 注意力，检测头等创新机制 以及 各种目标检测分割项目实战案例
专栏链接: YOLOv8基础解析+创新改进+实战案例
介绍
摘要
自注意力的二次计算复杂性在将Transformer模型应用于视觉任务时一直是一个持久的挑战。相比之下，线性注意力通过精心设计的映射函数来近似Softmax操作，提供了更高效的替代方案，其计算复杂性为线性。然而，目前的线性注意力方法要么遭受显著的性能下降，要么因映射函数引入了额外的计算开销。在本文中，我们提出了一种新颖的聚焦线性注意力模块，以实现高效率和高表现力。具体来说，我们首先从聚焦能力和特征多样性两个角度分析了线性注意力性能下降的因素。为克服这些限制，我们引入了一个简单但有效的映射函数和一个高效的秩恢复模块，以增强自注意力的表现力，同时保持低计算复杂性。大量实验表明，我们的线性注意力模块适用于各种先进的视觉Transformer，并在多个基准测试上实现了一致的性能提升。代码可在 https://github.com/LeapLabTHU/FLatten-Transformer 获取。
文章链接
论文地址：论文地址
代码地址：代码地址
基本原理
Focused Linear Attention技术是一种用于改进自注意力机制的方法 。
焦点能力（Focus Ability）：传统的自注意力机制（如Softmax注意力）在计算注意力权重时通常会产生相对平滑的分布，导致模型难以集中关注到最重要的特征。Focused Linear Attention通过引入专门设计的映射函数，调整查询和键的特征方向，使得注意力权重更易区分。这样可以使模型更加集中地关注到重要的特征，提高了焦点能力。
特征多样性（Feature Diversity）：另一个问题是线性注意力可能会降低特征的多样性，因为注意力矩阵的秩可能会减小。为了解决这一问题，Focused Linear Attention引入了秩恢复模块，通过应用额外的深度卷积来恢复注意力矩阵的秩，从而保持不同位置的输出特征多样化。
线性复杂度（Linear Complexity）：与Softmax注意力相比，Focused Linear Attention具有线性复杂度，使得可以更高效地处理大规模数据，扩展感受野到更大的区域，同时保持相同的计算量。这使得模型能够更好地捕捉长距离的依赖关系，同时在各种视觉任务中表现出色。
核心代码
class FocusedLinearAttention(nn.Module):
def __init__(self, dim, num_patches, num_heads=8, qkv_bias=False, qk_scale=None, attn_drop=0., proj_drop=0., sr_ratio=1,
focusing_factor=3, kernel_size=5):
super().__init__()
assert dim % num_heads == 0, f"dim {dim} should be divided by num_heads {num_heads}."
# 初始化参数
self.dim = dim
self.num_heads = num_heads
head_dim = dim // num_heads
# 定义查询q的线性层
self.q = nn.Linear(dim, dim, bias=qkv_bias)
# 定义键k和值v的线性层，输出维度是2倍的dim
self.kv = nn.Linear(dim, dim * 2, bias=qkv_bias)
# 定义注意力的dropout层
self.attn_drop = nn.Dropout(attn_drop)
# 定义输出投影的线性层
self.proj = nn.Linear(dim, dim)
# 定义输出投影的dropout层
self.proj_drop = nn.Dropout(proj_drop)
# 缩小比例参数
self.sr_ratio = sr_ratio
if sr_ratio > 1:
# 定义卷积层用于缩小特征图的大小
self.sr = nn.Conv2d(dim, dim, kernel_size=sr_ratio, stride=sr_ratio)
# 定义层归一化层
self.norm = nn.LayerNorm(dim)
# 聚焦因子
self.focusing_factor = focusing_factor
# 定义深度可分离卷积层
self.dwc = nn.Conv2d(in_channels=head_dim, out_channels=head_dim, kernel_size=kernel_size,
groups=head_dim, padding=kernel_size // 2)
# 定义缩放参数
self.scale = nn.Parameter(torch.zeros(size=(1, 1, dim)))
# 定义位置编码参数
self.positional_encoding = nn.Parameter(torch.zeros(size=(1, num_patches // (sr_ratio * sr_ratio), dim)))
print('Linear Attention sr_ratio{} f{} kernel{}'.format(sr_ratio, focusing_factor, kernel_size))
task与yaml配置
详见： https://blog.csdn.net/shangyanaf/article/details/140457255
