一、本文介绍
本文给大家带来的改进机制是ConvNeXtV2网络,ConvNeXt V2是一种新型的卷积神经网络架构,它融合了自监督学习技术和架构改进,特别是加入了全卷积掩码自编码器框架和全局响应归一化(GRN)层。我将其替换YOLOv8的特征提取网络,用于提取更有用的特征。经过我的实验该主干网络确实能够涨点在大中小三种物体检测上,同时该主干网络也提供多种版本,大家可以在源代码中进行修改版本的使用。本文通过介绍其主要框架原理,然后教大家如何添加该网络结构到网络模型中。
专栏目录:YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
专栏回顾:YOLOv8改进系列专栏——本专栏持续复习各种顶会内容——科研必备
二、ConvNeXt V2架构原理
2.1 ConvNeXt V2的基本原理
ConvNeXt V2是一种新型的卷积神经网络架构,它融合了自监督学习技术和架构改进,特别是加入了全卷积掩码自编码器框架和全局响应归一化(GRN)层。这些创新显著提升了纯ConvNet在多个识别基准测试上的性能,如ImageNet分类、COCO检测和ADE20K分割。ConvNeXt V2还包括从效率型的3.7M参数Atto模型到650M参数的Huge模型的多个版本,覆盖了从轻量级到高性能的各种应用需求。
ConvNeXt V2的核心要点包括:
1. 架构创新:融合全卷积掩码自编码器框架和全局响应归一化(GRN)层,优化了原有ConvNeXt架构。
2. 自监督学习:利用自监督学习技术提高了模型的泛化能力和效率。
下图为大家比较了ConvNeXt V1和ConvNeXt V2两个版本中的块设计:
在ConvNeXt V2块中,新增加了全局响应归一化(GRN)层,并且由于GRN层的引入,原先的LayerScale层变得多余,因此在V2版本中被去除。这些变化旨在优化网络的特征表示和提高模型的学习效率。
2.2 架构创新
ConvNeXt V2 架构创新主要体现在以下几个方面:
1. 全卷积掩码自动编码器(FCMAE):采用全卷积方法处理图像,特别适合处理带有掩码的图像数据。
2. 全局响应归一化(GRN)层:在卷积块中引入GRN层,增强了模型处理信息时的通道间竞争,提高特征表达的质量。
3. 去除LayerScale层:因为GRN层的加入,原来的LayerScale层变得多余,在V2架构中被移除,简化了模型结构。
这张图展示了ConvNeXt V2中提出的全卷积掩码自动编码器(FCMAE)框架:
在这张图中,ConvNeXt V2的FCMAE框架采用了稀疏卷积技术作为其编码器的核心,这是为了有效地处理输入图像中的非掩蔽(可见)像素。编码器结构层次化,有助于捕获不同层级的特征信息。解码器相对简单,使用轻量级的ConvNeXt块,目的是重构图像,但仅限于目标(即被掩蔽的)区域。这种不对称设计允许模型在预训练时专注于关键区域,这对于图像的自监督学习特别有效。损失函数的计算仅在掩蔽的区域进行,进一步强化了模型对于目标区域的学习和重构能力。