AI 助理
备案控制台
开发者社区 云计算 文章 正文

超越YOLOv7 | YOLOv6论文放出，重参+自蒸馏+感知量化+...各种Tricks大放异彩（二）

2023-05-25 184
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 超越YOLOv7 | YOLOv6论文放出，重参+自蒸馏+感知量化+...各种Tricks大放异彩（二）

实验

消融实验

1、label assignment

2、损失函数

image.png

image.png

image.png

3、自蒸馏

image.png

4、Gray border of images

image.png

5、PTQ

image.png

6、QAT

SOTA对比

TensorRT部署实践对比

T4 GPU

V100 GPU


参考

[1].YOLOv6: A Single-Stage Object Detection Framework for Industrial Applications


推荐阅读

Transformer新SOTA | 超越SWin、CSWin，MAFormer再探ViT Backbone新高度

YOLOU 集成超轻量化 YOLO 系列模型YOLO-Fastest v2，ONNX一键导出部署！

YOLOX升级 | 阿里巴巴提出YOLOX-PAI，1ms内精度无敌，超越YOLOv6、PP-YOLOE

文章标签：
异构计算
5i77ajz5u7ji6
目录
相关文章
楠竹11
|
5月前
|
机器学习/深度学习 人工智能 算法
Mamba作者新作：将Llama3蒸馏成混合线性 RNN
【9月更文挑战第25天】《Distillation and Acceleration of Hybrid Models》一文由日内瓦大学、Together AI、康奈尔大学和普林斯顿大学的研究者联合发表，提出将大型Transformer模型（如Llama3）蒸馏成混合线性RNN的新方法，旨在提升长序列生成任务的效率。该方法通过权重映射和多阶段蒸馏，结合渐进蒸馏、监督微调及定向偏好优化技术，有效解决了Transformer模型的二次复杂度和高内存需求问题。实验表明，混合模型在聊天基准测试中表现出色，甚至优于原模型，并通过硬件感知解码算法进一步加速推理。然而，该方法在其他任务上的适用性仍有待验证。
楠竹11
81 7
5i77ajz5u7ji6
|
9月前
|
机器学习/深度学习 测试技术 定位技术
YOLOPoint开源 | 新年YOLO依然坚挺，通过结合YOLOv5&SuperPoint，成就多任务SOTA
YOLOPoint开源 | 新年YOLO依然坚挺，通过结合YOLOv5&SuperPoint，成就多任务SOTA
5i77ajz5u7ji6
194 0
楠竹11
|
8月前
|
机器学习/深度学习 自然语言处理
解决Transformer根本缺陷，CoPE论文爆火：所有大模型都能获得巨大改进
【6月更文挑战第9天】CoPE论文提出了一种新方法，解决Transformer模型位置处理缺陷，通过上下文依赖的位置编码增强序列元素识别，改进选择性复制、计数等任务，提升语言建模和编码任务的困惑度。但CoPE增加模型复杂性，可能受模型大小和数据量限制，且过度依赖上下文可能引入偏见。[https://arxiv.org/pdf/2405.18719]
楠竹11
111 6
5i77ajz5u7ji6
|
9月前
|
机器学习/深度学习 数据可视化 调度
英伟达开源新Backbone涨点方法STL | 让FAN Backbone直接登顶ImageNet-1K等数据集榜单
英伟达开源新Backbone涨点方法STL | 让FAN Backbone直接登顶ImageNet-1K等数据集榜单
5i77ajz5u7ji6
175 0
5i77ajz5u7ji6
|
数据挖掘 测试技术 Go
超越YOLOv7 | YOLOv6论文放出，重参+自蒸馏+感知量化+...各种Tricks大放异彩（一）
超越YOLOv7 | YOLOv6论文放出，重参+自蒸馏+感知量化+...各种Tricks大放异彩（一）
5i77ajz5u7ji6
308 0
5i77ajz5u7ji6
|
机器学习/深度学习 编解码 计算机视觉
NeurIPS 2022 | 百度提出超快Transformer分割模型RTFormer，180FPS+81mIOU（二）
NeurIPS 2022 | 百度提出超快Transformer分割模型RTFormer，180FPS+81mIOU（二）
5i77ajz5u7ji6
220 0
5i77ajz5u7ji6
|
机器学习/深度学习 编解码 机器人
NeurIPS 2022 | 百度提出超快Transformer分割模型RTFormer，180FPS+81mIOU（一）
NeurIPS 2022 | 百度提出超快Transformer分割模型RTFormer，180FPS+81mIOU（一）
5i77ajz5u7ji6
219 0
-开发达人-
|
机器学习/深度学习 编解码 人工智能
CVPR 2023 | 谷歌、MIT提出统一框架MAGE：表征学习超MAE，无监督图像生成超越 Latent Diffusion
CVPR 2023 | 谷歌、MIT提出统一框架MAGE：表征学习超MAE，无监督图像生成超越 Latent Diffusion
-开发达人-
142 0
-开发达人-
|
存储 算法 数据可视化
ECCV 2022 | CMU提出首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%（1）
ECCV 2022 | CMU提出首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%
-开发达人-
185 0
-开发达人-
|
机器学习/深度学习 存储 数据可视化
ECCV 2022 | CMU提出首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%（2）
ECCV 2022 | CMU提出首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%
-开发达人-
178 0

热门文章

最新文章

  • 1
    解决kafka集群由于默认的__consumer_offsets这个topic的默认的副本数为1而存在的单点故障问题
  • 2
    oracle 11g 11204补丁信息
  • 3
    Python 命令行之旅：初探 docopt
  • 4
    时间之箭源于量子纠缠？
  • 5
    输入输出流体系图
  • 6
    Windows Server 2008 R2下部署OCS 2007 R2 边缘服务器
  • 7
    从码农到设计者，从单例模式入手设计代码
  • 8
    瑞典力推储能助太阳能发电计划落实
  • 9
    十张图告诉你互联网发展的八大趋势
  • 10
    第7周-任务3-复数模板类
  • 1
    DeepSeek——DeepSeek模型部署实战
    128
  • 2
    基于FPGA的图像双线性插值算法verilog实现,包括tb测试文件和MATLAB辅助验证
    105
  • 3
    基于电导增量MPPT控制算法的光伏发电系统simulink建模与仿真
    29
  • 4
    基于排队理论的客户结账等待时间MATLAB模拟仿真
    44
  • 5
    3天功能开发→3小时：通义灵码2.0+DEEPSEEK实测报告，单元测试生成准确率92%的秘密
    63
  • 6
    Sentinel监测到了服务，但是实时监控不显示曲线图，应该怎么解决这个问题？
    47
  • 7
    通义灵码 2.0 体验报告：AI 赋能智能研发的新范式
    61
  • 8
    通义灵码 2.0 体验报告：AI 赋能智能研发的新范式
    80
  • 9
    类和对象的简述（c++篇）
    48
  • 10
    模拟实现c++中的vector模版
    38

    • 相关课程

    更多
  • 【深度有趣】上海交大博士带你玩转GAN生成对抗网络
  • 深度学习理论与实战（基于TensorFlow实现）
  • 神经网络与深度学习
  • 计算机视觉类比赛汇总
  • 机器学习集成学习与模型融合
  • 机器学习基础与回归算法

    • 相关电子书

    更多
  • 展心展力MetaApp：基于DeepRec的稀疏模型训练实践
  • 典型模型-卷积神经网络入门
  • 阿里云千亿特征深度学习算法XNN实践

    • 相关实验场景

    更多
  • 如何快速训练大模型
  • 使用PAI-快速开始，低代码实现大语言模型微调和部署
  • AIGC Stable Diffusion文生图Lora模型微调实现虚拟上装
  • 推荐系统入门之使用ALS算法实现打分预测
    • 下一篇
    PAI Model Gallery 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型