超越GhostNet!吊打MobileNetV3!MicroNet通过极低FLOPs实现图像识别(文末获取论文)(二)

简介: 超越GhostNet!吊打MobileNetV3!MicroNet通过极低FLOPs实现图像识别(文末获取论文)(二)

4 MicroNet架构


文中总共描述了4种MicroNet模型的结构,FLOPs在6M到44M之间。它们由3种类型的Block组成,它们以不同的方式结合了Micro-Factorized pointwise和depthwise卷积。它们都使用dynamic ShiftMax作为激活函数。

image.png

4.1、Micro-Block-A

Micro-Block-A使用了微分解点态和深度卷积的精简组合。它在分辨率较高的低电平上是有效的。请注意,信道的数量是通过深度上的微分解卷积来扩展的,而通过组自适应卷积来压缩的。

4.2、Micro-Block-B

Micro-Block-B用于连接MicroBlock-A和Micro-Block-C。与Micro-Block-A不同的是,它使用了完全Micro-Factorized pointwise卷积,其中包括两个Group自适应卷积。前者压缩了通道数量,而后者则增加了通道数量。

4.3、Micro-Block-C

Micro-Block-C使用常规组合,将深度上的Micro-Factorized pointwise卷积连接起来。它被用于更深处的位置,因为它在通道融合(pointwise)上比lite组合花费更多的计算。当维度匹配时使用跳接。

每个微块有四个超参数:核大小k、输出通道数C、Micro-Factorized pointwise瓶颈处的缩减比R、2个Group自适应卷积的Group数对(G1,G2)。

4.4、Stem Layer

作者重新设计了Stem层,以满足低FLOPs的约束。它包括一个的卷积和一个的群卷积,然后是一个ReLU。第2次卷积将通道的数量增加了R倍。这大大节省了计算成本。


5 实验


5.1、ImageNet分类结果

下表2比较了4种不同的计算代价下最先进的ImgageNet分类。在这4个结果中MicroNet性能优于以前的工作。

5.2、激活函数实验

5.3、Pixel-Level分类

5.3.1 COCO keypoint detection

5.3.2 Semantic segmentation

参考

[1] MicroNet: Towards Image Recognition with Extremely Low FLOPs

相关实践学习
基于函数计算实现AI推理
本场景基于函数计算建立一个TensorFlow Serverless AI推理平台。
相关文章
|
机器学习/深度学习 编解码 算法
超越GhostNet!吊打MobileNetV3!MicroNet通过极低FLOPs实现图像识别(文末获取论文)(一)
超越GhostNet!吊打MobileNetV3!MicroNet通过极低FLOPs实现图像识别(文末获取论文)(一)
195 0
|
机器学习/深度学习 编解码 计算机视觉
ICCV2021 | MicroNet:以极低的 FLOPs 改进图像识别
这篇论文旨在以极低的计算成本解决性能大幅下降的问题。提出了微分解卷积,将卷积矩阵分解为低秩矩阵,将稀疏连接整合到卷积中。提出了一个新的动态激活函数-- Dynamic Shift Max,通过最大化输入特征图与其循环通道移位之间的多个动态融合来改善非线性。
ICCV2021 | MicroNet:以极低的 FLOPs 改进图像识别
|
12小时前
|
机器学习/深度学习 自动驾驶 算法
基于深度学习的图像识别技术在自动驾驶系统中的应用
【5月更文挑战第26天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉进步的关键力量。特别是在图像识别领域,深度神经网络已经表现出超越人类的识别能力。本文将探讨一种先进的图像识别框架,并分析其在自动驾驶系统中的实际应用和潜在影响。我们将介绍深度学习模型的设计原则、训练过程以及如何通过这些模型实现对道路环境的高度理解,从而为无人驾驶汽车提供准确的导航信息。
|
12小时前
|
机器学习/深度学习 传感器 自动驾驶
基于深度学习的图像识别技术在自动驾驶汽车中的应用
【5月更文挑战第26天】 随着人工智能技术的飞速发展,深度学习已经成为计算机视觉领域的核心技术之一。特别是在图像识别方面,深度学习模型已经展现出超越传统算法的性能。本文旨在探讨基于深度学习的图像识别技术如何被应用于自动驾驶汽车中,以提高车辆的环境感知能力,确保行车安全。我们将首先概述当前自动驾驶汽车的技术框架,然后详细分析深度学习在此领域内的关键作用,包括物体检测、语义分割和行为预测等关键技术点。最后,文章将讨论目前存在的挑战以及未来的发展方向。
|
12小时前
|
机器学习/深度学习 人工智能 边缘计算
深度学习在图像识别中的创新应用
【5月更文挑战第26天】 随着人工智能的飞速发展,深度学习技术已成为推动计算机视觉进步的核心动力。特别是在图像识别领域,通过构建更加复杂和精细的神经网络模型,研究人员已经取得了前所未有的识别精度。本文将探讨几种最新的深度学习架构,它们如何优化特征提取过程,并提高模型对不同类型图像的识别能力。此外,文章还将讨论数据增强、迁移学习等策略在提升模型泛化性能中的应用,以及未来深度学习技术在图像识别领域的潜在发展方向。
|
12小时前
|
机器学习/深度学习 自动驾驶 算法
深度学习在图像识别中的应用与挑战
【5月更文挑战第26天】 随着人工智能技术的飞速发展,深度学习作为其核心驱动力量之一,在图像识别领域展现出了前所未有的能力。本文将探讨深度学习在图像识别中的应用,分析其在处理复杂视觉任务时所表现出的优势,并讨论当前技术面临的主要挑战及潜在的解决途径。尽管深度学习模型如卷积神经网络(CNN)已在多个基准测试中达到人类水平的表现,数据偏差、模型泛化能力和计算资源的有效利用等问题依然是该领域需要积极应对的难题。
|
13小时前
|
机器学习/深度学习 算法 安全
深度学习在图像识别中的应用与挑战
【5月更文挑战第26天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉领域进步的核心动力。本文聚焦于深度学习技术在图像识别任务中的运用,探讨了卷积神经网络(CNN)等先进模型如何提升图像分类、目标检测及语义分割的性能。同时,文中也分析了目前面临的主要挑战,包括数据集偏差、计算资源需求和对抗性攻击等问题,并提出可能的解决方案和未来的研究方向。
|
13小时前
|
机器学习/深度学习 数据采集 算法
深度学习在图像识别中的应用与挑战
【5月更文挑战第26天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉领域进步的核心动力。特别是在图像识别任务中,深度神经网络展现出了超越传统算法的卓越性能。本文将深入探讨深度学习模型在图像识别领域的应用,分析其成功的关键因素,并针对目前面临的主要挑战提出可能的解决方案。我们将从数据预处理、模型架构设计、训练技巧到优化方法等多个维度进行讨论,旨在为读者提供一个全面而深入的视角,以理解深度学习在图像识别中的实际应用及其未来的发展趋势。
|
13小时前
|
机器学习/深度学习 数据采集 算法
基于深度学习的图像识别优化策略
【5月更文挑战第26天】 在现代技术景观中,图像识别已变得不可或缺,其应用范围从医疗诊断到自动驾驶汽车。然而,准确性和速度的提升一直是该领域的持续挑战。本文提出了一种基于改进的卷积神经网络(CNN)架构的图像识别优化策略,旨在通过减少网络复杂度和计算量来提高处理速度,同时保持甚至提升识别精度。我们采用了一种新颖的数据预处理方法,结合了数据增强和噪声过滤技术,以及一个轻量化的网络设计,减少了参数数量并优化了特征提取过程。此外,我们还引入了一个高效的激活函数,以改善模型在不同层之间的信息传递效率。实验结果表明,与现有技术相比,我们的优化策略在多个标准数据集上实现了显著的性能提升,包括在ImageN
|
1天前
|
机器学习/深度学习 传感器 自动驾驶
基于深度学习的图像识别在自动驾驶系统中的应用
【5月更文挑战第25天】 随着人工智能技术的飞速发展,深度学习作为其重要分支之一,在图像识别领域取得了革命性的进步。尤其是在自动驾驶技术中,基于深度学习的图像识别系统不仅增强了车辆的环境感知能力,还极大提升了决策系统的智能化水平。本文旨在探讨深度学习技术在自动驾驶车辆图像识别系统中的应用,并分析其对提升自动驾驶安全性和可靠性的影响。通过梳理关键技术点和挑战,文章为未来相关研究提供了方向和参考。