DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略(一)

简介: DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

MobileNet算法的简介(论文介绍)


     深度学习在图像分类,目标检测和图像分割等任务表现出了巨大的优越性。但是伴随着模型精度的提升是计算量,存储空间以及能耗方面的巨大开销,对于嵌入式应用,比如移动或车载应用都是难以接受的。



Abstract  

     We present a class of efficient models called MobileNets  for mobile and embedded vision applications. MobileNets  are based on a streamlined architecture that uses depthwise  separable convolutions to build light weight deep  neural networks. We introduce two simple global hyperparameters  that efficiently trade off between latency and  accuracy. These hyper-parameters allow the model builder  to choose the right sized model for their application based  on the constraints of the problem. We present extensive  experiments on resource and accuracy tradeoffs and show  strong performance compared to other popular models on  ImageNet classification. We then demonstrate the effectiveness  of MobileNets across a wide range of applications and  use cases including object detection, finegrain classification,  face attributes and large scale geo-localization.

摘要

     我们为移动和嵌入式视觉应用提供了一类称为MobileNets的高效模型。Mobilenets基于一种流线型的架构,它使用纵向的可分离卷积来构建轻量级的深层神经网络。我们引入了两个简单的全局超参数,有效地在延迟和精度之间进行权衡。这些超参数允许模型生成器根据问题的约束为其应用程序选择合适大小的模型。我们在资源和精度权衡方面进行了广泛的实验,并在图像网分类方面与其他流行的模型相比表现出很强的性能。然后,我们展示了MobileNet在广泛应用和使用案例中的有效性,包括目标检测、细粒度分类、人脸属性和大规模地理定位。

Conclusion

     We proposed a new model architecture called MobileNets  based on depthwise separable convolutions. We  investigated some of the important design decisions leading  to an efficient model. We then demonstrated how to build  smaller and faster MobileNets using width multiplier and  resolution multiplier by trading off a reasonable amount of  accuracy to reduce size and latency. We then compared different  MobileNets to popular models demonstrating superior  size, speed and accuracy characteristics. We concluded  by demonstrating MobileNet’s effectiveness when applied  to a wide variety of tasks. As a next step to help adoption  and exploration of MobileNets, we plan on releasing models  in TensorFlow.

结论

     我们提出了一种新的模型体系结构,称为基于非纵向可分离卷积的MobileNets 。我们研究了导致有效模型的一些重要设计决策。然后,我们演示了如何利用宽度倍增器和分辨率倍增器来构建更小更快的移动网络,通过牺牲合理的精度来减少大小和延迟。然后,我们将不同的MobileNets 与流行的模型进行了比较,显示出优越的尺寸、速度和精度特性。最后,我们展示了Mobilenet在广泛应用于各种任务时的有效性。作为帮助采用和探索MobileNets的下一步,我们计划在TensorFlow中发布模型。


论文

Andrew G. Howard, MenglongZhu, Bo Chen, Dmitry Kalenichenko, et al.

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications. 2017.

https://arxiv.org/abs/1704.04861




1、研究背景


       深度学习在图像分类,目标检测和图像分割等任务表现出了巨大的优越性。但是伴随着模型精度的提升是计算量,存储空间以及能耗方面的巨大开销,对于移动或车载应用都是难以接受的。



2、传统的模型轻量化常用的方法


(1)、卷积核分解,使用1×N和N×1的卷积核代替N×N的卷积核

(2)、使用bottleneck结构,以SqueezeNet为代表

(3)、进行深度压缩,以低精度浮点数保存,例如Deep Compression,比如将32bit降维到8bit,进行保存!

(4)、冗余卷积核剪枝及哈弗曼编码



3、MobileNet 模型可应用于各种识别任务,以实现高效的设备智能


    可以应用在各种嵌入式设备上。MobileNet models can be applied to various recognition tasks for efficient on device intelligence


image.png


MobileNet使用了一种称之为深度可分离卷积,来替代原有的传统3D卷积,减少了卷积核的冗余表达。

计算量和参数数量明显下降,卷积网络可以应用在更多的移动端平台。

深度可分离卷积的相关文章

DL之Xception:Xception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

https://yunyaniu.blog.csdn.net/article/details/97934175




相关文章
|
1月前
|
存储 算法 Java
解析HashSet的工作原理,揭示Set如何利用哈希算法和equals()方法确保元素唯一性,并通过示例代码展示了其“无重复”特性的具体应用
在Java中,Set接口以其独特的“无重复”特性脱颖而出。本文通过解析HashSet的工作原理,揭示Set如何利用哈希算法和equals()方法确保元素唯一性,并通过示例代码展示了其“无重复”特性的具体应用。
41 3
|
15天前
|
机器学习/深度学习 JSON 算法
二叉树遍历算法的应用场景有哪些?
【10月更文挑战第29天】二叉树遍历算法作为一种基础而重要的算法,在许多领域都有着不可或缺的应用,它为解决各种复杂的问题提供了有效的手段和思路。随着计算机科学的不断发展,二叉树遍历算法也在不断地被优化和扩展,以适应新的应用场景和需求。
24 0
|
26天前
|
存储 算法 搜索推荐
这些算法在实际应用中有哪些具体案例呢
【10月更文挑战第19天】这些算法在实际应用中有哪些具体案例呢
28 1
|
1月前
|
机器学习/深度学习 人工智能 算法
[大语言模型-算法优化] 微调技术-LoRA算法原理及优化应用详解
[大语言模型-算法优化] 微调技术-LoRA算法原理及优化应用详解
74 0
[大语言模型-算法优化] 微调技术-LoRA算法原理及优化应用详解
|
26天前
|
监控 算法 数据挖掘
HyperLogLog算法有哪些应用场景呢
【10月更文挑战第19天】HyperLogLog算法有哪些应用场景呢
15 0
|
8天前
|
缓存 负载均衡 JavaScript
探索微服务架构下的API网关模式
【10月更文挑战第37天】在微服务架构的海洋中,API网关犹如一座灯塔,指引着服务的航向。它不仅是客户端请求的集散地,更是后端微服务的守门人。本文将深入探讨API网关的设计哲学、核心功能以及它在微服务生态中扮演的角色,同时通过实际代码示例,揭示如何实现一个高效、可靠的API网关。
|
6天前
|
Cloud Native 安全 数据安全/隐私保护
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####
|
7天前
|
Dubbo Java 应用服务中间件
服务架构的演进:从单体到微服务的探索之旅
随着企业业务的不断拓展和复杂度的提升,对软件系统架构的要求也日益严苛。传统的架构模式在应对现代业务场景时逐渐暴露出诸多局限性,于是服务架构开启了持续演变之路。从单体架构的简易便捷,到分布式架构的模块化解耦,再到微服务架构的精细化管理,企业对技术的选择变得至关重要,尤其是 Spring Cloud 和 Dubbo 等微服务技术的对比和应用,直接影响着项目的成败。 本篇文章会从服务架构的演进开始分析,探索从单体项目到微服务项目的演变过程。然后也会对目前常见的微服务技术进行对比,找到目前市面上所常用的技术给大家进行讲解。
18 1
服务架构的演进:从单体到微服务的探索之旅
|
6天前
|
Cloud Native 安全 API
云原生架构下的微服务治理策略与实践####
—透过云原生的棱镜,探索微服务架构下的挑战与应对之道 本文旨在探讨云原生环境下,微服务架构所面临的关键挑战及有效的治理策略。随着云计算技术的深入发展,越来越多的企业选择采用云原生架构来构建和部署其应用程序,以期获得更高的灵活性、可扩展性和效率。然而,微服务架构的复杂性也带来了服务发现、负载均衡、故障恢复等一系列治理难题。本文将深入分析这些问题,并提出一套基于云原生技术栈的微服务治理框架,包括服务网格的应用、API网关的集成、以及动态配置管理等关键方面,旨在为企业实现高效、稳定的微服务架构提供参考路径。 ####
29 5
|
8天前
|
监控 API 微服务
后端技术演进:从单体架构到微服务的转变
随着互联网应用的快速增长和用户需求的不断演化,传统单体架构已难以满足现代软件开发的需求。本文深入探讨了后端技术在面对复杂系统挑战时的演进路径,重点分析了从单体架构向微服务架构转变的过程、原因及优势。通过对比分析,揭示了微服务架构如何提高系统的可扩展性、灵活性和维护效率,同时指出了实施微服务时面临的挑战和最佳实践。
27 7