DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略(一)

简介: DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

MobileNet算法的简介(论文介绍)


     深度学习在图像分类,目标检测和图像分割等任务表现出了巨大的优越性。但是伴随着模型精度的提升是计算量,存储空间以及能耗方面的巨大开销,对于嵌入式应用,比如移动或车载应用都是难以接受的。



Abstract  

     We present a class of efficient models called MobileNets  for mobile and embedded vision applications. MobileNets  are based on a streamlined architecture that uses depthwise  separable convolutions to build light weight deep  neural networks. We introduce two simple global hyperparameters  that efficiently trade off between latency and  accuracy. These hyper-parameters allow the model builder  to choose the right sized model for their application based  on the constraints of the problem. We present extensive  experiments on resource and accuracy tradeoffs and show  strong performance compared to other popular models on  ImageNet classification. We then demonstrate the effectiveness  of MobileNets across a wide range of applications and  use cases including object detection, finegrain classification,  face attributes and large scale geo-localization.

摘要

     我们为移动和嵌入式视觉应用提供了一类称为MobileNets的高效模型。Mobilenets基于一种流线型的架构,它使用纵向的可分离卷积来构建轻量级的深层神经网络。我们引入了两个简单的全局超参数,有效地在延迟和精度之间进行权衡。这些超参数允许模型生成器根据问题的约束为其应用程序选择合适大小的模型。我们在资源和精度权衡方面进行了广泛的实验,并在图像网分类方面与其他流行的模型相比表现出很强的性能。然后,我们展示了MobileNet在广泛应用和使用案例中的有效性,包括目标检测、细粒度分类、人脸属性和大规模地理定位。

Conclusion

     We proposed a new model architecture called MobileNets  based on depthwise separable convolutions. We  investigated some of the important design decisions leading  to an efficient model. We then demonstrated how to build  smaller and faster MobileNets using width multiplier and  resolution multiplier by trading off a reasonable amount of  accuracy to reduce size and latency. We then compared different  MobileNets to popular models demonstrating superior  size, speed and accuracy characteristics. We concluded  by demonstrating MobileNet’s effectiveness when applied  to a wide variety of tasks. As a next step to help adoption  and exploration of MobileNets, we plan on releasing models  in TensorFlow.

结论

     我们提出了一种新的模型体系结构,称为基于非纵向可分离卷积的MobileNets 。我们研究了导致有效模型的一些重要设计决策。然后,我们演示了如何利用宽度倍增器和分辨率倍增器来构建更小更快的移动网络,通过牺牲合理的精度来减少大小和延迟。然后,我们将不同的MobileNets 与流行的模型进行了比较,显示出优越的尺寸、速度和精度特性。最后,我们展示了Mobilenet在广泛应用于各种任务时的有效性。作为帮助采用和探索MobileNets的下一步,我们计划在TensorFlow中发布模型。


论文

Andrew G. Howard, MenglongZhu, Bo Chen, Dmitry Kalenichenko, et al.

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications. 2017.

https://arxiv.org/abs/1704.04861




1、研究背景


       深度学习在图像分类,目标检测和图像分割等任务表现出了巨大的优越性。但是伴随着模型精度的提升是计算量,存储空间以及能耗方面的巨大开销,对于移动或车载应用都是难以接受的。



2、传统的模型轻量化常用的方法


(1)、卷积核分解,使用1×N和N×1的卷积核代替N×N的卷积核

(2)、使用bottleneck结构,以SqueezeNet为代表

(3)、进行深度压缩,以低精度浮点数保存,例如Deep Compression,比如将32bit降维到8bit,进行保存!

(4)、冗余卷积核剪枝及哈弗曼编码



3、MobileNet 模型可应用于各种识别任务,以实现高效的设备智能


    可以应用在各种嵌入式设备上。MobileNet models can be applied to various recognition tasks for efficient on device intelligence


image.png


MobileNet使用了一种称之为深度可分离卷积,来替代原有的传统3D卷积,减少了卷积核的冗余表达。

计算量和参数数量明显下降,卷积网络可以应用在更多的移动端平台。

深度可分离卷积的相关文章

DL之Xception:Xception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

https://yunyaniu.blog.csdn.net/article/details/97934175




目录
打赏
0
0
0
0
1042
分享
相关文章
深入理解云原生架构及其在现代企业中的应用
随着数字化转型的浪潮席卷全球,企业正面临着前所未有的挑战与机遇。云计算技术的迅猛发展,特别是云原生架构的兴起,正在重塑企业的IT基础设施和软件开发模式。本文将深入探讨云原生的核心概念、关键技术以及如何在企业中实施云原生策略,以实现更高效的资源利用和更快的市场响应速度。通过分析云原生架构的优势和面临的挑战,我们将揭示它如何助力企业在激烈的市场竞争中保持领先地位。
MySQL原理简介—2.InnoDB架构原理和执行流程
本文介绍了MySQL中更新语句的执行流程及其背后的机制,主要包括: 1. **更新语句的执行流程**:从SQL解析到执行器调用InnoDB存储引擎接口。 2. **Buffer Pool缓冲池**:缓存磁盘数据,减少磁盘I/O。 3. **Undo日志**:记录更新前的数据,支持事务回滚。 4. **Redo日志**:确保事务持久性,防止宕机导致的数据丢失。 5. **Binlog日志**:记录逻辑操作,用于数据恢复和主从复制。 6. **事务提交机制**:包括redo日志和binlog日志的刷盘策略,确保数据一致性。 7. **后台IO线程**:将内存中的脏数据异步刷入磁盘。
云卓越架构:云上网络稳定性建设和应用稳定性治理最佳实践
本文介绍了云上网络稳定性体系建设的关键内容,包括面向失败的架构设计、可观测性与应急恢复、客户案例及阿里巴巴的核心电商架构演进。首先强调了网络稳定性的挑战及其应对策略,如责任共担模型和冗余设计。接着详细探讨了多可用区部署、弹性架构规划及跨地域容灾设计的最佳实践,特别是阿里云的产品和技术如何助力实现高可用性和快速故障恢复。最后通过具体案例展示了秒级故障转移的效果,以及同城多活架构下的实际应用。这些措施共同确保了业务在面对网络故障时的持续稳定运行。
深入理解微服务架构及其在现代软件开发中的应用
深入理解微服务架构及其在现代软件开发中的应用
117 33
深入理解容器化技术及其在微服务架构中的应用
深入理解容器化技术及其在微服务架构中的应用
116 1
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
86 3
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####
从单体到微服务:如何借助 Spring Cloud 实现架构转型
**Spring Cloud** 是一套基于 Spring 框架的**微服务架构解决方案**,它提供了一系列的工具和组件,帮助开发者快速构建分布式系统,尤其是微服务架构。
321 69
从单体到微服务:如何借助 Spring Cloud 实现架构转型
智慧工地云平台的技术架构解析:微服务+Spring Cloud如何支撑海量数据?
慧工地解决方案依托AI、物联网和BIM技术,实现对施工现场的全方位、立体化管理。通过规范施工、减少安全隐患、节省人力、降低运营成本,提升工地管理的安全性、效率和精益度。该方案适用于大型建筑、基础设施、房地产开发等场景,具备微服务架构、大数据与AI分析、物联网设备联网、多端协同等创新点,推动建筑行业向数字化、智能化转型。未来将融合5G、区块链等技术,助力智慧城市建设。

热门文章

最新文章