移动深度学习 Mobile-deep-learning(MDL)

简介: Free and open source mobile deep learning framework, deploying by Baidu.

Free and open source mobile deep learning framework, deploying by Baidu.

This research aims at simply deploying CNN on mobile devices, with low complexity and high speed. It supports calculation on iOS GPU, and is already adopted by Baidu APP.

Size: 340k+ (on arm v7)
Speed: 40ms (for iOS Metal GPU Mobilenet) or 30 ms (for Squeezenet)
百度研发的移动端深度学习框架,致力于让卷积神经网络极度简单的部署在手机端。目前正在手机百度内运行。支持iOS gpu计算。体积小,速度快。

体积 armv7 340k+
速度 iOS GPU mobilenet 可以达到 40ms、squeezenet 可以达到 30ms

项目地址:https://github.com/baidu/mobile-deep-learning

更多机器学习教程:http://www.tensorflownews.com

特征

一键部署,脚本参数就可以切换ios或者android
支持iOS gpu运行MobileNet、squeezenet模型
已经测试过可以稳定运行MobileNet、GoogLeNet v1、squeezenet模型
体积极小,无任何第三方依赖。纯手工打造。
提供量化脚本,对32位float转8位uint直接支持,模型体积量化后4M上下
与ARM相关算法团队线上线下多次沟通,针对ARM平台会持续优化
NEON使用涵盖了卷积、归一化、池化所有方面的操作
汇编优化,针对寄存器汇编操作具体优化
loop unrolling 循环展开,为提升性能减少不必要的CPU消耗,全部展开判断操作
将大量繁重的计算任务前置到overhead过程

相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
目录
相关文章
阿里云商标注册申请官方入口(附商标自助申请流程)
阿里云商标分为商标智能注册申请、商标安心注册申请和商标顾问注册申请
33558 4
阿里云商标注册申请官方入口(附商标自助申请流程)
|
4月前
|
定位技术 Android开发 Kotlin
Service 与前台服务:让任务在后台持续运行
Android Service 是无UI后台组件,专用于长期任务。自8.0起,需用前台服务(带常驻通知)保障运行;核心要点:5秒内调`startForeground`、耗时操作移出主线程、任务完成及时`stopSelf`。
487 0
|
7月前
|
存储 弹性计算 安全
阿里云服务器2核2G99元、2核4G199元专属活动:详细配置、购买规则及组合套餐介绍
阿里云99元和199元云服务器活动提供固定配置和带宽不限流量服务,新老用户续费同价。活动整合了建站礼包、安全防护、弹性数据库和高效存储等多场景方案,提供“服务器+域名+安全”一站式服务。个人及企业用户可享超低价格和专业技术支持,轻松实现云端部署和数字化转型。活动还提供多场景组合套餐,满足不同上云需求,是当前上云场景下的超值之选。
|
8月前
|
存储 缓存 人工智能
10 个提升 Python 性能的实战技巧:从慢如蜗牛到快如闪电
Python常被误认为“慢”,实则瓶颈多在写法。本文提炼PyCharm团队推荐的10大性能技巧:用set查元素、预分配列表、__slots__省内存、math替代**、避免异常控制流等,每招皆可提升数倍至百倍性能,且不损可读性。(239字)
579 1
10 个提升 Python 性能的实战技巧:从慢如蜗牛到快如闪电
|
9月前
|
存储 网络协议 对象存储
2026阿里云轻量应用服务器——开箱即用200M带宽新手上云首选
阿里云轻量应用服务器焕新升级,推出五大规格族,覆盖建站、开发、游戏、跨境电商等多元场景。默认200Mbps带宽,预装热门镜像,支持一键部署,账单透明,成本低至38元/年,助力中小企业与开发者轻松上云。
952 6
|
Java 开发者 Spring
Spring项目中Ordered接口的应用:全局过滤器(GlobalFilter)的顺序控制
Spring项目中Ordered接口的应用:全局过滤器(GlobalFilter)的顺序控制
1174 2
|
安全 对象存储
OSS对象存储JavaV4签名
本文介绍了如何使用阿里云OSS-SDK生成V4版本的签名URL和Header签名。通过设置时间、访问密钥等参数,代码示例展示了如何创建带有V4签名的请求,适用于安全访问对象存储服务。相关文档链接提供了更多详细信息。
1408 7
|
运维 前端开发 JavaScript
前端技术深度探索:从基础到现代的演进
【10月更文挑战第23天】前端技术深度探索:从基础到现代的演进
605 1