MNN开源项目荣获中国科协2021“年度优秀开源产品”

简介: 在中国科协召开的2022“科创中国”年度会议上,阿里巴巴两个开源社区荣获“年度优秀开源机构”,五大开源项目荣获“年度优秀开源产品”。

1.gif

在中国科协召开的2022“科创中国”年度会议上,阿里巴巴两个开源社区荣获“年度优秀开源机构”,五大开源项目荣获“年度优秀开源产品”。


日前,中国科协正式发布2021“科创中国”开源创新榜单,推选出50项年度优秀开源产品及相关机构。其中,由阿里巴巴大淘宝技术团队开源的MNN深度学习推理引擎与其他四个阿里自研开源项目一起荣获“年度优秀开源产品”。 图片.png2022“科创中国”年度会议上,中国工程院院士周济发布“科创中国”系列榜单

 

MNN是由大淘宝技术出品的全平台轻量级高性能深度学习引擎。它从2018年开始,历经4届双十一考验,广泛支持了阿里巴巴在CV、ASR、NLP等领域的70+个AI应用场景,包含淘宝搜索推荐、拍立淘、淘宝直播、AR导购等核心场景,日调用量达十亿量级。MNN一直是推理引擎行业标杆,其架构论文发表于2020 SysML。MNN也普遍获得业界友商的认可,包含陌陌、美团、得物等至少数十家企业在使用。


在过去的一年,MNN一直在高性能、通用性方面沉淀扎实的推理引擎技术:


首先,在X86 CPU上,通过增加卷积调度参数、结合X86硬件特性汇编实现等优化手段,在常用模型如ResNet上,提速350+% (1Batch) 、70+% (16Batch)。在微观矩阵乘microkernel层面,其性能已达到计算峰值的98%以上!


其次,我们投资于ARM、X86平台稀疏计算,模型优化与引擎加速相结合,0.75稀疏度的CV模型在ARM平台加速比2.1 ~ 2.3 倍, x86平台加速比1.66 ~ 1.72倍。在淘宝实际业务的应用中,我们发现稀疏计算结合模型量化,可对模型进行极限压缩,满足端侧环境对于模型体积、内存占用、CPU占用的严格约束。


最后,基于MNN核心的张量计算库,我们低成本高效率地实现了OpenCV / Numpy功能,它有极简的包大小、原生OpenCV / Numpy库的使用体验、大幅的性能提升,进一步缩短了AI算法部署到端侧的「最后一公里」。


后续我们会陆续放出MNN在以上方向的技术干货,敬请大家期待!


在过去的一年,AI整体行业也经历了飞速的发展。算法上,主流任务模型日趋成熟,Transformer从NLP破圈进入CV,Vision Transformer 登顶 ImageNet;产业中,大量的AI、数据公司IPO,如Exscientia, Snowflake, UiPath, Confluent等,标志着AI开始迈向部署阶段。淘系端智能团队坚信,未来的AI部署将是端侧驱动、端云协同的。我们自主研发并对外开放了支持AI应用启蒙、无门槛训练和一键多端部署的一站式AI平台:MNN工作台,欢迎大家从MNN官网 (见文末二维码) 下载体验!

图片.png

相关文章
|
11月前
|
机器学习/深度学习 人工智能 达摩院
隐语开源社区「2022年度开源报告」
隐语开源社区「2022年度开源报告」
309 1
|
边缘计算 人工智能 Kubernetes
OpenYurt 即将亮相 EdgeX+OpenVINO 开发者生态大会
OpenYurt 即将亮相 EdgeX+OpenVINO 开发者生态大会
|
机器学习/深度学习 人工智能 弹性计算
五年磨一剑:阿里达摩院重磅推出AI模型社区「魔搭」,300+模型全面开源
五年磨一剑:阿里达摩院重磅推出AI模型社区「魔搭」,300+模型全面开源
758 0
|
机器学习/深度学习 存储 人工智能
「开源人说」|AI普惠,阿里灵杰开源历程与思考
施兴 阿里巴巴资深技术专家 阿里巴巴开源项目EasyRec负责人
118088 1
「开源人说」|AI普惠,阿里灵杰开源历程与思考
|
机器学习/深度学习 人工智能 自然语言处理
进击的 AI 框架,MindSpore 开源一周年
开源一年以来,累计发布 8 个新版本,汇聚超过 3000 名社区开发者的代码贡献,社区访问量超千万;现拥有超过 100 个大的基础模型,涵盖计算机视觉、NLP 等主流的 AI 和深度学习框架;累计 PR 数 超过 2 万个,下载量高达 22 万次,下载用户遍布全球;超过 100 所高校参与了社区活动,超过 40 家科研机构利用它去发表原创论文。这就是全场景 AI 计算框架 MindSpore 开源一年来取得的成绩!
247 0
进击的 AI 框架,MindSpore 开源一周年
|
机器学习/深度学习 Web App开发 Kubernetes
谷歌云大会最后一天解读开放性:从TensorFlow开源到开放云平台
当地时间 3 月 10 日,Google Cloud Next '17 在美国旧金山顺利闭幕。机器之心作为受邀媒体对这场为期 3 天的会议进行了现场报道,参阅《现场直击 | 李飞飞首度亮相谷歌云大会:发布全新 API,解读 AI 民主化》和《谷歌云官方正式宣布收购数据科学社区 Kaggle》。谷歌云大会的最后一天,Google Cloud 产品开发、计算 & 开发者服务副总裁 Sam Ramji、谷歌大脑 TensorFlow 负责人 Rajat Monga 和 Google Senior Fellow Jeff Dean 等演讲者和受邀嘉宾重点围绕 Kubernetes、TensorFlow
159 0
谷歌云大会最后一天解读开放性:从TensorFlow开源到开放云平台
|
机器学习/深度学习 人工智能 算法
华为正式开源 AI 框架 MindSpore,已完成全栈全场景 AI 解决方案(Portfolio)的构建
华为正式开源 AI 框架 MindSpore,已完成全栈全场景 AI 解决方案(Portfolio)的构建
华为正式开源 AI 框架 MindSpore,已完成全栈全场景 AI 解决方案(Portfolio)的构建
|
应用服务中间件 Dubbo Java
2017年阿里开源了14个核心技术,你了解哪些?
阿里妹导读:自从2011年宣布第一波开源项目以来,阿里技术人一直积极参与开源社区共建。开源项目数量每年都有所增长,目前阿里巴巴已经有150+个开源项目,其中数个项目 star 破万。相关的 GitHub 2017年数据统计显示,阿里巴巴是唯一一家入围 GitHub 顶尖贡献名单的中国公司。
10604 0
2017年阿里开源了14个核心技术,你了解哪些?
|
机器学习/深度学习 Web App开发 监控
【云周刊】第203期:阿里重磅开源首款自研科学计算引擎Mars,揭秘超大规模科学计算
本期头条 阿里重磅开源首款自研科学计算引擎Mars,揭秘超大规模科学计算 科学计算即数值计算,是指应用计算机处理科学研究和工程技术中所遇到的数学计算问题。比如图像处理、机器学习、深度学习等很多领域都会用到科学计算。
5920 0
|
PouchContainer 容器
阿里PouchContainer、OpenMessaging两大开源项目惊喜亮相“OSCAR开源先锋日”
10月20日,由中国信息通信研究院主办,云计算标准与开源推进委员会、清华大学TUNA 协会、北京大学开源软件协会承办,云计算开源产业联盟、华为、腾讯、阿里巴巴、小米支持,高效运维社区协办的“OSCAR开源先锋日”在北京完美落幕。
1948 0