MNN开源项目荣获中国科协2021“年度优秀开源产品”

简介: 在中国科协召开的2022“科创中国”年度会议上,阿里巴巴两个开源社区荣获“年度优秀开源机构”,五大开源项目荣获“年度优秀开源产品”。

1.gif

在中国科协召开的2022“科创中国”年度会议上,阿里巴巴两个开源社区荣获“年度优秀开源机构”,五大开源项目荣获“年度优秀开源产品”。


日前,中国科协正式发布2021“科创中国”开源创新榜单,推选出50项年度优秀开源产品及相关机构。其中,由阿里巴巴大淘宝技术团队开源的MNN深度学习推理引擎与其他四个阿里自研开源项目一起荣获“年度优秀开源产品”。 图片.png2022“科创中国”年度会议上,中国工程院院士周济发布“科创中国”系列榜单

 

MNN是由大淘宝技术出品的全平台轻量级高性能深度学习引擎。它从2018年开始,历经4届双十一考验,广泛支持了阿里巴巴在CV、ASR、NLP等领域的70+个AI应用场景,包含淘宝搜索推荐、拍立淘、淘宝直播、AR导购等核心场景,日调用量达十亿量级。MNN一直是推理引擎行业标杆,其架构论文发表于2020 SysML。MNN也普遍获得业界友商的认可,包含陌陌、美团、得物等至少数十家企业在使用。


在过去的一年,MNN一直在高性能、通用性方面沉淀扎实的推理引擎技术:


首先,在X86 CPU上,通过增加卷积调度参数、结合X86硬件特性汇编实现等优化手段,在常用模型如ResNet上,提速350+% (1Batch) 、70+% (16Batch)。在微观矩阵乘microkernel层面,其性能已达到计算峰值的98%以上!


其次,我们投资于ARM、X86平台稀疏计算,模型优化与引擎加速相结合,0.75稀疏度的CV模型在ARM平台加速比2.1 ~ 2.3 倍, x86平台加速比1.66 ~ 1.72倍。在淘宝实际业务的应用中,我们发现稀疏计算结合模型量化,可对模型进行极限压缩,满足端侧环境对于模型体积、内存占用、CPU占用的严格约束。


最后,基于MNN核心的张量计算库,我们低成本高效率地实现了OpenCV / Numpy功能,它有极简的包大小、原生OpenCV / Numpy库的使用体验、大幅的性能提升,进一步缩短了AI算法部署到端侧的「最后一公里」。


后续我们会陆续放出MNN在以上方向的技术干货,敬请大家期待!


在过去的一年,AI整体行业也经历了飞速的发展。算法上,主流任务模型日趋成熟,Transformer从NLP破圈进入CV,Vision Transformer 登顶 ImageNet;产业中,大量的AI、数据公司IPO,如Exscientia, Snowflake, UiPath, Confluent等,标志着AI开始迈向部署阶段。淘系端智能团队坚信,未来的AI部署将是端侧驱动、端云协同的。我们自主研发并对外开放了支持AI应用启蒙、无门槛训练和一键多端部署的一站式AI平台:MNN工作台,欢迎大家从MNN官网 (见文末二维码) 下载体验!

图片.png

相关文章
|
Cloud Native Dubbo 应用服务中间件
阿里巴巴捐献的14个顶级开源项目,国内开源贡献第一!
代表性的项目包括龙蜥操作系统、Apache RocketMQ、Apache Dubbo、Spring Cloud Alibaba 等
|
5月前
|
Java 程序员
最火的国产开源项目是它?
最火的国产开源项目是它?
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
【大模型】开源OR闭源,这是一个问题?|谁能引领未来
【大模型】开源OR闭源,这是一个问题?|谁能引领未来
166 0
|
人工智能 数据可视化 物联网
vivo AI全球研究院 BlueLM-7B系列开源!魔搭社区最佳实践教程来了!
BlueLM 是由 vivo AI 全球研究院自主研发的大规模预训练语言模型,本次发布包含 7B 基础模型、7B 对话模型,4bits量化的7B对话模型,支持 32K 的长文本基础模型和对话模型。
|
机器学习/深度学习 人工智能 达摩院
隐语开源社区「2022年度开源报告」
隐语开源社区「2022年度开源报告」
372 1
|
SQL 机器学习/深度学习 算法
隐语开源社区【精选问答】第5期
隐语开源社区【精选问答】第5期
358 0
|
机器学习/深度学习 算法 安全
「隐语开源社区」Meetup答疑篇
「隐语开源社区」Meetup答疑篇
365 0
|
边缘计算 人工智能 Kubernetes
OpenYurt 即将亮相 EdgeX+OpenVINO 开发者生态大会
OpenYurt 即将亮相 EdgeX+OpenVINO 开发者生态大会
|
机器学习/深度学习 人工智能 弹性计算
五年磨一剑:阿里达摩院重磅推出AI模型社区「魔搭」,300+模型全面开源
五年磨一剑:阿里达摩院重磅推出AI模型社区「魔搭」,300+模型全面开源
1134 0
|
机器学习/深度学习 人工智能 自然语言处理
进击的 AI 框架,MindSpore 开源一周年
开源一年以来,累计发布 8 个新版本,汇聚超过 3000 名社区开发者的代码贡献,社区访问量超千万;现拥有超过 100 个大的基础模型,涵盖计算机视觉、NLP 等主流的 AI 和深度学习框架;累计 PR 数 超过 2 万个,下载量高达 22 万次,下载用户遍布全球;超过 100 所高校参与了社区活动,超过 40 家科研机构利用它去发表原创论文。这就是全场景 AI 计算框架 MindSpore 开源一年来取得的成绩!
297 0
进击的 AI 框架,MindSpore 开源一周年
下一篇
无影云桌面