每秒处理107万张图片!阿里云打破MLPerf图像分类性能记录-阿里云开发者社区

开发者社区> 人工智能> 正文
登录阅读全文

每秒处理107万张图片!阿里云打破MLPerf图像分类性能记录

简介: 图像分类性能测试中,阿里云震旦异构计算加速平台在通用GPU开放规则和离线场景下以每秒处理107.8万张图片的成绩,打破了此前谷歌保持的世界纪录。

今天,国际权威AI基准测试MLPerf公布了2021年最新推理测试榜单。

图像分类性能测试中,阿里云震旦异构计算加速平台在通用GPU开放规则和离线场景下以每秒处理107.8万张图片的成绩,打破了此前谷歌保持的世界纪录。

这将进一步提升图像识别、自动驾驶等场景下的计算效率,也是通用GPU计算平台上首次跑出超百万级的性能测试纪录。

1619578777407_C6FCEF64-E81C-4272-B3D3-E821746E1A34.png

震旦是阿里云自研的异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云变端多场景快速部署,大幅提升AI应用开发效率。

在MLPerf最新版的图像分类测试中,震旦平台针对图像分类神经网络架构进行自动优化,在保证基准测试精度目标的同时,远超标准ResNet50 v1.5的计算效率。

阿里云异构计算首席科学家、震旦加速平台负责人张伟丰博士透露,震旦对底层软件框架做了大量编译优化,可在同等硬件配置下发挥更高性能。

MLPerf推理性能的单卡测试结果显示,使用震旦加速平台的自动优化技术,在英伟达AI专用GPU A100上跑出了比同级硬件高出80%的推理性能成绩;在其它AI加速芯片上,更可帮助提升超过300%的性能。

1619578844847_1F21C926-C6F9-47f3-963C-FFB93713F8CF.png

震旦异构计算加速平台之所以在此次评测中取得如此优异成绩,得益于其出色的软硬件全栈优化能力:

· 在顶层算法模型上,使用基于自动机器学习(AutoML)的模型设计方式,这种方式可以获得比人工设计更高效的模型。

· 震旦基于MIT的先进的神经网络架构搜索算法Once-For-All,使用了基于强化学习的自研搜索算法获得了高性能子网络。

· 通过INT8量化获得硬件加速继续提高性能,并在量化前进行深度重训练,以保证量化后的精度能够达到测试的精度要求。

1619578907568_D1A40C47-428E-4530-9A3A-615BB41515DF.png
上图为高性能子网络示意图,IRB即反转残差块(Inverted Residual Block),是用于网络架构搜索的基本模块。每个反转残差块包括三层卷积算子,图上反转残差块的长度代表了该块的输出channel数量。

而基于震旦异构计算加速平台的机器学习模型自动优化技术,可应用在包括视觉处理在内的多个场景。

场景一:自动驾驶

以自动驾驶为例,车载计算机通过实时协同处理摄像头或雷达信息,正确感知行驶环境并据此做出反应。

目前先进的自动驾驶解决方案需要配备10路甚至更多的视觉和雷达装置,不断增加的外部传感数据处理对车机系统计算能力提出了挑战。

而采用震旦平台的软硬协同自动优化技术后,车载计算机的处理速度至少提升一倍,从而对行驶环境做出更加迅速的感知,并大幅提高自动驾驶的安全性。

场景二:电商

基于相同GPU硬件采用编译自动优化技术后,自动分类标记产品图像或者搜索图像效率大幅提升——服务器数量减少75%,通过图片关联的产品推荐速度提升5倍,用户购物体验更加流畅。

场景三:交通

目前,震旦异构计算加速平台已大规模应用于路口检测、以图搜图等场景。

应用了震旦加速平台的新一代路侧智能控制终端,交通参数检测准确率可达99%,帮助路口通行效率优化提升20%以上。

此外,该平台已通过阿里云弹性计算加速实例EAIS对外提供服务,具备配置灵活、弹性伸缩等特点,为用户提供高性价比的深度学习解决方案。

MLPerf

MLPerf是业内首套衡量机器学习软硬件性能的通用基准,由图灵奖得主David Patterson联合科技公司和全球顶级高校于2018年发起,已成为业界评测AI性能的最主流标准之一。

MLPerf基准联盟现有50多家成员,包括谷歌、阿里巴巴、微软、Facebook等及斯坦福、哈佛、多伦多大学等名校。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
人工智能
使用钉钉扫一扫加入圈子
+ 订阅

了解行业+人工智能最先进的技术和实践,参与行业+人工智能实践项目

其他文章