今天,权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。
MLCommons发布最新MLPerf榜单
阿里云磐久服务器M系列:成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。
平头哥玄铁RISC-V处理器:在聚焦低功耗、高能效的IoT领域Tiny v0.7榜单中,刷新了视觉唤醒、图像分类、语音唤醒及异常监测4个典型AI任务的纪录,创造了RISC-V架构在AI基准测试的最好成绩。
CPU-Only推理性能数据对比
Tiny v0.7推理性能数据对比
此次磐久服务器和玄铁RISC-V处理器取得优异成绩,得益于阿里云自研震旦异构计算加速平台稳定、强大的软硬协同优化能力。
基于震旦异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云边端多场景快速部署,大幅提升AI应用开发效率:
模型优化:震旦利用模型优化工具SinianML来进行用于AI任务的神经网络架构搜索和压缩,以及最佳算子实现;
高精度、高效率:通过震旦算子Autotune能力,得到适配ARM架构处理器的最佳算子实现,保证达到基准测试精度目标,且得到远高于标准ResNet50 v1.5的计算效率;
提升CPU利用率:通过大规模深度算子融合和针对平头哥玄铁RISC-V微架构的极致优化,大大提高CPU算力利用率。
MLPerf
MLPerf由图灵奖得主David Patterson于2018年发起,每年组织全球AI训练和AI推理性能测试并发榜,已成为业界最主流标准之一。
本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的MLPerf Tiny 0.7测试榜单。
Tiny场景是MLPerf近年新增的性能测试分类,聚焦于低功耗、高性价比的IoT场景,考验在日益广泛的IoT智能应用场景下的软硬件性能和优化能力。
备注:本文转载自阿里云公众号2022年4月7日《MLPerf最新榜单:阿里AI算力获多项第一》