MLPerf最新榜单:阿里AI算力获多项第一

简介: MLPerf最新榜单:阿里AI算力获多项第一


今天,权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。


MLCommons发布最新MLPerf榜单


  • 阿里云磐久服务器M系列:成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。


  • 平头哥玄铁RISC-V处理器:在聚焦低功耗、高能效的IoT领域Tiny v0.7榜单中,刷新了视觉唤醒、图像分类、语音唤醒及异常监测4个典型AI任务的纪录,创造了RISC-V架构在AI基准测试的最好成绩。


CPU-Only推理性能数据对比

Tiny v0.7推理性能数据对比


此次磐久服务器和玄铁RISC-V处理器取得优异成绩,得益于阿里云自研震旦异构计算加速平台稳定、强大的软硬协同优化能力。


基于震旦异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云边端多场景快速部署,大幅提升AI应用开发效率:


模型优化:震旦利用模型优化工具SinianML来进行用于AI任务的神经网络架构搜索和压缩,以及最佳算子实现;


高精度、高效率:通过震旦算子Autotune能力,得到适配ARM架构处理器的最佳算子实现,保证达到基准测试精度目标,且得到远高于标准ResNet50 v1.5的计算效率;


提升CPU利用率:通过大规模深度算子融合和针对平头哥玄铁RISC-V微架构的极致优化,大大提高CPU算力利用率。


MLPerf

MLPerf由图灵奖得主David Patterson于2018年发起,每年组织全球AI训练和AI推理性能测试并发榜,已成为业界最主流标准之一。


本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的MLPerf Tiny 0.7测试榜单。


Tiny场景是MLPerf近年新增的性能测试分类,聚焦于低功耗、高性价比的IoT场景,考验在日益广泛的IoT智能应用场景下的软硬件性能和优化能力。



/ END /


目录
相关文章
|
18天前
|
存储 人工智能 安全
AI时代,存力 or 算力 哪个更重要
本文探讨了AI技术发展中算力与存力的重要性。算力指计算能力,对处理大数据和实时计算至关重要;存力则是数据存储能力,确保数据安全可靠,支持后续分析。两者相辅相成,共同推动AI技术的快速发展,缺一不可。
|
2月前
|
消息中间件 人工智能 Cloud Native
|
2月前
|
人工智能 编解码 文字识别
阿里国际AI开源Ovis1.6,多项得分超GPT-4o-mini!
阿里国际AI团队提出了一种名为Ovis (Open VISion)的新型多模态大模型的架构。
|
2月前
|
人工智能 Ubuntu Linux
安装阿里图文融合AI - AnyText心路历程(安装失败告终,心痛!)
安装阿里图文融合AI - AnyText心路历程(安装失败告终,心痛!)
|
2月前
|
人工智能 自然语言处理 算法
AI 系统的出现与算力发展
AI系统的崛起得益于大数据积累、强大算力与先进算法的共同驱动。大数据为AI提供了丰富学习材料,促进算法优化与应用创新;算法进步则提升了图像识别和自然语言处理等领域的性能,扩展了AI的应用范围。此外,GPU、TPU等专用芯片大幅加快了模型训练速度,通过硬件创新进一步增强了AI系统的效能。未来,算法与硬件的协同优化将推动AI技术迈向更高智能水平。
78 1
|
3月前
|
存储 人工智能 算法
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
262 18
|
3月前
|
人工智能 自动驾驶 云栖大会
何小鹏驾驶“全球首款AI汽车”亮相云栖大会 深化与阿里云AI算力合作
小鹏汽车加速端到端自动驾驶落地 深化与阿里云AI算力合作
416 13
|
2月前
|
人工智能 算法 JavaScript
无界SaaS与AI算力算法,链接裂变万企万商万物互联
本文介绍了一种基于无界SaaS与AI算力算法的商业模式的技术实现方案,涵盖前端、后端、数据库及AI算法等关键部分。通过React.js构建用户界面,Node.js与Express搭建后端服务,MongoDB存储数据,TensorFlow实现AI功能。提供了项目结构、代码示例及部署建议,强调了安全性、可扩展性和性能优化的重要性。
|
3月前
|
人工智能 前端开发 Java
Spring Cloud Alibaba AI,阿里AI这不得玩一下
🏀闪亮主角: 大家好,我是JavaDog程序狗。今天分享Spring Cloud Alibaba AI,基于Spring AI并提供阿里云通义大模型的Java AI应用。本狗用SpringBoot+uniapp+uview2对接Spring Cloud Alibaba AI,带你打造聊天小AI。 📘故事背景: 🎁获取源码: 关注公众号“JavaDog程序狗”,发送“alibaba-ai”即可获取源码。 🎯主要目标:
117 0
|
3月前
|
消息中间件 人工智能 运维