MLPerf最新榜单:阿里AI算力获多项第一

简介: 权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。磐久服务器M系列成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。

今天,权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。

image.png

MLCommons发布最新MLPerf榜单

阿里云磐久服务器M系列:成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。

平头哥玄铁RISC-V处理器:在聚焦低功耗、高能效的IoT领域Tiny v0.7榜单中,刷新了视觉唤醒、图像分类、语音唤醒及异常监测4个典型AI任务的纪录,创造了RISC-V架构在AI基准测试的最好成绩。

image.png


CPU-Only推理性能数据对比

image.png


Tiny v0.7推理性能数据对比

此次磐久服务器和玄铁RISC-V处理器取得优异成绩,得益于阿里云自研震旦异构计算加速平台稳定、强大的软硬协同优化能力。

基于震旦异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云边端多场景快速部署,大幅提升AI应用开发效率:

模型优化:震旦利用模型优化工具SinianML来进行用于AI任务的神经网络架构搜索和压缩,以及最佳算子实现;

高精度、高效率:通过震旦算子Autotune能力,得到适配ARM架构处理器的最佳算子实现,保证达到基准测试精度目标,且得到远高于标准ResNet50 v1.5的计算效率;

提升CPU利用率:通过大规模深度算子融合和针对平头哥玄铁RISC-V微架构的极致优化,大大提高CPU算力利用率。

MLPerf

MLPerf由图灵奖得主David Patterson于2018年发起,每年组织全球AI训练和AI推理性能测试并发榜,已成为业界最主流标准之一。

本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的MLPerf Tiny 0.7测试榜单。

Tiny场景是MLPerf近年新增的性能测试分类,聚焦于低功耗、高性价比的IoT场景,考验在日益广泛的IoT智能应用场景下的软硬件性能和优化能力。

备注:本文转载自阿里云公众号2022年4月7日《MLPerf最新榜单:阿里AI算力获多项第一》

目录
打赏
0
0
0
0
112
分享
相关文章
巴赫:阿里AI技术将巴黎奥运转播带到新高度
巴赫:阿里AI技术将巴黎奥运转播带到新高度
寻找AI先行者 “算力小镇杯”Create@算力应用创新大赛决赛即将启幕
寻找AI先行者 “算力小镇杯”Create@算力应用创新大赛决赛即将启幕
阿里开源AI视频生成大模型 Wan2.1:14B性能超越Sora、Luma等模型,一键生成复杂运动视频
Wan2.1是阿里云开源的一款AI视频生成大模型,支持文生视频和图生视频任务,具备强大的视觉生成能力,性能超越Sora、Luma等国内外模型。
367 2
阿里开源AI视频生成大模型 Wan2.1:14B性能超越Sora、Luma等模型,一键生成复杂运动视频
ComfyUI-Copilot:阿里把AI助手塞进ComfyUI:一句话生成工作流,自动布线/调参/选模型,小白秒变大神!
ComfyUI-Copilot 是阿里推出的基于 ComfyUI 的 AI 智能助手,支持自然语言交互、智能节点推荐和自动工作流辅助,降低开发门槛并提升效率。
149 6
ComfyUI-Copilot:阿里把AI助手塞进ComfyUI:一句话生成工作流,自动布线/调参/选模型,小白秒变大神!
OmniThink:浙大联合阿里通义开源 AI 写作框架,基于深度思考扩展知识边界,实时展示思考过程
OmniThink 是浙江大学与阿里通义实验室联合开发的机器写作框架,通过模拟人类迭代扩展和反思过程,生成高质量长篇文章,显著提升知识密度和内容深度。
185 12
OmniThink:浙大联合阿里通义开源 AI 写作框架,基于深度思考扩展知识边界,实时展示思考过程
AI+树莓派=阿里P8技术专家。模拟面试、学技术真的太香了 | 手把手教学
本课程由阿里P8技术专家分享,介绍如何使用树莓派和阿里云服务构建AI面试助手。通过模拟面试场景,讲解了Java中`==`与`equals`的区别,并演示了从硬件搭建、语音识别、AI Agent配置到代码实现的完整流程。项目利用树莓派作为核心,结合阿里云的实时语音识别、AI Agent和文字转语音服务,实现了一个能够回答面试问题的智能玩偶。课程展示了AI应用的简易构建过程,适合初学者学习和实践。
120 22
阿里CEO吴泳铭-2024互联网大会发言:AI的最大价值是推动生产力变革
11月21日,2024年世界互联网大会“互联网企业家论坛”在乌镇召开。阿里巴巴CEO吴泳铭表示,AI的最大价值在于推动各行各业的生产力变革,而非仅限于开发超级APP。他强调,发展AI需建设繁荣的技术、产品和市场生态。目前,30多万家企业已接入阿里“通义”大模型,应用于代码开发、药物研发等场景。阿里巴巴坚持开源路线,全球开发者基于“通义千问”开发的衍生模型已突破7.8万个。吴泳铭认为,AI的发展需要行业共同努力,建设繁荣生态以实现高质量持续发展。
Qwen-Agent:阿里通义开源 AI Agent 应用开发框架,支持构建多智能体,具备自动记忆上下文等能力
Qwen-Agent 是阿里通义开源的一个基于 Qwen 模型的 Agent 应用开发框架,支持指令遵循、工具使用、规划和记忆能力,适用于构建复杂的智能代理应用。
817 10
Qwen-Agent:阿里通义开源 AI Agent 应用开发框架,支持构建多智能体,具备自动记忆上下文等能力
加速新冠疫苗研发,阿里云免费开放一切 AI 算力!
新型冠状病毒感染的肺炎疫情牵动着每一个人的心。为了帮助加速新药和疫苗研发,今天我们做了一个决定:向全球公共科研机构*免费开放一切 AI 算力!
加速新冠疫苗研发,阿里云免费开放一切 AI 算力!
Spring AI与DeepSeek实战一:快速打造智能对话应用
在 AI 技术蓬勃发展的今天,国产大模型DeepSeek凭借其低成本高性能的特点,成为企业智能化转型的热门选择。而Spring AI作为 Java 生态的 AI 集成框架,通过统一API、简化配置等特性,让开发者无需深入底层即可快速调用各类 AI 服务。本文将手把手教你通过spring-ai集成DeepSeek接口实现普通对话与流式对话功能,助力你的Java应用轻松接入 AI 能力!虽然通过Spring AI能够快速完成DeepSeek大模型与。
103 10

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等