MLPerf最新榜单:阿里AI算力获多项第一

简介: MLPerf最新榜单:阿里AI算力获多项第一


今天,权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。


MLCommons发布最新MLPerf榜单


  • 阿里云磐久服务器M系列:成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。


  • 平头哥玄铁RISC-V处理器:在聚焦低功耗、高能效的IoT领域Tiny v0.7榜单中,刷新了视觉唤醒、图像分类、语音唤醒及异常监测4个典型AI任务的纪录,创造了RISC-V架构在AI基准测试的最好成绩。


CPU-Only推理性能数据对比

Tiny v0.7推理性能数据对比


此次磐久服务器和玄铁RISC-V处理器取得优异成绩,得益于阿里云自研震旦异构计算加速平台稳定、强大的软硬协同优化能力。


基于震旦异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云边端多场景快速部署,大幅提升AI应用开发效率:


模型优化:震旦利用模型优化工具SinianML来进行用于AI任务的神经网络架构搜索和压缩,以及最佳算子实现;


高精度、高效率:通过震旦算子Autotune能力,得到适配ARM架构处理器的最佳算子实现,保证达到基准测试精度目标,且得到远高于标准ResNet50 v1.5的计算效率;


提升CPU利用率:通过大规模深度算子融合和针对平头哥玄铁RISC-V微架构的极致优化,大大提高CPU算力利用率。


MLPerf

MLPerf由图灵奖得主David Patterson于2018年发起,每年组织全球AI训练和AI推理性能测试并发榜,已成为业界最主流标准之一。


本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的MLPerf Tiny 0.7测试榜单。


Tiny场景是MLPerf近年新增的性能测试分类,聚焦于低功耗、高性价比的IoT场景,考验在日益广泛的IoT智能应用场景下的软硬件性能和优化能力。



/ END /


目录
相关文章
|
5天前
|
消息中间件 人工智能 运维
|
22天前
|
人工智能 前端开发 Java
【实操】Spring Cloud Alibaba AI,阿里AI这不得玩一下(含前后端源码)
本文介绍了如何使用 **Spring Cloud Alibaba AI** 构建基于 Spring Boot 和 uni-app 的聊天机器人应用。主要内容包括:Spring Cloud Alibaba AI 的概念与功能,使用前的准备工作(如 JDK 17+、Spring Boot 3.0+ 及通义 API-KEY),详细实操步骤(涵盖前后端开发工具、组件选择、功能分析及关键代码示例)。最终展示了如何成功实现具备基本聊天功能的 AI 应用,帮助读者快速搭建智能聊天系统并探索更多高级功能。
167 2
【实操】Spring Cloud Alibaba AI,阿里AI这不得玩一下(含前后端源码)
|
2月前
|
人工智能 云计算
巴赫:阿里AI技术将巴黎奥运转播带到新高度
巴赫:阿里AI技术将巴黎奥运转播带到新高度
173 7
|
1月前
|
机器学习/深度学习 人工智能 编解码
【机器学习】阿里Qwen-VL:基于FastAPI私有化部署你的第一个AI多模态大模型
【机器学习】阿里Qwen-VL:基于FastAPI私有化部署你的第一个AI多模态大模型
178 0
|
2月前
|
人工智能 云计算
|
3月前
|
机器学习/深度学习 存储 人工智能
【AI】告别繁琐阅读,阿里通义智文阅读助手带您轻松畅游知识海洋!
阿里通义智文阅读助手是AI驱动的阅读辅助工具,能识别并解析PPT、图片、PDF等文档,提供摘要、关键词提取、语义理解与问答功能。用户可上传图片文件,工具自动识别文字,支持图表识别和全文搜索。此外,它还具有智能问答功能,能回答用户关于文档内容的问题。工具兼容多种文件格式,但有每日使用和存储限制。作者木头左邀请用户体验并期待下次分享。
【AI】告别繁琐阅读,阿里通义智文阅读助手带您轻松畅游知识海洋!
|
3月前
|
人工智能 算法 数据中心
这场ICT市场趋势大会,将定义云、算力和AI的里程碑
这场ICT市场趋势大会,将定义云、算力和AI的里程碑
|
3月前
|
机器学习/深度学习 人工智能 中间件
解读顺网算力与AI,破局AIGC落地“最后一公里”
解读顺网算力与AI,破局AIGC落地“最后一公里”
|
4天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性的技术,触手可及的健康
本文探讨了人工智能(AI)在医疗领域的应用及其潜力。从诊断辅助、个性化治疗到药物研发,AI正在改变我们理解健康和疾病的方式。同时,本文也讨论了AI面临的伦理挑战和数据隐私问题,呼吁建立相应的法律法规来保障患者权益。最后,本文对AI在未来医疗中的角色进行了展望,认为AI将继续推动医疗领域的创新和发展。
26 8
|
4天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性的技术,重塑健康格局
本文探讨了人工智能(AI)在医疗领域的应用及其对未来健康的深远影响。通过分析AI在疾病诊断、治疗和预防方面的具体案例,揭示了这一技术如何提升医疗服务的效率和准确性,并展望了AI在未来医疗中的潜力。
22 1