一文总览阿里云存储产品年度升级!

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: ​近日,在“回顾·向新:AI浪潮下的数据存储进化”年度回顾上,阿里云总结了过去一年存储产品在AI领域的研究成果,并分享了在“AI领域”和“高可用底层架构”方面的双管齐下策略。

【阅读原文】戳:一文总览阿里云存储产品年度升级!


近日,在“回顾·向新:AI浪潮下的数据存储进化”年度回顾上,阿里云总结了过去一年存储产品在AI领域的研究成果,并分享了在“AI领域”和“高可用底层架构”方面的双管齐下策略。同时,会上分享的CPFS智算版针对模型训练场景进行了全链路性能升级,提供20TB级别的吞吐和3亿IOPS最大性能,将成为AI时代大模型训练任务最具性价比的存储选择。

 

 

 

云存储读写性能再突破,CPFS支持更快大模型训练

 

 

在大型模型训练中,尤其是面对10万GPU的海量计算需求时,存储系统的性能和稳定性至关重要。阿里云的CPFS作为高性能文件存储解决方案,为GPU提供了20TB级别的吞吐和3亿IOPS最大性能,从而显著提升了训练效率。

 

此外,借助400Gb/s网卡以及RDMA通信的能力,CPFS单客户端吞吐提升至25GB/s,支持更大及更加频繁的Checkpoint读写;提供burst I/O稳定有效吞吐/低延时,单机提供15GB/s可线性扩展的分布式读缓存能力;支持100GB/s高带宽和OSS的数据流动。CPFS对全链路进行了性能提升,为LLM训练提速。

 

CPFS能力全面升级,助力企业加速AI发展

 

 

OSS端到端链路升级,支持云上构建两万+数据湖

 

 

目前已有超过2万个数据湖基于OSS构建,其中大部分为AI数据湖。会上,阿里云对象存储OSS针对AI领域进行了多项能力更新。本年度,OSS推出OSS Connector for AI/ML,相比传统挂载方式,加载25.6万张图片数据时性能提升14倍。

 

OSSFS 1.91.3版本针对推理模型文件加载优化,9.3GB大文件加载速度提升3.6倍,10万个文件list性能提升6倍。在服务端,OSS发布资源池QoS能力,支持多个Bucket共享池化性能,并可针对单Bucket和请求者RAM账号进行QoS设置,实现削峰填谷,提升资源利用率。同时,OSS加速器产品能力优化,起步容量降低99%,吞吐密度提升50%,最大性能提升2.5倍,达到100GBps。

 

 

 

 

安全是存储根基,高可用再升级

 

 

在安全方面,CPFS持续增强稳定安全和数据保护能力,包括通过Cloud Backup进行备份,应对单AZ故障和数据误删、勒索病毒等事故;新增日志审计,安全访问可追溯;提供目录级配额,简化数据管理;确保安全挂载和IO鉴权,实现端到端的数据隔离;通过Access Point简化数据访问权限管理。

 


 

此外,为了协助客户搭建和管理业务高可用架构,阿里云存储针对企业云上资源提供了一系列数据灾备方案,包括企业灾备管理服务数据灾备中心BDRC,SAAS化灾备服务云备份以及丰富的IAAS层数据灾备的能力,满足从开发者到跨国企业的多样化数据管理需求。


 

 

 

 

助力千行百业,领跑AI时代

 

 

过去一年AI渗透进各行各业,企业为了构建高效的AI 系统,采集、处理和存储了海量的多模态数据,来加速模型的训练和推理应用,这背后离不开阿里云的助力。

 

月之暗面:在基础大模型领域,CPFS为月暗提供数Tbps级别的吞吐和毫秒级别的读写延时,满足模型checkpoint、多模态数据集和训练日志等场景下极致性能的需求,帮助月暗高效处理和分析大量请求和数据,提升模型的训练效率;

 

小鹏汽车:在小鹏汽车智算模型训练场景,存储产品结合“扶摇”智算集群的优化,使得其自动驾驶模型训练效率提升了170倍,存储吞吐效率提升了40倍,极大地加速了技术研发进程;

 

小红书:对于拥有3.2亿月活跃用户的小红书而言,阿里云的对象存储服务OSS为其提供了超过20Tbps的吞吐能力,保障了海量用户生成内容的处理速度,并通过多存储类型组合方案实现了成本与性能的最佳平衡。

 

阿里云智能资深产品专家彭亚雄表示:2025年,阿里云依然会紧密围绕AI智算赛道,聚焦稳定、安全、性能、成本、体验等主要方向,持续产品的创新和进化。让每一家公司,都顺利的从数字化转型,过渡到智能化创新的Data+AI公司,加速业务发展和创新。




我们是阿里巴巴云计算和大数据技术幕后的核心技术输出者。

欢迎关注 “阿里云基础设施”同名微信微博知乎

获取关于我们的更多信息~

相关实践学习
对象存储OSS快速上手——如何使用ossbrowser
本实验是对象存储OSS入门级实验。通过本实验,用户可学会如何用对象OSS的插件,进行简单的数据存、查、删等操作。
相关文章
|
人工智能 运维 监控
AI时代云基础设施的技术创新与展望丨ODCC2023
AI时代云基础设施的技术创新与展望丨ODCC2023
|
5月前
|
Rust 算法 Linux
Rocky Linux 10.1 发布 - RHEL 100% 1:1 兼容免费发行版
Rocky Linux 10.1 发布 - RHEL 100% 1:1 兼容免费发行版
504 0
Rocky Linux 10.1 发布 - RHEL 100% 1:1 兼容免费发行版
|
人工智能 运维 安全
阿里云研发副总裁蔡德忠受邀参加乌镇峰会,畅谈AI与下一代互联网
2024年乌镇峰会“下一代互联网论坛”近日举办,主题为“创新驱动,安全赋能,共筑开放与安全的下一代互联网”。阿里云智能集团研发副总裁,基础设施网络研发负责人蔡德忠受邀参与圆桌讨论,并就人工智能(AI)与下一代互联网的融合发展分享了前瞻性见解。
|
前端开发
Html:CSS的书写位置
Html:CSS的书写位置
960 0
|
存储 固态存储 文件存储
并行文件存储在大模型训练中的探索与实践
阿里云智能集团存储产品专家何邦剑分享了并行文件存储CPFS在大模型训练中的应用。CPFS针对大模型训练的IO特点,优化性能、降低成本、提升用户体验。它支持多计算平台共享访问,具备数据分层存储、生命周期管理、缓存加速等特性,实现高效的数据处理与管理,显著提升训练效率和资源利用率。尤其在大规模集群中,CPFS提供了高吞吐、低延迟及灵活扩展的能力,助力客户如零一万物实现高性能训练。
|
机器学习/深度学习 计算机视觉
YOLOv11改进策略【注意力机制篇】| 2024 PPA 并行补丁感知注意模块,提高小目标关注度
YOLOv11改进策略【注意力机制篇】| 2024 PPA 并行补丁感知注意模块,提高小目标关注度
663 11
YOLOv11改进策略【注意力机制篇】| 2024 PPA 并行补丁感知注意模块,提高小目标关注度
|
人工智能 云计算 数据中心
阿里云当选UALink联盟董事会成员,推进新一代GPU互连技术!
阿里云当选UALink联盟董事会成员,推进新一代GPU互连技术!
584 2
|
C++
基于C++的简易文件管理系统设计与实现
基于C++的简易文件管理系统设计与实现
700 6
|
存储 人工智能 运维
面向AI的服务器计算软硬件架构实践和创新
阿里云在新一代通用计算服务器设计中,针对处理器核心数迅速增长(2024年超100核)、超多核心带来的业务和硬件挑战、网络IO与CPU性能增速不匹配、服务器物理机型复杂等问题,推出了磐久F系列通用计算服务器。该系列服务器采用单路设计减少爆炸半径,优化散热支持600瓦TDP,并实现CIPU节点比例灵活配比及部件模块化可插拔设计,提升运维效率和客户响应速度。此外,还介绍了面向AI的服务器架构挑战与软硬件结合创新,包括内存墙问题、板级工程能力挑战以及AI Infra 2.0服务器的开放架构特点。最后,探讨了大模型高效推理中的显存优化和量化压缩技术,旨在降低部署成本并提高系统效率。