小鹏汽车选用阿里云PolarDB,开启AI大模型训练新时代

本文涉及的产品
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生数据库 PolarDB 分布式版,标准版 2核8GB
简介: PolarDB-PG云原生分布式数据库不仅提供了无限的扩展能力,还借助丰富的PostgreSQL生态系统,统一了后台技术栈,极大地简化了运维工作。这种强大的组合不仅提高了系统的稳定性和性能,还为小鹏汽车大模型训练的数据管理带来了前所未有的灵活性和效率。

作者:冯遵宝(北侠)

1.小鹏汽车发布端到端智能驾驶

小鹏汽车是中国智能电动汽车领域的领军者,从2014年成立至今一直笃定投入智能化技术研发,始终身处全球智驾第一梯队。在自动驾驶领域,小鹏汽车创造了多个国内第一:第一个量产激光雷达高阶智驾方案、第一个基于高精地图实现城区高阶智驾、第一个去高精地图并让做到智驾“全国都好开”。目前更是业内最早实现“轻雷达、轻地图”高阶智驾全系标配的车企。

image.png

2.小鹏汽车数据管理平台的演进

小鹏汽车的数据管理平台经历了3次大的技术升级,从社区PostgreSQL、到阿里云瑶池旗下的云原生数据库 PolarDB PostgreSQL 版(以下简称PolarDB-PG)一写多读、再到现在PolarDB-PG多写多读的云原生分布式形态

image.png

3.PolarDB-PG 分布式在大模型训练的应用

PolarDB-PG 分布式架构

PolarDB-PG分布式架构是基于PolarDB-PG存算分离一写多读架构演进而来:

  1. ScaleUp扩展:集群中的每个节点都是读写分离的设计,具备独立的弹性能力;
  2. ScaleOut扩展:可扩展1024个节点,提供百PB级别的存储;
  3. 存储按需扩容:无需提前预分配存储,可以根据实际业务的写入量实时的扩展;
  4. 集群的秒级备份:支持秒钟级完成整个集群的数据备份。

image.png

AI场景高弹性的存算分离

如下图所示,传统的分布式数据库中为了高可用,每个节点都有一个或多个备库。

image.png

而PolarDB-PG分布式是从存算分离架构演进而来,每个节点都是基于共享存储的,极大地简化了集群结构,简化了分布式集群的运维。

image.png

如下图,PolarDB-PG的分布式集群中的每个CN/DN节点基于共享存储:

  • 由于底层的存储是PolarStore分布式共享存储使用ParallelRaft复制协议,天然具备了数据高可用;
  • PolarStore支持基于COW的快照,可以在秒级对整个集群做全量备份;
  • 单CN/DN节点在出现瓶颈时,可按需扩容RO节点和存储容量。

image.png

AI场景下的自动冷热数据分层存储

image.png

为了应对大规模数据库存储的成本优化,PolarDB-PG支持将冷数据存储至OSS,存储成本降低90%:

  • SQL全透明;
  • 写入到OSS的数据仍支持修改;
  • PolarStore做为高速持久化缓存;
  • 写性能损耗5% / 读性能下降2~3倍;
  • 支持大块压缩。

AI场景下的向量化查询加速

image.png

为了加速分析场景,PolarDB-PG内置duckdb引擎,实时将行存转成列存数据,可以在RW/RO节点上进行分析查询以实现资源隔离。

AI训练场景下高IO吞吐

为了最大发挥底层PolarStore低延迟大带宽的优势,PolarDB-PG内核中在IO路径上进行了大量的并行IO优化,如:并行的刷脏;批量读/写/扩展;表大小缓存。这里介绍其中一个对超大表的算法,单表可以支撑30TB+,且日随机更新可支撑3亿级别,原理如下:


  • 业务上的一个表,在逻辑上是一个“大文件”,在数据库内核中被切分成了1GB的文件;
  • 优化器/刷脏进程每次操作表都会定位具体的物理文件,以及计算表大小;
  • 社区PG的算法是从前往后依次遍历,当单表很大时,O(N)的复杂度对文件系统造成了极大的压力;
  • PolarDB-PG使用指数探测+回溯的方法,优化到O(logN)复杂度;
  • 可以支持单表30TB+的随机读写(顺序写其实很简单不需要太多的优化)

image.png

同时,为了最大程度发挥底层存储集群的性能通过AIO对IO进行提前预读,可将单点吞吐跑到4GB/s。

image.png

软硬协同设计的高性能分布式存储PolarStore

PolarStore是高度软件与硬件协同设计的全用户态分布式存储,如果结合业务负载特点,充分发挥出RDMA、Nvme、Optane、大内存、多核等硬件的性能,对软件的设计有更大的挑战,PolarStore的核心思想如下:


1. IO全链路用户态和ZeroCopy:应用层的读写IO从计算集群到后端存储集群,以及存储节点之间的ParallelRaft复制,每个IO的流转全部在用户态;网络传输使用RDMA,磁盘读写使用SPDK,IO在各个组件之间流转使用指针,避免了内存拷贝


2. IO全链路并行执行:如上个章节的介绍,数据库内核通过大量的优化尽量使用并行IO,在数据复制时通过自研ParallelRaft优化Raft协议只能顺序复制的瓶颈问题,在IO落盘时通过SPDK绑定NVMe的多队列并与CPU绑定,减少IO在底层的锁竞争;


3. 全栈组件异步化编程:异步化的方法是比较容易理解的,组件之间的通信使用共享存储,在于网络的交互使用RDMA,与磁盘的交互通过SPDK。最大的挑战是组件内部在同一时刻有不同的事件发生,每个事件有相应的上下文、正常流程下的处理机制、以及错误时的处理机制,同时需要考虑软件的可扩展性和各类事件的优先级;


4. 极致的细节设计:在RDMA的网络通信设计时可以结合大数据包、小数据包、超大数据包的收发特点真针对性的优化;内存分配的优化;Polling模式的优化;IO链路监控的优化等。

image.png

4.总结

数据的积累是基础,但更重要的是让数据高效流转并发挥其价值。小鹏汽车通过自研工具链与PolarDB-PG云原生分布式数据库的结合,实现了数据的高效流转,显著提升了数据的价值。


PolarDB-PG云原生分布式数据库不仅提供了无限的扩展能力,还借助丰富的PostgreSQL生态系统,统一了后台技术栈,极大地简化了运维工作。这种强大的组合不仅提高了系统的稳定性和性能,还为小鹏汽车大模型训练的数据管理带来了前所未有的灵活性和效率。


PolarDB-PG云原生分布式数据库的无限扩展和开放的多模生态,将在AI大模型训练中提供更加强大和专业的基础架构支撑。

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
打赏
0
3
3
0
144
分享
相关文章
挑战杯专属支持资源|阿里云-AI大模型算力及实验资源丨云工开物
阿里云发起的“云工开物”高校支持计划,助力AI时代人才培养与科研创新。为“挑战杯”参赛选手提供专属算力资源、AI模型平台及学习训练资源,包括300元免费算力券、百炼大模型服务、PAI-ArtLab设计平台等,帮助学生快速掌握AI技能并构建优秀作品,推动产学研融合发展。访问链接领取资源:https://university.aliyun.com/action/tiaozhanbei。
6/14 上海,Apache Doris x 阿里云 SelectDB AI 主题线下 Meetup 正式开启报名!
6 月 14 日,由 Apache Doris 社区、飞轮科技、阿里云联合发起的湖仓数智融合、AI 洞见未来:Apache Doris x 阿里云 SelectDB 联合 Meetup 将在上海·汇付天下总部大楼正式开启,邀您一同探索 AI 与数据分析的融合实践!
251 76
阿里云与米兰设计周大赛达成战略合作,共启AI时代设计教育新篇章丨云工开物
阿里云与米兰设计周中国高校设计学科师生优秀作品展达成战略合作,推动AI技术与艺术设计融合。赛事收到来自1759所高校的27万件作品,累计65万件,参赛人数超120万。专项赛设5大赛项,吸引720多所院校参与,投稿超9700件。阿里云提供免费算力和AIGC工具支持,助力“AI+乡村振兴”等创新设计,推动文旅产业发展与教育数字化升级。
微医控股与阿里云达成战略合作,双方将携手基于通义千问大模型联合打造医疗全场景智能体,共同构建医疗垂类大模型
2025年6月17日,微医控股与阿里云达成战略合作,共建医疗AI基座及医疗全场景智能体。双方将基于通义千问大模型打造医疗垂类大模型,升级微医“5+1”智能体,并在诊断、用药、健康管理等环节深化应用。微医将结合阿里云技术优势推进IDC上云,助力AI+医疗基础设施建设,共同制定行业标准并推广城市级AI数字健共体。目前,微医AI服务已连接全国1.2万家医院和30万名医生,健康管理会员超100万。
192 1
试了试阿里云的通义灵码 2.5 版
通义灵码 2.5 版是个特别实用的工具,无论是个人开发者还是企业团队,都能从中受益。如果你也在找能提升开发效率的工具,通义灵码绝对值得一试!
131 33
试了试阿里云的通义灵码 2.5 版
通过阿里云Milvus与通义千问VL大模型,快速实现多模态搜索
阿里云向量检索服务Milvus版是一款全托管向量检索引擎,并确保与开源Milvus的完全兼容性,支持无缝迁移。它在开源版本的基础上增强了可扩展性,能提供大规模AI向量数据的相似性检索服务。凭借其开箱即用的特性、灵活的扩展能力和全链路监控告警,Milvus云服务成为多样化AI应用场景的理想选择,包括多模态搜索、检索增强生成(RAG)、搜索推荐、内容风险识别等。您还可以利用开源的Attu工具进行可视化操作,进一步促进应用的快速开发和部署。

相关产品

  • 云原生数据库 PolarDB
  • AI助理

    你好,我是AI助理

    可以解答问题、推荐解决方案等