PolarDB-X开源分布式数据库在韵达科技的应用实践

本文涉及的产品
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
云数据库 RDS SQL Server,基础系列 2核4GB
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: 本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。

01背景:企业介绍 业务诉求

1.JPG

韵达主要面向国内外提供快递、快运、供应链、仓储服务等,目前拥有 4 万多家快递服务网点,3000多家快运服务网点,200多家加盟商,以及 100 多家分拣中心,其中包括 4200 条快递干线,1000多条快运干线,150家城市配送站,业务覆盖了 100 多家重点城市,遍布全球 30 万个国家和地区,拥有 200 万平米仓储面积,从业人员 30 多万。

2.JPG

韵达每日订单量高达几千万,每个订单有多种标签信息,因此数据量巨大。其中上游业务方有各大电商平台、订单中心、大客户、智橙网、财务中心、店配团、物流团等。


打标平台主要提供了订单标签基础服务、查询统计服务、消息推送、 CSV 文件推送、订单标签处理等。其中数据存储是核心业务,数据量较大,而且是高并发访问场景。数据存储涉及到 Kafka、 CSV、Redis、MySQL 分库分表。


下游主要为业务赋能,有韵图、智能外联、大掌柜、数据中台、结算团、韵达超市、揽派系统等一共 30 多个系统。


02应用实践:架构升级 核心能力

3.JPG

韵达原先的业务架构存在较多痛点:

  1. 数据无法充分发挥业务价值:传统的分库分表方案缺少数据全局视角,对复杂查询的限制较多,需要人工进行处理。
  2. 历史数据清理繁琐:数据并不需要长期存储,对于业务场景而言一般只需存储 1年。但因为分表较多,数据清理较麻烦,同时为了避免对在线业务产生影响,经常需要在业务低峰期比如凌晨,与 DBA 团队合作对历史数据做手动清理。
  3. 随着业务上升导致性能衰减:数据增加以后查询能力下降。另外,计算存储资源固定,难以扩容。


因此,韵达采用了阿里云开源PolarDB-X云原生分布式数据库对业务架构进行了升级,使架构性能得到了极大的提升:

  1. 运营成本降低:支持灵活设置历史数据的存储周期,可以降低存储成本。透明分布式使得使用、运维方面的成本也得以下降。高兼容 MySQL 语法对开发团队而言,学习成本也得到了降低。
  2. 提高弹性扩展能力:计算存储分离架构提供了弹性能力,可随时扩缩容,资源可以按需分配,提高了资源利用率。
  3. 高可用能力提升:引入了强一致协议,克服了主备脑裂问题。另外,多副本技术的加持使得数据更加安全可靠。

4.JPG

上图为升级后的基于分布式数据库的业务架构。与老架构的主要差别在于,将原先基于 MySQL 的人工分库分表使用 PolarDB-X 进行了替换,架构上并未有大调整。


此外,开发团队并不需要理解 CN 节点,也不需要与CN节点打交道,他们看到的只是一个 PolarDB-X 数据库,可以理解为一个大型的MySQL实例,不存在额外的学习成本。

5.JPG

PolarDB-X 提供了两种数据库模式,分别是 Auto模式和DRDS模式。官方推荐使用Auto模式,它具有较好的功能特性,我们也采用了该模式。


Auto模式分区灵活,支持自动、手动分区,单机DDL语法无需改动,可以直接在 PolarDB-X 上使用。高度兼容了 MySQL ,无需额外的学习成本。支持分区级分裂合并,解决了数据热点问题。


Auto模式下的数据库建表语法与MySQL的建表语法完全一致,无需指定分区定义,自动采用 Primary Key 做分区,非常方便。另外,PolarDB-X支持多种表类型,比如传统单表、广播表、分区表,且可以通过简单 DDL 语句进行灵活的转换,比如分区表通过partition-by即可做哈希分区,可通过pratition参数指定分区数,可以创建 broadcast 广播表,也可以通过outtable将单表转换为分区表,非常方便快捷。

6.JPG

PolarDB-X也提供了数据生命周期管理。


通过Local Partition By Range(create_time)指定TTL表的物理时间分区列,在物理表上的数据会以此列做时间分区。可以通过 startwith 指定初始时间分区, intervial month 意为指定数据分区间隔为一个月,也可以按天或者按年进行分区。Expire after 指每个分区 12 个月会自动清理,清理工作不再需要开发与运维在凌晨手动完成,Pre allocate 可以指定提前创建分区的数量。


TTL在 PolarDB-X 后台通过定时任务来自动处理,节省了开发与运维的成本。

7.JPG

韵达订单打标项目为双活部署,每天订单打标数据量2亿+,接口查询量8000 多万。目前标签分类有 80 多种,随着业务发展和用户需求,标签分类可轻松扩展。赋能30+业务应用,提供了 API 查询、统计分析、消息推送、CSV等。


数据进行了温热分级存储,其中 Redis 存储三个月数据量,PolarDB-X存储一年的数据量。有些数据除了统计分析用途以外,还有财务对账等回溯需求,因此会被导入 PolarDB-X,以便进行方便快捷地查询。因为数据量较大,我们采用 ProtoBuf 对数据进行了压缩。

8.JPG

PolarDB-X 为韵达订单打标项目带来了诸多好处:

  1. 不再需要人工进行分库分表,可以通过创建来全局二级索引对打标数据进行灵活统计处理,快速满足业务方面的需求。
  2. 可以自动清理过期数据,释放空间,提高数据库操作效率,不再需要人工干预。
  3. 支持水平与纵向扩缩容,可以轻松应大促场景。
  4. PolarDB-X 兼容 MySQL 协议,降低开发人员的学习曲线,可快速从此前的人工分库分表方案迁移到PolarDB-X数据库。
  5. 支持 online schema change ,添加二级索引不锁表。
  6. 多副本数据备份方案,保证了数据安全性。


03未来展望:社区贡献 领域探索

9.JPG

PolarDB-X 提供了很多优秀的功能特性,在韵达的很多场景里可以进行推广使用。韵达存在大量高并发、海量数据存储的业务场景,因此,后续会在韵达公司内部进一步做 PolarDB-X 的推广使用。


另外,也会进一步在HTAP领域进行探索。PolarDB-X 提供了 TP 和 AP 的处理能力,因此我们计划使用PolarDB-X替换原先 MySQL +Elasticsearch提供的能力。同时,也会将PolarDB-X与韵达已有的周边生态进行融合。


社区建设方面,PolarDB-X官方推荐部署在K8s平台上,提供了开源的数据库,也提供了开源的监控能力。后续韵达将基于Prometheus与 Grafana 做监控能力的进一步提升,比如与公司金融平台、钉钉等打通,及时了解系统运行的健康状况。


最后,韵达科技将持续在社区分享基于 PolarDB-X 开源的实战经验。


 / End /  

相关实践学习
快速体验PolarDB开源数据库
本实验环境已内置PostgreSQL数据库以及PolarDB开源数据库:PolarDB PostgreSQL版和PolarDB分布式版,支持一键拉起使用,方便各位开发者学习使用。
相关文章
|
8天前
|
关系型数据库 分布式数据库 PolarDB
PolarDB 开源基础教程系列 7.2 应用实践之 跨境电商场景
本文介绍了如何在跨境电商场景中快速判断商标或品牌侵权,避免因侵权带来的法律纠纷。通过创建品牌表并使用PostgreSQL的pg_trgm插件和GIN索引,实现了高性能的字符串相似匹配功能。与传统方法相比,PolarDB|PostgreSQL的方法不仅提升了上万倍的查询速度,还解决了传统方法难以处理的相似问题检索。具体实现步骤包括创建品牌表、插入随机品牌名、配置pg_trgm插件及索引,并设置相似度阈值进行高效查询。此外,文章还探讨了字符串相似度计算的原理及应用场景,提供了进一步优化和扩展的方向。
35 11
|
8天前
|
SQL 关系型数据库 分布式数据库
PolarDB 开源基础教程系列 7.5 应用实践之 TPCH性能优化
PolarDB在复杂查询、大数据量计算与分析场景的测试和优化实践.
36 7
|
8天前
|
搜索推荐 关系型数据库 分布式数据库
PolarDB 开源基础教程系列 7.3 应用实践之 精准营销场景
本文介绍了基于用户画像的精准营销技术,重点探讨了如何通过标签组合快速圈选目标人群。实验分为三部分: 1. **传统方法**:使用字符串存储标签并进行模糊查询,但性能较差,每次请求都需要扫描全表。 2. **实验1**:引入`pg_trgm`插件和GIN索引,显著提升了单个模糊查询条件的性能。 3. **实验2**:改用数组类型存储标签,并结合GIN索引加速包含查询,性能进一步提升。 4. **实验3**:利用`smlar`插件实现近似度过滤,支持按标签重合数量或比例筛选。
28 3
|
8天前
|
人工智能 关系型数据库 分布式数据库
PolarDB 开源基础教程系列 7.4 应用实践之 AI大模型外脑
PolarDB向量数据库插件通过实现通义大模型AI的外脑,解决了通用大模型无法触达私有知识库和产生幻觉的问题。该插件允许用户将新发现的知识和未训练的私有知识分段并转换为向量,存储在向量数据库中,并创建索引以加速相似搜索。当用户提问时,系统将问题向量化并与数据库中的向量进行匹配,找到最相似的内容发送给大模型,从而提高回答的准确性和相关性。此外,PolarDB支持多种编程语言接口,如Python,使数据库具备内置AI能力,极大提升了数据处理和分析的效率。
31 4
|
1月前
|
关系型数据库 OLAP API
非“典型”向量数据库AnalyticDB PostgreSQL及RAG服务实践
本文介绍了非“典型”向量数据库AnalyticDB PostgreSQL及其RAG(检索增强生成)服务的实践应用。 AnalyticDB PostgreSQL不仅具备强大的数据分析能力,还支持向量查询、全文检索和结构化查询的融合,帮助企业高效构建和管理知识库。
81 19
|
30天前
|
缓存 NoSQL JavaScript
Vue.js应用结合Redis数据库:实践与优化
将Vue.js应用与Redis结合,可以实现高效的数据管理和快速响应的用户体验。通过合理的实践步骤和优化策略,可以充分发挥两者的优势,提高应用的性能和可靠性。希望本文能为您在实际开发中提供有价值的参考。
55 11
|
1月前
|
存储 SQL 缓存
PolarDB-X 在 ClickBench 数据集的优化实践
本文介绍了 PolarDB-X 在 ClickBench 数据集上的优化实践,PolarDB-X 通过增加优化器规则、优化执行器层面的 DISTINCT 和自适应两阶段 AGG、MPP 压缩等手段,显著提升了在 ClickBench 上的性能表现,达到了业内领先水平。
|
1月前
|
存储 关系型数据库 分布式数据库
[PolarDB实操课] 01.PolarDB分布式版架构介绍
《PolarDB实操课》之“PolarDB分布式版架构介绍”由阿里云架构师王江颖主讲。课程涵盖PolarDB-X的分布式架构、典型业务场景(如实时交易、海量数据存储等)、分布式焦点问题(如业务连续性、一致性保障等)及技术架构详解。PolarDB-X基于Share-Nothing架构,支持HTAP能力,具备高可用性和容错性,适用于多种分布式改造和迁移场景。课程链接:[https://developer.aliyun.com/live/253957](https://developer.aliyun.com/live/253957)。更多内容可访问阿里云培训中心。
[PolarDB实操课] 01.PolarDB分布式版架构介绍
|
1月前
|
关系型数据库 分布式数据库 PolarDB
[PolarDB实操课] 02.使用云起实验室资源快速体验PolarDB分布式版
本次课程由阿里云PolarDB开源架构师黄心雨分享,重点介绍如何使用云起实验室资源快速体验PolarDB分布式版。主要内容包括: 1. **PolarDB-X的四种安装方法**:Docker、PXD工具、Kubernetes和源码编译。 2. **容器技术简介**:解释容器在云原生环境中的作用,解决代码跨环境迁移问题。 3. **云起实验室实操**:通过云起实验室提供的零门槛平台,快速部署PolarDB-X,体验其主要功能。 4. **课程小结**:总结PolarDB-X的安装方式及实际操作步骤,并展望后续课程内容。
|
2天前
|
NoSQL Java Redis
Springboot使用Redis实现分布式锁
通过这些步骤和示例,您可以系统地了解如何在Spring Boot中使用Redis实现分布式锁,并在实际项目中应用。希望这些内容对您的学习和工作有所帮助。
108 83

相关产品

  • 云原生分布式数据库 PolarDB-X
  • 云原生数据库 PolarDB