PolarDB-X 开源分布式数据库在韵达科技的应用实践

本文涉及的产品
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
云原生数据库 PolarDB MySQL 版,通用型 2核8GB 50GB
简介: 本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分: 1. 企业背景 2. 应用实践 3. 未来展望。

本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分: 1. 企业背景 2. 应用实践 3. 未来展望。


一、背景:企业介绍 业务诉求

韵达主要面向国内外提供快递、快运、供应链、仓储服务等,目前拥有 4 万多家快递服务网点,3000多家快运服务网点,200多家加盟商,以及 100 多家分拣中心,其中包括 4200 条快递干线,1000多条快运干线,150家城市配送站,业务覆盖了 100 多家重点城市,遍布全球 30 万个国家和地区,拥有 200 万平米仓储面积,从业人员 30 多万。

韵达每日订单量高达几千万,每个订单有多种标签信息,因此数据量巨大。其中上游业务方有各大电商平台、订单中心、大客户、智橙网、财务中心、店配团、物流团等。

打标平台主要提供了订单标签基础服务、查询统计服务、消息推送、 CSV 文件推送、订单标签处理等。其中数据存储是核心业务,数据量较大,而且是高并发访问场景。数据存储涉及到 Kafka、 CSV、Redis、MySQL 分库分表。

下游主要为业务赋能,有韵图、智能外联、大掌柜、数据中台、结算团、韵达超市、揽派系统等一共 30 多个系统。

二、应用实践:架构升级 核心能力

韵达原先的业务架构存在较多痛点:

  1. 数据无法充分发挥业务价值:传统的分库分表方案缺少数据全局视角,对复杂查询的限制较多,需要人工进行处理。
  2. 历史数据清理繁琐:数据并不需要长期存储,对于业务场景而言一般只需存储 1年。但因为分表较多,数据清理较麻烦,同时为了避免对在线业务产生影响,经常需要在业务低峰期比如凌晨,与 DBA 团队合作对历史数据做手动清理。
  3. 随着业务上升导致性能衰减:数据增加以后查询能力下降。另外,计算存储资源固定,难以扩容。

因此,韵达采用了阿里云开源 PolarDB-X 云原生分布式数据库对业务架构进行了升级,使架构性能得到了极大的提升:

  1. 运营成本降低:支持灵活设置历史数据的存储周期,可以降低存储成本。透明分布式使得使用、运维方面的成本也得以下降。高兼容 MySQL 语法对开发团队而言,学习成本也得到了降低。
  2. 提高弹性扩展能力:计算存储分离架构提供了弹性能力,可随时扩缩容,资源可以按需分配,提高了资源利用率。
  3. 高可用能力提升:引入了强一致协议,克服了主备脑裂问题。另外,多副本技术的加持使得数据更加安全可靠。

上图为升级后的基于分布式数据库的业务架构。与老架构的主要差别在于,将原先基于 MySQL 的人工分库分表使用 PolarDB-X 进行了替换,架构上并未有大调整。

此外,开发团队并不需要理解 CN 节点,也不需要与CN节点打交道,他们看到的只是一个 PolarDB-X 数据库,可以理解为一个大型的MySQL实例,不存在额外的学习成本。

PolarDB-X 提供了两种数据库模式,分别是 Auto模式和DRDS模式。官方推荐使用Auto模式,它具有较好的功能特性,我们也采用了该模式。

Auto模式分区灵活,支持自动、手动分区,单机DDL语法无需改动,可以直接在 PolarDB-X 上使用。高度兼容了 MySQL ,无需额外的学习成本。支持分区级分裂合并,解决了数据热点问题。

Auto模式下的数据库建表语法与MySQL的建表语法完全一致,无需指定分区定义,自动采用 Primary Key 做分区,非常方便。另外,PolarDB-X支持多种表类型,比如传统单表、广播表、分区表,且可以通过简单 DDL 语句进行灵活的转换,比如分区表通过partition-by即可做哈希分区,可通过pratition参数指定分区数,可以创建 broadcast 广播表,也可以通过outtable将单表转换为分区表,非常方便快捷。

PolarDB-X也提供了数据生命周期管理。

通过Local Partition By Range(create_time)指定TTL表的物理时间分区列,在物理表上的数据会以此列做时间分区。可以通过 startwith 指定初始时间分区, intervial month 意为指定数据分区间隔为一个月,也可以按天或者按年进行分区。 Expire after 指每个分区 12 个月会自动清理,清理工作不再需要开发与运维在凌晨手动完成,Pre allocate 可以指定提前创建分区的数量。

TTL在 PolarDB-X 后台通过定时任务来自动处理,节省了开发与运维的成本。

韵达订单打标项目为双活部署,每天订单打标数据量2亿+,接口查询量8000 多万。目前标签分类有 80 多种,随着业务发展和用户需求,标签分类可轻松扩展。赋能30+业务应用,提供了 API 查询、统计分析、消息推送、CSV等。

数据进行了温热分级存储,其中 Redis 存储三个月数据量,PolarDB-X存储一年的数据量。有些数据除了统计分析用途以外,还有财务对账等回溯需求,因此会被导入 PolarDB-X,以便进行方便快捷地查询。因为数据量较大,我们采用 ProtoBuf 对数据进行了压缩。

PolarDB-X 为韵达订单打标项目带来了诸多好处:

  1. 不再需要人工进行分库分表,可以通过创建来全局二级索引对打标数据进行灵活统计处理,快速满足业务方面的需求。
  2. 可以自动清理过期数据,释放空间,提高数据库操作效率,不再需要人工干预。
  3. 支持水平与纵向扩缩容,可以轻松应大促场景。
  4. PolarDB-X 兼容 MySQL 协议,降低开发人员的学习曲线,可快速从此前的人工分库分表方案迁移到PolarDB-X数据库。
  5. 支持 online schema change ,添加二级索引不锁表。
  6. 多副本数据备份方案,保证了数据安全性。

三、未来展望:社区贡献 领域探索

PolarDB-X 提供了很多优秀的功能特性,在韵达的很多场景里可以进行推广使用。韵达存在大量高并发、海量数据存储的业务场景,因此,后续会在韵达公司内部进一步做 PolarDB-X 的推广使用。

另外,也会进一步在 HTAP领域进行探索。 PolarDB-X 提供了 TP 和 AP 的处理能力,因此我们计划使用PolarDB-X替换原先 MySQL +Elasticsearch提供的能力。同时,也会将PolarDB-X与韵达已有的周边生态进行融合。

社区建设方面,PolarDB-X官方推荐部署在K8s平台上,提供了开源的数据库,也提供了开源的监控能力。后续韵达将基于Prometheus与 Grafana 做监控能力的进一步提升,比如与公司金融平台、钉钉等打通,及时了解系统运行的健康状况。

最后,韵达科技将持续在社区分享基于 PolarDB-X 开源的实战经验。

相关实践学习
快速体验PolarDB开源数据库
本实验环境已内置PostgreSQL数据库以及PolarDB开源数据库:PolarDB PostgreSQL版和PolarDB分布式版,支持一键拉起使用,方便各位开发者学习使用。
相关文章
|
2月前
|
人工智能 安全 应用服务中间件
阿里巴巴 MCP 分布式落地实践:快速转换 HSF 到 MCP server
本文分享了阿里巴巴内部将大规模HSF服务快速转换为MCP Server的实践经验,通过Higress网关实现MCP协议卸载,无需修改代码即可接入MCP生态。文章分析了MCP生态面临的挑战,如协议快速迭代和SDK不稳定性,并详细介绍了操作步骤及组件功能。强调MCP虽非终极解决方案,但作为AI业务工程化的起点具有重要意义。最后总结指出,MCP只是AI原生应用发展的第一步,未来还有更多可能性值得探索。
840 48
|
2月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
523 57
|
2月前
|
安全 JavaScript 前端开发
HarmonyOS NEXT~HarmonyOS 语言仓颉:下一代分布式开发语言的技术解析与应用实践
HarmonyOS语言仓颉是华为专为HarmonyOS生态系统设计的新型编程语言,旨在解决分布式环境下的开发挑战。它以“编码创造”为理念,具备分布式原生、高性能与高效率、安全可靠三大核心特性。仓颉语言通过内置分布式能力简化跨设备开发,提供统一的编程模型和开发体验。文章从语言基础、关键特性、开发实践及未来展望四个方面剖析其技术优势,助力开发者掌握这一新兴工具,构建全场景分布式应用。
295 35
|
2月前
|
存储 Cloud Native 关系型数据库
PolarDB开源:云原生数据库的架构革命
本文围绕开源核心价值、社区运营实践和技术演进路线展开。首先解读存算分离架构的三大突破,包括基于RDMA的分布式存储、计算节点扩展及存储池扩容机制,并强调与MySQL的高兼容性。其次分享阿里巴巴开源治理模式,涵盖技术决策、版本发布和贡献者成长体系,同时展示企业应用案例。最后展望技术路线图,如3.0版本的多写多读架构、智能调优引擎等特性,以及开发者生态建设举措,推荐使用PolarDB-Operator实现高效部署。
178 2
|
2月前
|
SQL 关系型数据库 分布式数据库
PolarDB开源数据库入门教程
PolarDB是阿里云推出的云原生数据库,基于PostgreSQL、MySQL和Oracle引擎构建,具备高性能、高扩展性和高可用性。其开源版采用计算与存储分离架构,支持快速弹性扩展和100%兼容PostgreSQL/MySQL。本文介绍了PolarDB的安装方法(Docker部署或源码编译)、基本使用(连接数据库、创建表等)及高级特性(计算节点扩展、存储自动扩容、并行查询等)。同时提供了性能优化建议和监控维护方法,帮助用户在生产环境中高效使用PolarDB。
752 21
|
2月前
|
Cloud Native 关系型数据库 分布式数据库
PolarDB开源:云原生数据库的新篇章
阿里云自研的云原生数据库PolarDB于2023年5月正式开源,采用“存储计算分离”架构,具备高性能、高可用及全面兼容性。其开源版本提供企业级数据库解决方案,支持MySQL、PostgreSQL和Oracle语法,适用于高并发OLTP、核心业务系统等场景。PolarDB通过开放治理与开发者工具构建完整生态,并展望更丰富的插件功能与AI集成,为中国云原生数据库技术发展贡献重要力量。
312 17
|
2月前
|
存储 关系型数据库 分布式数据库
PolarDB开源进阶篇:深度解析与实战优化指南
PolarDB是阿里云开源的云原生数据库,采用计算-存储分离架构,结合高性能共享存储与Parallel Raft多副本一致性协议,实现微秒级延迟和卓越性能。本文深入解析其架构设计,涵盖智能调度层、性能优化技巧(如查询优化器调优和分布式事务提升)、高可用与容灾配置、扩展功能开发指南以及监控运维体系。同时,通过电商平台优化案例展示实际应用效果,并展望未来演进方向,包括AI结合、多模数据库支持及Serverless架构发展。作为云原生数据库代表,PolarDB为开发者提供了强大支持和广阔前景。
172 15
|
1月前
|
SQL 数据库
软考软件评测师——数据库系统应用
本文介绍了关系数据库的基础知识与应用,涵盖候选码定义、自然连接特点、实体间关系(如1:n和m:n)、属性分类(复合、多值与派生属性)以及数据库设计规范。同时详细解析了E-R图转换原则、范式应用(如4NF)及Armstrong公理体系。通过历年真题分析,结合具体场景(如银行信用卡额度、教学管理等),深入探讨了候选键求解、视图操作规范及SQL语句编写技巧。内容旨在帮助读者全面掌握关系数据库理论与实践技能。
|
2月前
|
关系型数据库 数据库 RDS
【瑶池数据库训练营及解决方案本周精选(探索PolarDB,参与RDS迁移、连接训练营)】(5.30-6.8)
本周精选聚焦数据库迁移训练营、快速连接云数据库RDS训练营及智能多模态搜索解决方案。为用户提供模拟教程与实战演练,学习RDS MySQL实例连接与数据管理技能,助力企业智能化发展。每周解锁数据库实战新场景,抓紧时间,精彩不容错过!
|
2月前
|
Cloud Native 关系型数据库 分布式数据库
阿里云PolarDB与沃趣科技携手打造一体化数据库解决方案,助推国产数据库生态发展
阿里云瑶池数据库与沃趣科技将继续深化合作,共同推动国产数据库技术的持续创新与广泛应用,为行业生态的繁荣注入更强劲的技术动力。
阿里云PolarDB与沃趣科技携手打造一体化数据库解决方案,助推国产数据库生态发展

相关产品

  • 云原生数据库 PolarDB