PolarDB-X 开源分布式数据库在韵达科技的应用实践

本文涉及的产品
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分: 1. 企业背景 2. 应用实践 3. 未来展望。

本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分: 1. 企业背景 2. 应用实践 3. 未来展望。


一、背景:企业介绍 业务诉求

韵达主要面向国内外提供快递、快运、供应链、仓储服务等,目前拥有 4 万多家快递服务网点,3000多家快运服务网点,200多家加盟商,以及 100 多家分拣中心,其中包括 4200 条快递干线,1000多条快运干线,150家城市配送站,业务覆盖了 100 多家重点城市,遍布全球 30 万个国家和地区,拥有 200 万平米仓储面积,从业人员 30 多万。

韵达每日订单量高达几千万,每个订单有多种标签信息,因此数据量巨大。其中上游业务方有各大电商平台、订单中心、大客户、智橙网、财务中心、店配团、物流团等。

打标平台主要提供了订单标签基础服务、查询统计服务、消息推送、 CSV 文件推送、订单标签处理等。其中数据存储是核心业务,数据量较大,而且是高并发访问场景。数据存储涉及到 Kafka、 CSV、Redis、MySQL 分库分表。

下游主要为业务赋能,有韵图、智能外联、大掌柜、数据中台、结算团、韵达超市、揽派系统等一共 30 多个系统。

二、应用实践:架构升级 核心能力

韵达原先的业务架构存在较多痛点:

  1. 数据无法充分发挥业务价值:传统的分库分表方案缺少数据全局视角,对复杂查询的限制较多,需要人工进行处理。
  2. 历史数据清理繁琐:数据并不需要长期存储,对于业务场景而言一般只需存储 1年。但因为分表较多,数据清理较麻烦,同时为了避免对在线业务产生影响,经常需要在业务低峰期比如凌晨,与 DBA 团队合作对历史数据做手动清理。
  3. 随着业务上升导致性能衰减:数据增加以后查询能力下降。另外,计算存储资源固定,难以扩容。

因此,韵达采用了阿里云开源 PolarDB-X 云原生分布式数据库对业务架构进行了升级,使架构性能得到了极大的提升:

  1. 运营成本降低:支持灵活设置历史数据的存储周期,可以降低存储成本。透明分布式使得使用、运维方面的成本也得以下降。高兼容 MySQL 语法对开发团队而言,学习成本也得到了降低。
  2. 提高弹性扩展能力:计算存储分离架构提供了弹性能力,可随时扩缩容,资源可以按需分配,提高了资源利用率。
  3. 高可用能力提升:引入了强一致协议,克服了主备脑裂问题。另外,多副本技术的加持使得数据更加安全可靠。

上图为升级后的基于分布式数据库的业务架构。与老架构的主要差别在于,将原先基于 MySQL 的人工分库分表使用 PolarDB-X 进行了替换,架构上并未有大调整。

此外,开发团队并不需要理解 CN 节点,也不需要与CN节点打交道,他们看到的只是一个 PolarDB-X 数据库,可以理解为一个大型的MySQL实例,不存在额外的学习成本。

PolarDB-X 提供了两种数据库模式,分别是 Auto模式和DRDS模式。官方推荐使用Auto模式,它具有较好的功能特性,我们也采用了该模式。

Auto模式分区灵活,支持自动、手动分区,单机DDL语法无需改动,可以直接在 PolarDB-X 上使用。高度兼容了 MySQL ,无需额外的学习成本。支持分区级分裂合并,解决了数据热点问题。

Auto模式下的数据库建表语法与MySQL的建表语法完全一致,无需指定分区定义,自动采用 Primary Key 做分区,非常方便。另外,PolarDB-X支持多种表类型,比如传统单表、广播表、分区表,且可以通过简单 DDL 语句进行灵活的转换,比如分区表通过partition-by即可做哈希分区,可通过pratition参数指定分区数,可以创建 broadcast 广播表,也可以通过outtable将单表转换为分区表,非常方便快捷。

PolarDB-X也提供了数据生命周期管理。

通过Local Partition By Range(create_time)指定TTL表的物理时间分区列,在物理表上的数据会以此列做时间分区。可以通过 startwith 指定初始时间分区, intervial month 意为指定数据分区间隔为一个月,也可以按天或者按年进行分区。 Expire after 指每个分区 12 个月会自动清理,清理工作不再需要开发与运维在凌晨手动完成,Pre allocate 可以指定提前创建分区的数量。

TTL在 PolarDB-X 后台通过定时任务来自动处理,节省了开发与运维的成本。

韵达订单打标项目为双活部署,每天订单打标数据量2亿+,接口查询量8000 多万。目前标签分类有 80 多种,随着业务发展和用户需求,标签分类可轻松扩展。赋能30+业务应用,提供了 API 查询、统计分析、消息推送、CSV等。

数据进行了温热分级存储,其中 Redis 存储三个月数据量,PolarDB-X存储一年的数据量。有些数据除了统计分析用途以外,还有财务对账等回溯需求,因此会被导入 PolarDB-X,以便进行方便快捷地查询。因为数据量较大,我们采用 ProtoBuf 对数据进行了压缩。

PolarDB-X 为韵达订单打标项目带来了诸多好处:

  1. 不再需要人工进行分库分表,可以通过创建来全局二级索引对打标数据进行灵活统计处理,快速满足业务方面的需求。
  2. 可以自动清理过期数据,释放空间,提高数据库操作效率,不再需要人工干预。
  3. 支持水平与纵向扩缩容,可以轻松应大促场景。
  4. PolarDB-X 兼容 MySQL 协议,降低开发人员的学习曲线,可快速从此前的人工分库分表方案迁移到PolarDB-X数据库。
  5. 支持 online schema change ,添加二级索引不锁表。
  6. 多副本数据备份方案,保证了数据安全性。

三、未来展望:社区贡献 领域探索

PolarDB-X 提供了很多优秀的功能特性,在韵达的很多场景里可以进行推广使用。韵达存在大量高并发、海量数据存储的业务场景,因此,后续会在韵达公司内部进一步做 PolarDB-X 的推广使用。

另外,也会进一步在 HTAP领域进行探索。 PolarDB-X 提供了 TP 和 AP 的处理能力,因此我们计划使用PolarDB-X替换原先 MySQL +Elasticsearch提供的能力。同时,也会将PolarDB-X与韵达已有的周边生态进行融合。

社区建设方面,PolarDB-X官方推荐部署在K8s平台上,提供了开源的数据库,也提供了开源的监控能力。后续韵达将基于Prometheus与 Grafana 做监控能力的进一步提升,比如与公司金融平台、钉钉等打通,及时了解系统运行的健康状况。

最后,韵达科技将持续在社区分享基于 PolarDB-X 开源的实战经验。

相关实践学习
跟我学:如何一键安装部署 PolarDB-X
《PolarDB-X 动手实践》系列第一期,体验如何一键安装部署 PolarDB-X。
相关文章
|
17天前
|
关系型数据库 分布式数据库 数据库
数据库内核那些事|PolarDB IMCI让你和复杂低效的子查询说拜拜
PolarDB IMCI(In-Memory Column Index)确实是数据库领域的一项重要技术,特别是当它面对复杂和低效的子查询时,表现尤为出色。以下是关于PolarDB IMCI如何助力解决
|
12天前
|
SQL 关系型数据库 数据库
Python执行PostgreSQL数据库查询语句,并打印查询结果
本文介绍了如何使用Python连接和查询PostgreSQL数据库。首先,确保安装了`psycopg2`库,然后创建数据库连接函数。接着,展示如何编写SQL查询并执行,例如从`employees`表中选取所有记录。此外,还讨论了处理查询结果、格式化输出和异常处理的方法。最后,提到了参数化查询和事务处理以增强安全性及确保数据一致性。
Python执行PostgreSQL数据库查询语句,并打印查询结果
|
3天前
|
关系型数据库 MySQL Java
关系型数据库mysql的开源与授权
【6月更文挑战第12天】
131 3
|
4天前
|
SQL 存储 关系型数据库
关系型数据库中的PostgreSQL
【6月更文挑战第11天】
41 3
|
4天前
|
关系型数据库 MySQL 数据库
上手体验 PolarDB-X 数据库
PolarDB-X,一款高性能云原生分布式数据库。
26 1
|
12天前
|
DataWorks API 调度
DataWorks产品使用合集之在调度配置配置了节点的上游节点输出,没办法自动生成这个flow的依赖,该怎么操作
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
12天前
|
DataWorks 安全 关系型数据库
DataWorks产品使用合集之建了 polar 与clickhouse的数据源。为什么数据库这里总是mysql呢
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
10天前
|
关系型数据库 数据库 PostgreSQL
PostgreSQL数据库的字符串拼接语法使用说明
【6月更文挑战第11天】PostgreSQL数据库的字符串拼接语法使用说明
30 1
|
12天前
|
SQL 关系型数据库 数据库
Python查询PostgreSQL数据库
木头左教你如何用Python连接PostgreSQL数据库:安装`psycopg2`库,建立连接,执行SQL脚本如创建表、插入数据,同时掌握错误处理和事务管理。别忘了性能优化,利用索引、批量操作提升效率。下期更精彩!💡 csvfile
Python查询PostgreSQL数据库
|
16天前
|
SQL 关系型数据库 数据库
nacos 2.2.3版本 查看配置文件的历史版本的接口 是针对MySQL数据库的sql 改成postgresql后 sql语句报错 该怎么解决
在Nacos 2.2.3中切换到PostgreSQL后,执行配置文件历史版本分页查询出错,因`LIMIT 0, 10`语法不被PostgreSQL支持,需改为`LIMIT 10 OFFSET 0`。仅当存在历史版本时报错。解决方案是调整查询SQL以兼容PostgreSQL语法。

热门文章

最新文章

相关产品

  • 云原生数据库 PolarDB