让X不断延伸, 从跨AZ到跨Region再到跨Cloud

简介: 本文从“空间”这一维度,聊一聊PolarDB-X在跨空间部署能力上的不断发展和延伸,以及在不同空间范围下的高可用和容灾能力,并着重介绍一下最新的产品能力——GDN(Global Database Network)。


事物的发展一般会遵循着从简单到复杂、由微观到宏观、由局部到全局、由特殊到一般的发展规律,对于数据库来说概莫能外,PolarDB-X作为数据库大家庭的一员,经历了十几年的发展,沿着同样的规律进行着不断迭代和演进,目前已经是分布式数据库领域的重要参与者。本文将从“空间”这一维度,聊一聊PolarDB-X在跨空间部署能力上的不断发展和延伸,以及在不同空间范围下的高可用和容灾能力,并着重介绍一下最新的产品能力——GDN(Global Database Network)。

1. PolarDB-X的空间哲学

在正式对高可用和容灾能力展开介绍之前,先来聊聊PolarDB-X的“空间哲学”。在数据库系统中,通过增加空间占用、转换空间形态、调整空间分布、或延展空间范围等,可以换来很多东西:

  1. 空间换时间 最典型的案例——数据库索引,通过增加索引空间的占用,实现查询时间的降低。在PolarDB-X中有多种类型的索引:分区级别的Local Index,表级别的GSI(Global Secondary Index),以及面向分析查询场景的列存索引CCI (Columnar Clustered Index)。参见[附1]、[附2]、[附3]
  2. 空间换隔离 最典型的案例——读写分离,通过数据同步增加冗余数据,实现读写操作的隔离。PolarDB-X原生支持读写分离架构,可以为主实例添加一个或多个只读实例,将写流量发往主实例,将需要的读流量发往只读实例,降低主实例压力的同时也保证了读操作的响应速度。参见[附4]
  3. 空间换降本 成本数据。还可正常访问数据。最典型的案例——冷热数据分离,通过将冷数据的存储空间形态进行转换,实现存储成本的降低。PolarDB-X原生支持冷数据归档能力,将在线表中的冷数据归档到低成本的存储介质中(如OSS),并进行格式转换和压缩处理,大幅降低成本的同时且不影响对冷数据的实时读取。参见[附5]、[附6]、[附7]
  4. 空间换安全 最典型的案例——备份和加密,通过保留全量和增量备份数据可以实现快速数据恢复,通过数据加密可以提供更好的安全保障(加密带来数据存储空间的上升)。PolarDB-X支持多个维度的备份恢复能力,基于PITR的整实例一致性备份和恢复、基于binlog的SQL闪回、基于undo log的闪回查询、基于列存的快照查询和恢复等;支持TDE数据加密和全密态安全保证。参见[附8]、[附9]、[附10]
  5. 空间换ONLINE 最典型的案例——ONLINE DDL,通过开辟临时空间并结合一系列算法,实现DDL的无锁变更,让业务永远在线。基于论文《Online, Asynchronous Schema Change in F1》的思想,PolarDB-X结合分布式事务能力,通过数据拷贝、数据回填、元数据平滑切换等措施,支持各种类型的Online DDL变更,尤其值得一提的是OMC(Online Modify Column)能力,相比原生MySQL具备更加强大的Online能力。参见[附11]、[附12]
  6. 空间换可用性 最典型的案例——数据副本,通过数据复制技术冗余多个数据副本,并基于一致性共识协议实现多副本的数据一致,实现RPO=0的高可用能力。PolarDB-X的DN节点基于自研的X-Paxos协议实现了可保证数据强一致的高可用能力,且可保证RTO<20s,满足金融级数据一致性要求。参见[附13]、[附14]、[附15]

2. PolarDB-X的容灾能力

当我们聊高可用和容灾时,很大程度上其实聊的是数据复制或数据副本技术,不管是采取一般的主从异步复制,主从半同步复制,还是基于Paxos或Raft的强同步复制,都是在对数据的分布进行空间上的扩展,来实现高可用和容灾,因此其具有空间范围上的相对性,跨机架、跨机房(本文中AZ等价于机房)、跨Region、跨Cloud等都可以对应不同的容灾方案,可以认为覆盖的空间范围越大容灾能力越强,相应的复杂度也会更高。 目前数据库业界常见的高可用/容灾架构主要有:

  1. 单机房 单机房内,进行异步复制或基于Paxos/Raft的强同步复制,可应对单数据副本故障或机架级别的故障容灾。
  2. 同城多机房 一般为单地域3机房,一个机房一份数据副本,跨机房进行异步复制或基于Paxos/Raft进行强同步复制,可满足机房级别的故障容灾,但无法满足多地域多活的诉求。
  3. 两地三中心 基于Paxos/Raft的「双地域」复制架构,分为主地域和异地灾备地域,流量主要在主地域,异地主要承担灾备容灾,异地机房日常不提供多活服务。两地三中心架构下,主地域有两个机房,每个机房有两个副本,灾备地域只有一个副本,多数派强同步在主地域即可完成,相比基于Paxos/Raft的同城多机房架构,性能持平且具备了异地容灾能力,当主地域出现不可用时,可以切换到灾备地域,但无法保障RPO=0。
  4. 三地五中心 基于Paxos/Raft的「多地域」复制的架构,可以跨越3个地域,地域A两个机房,地域B两个机房,地域C一个机房,每个机房对应一个数据副本,同时可以指定A或B地域为主地域。三地五中心架构下,多数派强同步需要跨地域,对性能会带来较大影响,好处是任何一个地域发生灾难都不影响系统的可用性,且可以保证RPO=0。
  5. Global Database 构建全球多活的架构,写操作发生在中心,各自地域提供就近读的能力,可以支持一主多从、多主多从等部署形态。该架构最大的特点是轻便、灵活,可以根据需要创建单活、双活、多活等容灾形态,一般为异步复制,PolarDB-X的GDN便是此架构,后文会有详述。
  6. Geo-Partitioning 基于地域属性的partition分区架构,提供按用户地域属性的就近读写能力,该方案是一个需要在数据内核层面支持「地域空间」属性的方案,在创建库、表时可以指定地域相关的维度信息,如指定某张表需要覆盖的region以及primary region,甚至可以为同一张表下不同的分区指定不同的primary region。相比前面几种主要通过调整数据库实例的部署形态来实现容灾的架构,该架构可以控制的更加精细,一套数据库实例可以同时实现单AZ、多AZ、多Region的容灾需求,并且可以控制到分区级别,但需要业务适配的成本较高,且跨地域时必须是强同步对性能不友好。

下面通过一个表格对如上所列的容灾架构进行一下总结和对比:

容灾架构

容灾范围

最少机房要求

数据复制

优缺点

单机房

机架/单个副本故障

1机房

异步

异步复制,性能好,但RPO>0

同步

同步复制,性能稍有损耗,但RPO=0(少数派故障时)

同城多机房

单机房级别

2机房

异步

异步复制,性能好,但RPO>0

3机房

同步

比较通用,业务平均RT增加1ms左右

两地三中心

机房、地域

3机房 + 2地域

同步

比较通用,业务平均RT增加1ms左右

三地五中心

机房、地域

5机房 + 3地域

同步

机房建设成本比较高,业务平均RT会增加5~10ms左右(具体取决于地域之间的物理距离)

Geo-Partitioning

机房、地域

3机房 + 3地域

同步

业务有适配成本(表分区增加地域属性),业务平均RT增加5~10ms左右(具体取决于地域之间的物理距离)

Global Database

机房、地域

2机房 + 2地域

异步

比较通用,业务就近读+ 远程转发写,适合异地读多写少的容灾场景

PolarDB-X的DN节点采用数据多副本架构(比如3副本、5副本),为了保证副本间的强一致性(RPO=0),采用Paxos的多数派复制协议,每次写入都要获得超过半数节点的确认,即便其中1个节点宕机,集群也仍然能正常提供服务,除此之外,PolarDB-X还提供了基于CDC Binlog的、高度兼容MySQL主从复制协议的数据复制能力,可以实现两个独立的PolarDB-X实例之间的数据同步。基于这些基础能力,PolarDB-X支持多种容灾架构,目前已经支持的有:

  • 单机房(Paxos 3副本),能够应对少数派1个节点的故障

1.jpg

  • 同城3机房(Paxos 3副本),能够应对单机房故障

2.jpg

  • 两地三中心(Paxos 5副本),能够应对地域级的故障

3.jpg

  • GDN多活(主从异步复制),能够应对地域级故障,并提供就近读的能力

4.jpg

3. PolarDB-X GDN详解

PolarDB-X基于Paxos的容灾方案,在我们的历史文章中已经有比较详解的介绍,感兴趣的读者可以参见[附13]和[附16],接下来本篇文章的主角开始登场,一期揭开PolarDB-X GDN的面纱。

3.1 GDN是什么

全球数据库网络(Global Database Network,简称GDN)是由分布在同一个国家内多个地域的多个PolarDB-X实例组成的网络,它的「基础形态」如下图所示,多个PolarDB-X实例之间组成了一个跨地域的「一主多从」高可用容灾集群。

5.jpg

借助GDN,可以实现两大核心目标:

  • 异地多活

如果业务部署在多个地域,传统网络下,数据库在主地域,其它地域的应用需要跨地域访问主地域的数据库,网络延迟会导致数据访问性能低下,带来不良的用户体验。通过GDN的跨地域低延迟同步、跨地域读写分离、本地就近读取等特性,可以确保各地域的应用访问数据库时的延迟控制在秒级。

  • 异地容灾

不论业务部署在一个或多个地域,都能通过GDN实现异地容灾。当主集群出现地域级别的故障时,您只需要手动将您的业务切换到从集群,主从实例切换可以在120秒内完成。

主从模式只是GDN的基础形态,此形态下应用侧进行很少量的改造便可以接入GDN。GDN的更高阶形态是「双主模式」,甚至是「多主模式」,当应用需要构建「多地域 + 多活 +多写」容灾架构时,常见方案为,首先会在业务侧进行单元化改造,其次在数据库侧构建双向同步链路、配置同步防回环策略、配置当数据出现写入冲突时的处理策略等等,在GDN高阶形态下,并结合PolarDB-X的分区能力,会让多活多写容灾变得更加简单。举例来说:

1.PolarDB-X提供了丰富的分区类型:Key分区、List分区、Range分区,还支持各种分区类型相组合的二级分区能力,除此之外,甚至还支持用户提交自定义的udf作为分区函数。那么,让单元化的路由规则和PolarDB-X分区表的分区规则进行关联,会让多写架构变得更加简单、灵活和安全。我们可以在每个地域(单元)将和本地域(单元)对齐的分区设置为可读可写,将未对齐的分区设置为只读(禁写),流量切换会变的更加灵活,可以做到以单元为粒度的整体切换,也可以做到只切换部分分区到另外的单元。此外,由于在数据库侧加入了分区禁写,即使应用侧出现了路由错误,PolarDB-X作为最后一道闸门会拒绝不合法的写入操作,规避写冲突。如上所述,在传统的基于「非分布式数据库 + 非分区表」的场景下,都是难以做到的,当然,基于PolarDB-X也完全可以实现传统的数据双写架构,二者并不矛盾。关于多活多写的更多资料,可参见[附17]


6.jpg


2.在多活多写架构下,不同region之间需要配置双向复制链路,双向复制链路最大的挑战是防止“复制回环”,PolarDB-X内置了一套基于server_id的轻量级防回环能力,简单易用,后文会有详述。

3.2 GDN的技术架构

GDN的技术基石是实时数据复制,PolarDB-X不仅支持完全兼容MySQL binlog的CDC Binlog,还具备高度兼容MySQL Replication的数据复制产品CDC Replica,基于这两个核心能力可以快速构建GDN复制网络。

7.jpg

GDN技术架构

说明:

  1. CDC binlog支持两种服务形态,单流binlog和多流binlog,且可同时存在,具体可参见官网:日志服务
  2. 在GDN场景下,可根据实际情况选择单流或多流复制,当单流复制链路触达性能瓶颈时,可考虑使用多流复制模式,具体的瓶颈点因场景而异。
  3. 关于Replica主从复制的详细介绍可参见官网: 使用PolarDB-X作为PolarDB-X的SlaveReplication语句

3.3 GDN的核心能力

多样化DML复制

DML操作会触发数据的变更,并以event的形式将变更详情记录到binlog中,通过重放binlog中的变更event,可将变更数据复制给下游。针对DML类型的数据复制,GDN支持多种可选策略,满足不同场景下的复制需求,在性能和一致性之间寻找平衡。


复制策略

性能表现

事务一致性

说明

TRANSACTION

一般

  1. 该策略的特点为串行复制保证事务的完整性,适用于对事务一致性要求较高的场景,如金融领域,可以容忍RPO>0,但不能容忍事务完整性被破坏。
  2. 只有在单流binlog复制场景下才能保证事务完整性,因为多流binlog在实现原理上就需要打破事务的完整性来获取并行度的提升。
  3. 暂时不支持无数据冲突的事务之间的并行复制。

SERIAL

一般

  1. 该策略的特点是串行复制不保证事务的完整性,适用于对事务一致性要求不高,但对串行化要求较高的场景,如表之间有外键约束或业务上的顺序约束等。
  2. 该策略下针对每条变更数据采用auto commit自动提交的模式进行处理,即每个事务都是单机事务,不会触发分布式事务。因此,相比TRANSACTION复制策略,一般会有更好的性能表现,除非binlog中每个事务只包含一条数据变更,此时两种策略在性能上无太大差异。

SPLIT

较好

  1. 该策略的特点是并行复制不保证事务的完整性,适用于对数据之间的依赖关系无要求、只要能够保证数据最终一致即可的场景。
  2. 并行复制的模式为行级并行,即不同表、不同主键的数据会放到独立的执行线程,进行充分的并行写入。
  3. 该策略是GDN的默认策略。

MERGE

  1. 该策略的特点是采用变更压缩以及批量写入等技术并行复制不保证变更的类型和变更事务的完整性,适用于对数据之间的依赖关系无要求、对变更类型不敏感、只要能够保证数据最终一致即可的场景。
  2. 并行复制的模式为行级并行,并按表进行攒批,进行充分的并行和批量写入。


一体化DDL复制

通过高效的DML复制,可以实现GDN上下游集群之间数据表内容的一致,而DDL复制,则是保证GDN主从集群之间Schema一致性的核心能力。GDN主从集群之间Schema的一致性不仅仅局限于表结构的一致,而体现在所有数据库对象之间的一致,这样才能保证在发生主从切换时从集群有能力承载应用的流量,否则,即使丢失一个索引,也可能引发严重的性能问题。

PolarDB-X支持多种类型的数据库对象,如常见的兼容MySQL的表、列、索引、视图、函数等,除此之外,还支持TableGroup、Sequence、GSI、CCI、Java Function等各种自定义的对象类型,并且有很多自定义的扩展语法(如:TTL、Locality、OMC、Local index、Move partition、Alter Index等)。

DDL复制是一个颇具挑战的能力,并不是简单的从主集群的binlog中提取出DDL SQL然后直接提交给从集群执行,而是会涉及到兼容性、一致性、稳定性和可用性等多重挑战,PolarDB-X内置的原生复制能力在内核层封装了这些复杂性,提供了高效易用的DDL复制能力,可以体现在如下几个方面:

  1. 高度的兼容性 相比于使用外挂同步工具实现PolarDB-X之间数据复制的方案,一体化的原生复制,无任何SQL兼容问题,不用担心跨产品、跨版本的兼容问题,数据复制的正确性和稳定性更有保障。除此之外,原生内核级复制更方便识别SQL语义和透传附加信息,做针对性的处理和优化,如:识别出分区变更类型的DDL及时调整DML SQL的where条件,识别出Locality类型的DDL将SQL中的DN信息剔除或替换为从实例中相对应的DN id,识别出列存类型的DDL做针对性的SQL改写等。
  2. 可异步执行的DDL 比较耗时的DDL,会长时间阻塞数据复制链路并引发较高的数据延迟,这是数据复制领域的一个常见问题,而在分布式数据库场景下,对超大规模的数据表执行DDL,耗时可能会更久,引发的阻塞和延迟问题会更加严重。有很多类型的DDL在一般情况下其实是完全可以异步执行的,比如analyze table、alter table add index、alter table change partition definition等操作,PolarDB-X可以在内核层面实现自闭环且高效的异步DDL处理(beta功能),甚至可以在主从集群之间实现可联动的两阶段DDL处理,让大部分类型的DDL复制实现“零阻塞”(WIP)。
  3. 一致性的DDL复制 当基于多流binlog构建GDN数据复制链路时,对于DDL复制需要考虑不同复制链路之间的协调一致,每条复制链路在收到某条DDL SQL后必须等待其它复制链路,只有当所有链路都收到该DDL SQL之后,才可以将DDL操作复制给从集群,否则将导致DML流量和Schema之间的不一致,引发异常或数据错误。GDN提供了Distributed DDL Replication Engine,通过高效的多路协调算法,实现分布式场景下一致性DDL复制。

8.jpg

轻量级双向复制

PolarDB-X提供了兼容MySQL的、可基于server_id进行回环流量过滤的轻量级双向复制能力,如下图所示:

9.jpg


其优势可以体现在两个方面:

高性能

直接基于binlog event header中的server_id进行流量过滤的方式,相比外挂同步工具一般通过引入事务表进行流量过滤的方案更加轻量,无额外的性能损耗且扩展性更好(事务表对用户的数据库具有侵入性,且需要在同步每个事务时向事务表进行dml操作,存在写放大的情况)

简单易用

在两个PolarDB-X实例上分别执行两条change master语句,即可快速构建具备回环流量过滤能力的双向复制架构。

语法:
CHANGE MASTER TO option [, option] ... [ channel_option ]
option: {
  IGNORE_SERVER_IDS = (server_id_list)
}
示例:
R1: CHANGE MASTER ... , IGNORE_SERVER_IDS = (100) , ...
R2: CHANGE MASTER ... , IGNORE_SERVER_IDS = (200) , ...

完备的冲突检测

在数据复制链路中,尤其是在传统的多活多写架构下(即单元化规则和表分区规则未关联对齐的架构),如前文所述,有可能出现因bug或者某些意外情况导致的写冲突(即双边对相同主键或唯一键的数据进行了变更),此时需要一种冲突检测机制来规避可能的风险,PolarDB-X的数据复制内置了冲突检测机制,支持检测如下的冲突类型:

  • INSERT导致的唯一性冲突

同步INSERT语句时违背了唯一性约束,例如双向同步的两个PolarDB-X同时或者在极为接近的时间INSERT某个主键值相同的记录,那么同步到对端时,会因为已经存在相同主键值的记录,导致Insert同步失败。

  • UPDATE更新的记录不完全匹配

UPDATE要更新的记录在同步目标实例中不存在时,PolarDB-X支持自动转化为INSERT(默认不开启),此时可能会出现唯一键的唯一性冲突。

UPDATE要更新的记录出现主键或唯一键冲突。

  • DELETE对应的记录不存在

DELETE要删除的记录在同步的目标实例中不存在。出现这种冲突时,不论配置何种冲突修复策略,都会自动忽略DELETE操作。

针对数据冲突,PolarDB-X提供了配置参数来控制出现冲突时的修复策略,在创建或者后期维护复制链路时,都可以通过change master命令调整冲突修复策略。

CHANGE MASTER TO option [, option] ... [ channel_option ]
option: {
   CONFLICT_STRATEGY = {OVERWRITE|INTERRUPT|IGNORE}
}
  • OVERWRITE:表示对于冲突数据会采取Replace Into写入,进行覆盖,此为默认的处理策略。
  • INTERRUPT:表示中断复制链路。
  • IGNORE:表示忽略冲突。

需要说明的是:冲突修复是一种Best Effort的机制,在多活多写架构下,由于数据同步两端的系统时间可能存在差异、同步存在延时等多种因素,很难保证冲突检测机制能够完全防止数据的冲突。因此,重点还是需要在业务层面进行相应的改造,保证同一个主键、业务主键或唯一键的记录只在双向同步的某个PolarDB-X进行更新。采用单元化规则和表分区规则关联对齐的方案,靠数据库内核进行分区禁写,则是规避数据冲突的最简单有效的方案,而原生的GDN能力让这些变得更加简单。

快照级数据对账

GDN提供了原生的数据对账能力,内置的数据校验能力具备如下优势:

  1. 支持多种校验模式
  • 直接校验:基于主从实例的最新数据进行校验,该校验方式在增量变更很频繁的情况下,会出现误差,需要多轮复核或配合人工校验进行处理。
  • 快照校验:PolarDB-X支持基于TSO的快照查询,全局binlog支持保证线性一致的Sync Point,GDN基于这两个基础能力,可构建保证主从集群之间数据一致的tso-mapping并基于此tso进行快照查询并实现数据校验,该校验方式基于一致性快照进行校验,无误差,具备更好的易用性。

10.jpg

2. 资源占用低、校验速度快。

GDN的数据校验采用checksum校验和逐条数据明细对比相结合的方式,首先通过采样算法对数据进行区间划分,优先对比每个区间数据的checksum,当checksum不一致时再转换为逐条数据明细校验,相比传统的直接one by one的逐条数据明细对比校验,此方式可以有10倍的性能提升且对资源的占用更低。

具体使用方法可参看官网:主从实例数据校验_云原生数据库 PolarDB(PolarDB)-阿里云帮助中心


轻松的数据订正

数据订正分为两种场景下的订正:一种是常态的在线数据订正,一种是容灾切换后的数据订正。对于前者,GDN提供了一种基于共享锁的数据订正方案,主要适用于单向主从复制场景,其实现思路比较朴素:基于数据校验的结果拿到Diff数据,对Diff数据进行batch分组,针对每个分组中数据,在从实例上对数据加共享锁,然后从主实例反查数据的最新值,并写入从实例,完成数据订正(Beta版本)。

yuque_diagram.jpg

对于后者,如果容灾切换时,采取的是应急强制切换的方案,可能会出现主实例的部分binlog还未在从实例完成复制的情况,即切换完成后新的主实例会丢失部分数据。如果原主实例最终无法恢复,相应的最终会丢失这一部分数据,但很可能在灾难恢复后,原主实例也完成了恢复,此时则有机会将丢失的binlog数据补偿给新的主实例。

如何补偿?一条一条去甄别,然后手动去操作吗?当然可以!当然也可以不用这么麻烦!PolarDB-X提供了全镜像匹配能力,可以让数据补偿变得更轻松一些,对切换前的原有复制链路开启全镜像匹配,然后消费剩余的binlog数据进行自动补偿:

  • 对于binlog中的Insert event 回放给新主实例的时候,采取insert ignore的策略
  • 对于binlog中的delete event 回放给主实例的时候,where条件中要拼接所有column的值,如果不匹配则自动跳过
  • 对于binlog中的update event 回放给主实例的时候,where条件中要拼接所有column的值,如果不匹配则自动跳过

当然,这个方法并不是万能的,如果某条数据的某些列的值存在「改回去又改回来」的情况,则可能导致补偿后的数据不符合预期,但这种情况属于少数场景,在大部分场景下靠全镜像匹配能力可以做到自动补偿。

另外,GDN的后续版本正在规划更高级的自动补偿能力,在全镜像匹配功能的基础之上,结合新主实例的binlog,来精确判断某条数据在容灾切换后是否在新主实例上发生过变更,以此来精确判断待补偿数据和目标数据之间是否存在“双写冲突”。

通过一条sql即可开启或关闭全镜像匹配功能:

CHANGE MASTER TO option [, option] ... [ channel_option ]
option: {
   COMPARE_ALL = {true|false}
}

快捷的容灾切换

对于公共云售卖版本,在PolarDB-X控制台上提供了白屏化的操作入口,可以进行GDN主从实例的切换,分为两种切换方式:

  • 常规切换(RPO=0) 计划内切换用于集群内所有实例及实例间数据复制制链路运行正常。执行计划内切换时,将导致集群中所有实例禁写,禁写时间取决于数据复制延迟的消除时间。计划内切换不会导致数据丢失。
  • 强制切换(RPO>=0) 当主实例发生短时间内无法恢复的不可用故障时,出于业务连续性优先原则,可考虑进行应急强制切换。 执行应急切换时,所选从实例将立即被提升为集群主实例,该从实例从先前主实例复制组未提交的事务会丢失,数据丢失量取决于数据复制的延迟规模。

PolarDB-X也提供了便捷的原子API,在基于PolarDB-X自建GDN的场景,可以组合调用这些原子API构建自己的切换任务流。

# 对polardbx整实例进行禁写/开写
alter instance set read_only = {true|false}
# show full master status 可以查看主实例binlog最新的tso
mysql> show full master status ;
+---------------+-----------+--------------------------------------------------------+-------------+-----------+-----------+-------------+-------------+-------------+--------------+------------+---------+
| FILE          | POSITION  | LASTTSO                                                | DELAYTIMEMS | AVGREVEPS | AVGREVBPS | AVGWRITEEPS | AVGWRITEBPS | AVGWRITETPS | AVGUPLOADBPS | AVGDUMPBPS | EXTINFO |
+---------------+-----------+--------------------------------------------------------+-------------+-----------+-----------+-------------+-------------+-------------+--------------+------------+---------+
| binlog.006026 | 221137311 | 721745002099847993617485152365471498250000000000000000 |         211 |         0 |         0 |           0 |           0 |           0 |            0 |          0 |         |
+---------------+-----------+--------------------------------------------------------+-------------+-----------+-----------+-------------+-------------+-------------+--------------+------------+---------+
# show slave status 可以查看从实例消费到的最新的tso
mysql> show slave status \G;
*************************** 1. row ***************************
                  ...,...
                  Exec_Master_Log_Tso: 721745002099847993617485152365471498250000000000000000
                  ...,...


优秀的性能表现

PolarDB-X GDN支持基于CDC多流binlog构建具备多路并行复制能力的分布式数据复制链路,具备强大的扩展性,可根据实际负载情况调整多路并行度,在跨地域高网络延迟场景下保证低延迟的数据复制,从而保证RPO趋近于0。当然,追求单流复制的极致性能也是我们的目标,如下是在tpcc和sysbench场景下单流复制链路的性能数据,在优化的道路上我们还在不断前行。

测试环境: polardbx实例配置(独享型)

  • CN:16core 128G * 4
  • DN: 16core 128G * 4 (版本 5.7)
  • CDC:32core 64G * 2
  • 多流数量:6

测试数据

测试场景

测试指标

单流RPS

多流RPS

延迟

Sysbench_oltp_write_only

  • 32 tables
  • 256 thread
  • 10000000 per table

TPS: 3w/s

QPS: 12w/s

4w/s

12w/s

多流:< 2s

Tpcc交易压测

  • 1000仓
  • 500并发

tpmC: 30w

10w/s

20w/s

多流:< 2s

3.4 PolarDB-X GDN未来之跨云部署

11.jpg

阿里云提供了MyBase产品,在一个MyBase空间下,可以纳管部署在多个云厂商(含IDC)的数据库实例,通过MyBase提供的多云管控能力,可以实现数据库的跨云容灾部署,PolarDB-X基于MyBase的跨Cloud GDN能力已经在路上,对于多云容灾有需求的读者敬请期待,先奉上抢先版的演示视频


4. 结语

PolarDB-X在容灾能力的建设上永远是“进行时”,从跨AZ到跨Region再到跨Cloud,走出了坚实的一大步,但在不断求索的路上也只是一小步,我们相信经过持续的努力,PolarDB-X的容灾能力会不断进步、不断完善、不断跨越更多空间,未来它一定能演进为一个更加原生的具备全球容灾能力的Global Database。



5. 附录

作者:自扬

作者介绍
目录