2.0 解析系列 | OceanBase的重要基础设施——DBReplay

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 9月21日,OceanBase 2.0 在云栖大会上重磅发布。我们将在接下来的时间里为大家持续推出 “OceanBase 2.0 技术解析系列” 文章,分别从 可运维性、分布式架构、数据可用性、性价比及兼容性 五个方面对OceanBase 2.0的产品新特性及其背后的技术原理进行深入的解析。

OB君:9月21日,OceanBase 2.0 在云栖大会上重磅发布。我们将在接下来的时间里为大家持续推出 “OceanBase 2.0 技术解析系列” 文章,分别从 可运维性、分布式架构、数据可用性、性价比及兼容性 五个方面对OceanBase 2.0的产品新特性及其背后的技术原理进行深入的解析。今天我们就从可运维性中一个很重要的功能DBReplay聊起,更多内容欢迎持续关注本系列!

本文作者:沈炼

现任蚂蚁金服OceanBase DBA团队高级技术专家,2014年加入阿里巴巴,从事领域涉及蚂蚁核心业务上OB、数据流基础设施运维体系建设等,目前主要负责OceanBase的高可用体系建设工作。

背景介绍

传统数据库如何平滑迁移至OceanBase,迁移到OceanBase后如何平滑升级,如何保障稳定性,这是架构师们不得不考虑的问题。今天我们将重点介绍一个专门为这些场景而生的利器 —— DBReplay。

DBReplay是从生产库截取的真实流量,然后再在测试库回放用于测试数据库系统的功能和性能的工具。它不仅回放读流量,也回放写流量,保证在整个回放过程中的数据和真实线上的数据是一致的,所有查询基于的快照点和真实线上也是一致的,并且保证SQL执行过程中的数据集与生产库完全一致,从而在测试库覆盖生产库的每一个功能场景和性能场景。

整体架构介绍

dbreplay

DBReplay的整体架构图如上图所示:

  • 通过备份恢复功能,使用在线库的数据恢复出一个测试库,恢复到具体某一个点,称为回放点
  • 截取在线库回放点以后所有的流量生成流量文件,流量文件的结束点称为截止点
  • 通过一个离线处理的程序分析所有的流量文件,生成真正用于回放的回放文件。这个过程主要解决事务间的依赖关系
  • 主控机读取流量回放文件控制多个客户端回放截取流量到测试库,回放期间,我们可以进行各项测试工作,例如业务功能验证,数据库升级验证,外部系统功能验证
  • 采集流量回放期间测试库的各项指标,与在线库进行比对,分析功能差异,性能差异,数据差异
  • 通过备份恢复功能,使用在线库的数据恢复出一个比对库,恢复到截止点,与测试库的数据进行全量比对,判断数据是否完全一致

应用场景介绍

1. 传统数据库平滑迁移OceanBase

传统数据库迁移OceanBase的过程中,最大的难点就是如何验证OceanBase的兼容性。业务系统非常复杂,例如订单型业务、状态型业务、契约型业务、分析型业务,这些业务的流量特点和使用数据库的方式各不相同,大量专门设计的测试验证方案不但成本昂贵,而且很难完全覆盖真实场景。DBReplay正是为这一场景而生,我们以MySQL迁移OB为例,其架构图如下:

由于目标库是MySQL数据库,为了避免对业务系统的侵入,我们采取了tcpdump的方式去抓取流量,这是一个通用的方案,避免各种环境下的权限问题。抓取的流量分别在MySQL测试环境和OB测试环境进行回放,并做功能比对、性能比对和数据比对,并生成报表。

结合OceanBase的MySQL兼容性和Oracle兼容性,最终做到传统数据库到OceanBase的平滑迁移。基于该方案,我们支持了蚂蚁内部的MySQL/Oracle上的业务向OceanBase的平滑迁移。

2.OceanBase平滑升级

业务系统运行在OceanBase以后,OceanBase需要给这些业务系统在响应时间,吞吐量,高可用,可扩展性等方面提供服务级别的保证。对OceanBase的任何变更(例如OceanBase升级),都需要进行全方面的测试和验证,然后才能发布到生产环境。大量的测试验证方案很难完全覆盖真实场景,DBReplay解决了以上挑战。我们可以在流量回放阶段进行OceanBase升级,并验证升级过程中的稳定性及升级后的执行计划变化,对于不正确的执行计划进行提前绑定。

3.功能验证

DBReplay还提供了加速回放功能,可以用来模拟大促等业务流量暴增的场景;可以搭建回归环境,通过DBReplay回放业务流量,从而进行功能验证,例如我们在蚂蚁内部搭建了一个高可用体系回归环境,进行7*24的故障注入,验证高可用体系的覆盖率和正确性。

结语

阅读《文明之光》有所感,印刷术是人类历史上最重要的发明之一,其传承人类的文明,让人类得以快速发展。历史上,有两个人独立发明了印刷术,一个是中国宋代的毕昇(雕版印刷术),一个是德国人古腾堡(活字印刷术)。

毕昇的发明比古腾堡早了400年,但在发明之后,基本上没有实际应用。活字印刷术在中国的普及,是在古腾堡解决了好几个毕昇没有触及的关键性技术问题后(古腾堡字幕库,手摇印刷机,排字、校对、装版一整套印刷工艺流程),才使得活字印刷术最终取代了雕版印刷。

活字印刷术相比雕版印刷术而言可谓是颠覆式的创新。但是,这种创新仅仅靠一项关键性技术远远不够,还必须解决和它相关联和配套的技术,才能让它成为改变世界、开创历史的杀手锏。

OceanBase相比于传统数据库已经进行了颠覆式的创新,融合了关系数据库与分布式系统的优势,这种融合使得OceanBase可以跨机房、跨地域、甚至跨洲际部署实现较高的金融级可用性和事务的强一致性。OceanBase基于低成本通用硬件,具备在线水平扩展能力,创造了4200万次/秒处理峰值的世界纪录。

同样,仅仅依靠单独突破是远远不够的,我们需要解决“配套”设施的问题,才能让OceanBase真正的发挥出威力。DBReplay正是这样的一个重要的基础设施,解决了传统数据库迁移OceanBase过程中的一些列问题,以及迁移到OceanBase后的稳定性保障问题。

下期预告
本文是“OceanBase 2.0 技术解析系列”文章的第三篇,下一篇将为你带来《OceanBase负载均衡的魅力》。敬请期待!

2.0解析系列文章

相关文章
|
3月前
|
存储 容灾 关系型数据库
OceanBase 高可用性架构解析
【8月更文第31天】在大数据和云计算蓬勃发展的今天,数据库作为数据存储的核心组件,其稳定性和可靠性直接影响到整个系统的性能。OceanBase 是由阿里巴巴集团自主研发的一款分布式关系型数据库系统,旨在为大规模在线交易处理(OLTP)场景提供高性能、高可用性的解决方案。本文将深入探讨 OceanBase 是如何通过其独特的架构设计来确保数据的高可用性和容灾能力。
248 0
|
27天前
|
人工智能 运维 监控
运维技术深度解析:构建高效、稳定的IT基础设施
【10月更文挑战第22天】运维技术深度解析:构建高效、稳定的IT基础设施
52 0
|
27天前
|
机器学习/深度学习 边缘计算 运维
运维技术深度解析:构建高效、稳定的IT基础设施
【10月更文挑战第22天】运维技术深度解析:构建高效、稳定的IT基础设施
44 0
|
6月前
|
域名解析 负载均衡 网络协议
【域名解析DNS专栏】从DNS解析看全球互联网基础设施布局
【5月更文挑战第30天】本文探讨了DNS解析在全球互联网基础设施布局中的关键作用。DNS负责将域名转换为IP地址,其高效、可靠的运行依赖于全球分布式、负载均衡且具有冗余备份的服务器网络。通过Python代码示例展示了DNS查询过程,强调DNS服务对用户体验的影响,指出合理布局互联网基础设施的重要性。
73 1
|
运维 架构师 Oracle
2.2系列第二课来啦!OceanBase 2.2版本开发&运维实践解析
近期,蚂蚁金服开展了“共战‘疫情’,技术破局”数字课堂线上直播。昨天蚂蚁金服解决方案架构师庆涛为大家讲解了2.2的核心特性和部署指南,2月25日14:00庆涛将继续展开2.2系列内容,为大家带来《OceanBase 2.2版本开发&运维实践解析》的直播课程。
2.2系列第二课来啦!OceanBase 2.2版本开发&运维实践解析
|
存储 测试技术 视频直播
直播报名中!首次公开OceanBase征战TPC-C测试技术细节全解析
OceanBase技术直播间是OceanBase为用户和技术爱好者带来的系列技术直播课程,由蚂蚁金服一线技术专家分享最全面的理论知识和最实用的技术实践,内容包含数据库内核系列、手把手实操系列和最佳实践系列等。
直播报名中!首次公开OceanBase征战TPC-C测试技术细节全解析
|
数据库 OceanBase 测试技术
蚂蚁金服OceanBase挑战TPCC | 测试流程解析
蚂蚁金服自研数据库 OceanBase 登顶 TPC-C 引起业内广泛关注,为了更清楚的展示其中的技术细节,我们特意邀请 OceanBase 核心研发人员对本次测试进行技术解读。
6017 0
蚂蚁金服OceanBase挑战TPCC | 测试流程解析
|
网络协议
阿里云DNS率先全面支持全球基础设施升级
【产品快讯】8月13日,阿里云DNS被国际DNS Flag Day活动列为支持者,成为国内首家支持该项目的云DNS服务商!!目前VIP 用户已经率先升级该功能。DNS Flag Day活动旨在解决DNS分片报文传输问题和支持DNS TCP。
|
网络协议 安全
共享共治 - 全球化背景下的DNS基础设施服务
DNS(Domain Name System)服务是互联网技术和数字经济发展的基础设施,阿里巴巴DNS团队高级工程师郭川成功入选第64届ICANN大会英才计划(中国唯一入选人)并受邀参加ICANN64(The Internet Corporation for Assigned Names
1046 0
|
Oracle 关系型数据库 数据库
2.0 解析系列 | OceanBase 2.0 的 Oracle 兼容模式
OB君:本文是 “OceanBase 2.0 技术解析系列” 的第九篇文章,今天我们来说说2.0版本最不得不提的——Oracle兼容模式。本文整理自10月27日OceanBase TechTalk北京站活动中酒满的演讲《OceanBase2.0的Oracle兼容模式》。
下一篇
无影云桌面