OBCP第七章 OB迁移、备份与恢复-迁移服务

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS MySQL,高可用系列 2核4GB
简介: OBCP第七章 OB迁移、备份与恢复-迁移服务

Oceanbase迁移服务

OceanBase 迁移服务(OceanBase Migration Service,OMS)是 OceanBase 提供的一种支持同构或异构RDBMS与OceanBase之间进行数据交互的服务,具备在线迁移存量数据和实时同步增量数据的能力。


支持多种数据源:OMS支持MySQL、 Kafka等多种类型的数据终端与OceanBase 进行实时数据传输

在线迁移无感知:在不停服的情况下,可以通过OMS无缝迁移数据至OceanBase。应用切换至OceanBase数据库后,OceanBase数据库上所有的变更数据会实时同步至切换前的源端数据库


安全可靠高性能:OMS能够实时复制异构的IT基础结构之间大量数据的毫秒级延迟;可以应用于数据迁移、跨城异地数据灾备、应急系统、实时数据同步、容灾、数据库升级和移植等多个场景


实时同步助解耦:OMS支持OceanBase两种租户与自建Kafka、RocketMQ之间的数据实时同步,可以应用于实时数据仓库搭建、数据查询和报表分流等业务场景

OMS架构概览:

OceanBase迁移服务(OceanBase Migration Service,OMS)连接的两端分别是待迁移的源业务数据库和目标端OceanBase数据库。

下图为OMS的系统架构图:

OMS分层功能体系

服务接入层

主要包括客户端迁移服务的交互、各种类型数据源的管理、迁移任务的录入、OMS各个组件模块的运维和监控,以及告警设置等。


流程编排层

主要负责实现上层表结构同步、启动全量数据同步、增量数据同步、数据校检和数据订正,以及链路切换等任务的执行细节。


组件链路层

组件链路层包括以下模块:

负责全量数据的迁移和校检,并针对校检不一致的数据生成订正 SQL


脚本的 Light-Dataflow 模块。


负责数据库增量日志的读取、解析和存储的 Store 模块。


负责向目标端数据库并发写入的JDBCWriter模块。


负责向目标端消息队列增量写入的Connector模块。


负责组件状态监控的Supervisor模块。


OMS功能-数据迁移

迁移任务

迁移任务是 OMS 数据迁移功能的基本单元。OMS 在创建迁移任务时,可以指定的最大迁移范围是数据库级 别,最小迁移范围是表级别。迁移任务的生命周期包括结构迁移、全量数据迁移和增量迁移同步链路的全部流程管理


迁移类型


OMS支持Schema结构迁移、全量数据迁移以及增量数据迁移,同时支持数据校验功能


利用OMS实现平滑去O迁移方案

数据实时同步 + 快速切换 + 回滚预案


OMS功能-数据同步

功能特性:


支持OceanBase的两种租户(Oracle 和 MySQL)与自建 Kafka、RocketMQ 之间的实时数据同步


支持Sybase ASE和自建RocketMQ之间的实时数据同步


支持OB_MySQL/Oracle/MySQL和DataHub之间的实时数据同步


支持库、表和列三级对象名映射


同步对象的选择粒度为表、列,您可以根据需要选择同步的对象。OMS 可以实现对源端实例和目标实例的库名、表名或列名不同的两个对象之间进行数据同步。


支持消息队列处理工具作为数据同步的目标端。


支持OceanBase物理表和自建Kafka数据源之间的数据实时同步


支持数据过滤。


支持根据 DML 类型过滤投递消息,过滤需要同步的数据


完善的性能查询体系。


数据同步提供同步延迟、当前同步位点等数据,便于您查看同步链路的性能


动态管理数据同步任务。


支持在数据同步过程中动态增加同步数据表,并支持回拉位点重新投递增量数据

OMS功能总结

数据库不停服迁移

在传统的数据库停机迁移的方式进行数据迁移对业务影响较大


OMS不停服数据迁移功能不影响迁移过程中源数据库持续对外提供服务,能够最小化数据迁移对业务的影响


在完成结构迁移、全量数据迁移和增量数据迁移后,源数据库的全量和增量数据均已实时同步至目标数据库中,数据校验通过后,业务可以从源端切换至目标端


实时数据同步


OMS的数据同步功能支持实时同步OceanBase、Sybase等数据库的增量数据至自建的Kafka、RocketMQ等消息队列


OMS支持OceanBase物理表和自建的Kafka等数据源之间的数据实时同步,推荐用于云 BI、实时数据仓库搭建、数据查询和报表分流等多种业务场景


相关文章
|
5月前
|
存储 SQL 数据库
【赵渝强老师】OceanBase的部署架构
OceanBase数据库支持两种部署架构:无共享(Shared-Nothing,SN)模式和共享存储(Shared-Storage,SS)模式。SN模式下,各节点对等,具备高扩展性、可用性和性能,运行于普通PC服务器集群;SS模式采用存算分离架构,租户数据存储在共享对象存储上,本地缓存热点数据。两种模式均支持高可用与多副本一致性,适用于不同业务场景。
382 1
|
SQL 运维 监控
第七章:OCP工具简介
第七章:OCP工具简介
566 0
|
7月前
|
数据采集 存储 数据可视化
【全览篇】解锁AllData数据中台商业版能力演示
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
关系型数据库 MySQL 调度
DataX教程(05)- DataX Web项目实践
DataX教程(05)- DataX Web项目实践
2466 0
|
10月前
|
安全 小程序 数据建模
SSL证书概述、类型、价格、作用及应用等10大常见问题解答
在互联网+时代,随着数字化进程加速,网络威胁日益严峻。SSL证书作为遵循SSL协议的数字证书,能实现HTTPS加密,验证网站服务器身份,确保数据传输安全性和完整性,有效防范中间人攻击和钓鱼网站。本文将介绍关于SSL证书的10大常见问题,帮助您更好地了解和使用SSL证书,确保网站安全。
|
安全 Java API
【性能与安全的双重飞跃】JDK 22外部函数与内存API:JNI的继任者,引领Java新潮流!
【9月更文挑战第7天】JDK 22外部函数与内存API的发布,标志着Java在性能与安全性方面实现了双重飞跃。作为JNI的继任者,这一新特性不仅简化了Java与本地代码的交互过程,还提升了程序的性能和安全性。我们有理由相信,在外部函数与内存API的引领下,Java将开启一个全新的编程时代,为开发者们带来更加高效、更加安全的编程体验。让我们共同期待Java在未来的辉煌成就!
255 11
|
存储 缓存 NoSQL
Redis深度解析:部署模式、数据类型、存储模型与实战问题解决
Redis深度解析:部署模式、数据类型、存储模型与实战问题解决
|
关系型数据库 分布式数据库 PolarDB
PolarDB操作报错合集之执行drop操作报The consensus follower is not allowed to to do current operation错误,select可以执行,是什么导致的
在使用阿里云的PolarDB(包括PolarDB-X)时,用户可能会遇到各种操作报错。下面汇总了一些常见的报错情况及其可能的原因和解决办法:1.安装PolarDB-X报错、2.PolarDB安装后无法连接、3.PolarDB-X 使用rpm安装启动卡顿、4.PolarDB执行UPDATE/INSERT报错、5.DDL操作提示“Lock conflict”、6.数据集成时联通PolarDB报错、7.编译DN报错(RockyLinux)、8.CheckStorage报错(源数据库实例被删除)、9.嵌套事务错误(TDDL-4604)。
492 1
|
图形学 开发者
【Unity光照艺术手册】掌握这些技巧,让你的游戏场景瞬间提升档次:从基础光源到全局光照,打造24小时不间断的视觉盛宴——如何运用代码与烘焙创造逼真光影效果全解析
【8月更文挑战第31天】在Unity中,合理的光照与阴影设置对于打造逼真环境至关重要。本文介绍Unity支持的多种光源类型,如定向光、点光源、聚光灯等,并通过具体示例展示如何使用着色器和脚本控制光照强度,模拟不同时间段的光照变化。此外,还介绍了动态和静态阴影、全局光照及光照探针等高级功能,帮助开发者创造丰富多样的光影效果,提升游戏沉浸感。
522 0
|
JavaScript Java 测试技术
基于SpringBoot+Vue+uniapp的网上服装销售系统的详细设计和实现(源码+lw+部署文档+讲解等)
基于SpringBoot+Vue+uniapp的网上服装销售系统的详细设计和实现(源码+lw+部署文档+讲解等)
213 0