AI 助理
备案控制台
开发者社区 数据库 文章 正文

OBCP实践 - 迁移 MySQL 数据到 OceanBase 集群

2024-03-17 440
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： OBCP实践 - 迁移MySQL数据到OceanBase集群，这是一个涉及到将现有MySQL数据库的数据和表结构迁移到OceanBase分布式数据库集群的实际操作过程。OceanBase是一款高度兼容MySQL协议的分布式数据库产品，支持在线平滑迁移，以便企业用户可以从传统的MySQL数据库平滑迁移到OceanBase，以实现更高的可用性、扩展性和性能。

1、mysql导出数据且SCP到ob数据库上

mysql> show tables;

+------------------------+

| Tables_in_psd_schedule |

+------------------------+

| pf_td_ext_data_dict    |

| pf_td_simple_triggers  |

| pf_td_triggers         |

+------------------------+

3 rows in set (0.09 sec)

 

mysql> select count(1) from pf_td_ext_data_dict;

+----------+

| count(1) |

+----------+

|       23 |

+----------+

1 row in set (0.35 sec)

 

mysql> select count(1) from  pf_td_simple_triggers;

+----------+

| count(1) |

+----------+

|      685 |

+----------+

1 row in set (0.48 sec)

 

mysql> select count(1) from pf_td_triggers;

+----------+

| count(1) |

+----------+

|      843 |

+----------+

1 row in set (0.93 sec)

[root@mongdb2 ~]# mysqldump -uroot -p psd_schedule>schedule.sql

Enter password:

Warning: A partial dump from a server that has GTIDs will by default include the GTIDs of all transactions, even those that changed suppressed parts of the database. If you don't want to restore GTIDs, pass --set-gtid-purged=OFF. To make a complete dump, pass --all-databases --triggers --routines --events.

[root@mongdb2 ~]# more psd_schedule.sql

 

 scp schedule.sql  admin@xxx:/u01

2、Oceanbase数据库导入到test租户TEST数据库中

obclient [test]> source /u01/psd_schedule.sql

Query OK, 0 rows affected (0.009 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected (0.013 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.001 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected (0.001 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected (0.002 sec)

 

ERROR 1193 (HY000): Unknown system variable 'SQL_LOG_BIN'

ERROR 1193 (HY000): Unknown system variable 'sql_log_bin'

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.010 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

ERROR 1193 (HY000): Unknown system variable 'gtid_purged'

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.004 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected, 1 warning (0.039 sec)

 

Query OK, 0 rows affected (0.007 sec)

 

Query OK, 0 rows affected (0.003 sec)

 

Query OK, 0 rows affected, 1 warning (0.996 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.010 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.006 sec)

 

Query OK, 0 rows affected (0.013 sec)

 

Query OK, 23 rows affected (1.543 sec)

Records: 23  Duplicates: 0  Warnings: 0

 

Query OK, 0 rows affected (0.017 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.013 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected, 1 warning (0.029 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected, 1 warning (0.218 sec)

 

Query OK, 0 rows affected (0.022 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.007 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.011 sec)

 

Query OK, 0 rows affected (0.014 sec)

 

Query OK, 685 rows affected (0.157 sec)

Records: 685  Duplicates: 0  Warnings: 0

 

Query OK, 0 rows affected (0.004 sec)

 

Query OK, 0 rows affected (0.006 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.022 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected, 1 warning (0.007 sec)

 

Query OK, 0 rows affected (0.002 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected, 1 warning (0.674 sec)

 

Query OK, 0 rows affected (0.007 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.007 sec)

 

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your OceanBase version for the right syntax to use near '--' at line 1

Query OK, 0 rows affected (0.008 sec)

 

Query OK, 0 rows affected (0.003 sec)

 

Query OK, 843 rows affected (1.353 sec)

Records: 843  Duplicates: 0  Warnings: 0

 

Query OK, 0 rows affected (0.015 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

ERROR 1193 (HY000): Unknown system variable 'sql_log_bin'

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

Query OK, 0 rows affected (0.023 sec)

 

Query OK, 0 rows affected (0.006 sec)

 

Query OK, 0 rows affected (0.011 sec)

 

Query OK, 0 rows affected (0.006 sec)

 

Query OK, 0 rows affected (0.010 sec)

 

Query OK, 0 rows affected (0.009 sec)

 

Query OK, 0 rows affected (0.014 sec)

 

obclient [test]> show tables;

+-----------------------+

| Tables_in_test        |

+-----------------------+

| pf_td_ext_data_dict   |

| pf_td_simple_triggers |

| pf_td_triggers        |

+-----------------------+

3 rows in set (0.017 sec)

 

obclient [test]> select count(1) from pf_td_ext_data_dict;

+----------+

| count(1) |

+----------+

|       23 |

+----------+

1 row in set (0.009 sec)

 

obclient [test]> select count(1) from pf_td_simple_triggers;

+----------+

| count(1) |

+----------+

|      685 |

+----------+

1 row in set (0.011 sec)

 

obclient [test]> select count(1) from pf_td_triggers;

+----------+

| count(1) |

+----------+

|      843 |

+----------+

1 row in set (0.019 sec)

有些兼容性的报错，数据全部导入完成。

3、部署DATAX软件

下载地址：http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz

解压软件：

tar -xvf  datax.tar.gz -C /tmp

生存配置样例：

python ./datax/bin/datax.py -r mysqlreader -w oceanbasev10writer > rds2ob1.json

 

修改rds2ob1.json文件

{

    "job": {

        "setting": {

            "speed": {

                 "channel":4

            },

                 "errorLimit": {

                         "record": 1

                 }

        },

        "content": [

            {

                "reader": {

                    "name": "mysqlreader",

                    "parameter": {

                        "username": "root",

                        "password": "123456",

                         "column": ["*"],

                        "connection": [

                            {

                                "jdbcUrl": [

                                          "jdbc:mysql://xxxx:3306/psd_schedule?useUnicode=true&characterEncoding=utf8&autoReconnect=true&serverTimezone=Asia/Shanghai"

                                  ],

                                  "table": ["pf_td_triggers"]

                            }

                        ]

                    }

                },

                 "writer": {

                    "name": "oceanbasev10writer",

                    "parameter": {

                        "writeMode": "replace",

                        "username": "root",

                        "password": "xxxx",

                         "column": ["*"],

                         "batchSize": 1024,

                        "connection": [

                            {

                                "jdbcUrl": "||_dsc_ob10_dsc_||obtest:test||_dsc_ob10_dsc_||jdbc:oceanbase://xxxx:2883/trade?useLocalSessionState=true&allowBatch=true&allowMultiQueries=true&rewriteBatchedStatements=true",

                                  "table": ["pf_td_triggers"]

                            }

                        ]

                    }

                }

            }

        ]

    }

}

标红部分obtest是集群名，test是租户名。trade是DB名字

执行离线同步运行 python ./datax/bin/datax.py rds2ob1.json 即可不落地文件，同步数据到OceanBase中。结果如下：

image.png

核实OCEANBASE test租户trade数据库中的数据是否同步：

[admin@ob ~]$ obclient  -h172.22.150.7 -P2883 -p -A -c -Dtest -uroot@test

Enter password:

Welcome to the OceanBase.  Commands end with ; or \g.

Your OceanBase connection id is 33

Server version: OceanBase 3.1.0 (r-) (Built May 30 2021 11:21:29)

 

Copyright (c) 2000, 2018, OceanBase and/or its affiliates. All rights reserved.

 

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

 

obclient [test]>

obclient [test]>

obclient [test]> show databases;

+--------------------+

| Database           |

+--------------------+

| oceanbase          |

| information_schema |

| mysql              |

| test               |

| trade              |

+--------------------+

5 rows in set (0.013 sec)

 

obclient [test]> use trade;

Database changed

obclient [trade]> show tables;

+-----------------+

| Tables_in_trade |

+-----------------+

| emp             |

| pf_td_triggers  |

+-----------------+

2 rows in set (0.012 sec)

 

obclient [trade]> select count(1) from pf_td_triggers;

+----------+

| count(1) |

+----------+

|      843 |

+----------+

1 row in set (0.026 sec)

 

文章标签：
云数据库 RDS MySQL 版
数据集成 Data Integration
OceanBase
SQL
关系型数据库
MySQL
数据库
关键词：
云数据库 RDS MySQL 版集群
迁移云数据库 RDS MySQL 版
云数据库 RDS MySQL 版数据
云数据库 RDS MySQL 版迁移
云数据库OceanBase mysql
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发，帮助IT从业者们通过“阿里云Web应用上云解决方案”，了解一个企业级Web应用上云的常见架构，了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品：云数据库RDS MySQL 版 阿里云关系型数据库RDS（Relational Database Service）是一种稳定可靠、可弹性伸缩的在线数据库服务，提供容灾、备份、恢复、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
暗武逢天
目录
相关文章
翼龙云TG_yilongcloud
|
3月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程，需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS，可快速、平滑完成迁移任务，将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例，实现间接迁移上云。
翼龙云TG_yilongcloud
133 1
游客7wkr3y7oxyt7a
|
4月前
|
存储 运维 关系型数据库
从MySQL到云数据库，数据库迁移真的有必要吗？
本文探讨了企业在业务增长背景下，是否应从 MySQL 迁移至云数据库的决策问题。分析了 MySQL 的优势与瓶颈，对比了云数据库在存储计算分离、自动化运维、多负载支持等方面的优势，并提出判断迁移必要性的五个关键问题及实施路径，帮助企业理性决策并落地迁移方案。
游客7wkr3y7oxyt7a
165 0
大数据文摘
|
6月前
|
人工智能 运维 关系型数据库
数据库运维：mysql 数据库迁移方法-mysqldump
本文介绍了MySQL数据库迁移的方法与技巧，重点探讨了数据量大小对迁移方式的影响。对于10GB以下的小型数据库，推荐使用mysqldump进行逻辑导出和source导入；10GB以上可考虑mydumper与myloader工具；100GB以上则建议物理迁移。文中还提供了统计数据库及表空间大小的SQL语句，并讲解了如何使用mysqldump导出存储过程、函数和数据结构。通过结合实际应用场景选择合适的工具与方法，可实现高效的数据迁移。
大数据文摘
1111 1
互联网课堂
|
6月前
|
关系型数据库 MySQL 数据库
MySQL数据库上云迁移
本文介绍了将数据库迁移到RDS for Mysql的两种主要方法：停服迁移和不停服迁移。停服迁移适合可短暂中断服务的场景，通过mysqldump或DTS完成；不停服迁移适用于需保持业务连续性的场景，推荐使用DTS实现结构、全量及增量数据迁移。文中详细列出了每种方法的具体操作步骤，帮助企业根据需求选择合适的迁移方案。
互联网课堂
243 1
MySQL数据库上云迁移
蓝易云
|
9月前
|
Ubuntu 关系型数据库 MySQL
容器技术实践：在Ubuntu上使用Docker安装MySQL的步骤。
通过以上的操作，你已经步入了Docker和MySQL的世界，享受了容器技术给你带来的便利。这个旅程中你可能会遇到各种挑战，但是只要你沿着我们划定的路线行进，你就一定可以达到目的地。这就是Ubuntu、Docker和MySQL的灵魂所在，它们为你开辟了一条通往新探索的道路，带你亲身感受到了技术的力量。欢迎在Ubuntu的广阔大海中探索，用Docker技术引领你的航行，随时准备感受新技术带来的震撼和乐趣。
蓝易云
387 16
游客kufrkwrbkmpsa
|
9月前
|
存储 SQL 关系型数据库
【YashanDB知识库】MySQL迁移至崖山char类型数据自动补空格问题
**简介**：在MySQL迁移到崖山环境时，若字段类型为char(2)，而应用存储的数据仅为'0'或'1'，查询时崖山会自动补空格。原因是mysql的sql_mode可能启用了PAD_CHAR_TO_FULL_LENGTH模式，导致保留CHAR类型尾随空格。解决方法是与应用确认数据需求，可将崖山环境中的char类型改为varchar类型以规避补空格问题，适用于所有版本。
游客kufrkwrbkmpsa
218 17
游客pb5c4iyea3ani
|
9月前
|
安全 关系型数据库 MySQL
【YashanDB知识库】YMP从mysql迁移到崖山，报错：服务器错误
【YashanDB知识库】YMP从mysql迁移到崖山，报错：服务器错误
游客pb5c4iyea3ani
135 6
游客kufrkwrbkmpsa
|
9月前
|
关系型数据库 MySQL Java
【YashanDB知识库】Kettle迁移MySQL到YashanDB
本文介绍了使用Kettle将MySQL数据库中的中文数据迁移到YashanDB的方法，解决因YMP不支持Latin1字符集导致的乱码问题。提供了Windows和Linux两种环境下的操作步骤，包括配置JAVA环境、解压作业包、设置数据库连接（MySQLInput与YashanOutput）、修改表列表配置文件及运行迁移任务。Windows环境支持图形界面便于调试，Linux环境网络性能更优。通过详细的操作指南，确保数据迁移成功并可重试无冲突。
游客kufrkwrbkmpsa
187 3
游客kufrkwrbkmpsa
|
9月前
|
SQL 关系型数据库 MySQL
【YashanDB知识库】字符集latin1的MySQL中文数据如何迁移到YashanDB
本文探讨了在使用YMP 23.2.1.3迁移MySQL Server字符集为latin1的中文数据至YashanDB时出现乱码的问题。问题根源在于MySQL latin1字符集存放的是实际utf8编码的数据，而YMP尚未支持此类场景。文章提供了两种解决方法：一是通过DBeaver直接迁移表数据；二是将MySQL表数据转换为Insert语句后手动插入YashanDB。同时指出，这两种方法适合单张表迁移，多表迁移可能存在兼容性问题，建议对问题表单独处理。
游客kufrkwrbkmpsa
178 0
【YashanDB知识库】字符集latin1的MySQL中文数据如何迁移到YashanDB
游客kufrkwrbkmpsa
|
9月前
|
安全 关系型数据库 MySQL
【YashanDB知识库】YMP从mysql迁移到崖山，报错：服务器错误
【YashanDB知识库】YMP从mysql迁移到崖山，报错：服务器错误
游客kufrkwrbkmpsa
128 0
【YashanDB知识库】YMP从mysql迁移到崖山，报错：服务器错误

热门文章

最新文章

  • 1
    厉害了，蚂蚁金服！创造了中国自己的数据库OceanBase
  • 2
    蚂蚁金服自研数据库OceanBase如何登顶TPC-C
  • 3
    蚂蚁金服OceanBase挑战TPCC | 测试流程解析
  • 4
    你必须要了解的国产数据库——OceanBase
  • 5
    OceanBase数据库 与 mysql 对比
  • 6
    OceanBase时序数据库CeresDB正式商用 为用户提供安全可靠的数据存储管理服务
  • 7
    OceanBase 4.0解读：从TPC-H性能测评看4.0与3.x差异
  • 8
    OceanBase 数据库源码解读之模块结构
  • 9
    校招季|OceanBase主架构师杨传辉：数据库行业即将进入井喷期，现在加入恰逢其时
  • 10
    OceanBase数据库常见问题之spring boot应用增加了flyway的依赖但没执行如何解决
  • 1
    Python 操作 MySQL 数据库
    238
  • 2
    MySQL in 太慢的 3 种优化方案
    2650
  • 3
    MySQL函数
    148
  • 4
    AnalyticDB MySQL新购页面融合升级，提供企业版购买选项
    534
  • 5
    Mysql 数据库基本操作
    159
  • 6
    POLARDB：新零售用户MySQL上云最佳选择
    578
  • 7
    MySQL (索引 & 事务)
    157
  • 8
    MySQL索引
    102
  • 9
    MySQL事务
    110
  • 10
    MySQL表的进阶知识（下）
    144

    • 相关课程

    更多
  • 云数据库MySQL版快速上手教程
  • 阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
  • MySQL实战进阶
  • 阿里云数据库产品家族及特性
  • 数据库及SQL/MySQL基础
  • 云数据库MySQL快速入门

    • 相关电子书

    更多
  • 开源HTAP OceanBase产品揭秘
  • 云数据库OceanBase 架构演进及在金融核心系统中的实践
  • 自研金融数据库OceanBase的创新之路

    • 推荐镜像

    更多
  • mysql
  • oceanbase
    • 下一篇
    「直播预告」Streaming Lakehouse Meetup EP.2｜Paimon × StarRocks 共话实时湖仓