使用 DTS 迁移 MySQL 数据-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文

使用 DTS 迁移 MySQL 数据

2017-10-18 11:27:01 1898 0

使用数据传输服务(DTS)将本地数据库迁移到 RDS for MySQL,可以实现应用不停服务的情况下,平滑完成数据库的迁移工作。

背景信息


DTS 数据迁移支持 MySQL 的结构迁移、全量迁移和增量迁移。

  • 结构迁移
    DTS 会将本地数据库的结构定义迁移到目标实例。目前 DTS 支持结构迁移的对象有:表、视图、触发器、存储过程、存储函数。

  • 全量迁移
    DTS 会将本地数据库迁移对象的数据全部迁移到目标实例。如果用户还选择了增量迁移,那么全量迁移过程中,为了保证数据一致性,无主键的非事务表会被锁定,锁定期间这些表无法写入,锁定时长依赖于这些表的数据量大小,在这些无主键非事务表迁移完成后,锁才会释放。

  • 增量迁移
    增量迁移会将迁移过程进行数据变更同步到目标实例,如果迁移期间进行了 DDL 操作,那么这些结构变更不会迁移到目标实例。


迁移限制


将本地数据库迁移到 RDS 上有以下限制。
  • 迁移过程中,不支持 DDL 操作
  • 结构迁移不支持 event 的迁移
  • 如果使用了对象名映射功能后,依赖这个对象的其他对象可能迁移失败
  • 当选择增量迁移时,本地 MySQL 实例需要开启 binlog,且本地库的 binlog_format 要为 row。如果本地 MySQL 为5.6版本时,它的 binlog_row_image 还须设置为 full


前提条件


已完成 RDS 实例数据库的准备,可参见 设置连接模式创建数据库和账号

操作步骤


本例以有公网 IP 的本地数据库迁移到 RDS 上为例。

准备本地数据


在正式迁移之前,需要先在本地数据库和 RDS 实例中创建迁移账号,并在 RDS 实例中创建要迁移的数据库,并将要迁移的数据库的读写权限授权给迁移账号。不同的迁移类型需要不同的权限,如下表所示。[tr=rgb(255, 255, 255)]迁移类型结构迁移全量迁移增量迁移[tr=rgb(255, 255, 255)]本地数据库selectselectselectreplication slavereplication client[tr=rgb(255, 255, 255)]RDS 实例读写权限读写权限读写权限

  1. 在本地数据库中创建迁移账号。[backcolor=transparent]CREATE USER [backcolor=transparent]'username'[backcolor=transparent]@[backcolor=transparent]'host'[backcolor=transparent] IDENTIFIED BY [backcolor=transparent]'password'[backcolor=transparent];

参数说明:
  • username:要创建的账号
  • host:指定该账号登录数据库的主机。如果是本地用户可以使用 localhost,如果想让该用户从任意主机登录,可以使用通配符 %
  • password:该账号的登录密码

例:要创建账号为 William,密码为 Changme123 的账号从任意主机登录本地数据库,命令如下:
  1. [backcolor=transparent]CREATE USER [backcolor=transparent]'William'[backcolor=transparent]@[backcolor=transparent]'%'[backcolor=transparent] IDENTIFIED BY [backcolor=transparent]'Changme123'[backcolor=transparent];

在本地数据库中给迁移账号授权,本地数据库中迁移账号的权限要求请参见上表。
  1. [backcolor=transparent]GRANT privileges ON databasename[backcolor=transparent].[backcolor=transparent]tablename TO [backcolor=transparent]'username'[backcolor=transparent]@[backcolor=transparent]'host'[backcolor=transparent] WITH GRANT OPTION[backcolor=transparent];

参数说明:
  • privileges:该账号的操作权限,如 SELECT、INSERT、UPDATE 等。如果要授权该账号所有权限,则使用 ALL
  • databasename:数据库名。如果要授权该账号所有的数据库权限,则使用通配符 *
  • tablename:表名。如果要授权该账号所有的表权限,则使用通配符 *
  • username:要授权的账号名
  • host:授权登录数据库的主机名。如果是本地用户可以使用 localhost,如果想让该用户从任意主机登录,可以使用通配符 %
  • WITH GRANT OPTION:授权该账号能使用GRANT命令,该参数为可选

例:授权账号 William 对所有数据库和表的所有权限,并可以从任意主机登录本地数据库,命令如下:
  1. [backcolor=transparent]GRANT ALL ON [backcolor=transparent]*.*[backcolor=transparent] TO [backcolor=transparent]'William'[backcolor=transparent]@[backcolor=transparent]'%'[backcolor=transparent];

说明: 如果需要进行增量迁移,那么需要确认本地数据库的 binlog 是否开启并正确设置,执行以下步骤。
开启本地数据库的 binlog。
使用如下命令查询是否开启了binlog。
  1. [backcolor=transparent]show [backcolor=transparent]global[backcolor=transparent] variables like [backcolor=transparent]"log_bin"[backcolor=transparent];

如果查询结果为 log_bin=OFF,那么本地数据库没有开启 binlog。为了使迁移过程中产生的增量数据能同步迁移,需要修改配置文件 my.cnf 中的如下参数。
  1. [backcolor=transparent]log_bin[backcolor=transparent]=[backcolor=transparent]mysql_bin
  2. [backcolor=transparent]binlog_format[backcolor=transparent]=[backcolor=transparent]row
  3. [backcolor=transparent]server_id[backcolor=transparent]=大于[backcolor=transparent] [backcolor=transparent]1[backcolor=transparent] [backcolor=transparent]的整数
  4. [backcolor=transparent]binlog_row_image[backcolor=transparent]=[backcolor=transparent]full [backcolor=transparent]//当本地 MySQL 版本大于 5.6 时,则需设置该项
修改完成后,重启 MySQL 进程。
  1. [backcolor=transparent]$mysql_dir[backcolor=transparent]/[backcolor=transparent]bin[backcolor=transparent]/[backcolor=transparent]mysqladmin [backcolor=transparent]-[backcolor=transparent]u root [backcolor=transparent]-[backcolor=transparent]p shutdown
  2. [backcolor=transparent]$mysql_dir[backcolor=transparent]/[backcolor=transparent]bin[backcolor=transparent]/[backcolor=transparent]safe_mysqld [backcolor=transparent]&
其中,“mysql_dir”为MySQL安装目录。

正式迁移操作


数据准备完毕后,即可进入正式的迁移操作。

  1. RDS 管理控制台 上单击 迁移数据库,进入 DTS,如下图所示。

  2. 单击 创建在线迁移任务,进入 创建迁移任务 页面,如下图所示。

  3. 输入任务名称、本地数据库信息和目标数据库信息,单击 授权白名单并进入下一步,如下图所示。
    • 任务名称:自定义任务名称,可以保持默认值
    • 源库信息实例类型:本地数据库的实例类型,可以选择 有公网IP的自建数据库ECS上的自建数据库RDS实例云数据库MongoDB
    • 数据库类型:本地数据库的类型,可以选择 OracleMySQLSQLServerPostgreSQLMongoDB
    • 主机名或 IP 地址:本地数据库的公网地址
    • 端口:本地数据库的公网端口
    • 账号:本地数据库的迁移账号
    • 密码:本地数据库迁移账号对应的密码
  • 目标库信息
    • 实例类型:默认为 RDS 实例
    • RDS 实例 ID:目标 RDS 实例的 ID。点击下拉菜单将自动联想当前登录 RDS 管理控制台 的账号的 RDS 实例,点击选择所需要的实例
    • 账号:目标 RDS 数据库的迁移账号
    • 密码:目标 RDS 数据库迁移账号对应的密码

  • 择迁移类型,并在 迁移对象 中选择要迁移的对象,单击 > 将要迁移的对象放入 已选择 中,单击 预检查并启动,如下图所示。
    注意:数据迁移只会将本地数据库的数据(结构)复制一份到目标数据库,并不会对本地数据库数据(结构)造成影响。

    如果要修改迁移对象在目标数据库上的名字,可以在 已选择 列表右侧单击 编辑,修改已选择的对象名称,如上图4所示。
    说明: 以下以预检查不通过为例进行描述,如果预检查通过,请直接参见步骤 8。

  • 系统显示预检查结果,如下图所示。

  • 单击 检测结果失败 的检测项后的 !,查看失败详细信息,根据失败详细信息完成错误排查。

  • 错误排查完毕后,在 迁移任务列表 页面,选择当前迁移任务,单击 启动,如下图所示。

  • 系统预检查通过后,单击 确定,自动进行迁移任务,如下图所示。


  • 后续操作


    因迁移账号拥有读写权限,为了保证本地数据库安全,请在数据迁移完成后,删除本地数据库和 RDS 实例中的迁移账号。




    本文导读目录
    取消 提交回答
    全部回答(0)
    相关问答

    17

    回答

    【大咖问答】对话PostgreSQL 中国社区发起人之一,阿里云数据库高级专家 德哥

    阿里ACE 彭飞 2019-07-10 09:36:10 1038142浏览量 回答数 17

    145

    回答

    【新手入门】云服务器linux使用手册

    fanyue88888 2012-11-26 17:14:18 157684浏览量 回答数 145

    8

    回答

    OceanBase 使用动画(持续更新)

    mq4096 2019-02-20 17:16:36 336999浏览量 回答数 8

    110

    回答

    OSS存储服务-客户端工具

    newegg11 2012-05-17 15:37:18 295539浏览量 回答数 110

    33

    回答

    Win Server 2003-2016 加密勒索事件必打补丁合集

    妙正灰 2017-05-15 10:44:38 280379浏览量 回答数 33

    38

    回答

    安全组详解,新手必看教程

    我的中国 2017-11-30 15:23:46 259827浏览量 回答数 38

    21

    回答

    请教一下数据量有100万条左右要什么配置?

    易网网络 2013-03-27 15:18:02 192637浏览量 回答数 21

    1

    回答

    foxmail 关联企业邮箱提示邮箱地址或者密码错误

    2017-12-30 21:50:39 151099浏览量 回答数 1

    249

    回答

    阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本

    云代维 2014-02-14 15:26:06 305624浏览量 回答数 249

    2

    回答

    区域选择帮助

    fanyue88888 2012-12-07 15:54:30 204384浏览量 回答数 2
    +关注
    云栖大讲堂
    擅长前端领域,欢迎各位热爱前端的朋友加入我们( 钉钉群号:23351485)关注【前端那些事儿】云栖号,更多好文持续更新中!
    3918
    文章
    1754
    问答
    问答排行榜
    最热
    最新
    相关电子书
    更多
    《2021云上架构与运维峰会演讲合集》
    立即下载
    《零基础CSS入门教程》
    立即下载
    《零基础HTML入门教程》
    立即下载