使用Xtrabackup进行MySQL备份

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
日志服务 SLS,月写入数据量 50GB 1个月
简介:

一、介绍与安装

1、简介
Xtrabackup是由percona提供的mysql数据库备份工具,据官方介绍,这也是世界上惟一一款开源的能够对innodb和xtradb数据库进行热备的工具。特点:
(1)备份过程快速、可靠;
(2)备份过程不会打断正在执行的事务;
(3)能够基于压缩等功能节约磁盘空间和流量;
(4)自动实现备份检验;
(5)还原速度快;
2、安装

1
2
3
4
5
1、yum  依赖包  解决相关依赖
yum  install  perl-DBI  perl-DBD-MySQL perl-Time-HiRes perl-IO-Socket-SSL  -y
  
wget  https: //www .percona.com /downloads/XtraBackup/Percona-XtraBackup-2 .2.13 /binary/redhat/6/x86_64/percona-xtrabackup-22-2 .2.13-1.el6.x86_64.rpm
rpm  -ivh  percona-xtrabackup-22-2.2.13-1.el6.x86_64.rpm

3、数据备份目录

1
mkdir   -p  /data/dbbak

二、备份的实现

1、完全备份

1
# innobackupex --user=DBUSER --password=DBUSERPASS  /data/dbbak

如果要使用一个最小权限的用户进行备份,则可基于如下命令创建此类用户:

1
2
3
4
mysql>  CREATE  USER  ’bkpuser’@’localhost’ IDENTIFIED  BY  ’s3cret’;
  mysql>  REVOKE  ALL  PRIVILEGES GRANT  OPTION  FROM  ’bkpuser’;
  mysql>  GRANT  RELOAD, LOCK TABLES, REPLICATION CLIENT  ON  *.*  TO  ’bkpuser’@’localhost’;
  mysql> FLUSH  PRIVILEGES ;

使用innobakupex备份时,其会调用xtrabackup备份所有的InnoDB表,复制所有关于表结构定义的相关文件(.frm)、以及MyISAM、MERGE、CSV和ARCHIVE表的相关文件,同时还会备份触发器和数据库配置信息相关的文件。这些文件会被保存至一个以时间命令的目录中。
在备份的同时,innobackupex还会在备份目录中创建如下文件:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
-rw-r ----- 1 root root       418 5月  24 15:22 backup-my.cnf
-rw-r ----- 1 root root        61 5月  24 15:22 db.opt
drwxr-x --- 2 root root      4096 5月  24 15:22 Docker
-rw-r ----- 1 root root 213909504 5月  24 15:26 ibdata1
-rw-r ----- 1 root root  50331648 5月  24 15:26 ib_logfile0
-rw-r ----- 1 root root  50331648 5月  24 15:26 ib_logfile1
-rw-r ----- 1 root root  12582912 5月  24 15:26 ibtmp1
drwxr-x --- 2 root root      4096 5月  24 15:22 mysql
drwxr-x --- 2 root root      4096 5月  24 15:22 performance_schema
drwxr-x --- 2 root root      4096 5月  24 15:22 test
drwxr-x --- 2 root root      4096 5月  24 15:22 winner5
drwxr-x --- 2 root root      4096 5月  24 15:22 winnerlook
drwxr-x --- 2 root root      4096 5月  24 15:22 winner_mas
drwxr-x --- 2 root root      4096 5月  24 15:22 winner_mms
drwxr-x --- 2 root root     45056 5月  24 15:22 winnersend
drwxr-x --- 2 root root      4096 5月  24 15:22 winnertest
-rw-r ----- 1 root root       121 5月  24 15:26 xtrabackup_checkpoints
-rw-r ----- 1 root root       453 5月  24 15:22 xtrabackup_info
-rw-r ----- 1 root root   8388608 5月  24 15:26 xtrabackup_logfile

(1)xtrabackup_checkpoints —— 备份类型(如完全或增量)、备份状态(如是否已经为prepared状态)和LSN(日志序列号)范围信息;
每个InnoDB页(通常为16k大小)都会包含一个日志序列号,即LSN。LSN是整个数据库系统的系统版本号,每个页面相关的LSN能够表明此页面最近是如何发生改变的。
(2)xtrabackup_binlog_info —— mysql服务器当前正在使用的二进制日志文件及至备份这一刻为止二进制日志事件的位置。
(3)xtrabackup_binlog_pos_innodb —— 二进制日志文件及用于InnoDB或XtraDB表的二进制日志文件的当前position。
(4)xtrabackup_binary —— 备份中用到的xtrabackup的可执行文件;
(5)backup-my.cnf —— 备份命令用到的配置选项信息;
在使用innobackupex进行备份时,还可以使用--no-timestamp选项来阻止命令自动创建一个以时间命名的目录;如此一来,innobackupex命令将会创建一个BACKUP-DIR目录来存储备份数据。

2、准备(prepare)一个完全备份
一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能会包含尚未提交的事务已经提交但尚未同步至数据文件中的事务。因此,此时数据文件仍处理不一致状态。“准备”的主要作用正是通过回滚未提交的事务及同步已经提交的事务至数据文件也使得数据文件处于一致性状态
innobakupex命令的--apply-log选项可用于实现上述功能。如下面的命令:

1
  #innobackupex --defaults-file=/etc/my.cnf --apply-log  /data/dbbak/2017-05-24_15-21-16/

如果执行正确,其最后输出的几行信息通常如下:

1
2
3
4
5
6
7
InnoDB: 32 non-redo rollback segment(s) are active.
InnoDB: 5.7.13 started; log sequence number 30009883114
xtrabackup: starting  shutdown  with innodb_fast_shutdown = 1
InnoDB: FTS optimize thread exiting.
InnoDB: Starting  shutdown ...
InnoDB: Shutdown completed; log sequence number 30009884745
170524 15:55:59 completed OK!

     在实现“准备”的过程中,innobackupex通常还可以使用--use-memory选项来指定其可以使用的内存的大小,默认通常为100M。如果有足够的内存可用,可以多划分一些内存给prepare的过程,以提高其完成速度。

3、从一个完全备份中恢复数据
innobackupex命令的--copy-back选项用于执行恢复操作,其通过复制所有数据相关的文件至mysql服务器DATADIR目录中来执行恢复过程。innobackupex通过backup-my.cnf来获取DATADIR目录的相关信息。

1
# innobackupex --copy-back    /data/dbbak/2017-05-24_15-21-16/

 如果执行正确,其输出信息的最后几行通常如下:

1
2
3
4
5
6
innobackupex: Starting to copy InnoDB log files
  innobackupex:  in  '/backup/2012-04-07_08-17-03'
  innobackupex: back to original InnoDB log directory  '/mydata/data'
  innobackupex: Finished copying back files.
  120407 09:36:10  innobackupex: completed OK!
  请确保如上信息的最行一行出现“innobackupex: completed OK!”。

此处一个报错:

1
2
3
4
5
6
7
8
9
10
innobackupex --defaults- file = /etc/my .cnf --copy-back   /data/dbbak/2017-05-24_15-21-16/
 
170524 15:37:58 innobackupex: Starting the copy-back operation
 
IMPORTANT: Please check that the copy-back run completes successfully.
            At the end of a successful copy-back run innobackupex
            prints  "completed OK!" .
 
innobackupex version 2.4.7 based on MySQL server 5.7.13 Linux (x86_64) (revision  id : 6f7a799)
Error: datadir must be specified.

错误信息:datadir must be specified 需要指定相关的数据目录,经过检查/etc/my.cnf 没有找到datadir 配置

处理:修改/etc/my.cnf  添加数据目录配置信息 不需要重启  这里只是找不到数据目录

1
2
[mysqld]
datadir= /var/lib/mysql

此时还要求相关的数据目录是一个空的目录

当数据恢复至DATADIR目录以后,还需要确保所有数据文件的属主和属组均为正确的用户,如mysql,否则,在启动mysqld之前还需要事先修改数据文件的属主和属组。如:

1
#chown -R  mysql:mysql  /var/lib/mysql/*

三、使用innobackupex进行增量备份
  每个InnoDB的页面都会包含一个LSN信息,每当相关的数据发生改变,相关的页面的LSN就会自动增长。这正是InnoDB表可以进行增量备份的基础,即innobackupex通过备份上次完全备份之后发生改变的页面来实现。
要实现第一次增量备份,可以使用下面的命令进行:

1
innobackupex -u root -p123123   --incremental-basedir= /data/dbbak/2017-05-24_17-44-10/  --incremental  /data/dbbak/

几次备份文件

1
2
3
4
5
6
7
8
[root@localhost dbbak] # ll
总用量 24
drwxr-x---  2 root root 4096 5月  24 15:19 2017-05-24_15-19-23
drwxr-x---  2 root root 4096 5月  24 15:19 2017-05-24_15-19-48
drwxr-x---  2 root root 4096 5月  24 15:20 2017-05-24_15-20-14
drwxr-x--- 13 root root 4096 5月  24 15:55 2017-05-24_15-21-16
drwxr-x--- 14 root root 4096 5月  24 17:45 2017-05-24_17-44-10  #全备
drwxr-x--- 14 root root 4096 5月  24 17:53 2017-05-24_17-51-44  #增量备份

增量备份记录文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
[root@localhost dbbak] # cat  2017-05-24_17-44-10/xtrabackup_checkpoints 
backup_type = full-backuped
from_lsn = 0               #全备为0
to_lsn = 30012130251
last_lsn = 30012130251
compact = 0
recover_binlog_info = 0
 
[root@localhost dbbak] # cat  2017-05-24_17-51-44/xtrabackup_checkpoints 
backup_type = incremental
from_lsn = 30012130251                  #增量
to_lsn = 30045615597
last_lsn = 30045615597
compact = 0
recover_binlog_info = 0

其中,-basedir指的是完全备份所在的目录,此命令执行结束后,innobackupex命令会在/backup目录中创建一个新的以时间命名的目录以存放所有的增量备份数据。另外,在执行过增量备份之后再一次进行增量备份时,其--incremental-basedir应该指向上一次的增量备份所在的目录。
需要注意的是,增量备份仅能应用于InnoDB或XtraDB表,对于MyISAM表而言,执行增量备份时其实进行的是完全备份。

“准备”(prepare)增量备份与整理完全备份有着一些不同,尤其要注意的是:
(1)需要在每个备份(包括完全和各个增量备份)上,将已经提交的事务进行“重放”。“重放”之后,所有的备份数据将合并到完全备份上。
(2)基于所有的备份将未提交的事务进行“回滚”。
于是,操作就变成了:

1
2
3
4
5
6
7
8
# innobackupex --apply-log --redo-only BASE-DIR  #BASE-DIR 完全备份路径
  innobackupex --defaults- file = /etc/my .cnf --user=root --apply-log --redo-only   /data/dbbak/2017-05-24_17-44-10/
 
xtrabackup: starting  shutdown  with innodb_fast_shutdown = 1
InnoDB: Starting  shutdown ...
InnoDB: Shutdown completed; log sequence number 30012130260
InnoDB: Number of pools: 1
170524 18:00:27 completed OK!

接着执行:

1
2
3
# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-1
 
innobackupex --defaults- file = /etc/my .cnf --user=root --apply-log --redo-only  /data/backup/2017-05-24_20-10-51/  --incremental- dir = /data/backup/2017-05-24_20-17-18/

而后是第二个增量:

1
# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-2

其中BASE-DIR指的是完全备份所在的目录,而INCREMENTAL-DIR-1指的是第一次增量备份的目录,INCREMENTAL-DIR-2指的是第二次增量备份的目录,其它依次类推,即如果有多次增量备份,每一次都要执行如上操作;

步骤:

1
2
3
4
5
6
7
8
9
10
11
12
13
全量备份
innobackupex   -uroot -p123123   /data/dbbak/  
#数据目录/data/dbbak/2017-05-24_20-39-05/
增量备份
innobackupex -u root -p123123   --incremental-basedir= /data/dbbak/2017-05-24_20-39-05/  --incremental  /data/dbbak/
#备份目录 /data/dbbak/2017-05-24_20-48-05/
第n次备份(未测试)
准备恢复
  innobackupex --defaults- file = /etc/my .cnf --user=root --apply-log --redo-only  /data/dbbak/2017-05-24_20-39-05/    #全量
  innobackupex --defaults- file = /etc/my .cnf --user=root --apply-log --redo-only  /data/dbbak/2017-05-24_20-39-05/    --incremental- dir = /data/dbbak/2017-05-24_20-48-05/  #增量
恢复(清空原有的数据目录)
  innobackupex   --copy-back   /data/dbbak/2017-05-24_20-39-05/
重启


四、Xtrabackup的“流”及“备份压缩”功能

Xtrabackup对备份的数据文件支持“流”功能,即可以将备份的数据通过STDOUT传输给tar程序进行归档,而不是默认的直接保存至某备份目录中。要使用此功能,仅需要使用--stream选项即可。如:

# innobackupex --stream=tar  /backup | gzip > /backup/`date +%F_%H-%M-%S`.tar.gz

甚至也可以使用类似如下命令将数据备份至其它服务器:
# innobackupex --stream=tar  /backup | ssh   "cat -  > /backups/`date +%F_%H-%M-%S`.tar" 

此外,在执行本地备份时,还可以使用--parallel选项对多个文件进行并行复制。此选项用于指定在复制时启动的线程数目。当然,在实际进行备份时要利用此功能的便利性,也需要启用innodb_file_per_table选项或共享的表空间通过innodb_data_file_path选项存储在多个ibdata文件中。对某一数据库的多个文件的复制无法利用到此功能。其简单使用方法如下:
# innobackupex --parallel  /path/to/backup

同时,innobackupex备份的数据文件也可以存储至远程主机,这可以使用--remote-host选项来实现:
# innobackupex --remote-host=root@ww agedu.com /path/IN/REMOTE/HOST/to/backup  


五、导入或导出单张表

默认情况下,InnoDB表不能通过直接复制表文件的方式在mysql服务器之间进行移植,即便使用了innodb_file_per_table选项。而使用Xtrabackup工具可以实现此种功能,不过,此时需要“导出”表的mysql服务器启用了innodb_file_per_table选项(严格来说,是要“导出”的表在其创建之前,mysql服务器就启用了innodb_file_per_table选项),并且“导入”表的服务器同时启用了innodb_file_per_table和innodb_expand_import选项。
(1)“导出”表
导出表是在备份的prepare阶段进行的,因此,一旦完全备份完成,就可以在preparef过程中通过--export选项将某表导出了:
# innobackupex --apply-log --export /path/to/backup

此命令会为每个innodb表的表空间创建一个以.exp结尾的文件,这些以.exp结尾的文件则可以用于导入至其它服务器。

(2)“导入”表
要在mysql服务器上导入来自于其它服务器的某innodb表,需要先在当前服务器上创建一个跟原表表结构一致的表,而后才能实现将表导入:
mysql> CREATE TABLE mytable (...)  ENGINE=InnoDB;

然后将此表的表空间删除:
mysql> ALTER TABLE mydatabase.mytable  DISCARD TABLESPACE;

接下来,将来自于“导出”表的服务器的mytable表的mytable.ibd和mytable.exp文件复制到当前服务器的数据目录,然后使用如下命令将其“导入”:
mysql> ALTER TABLE mydatabase.mytable  IMPORT TABLESPACE;

六、使用Xtrabackup对数据库进行部分备份
Xtrabackup也可以实现部分备份,即只备份某个或某些指定的数据库或某数据库中的某个或某些表。但要使用此功能,必须启用innodb_file_per_table选项,即每张表保存为一个独立的文件。同时,其也不支持--stream选项,即不支持将数据通过管道传输给其它程序进行处理。

此外,还原部分备份跟还原全部数据的备份也有所不同,即你不能通过简单地将prepared的部分备份使用--copy-back选项直接复制回数据目录,而是要通过导入表的方向来实现还原。当然,有些情况下,部分备份也可以直接通过--copy-back进行还原,但这种方式还原而来的数据多数会产生数据不一致的问题,因此,无论如何不推荐使用这种方式。

(1)创建部分备份
创建部分备份的方式有三种:正则表达式(--include), 枚举表文件(--tables-file)和列出要备份的数据库(--databases)。
(a)使用--include
使用--include时,要求为其指定要备份的表的完整名称,即形如databasename.tablename,如:
# innobackupex --include='^mageedu[.]tb1'  /path/to/backup
(b)使用--tables-file
此选项的参数需要是一个文件名,此文件中每行包含一个要备份的表的完整名称;如:
# echo -e 'mageedu.tb1\nmageedu.tb2' > /tmp/tables.txt
# innobackupex --tables-file=/tmp/tables.txt  /path/to/backup

(c)使用--databases
此选项接受的参数为数据名,如果要指定多个数据库,彼此间需要以空格隔开;同时,在指定某数据库时,也可以只指定其中的某张表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。如:
# innobackupex --databases='mageedu.tb1 testdb"  /path/to/backup

(2)整理(preparing)部分备份

prepare部分备份的过程类似于导出表的过程,要使用--export选项进行:
# innobackupex --apply-log --export  /pat/to/partial/backup

此命令执行过程中,innobackupex会调用xtrabackup命令从数据字典中移除缺失的表,因此,会显示出许多关于“表不存在”类的警告信息。同时,也会显示出为备份文件中存在的表创建.exp文件的相关信息。

(3)还原部分备份
还原部分备份的过程跟导入表的过程相同。当然,也可以通过直接复制prepared状态的备份直接至数据目录中实现还原,不要此时要求数据目录处于一致状态。




本文转自 tianya1993 51CTO博客,原文链接:http://blog.51cto.com/dreamlinux/1898613,如需转载请自行联系原作者
相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
2月前
|
存储 关系型数据库 MySQL
mysql数据库备份与恢复
MySQL数据库的备份与恢复是确保数据安全性和业务连续性的关键操作。
77 4
|
12天前
|
关系型数据库 MySQL Linux
Linux环境下MySQL数据库自动定时备份实践
数据库备份是确保数据安全的重要措施。在Linux环境下,实现MySQL数据库的自动定时备份可以通过多种方式完成。本文将介绍如何使用`cron`定时任务和`mysqldump`工具来实现MySQL数据库的每日自动备份。
31 3
|
12天前
|
监控 关系型数据库 MySQL
Linux环境下MySQL数据库自动定时备份策略
在Linux环境下,MySQL数据库的自动定时备份是确保数据安全和可靠性的重要措施。通过设置定时任务,我们可以每天自动执行数据库备份,从而减少人为错误和提高数据恢复的效率。本文将详细介绍如何在Linux下实现MySQL数据库的自动定时备份。
26 3
|
1月前
|
安全 关系型数据库 MySQL
MySQL用户备份
【10月更文挑战第2天】MySQL用户备份
54 3
|
1月前
|
存储 关系型数据库 MySQL
MySQL如何备份?
【10月更文挑战第2天】MySQL如何备份?
101 3
|
3月前
|
SQL 关系型数据库 MySQL
在Linux中,如何备份和恢复MySQL数据库?
在Linux中,如何备份和恢复MySQL数据库?
|
3月前
|
存储 关系型数据库 MySQL
MySQL备份与恢复
MySQL备份与恢复
59 0
|
3月前
|
关系型数据库 MySQL Shell
分享一篇mysql数据库备份脚本
分享一篇mysql数据库备份脚本
33 0
|
3月前
|
关系型数据库 MySQL 机器人
【MySQL】两个脚本自动化搞定 MySQL 备份恢复--XtraBackup
【MySQL】两个脚本自动化搞定 MySQL 备份恢复--XtraBackup
|
3月前
|
关系型数据库 MySQL Shell
MySQL 备份:从mysqldump全备中 匹配出某几个表
MySQL 备份:从mysqldump全备中 匹配出某几个表
下一篇
无影云桌面