mysql的binlog详解

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
云数据库 RDS MySQL Serverless,价值2615元额度,1个月
简介:

binlog是mysql记录操作的二进制日志文件,有三种格式可选,但是老旧的SBR已经不适合现在大多数业务需求,所以大多数都建议用MBR和RBR,即mixed或row,而解析他的原因,几乎都只有一个,就是恢复数据库,或者是反编译来恢复数据库,目的都是一样.

以下是基于mysql5.6的mysqlbinlog来描述的,请各位知照.


binlog使用方法

直接来看看例子:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
#可以在数据库界面操作一些命令
#只查看第一个binlog文件的内容(不建议)
mysql> show binlog events;
#查看指定binlog文件的内容(不建议)
mysql> show binlog events  in  'mysql-bin.000002' ;
#查看当前正在写入的binlog文件
mysql> show master status\G
#获取binlog文件列表
mysql> show binary logs;
 
#直接用mysqlbinlog命令就更全面一些
#可以直接打开,可能不够直观,而且会不停刷屏,慎用
mysqlbinlog mysql-bin.000002 
#查看row格式下的二进制日志
mysqlbinlog -vv --base64-output=decode-rows filename
#基于开始/结束时间的解析
mysqlbinlog --start-datetime= '2013-09-10 00:00:00'  --stop-datetime= '2013-09-10 01:01:01'  -d 库名 二进制文件
#基于pos值的解析
mysqlbinlog --start-position=107 --stop-position=1000 -d 库名 二进制文件
#恢复单一数据库的binlog
mysqlbinlog -d dbname  binlog.00002
#一个完成的事例参考:把binlog里面特定时间,特定库的语句导出到t.txt
mysqlbinlog  -vv --base64-output=decode-rows --start-datetime= '2016-06-15 20:00:00'  --stop-datetime= '2016-06-15 21:00:00'  -d baiyang  mysql-bin.000011 > t.txt


参数说明:

--base64-output=value    使用base-64编码格式显示二进制日志内容,AUTO ("automatic") 或 UNSPEC ("unspecified") 参数自动显示二进制语句的内容,如果没有指定 --base64-output参数,则效果就相当于--base64-output=AUTO;NEVER参数会导致二进制语句不会显示;DECODE-ROWS解码处理二进制日志。比较常用的是--base64-output=DECODE-ROWS: 会显示出row模式带来的sql变更

--bind-address=name    绑定IP地址(用于一些异常IP访问的情况)

--character-sets-dir=name    字符集文件的目录路径(非正常字符集使用)

-C, --compress    启用压缩模式(减少带宽使用)

-d db_name,--database=db_name    只列出该数据库的条目(只用本地日志)。

--debug-check    检查内存和打开的文件使用情况并退出。

--debug-info    打印一些调试信息并退出。

--default-auth=name    默认的客户端身份验证插件路径

-D,disable-logs-bin    禁用二进制日志。如果使用--to-last-logs选项将输出发送给同一台MySQL服务器,可以避免无限循环。该选项在崩溃恢复时也很有用,可以避免复制已经记录的语句。注释:该选项要求有SUPER权限。

-F, --force-if-open    强制打开没有正常关闭的二进制日志文件,(默认开启,通过--skip-force-if-open关闭)

-f, --force-read    强制打开不能识别的二进制日志事件,如果使用该选项,mysqlbinlog预到不能识别的二进制日志事件,它会打印警告,忽略该事件并继续。没有该选项,mysqlbinlog读到此类事件则停止。

-H, --hexdump    在注释中显示日志的十六进制转储。该输出可以帮助复制过程中的调试。

-h, --host=name    获取给定主机上的MySQL服务器的二进制日志。

-l, --local-load=name    为指定目录中的LOAD DATA INFILE预处理本地临时文件。

-o, --offset=#    跳过前 N个条目。

-p, --password[=name]    连接服务器时使用密码。如果使用短选项形式(-p),选项和密码之间不能有空格。如果在命令行中–password或-p选项后面没有密码值,则提示输入一个密码。

--plugin-dir=name    客户端插件目录

-P, --port=#    用于连接远程服务器的TCP/IP端口号。

--protocol=name    使用那种连接协议,可以是:tcp, socket, pipe,memory

-R, --read-from-remote-server    从MySQL服务器读二进制日志。如果没有加入该选项,任何连接服务器的参数选项将无效。这些选项是–host、–password、–port、–protocol、–socket和–user。可代替read-from-remote-master=BINLOG-DUMP-NON-GTIDS.

--read-from-remote-master=name    从MySQL服务器读二进制日志.通过设置COM_BINLOG_DUMP或COM_BINLOG_DUMP_GTID命令来设定参数BINLOG-DUMP-NON-GTIDS或BINLOG-DUMP-GTIDS,如果设置--read-from-remote-master=BINLOG-DUMP-GTIDS并结合--exclude-gtids,可以省一些网络流量

--raw    需要配合-R使用。输出原始二进制日志数据,而不是SQL,并输出到日志文件。

-r, --result-file=name    将输出指向给定的文件。和--raw一起使用的话,这是一个文件前序.

--secure-auth    如果客户端低于pre-4.1.1,将拒绝连接,默认开启,可以通过--skip-secure-auth来关闭

--server-id=#    只提取给定服务器ID的二进制日志,指my.cnf的server-id的ID值

--server-id-bits=#    把server-id设置在显著位置

--set-charset=name    输出时添加SET NAMES character_set提示设定字符集

-s, --short-form    只显示日志中包含的语句,不显示其它信息。这仅用于测试,不应被使用在生产系统中。如果要禁止base64-output的输出,可以考虑使用--base64-output=never instead.

-S, --socket=name    使用套接字socket来连接,通常是本机

--ssl    使用ssl协议来连接(一般不会用)

--ssl-ca=name    使用ca证书方式的SLL来连接,同理,下面几个选项是各种证书和密钥验证方式的SSL登陆,就不一一介绍了.

--ssl-capath=name,--ssl-cert=name,--ssl-cipher=name,--ssl-key=name,--ssl-crl=name,--ssl-crlpath=name,--ssl-verify-server-cert

--start-datetime=datetime    从二进制日志中第1个日期时间等于或晚于datetime参量的事件开始读取。datetime值相对于运行mysqlbinlog的机器上的本地时区。该值格式应符合DATETIME或TIMESTAMP数据类型。例如:mysqlbinlog –start-datetime="2004-12-2511:25:56" binlog.000003

-j, --start-position=#    从二进制日志中第1个位置等于N参量时的事件开始读。

--stop-datetime=datetime    从二进制日志中第1个日期时间等于或晚于datetime参量的事件起停止读。和--start-datetime选项配合使用设定导出特定的时间段信息,有助于减少结果输出。

--stop-never    等待更多的日志传输而不是退出当前命令,直到断开服务器连接为止,隐式设置--to-last-log

--stop-never-slave-server-id=#    当前命令的从库ID值,当用到--read-from-remote-server或--stop-never时,命令就会像从库一样拉取binlog数据,所以需要一个唯一的server-id值来标识他.

--stop-position=#    从二进制日志中第1个位置等于和大于N参量时的事件起停止读。和--start-position选项配合使用设定导出特定的position间隔的binlog信息,有助于减少结果输出.

-t, --to-last-log    在MySQL服务器中请求的二进制日志的结尾处不停止,而是继续打印直到最后一个二进制日志的结尾。如果将输出发送给同一台MySQL服务器,会导致无限循环。该选项要求–read-from-remote-server。

-u, --user=name    连接远程服务器时使用的MySQL用户名。

-v, --verbose    详细模式,显示statement模式带来的sql语句,-vv表示增加列类型的注释.

-V, --version    显示版本信息并退出

--open-files-limit=#    指定要保留的打开的文件描述符的数量

-c, --verify-binlog-checksum    验证校验binlog日志

--binlog-row-event-max-size=#    最大binlog日志文件容量大小,此值必须是256的倍数。

--skip-gtids    不打印全局事务标识符信息(GTID),例如:SET GTID_NEXT=... etc

--include-gtids=name    打印给定值的GTID的信息

--exclude-gtids=name    打印给定值以外的GTID的信息

--rewrite-db=name    更新数据库时给出一个和原来不一样的数据库名,例如:rewrite-db='from->to'.

—help,-?    显示帮助消息并退出。


使用binlog恢复数据

由于binlog可以直接解析成sql语句的,一般来说直接执行是可行的.

但是有时候我们不想做的那么复杂,加上一个参数,直接执行,通过管道符就可以了.

1
mysqlbinlog --start-position= '530050688'  --stop-position= '601156037'  -d  test  /opt/mysql-bin .000019 |mysql -uroot -p123 --binary-mode


binlog server的创建:

用过mysql的都知道mysql支持主从架构,有些时候我们单纯只想异地备份binlog日志,但是特地搭一个从库貌似不科学,而且mysql机制上也并不是把binlog拉下来就算,还要写进数据库占用一定空间,以前会引入blackhold引擎,而现在就方便多了,因为mysql5.6后引入了mysql的binlog server,相当方便,相当简单,binlog就被拉过来了,而且只要进程不掉,就一直拉.

因为方法很简单,就是一条命令过去,所以不用很紧张,至于参数的意思,请看上面

命令如下,记得加后台运行命令符噢:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
#先看看当前的master状态,可以忽略GTID,因为可以不用设置GTID
mysql> show master status\G
*************************** 1. row ***************************
              File: mysql-bin.000007
          Position: 56789
      Binlog_Do_DB: 
  Binlog_Ignore_DB: 
Executed_Gtid_Set: 3edae34c-6299-11e6-8999-8038bc0c67be:1-6754,
4cdc2a74-6299-7555-95ce-008cfaf595bc:1-7941248
1 row  in  set  (0.00 sec)
#开启binlog server
mysqlbinlog -R --raw --host=*.*.*.* --user=root --password=x xxxxxxxxx --stop-never --stop-never-slave-server- id =56789 mysql-bin.000007 &
#binlog就过来了,看看目录
ll ./*
-rw-rw---- 1 root root 1073741921 5月  29 19:15 mysql-bin.000007
-rw-rw---- 1 root root 1073741954 6月   2 12:14 mysql-bin.000008
-rw-rw---- 1 root root 1073743557 6月   8 10:03 mysql-bin.000009
-rw-rw---- 1 root root 1073742035 6月  12 16:33 mysql-bin.000010
-rw-rw---- 1 root root 1073742000 6月  16 10:38 mysql-bin.000011
-rw-rw---- 1 root root 1073742053 6月  20 09:18 mysql-bin.000012
#看看进程,正在运行,这就完成了
ps  aux | grep  mysql
root     19683  0.0  0.2  59836  4764 pts /1     S    14:39   0:00 mysqlbinlog -R --raw --host=x.x.x.x -uroot -P3306 -px xxxxxxxxxxxxxx --stop-never --stop-never-slave-server- id =21305198 mysql-bin.000007
root     19697  0.0  0.0 112648   976 pts /1     S+   14:45   0:00  grep  --color=auto mysql

原来我已经跑那么多了,呵呵~!

再看看数据库状态

1
2
3
4
show processlist;
|    66379 | tencentroot | 10.*.*.*:47303   | NULL    | Binlog Dump | 6932150 | Master has sent all binlog to slave; waiting  for  binlog to be updated | NULL             |
| 14277762 | tencentroot | 127.0.0.1:53878     | NULL    | Sleep       |      25 |                                                                       | NULL             |
| 20949882 | root        | 10.*.*.*:2080  | NULL    | Binlog Dump | 2937110 | Master has sent all binlog to slave; waiting  for  binlog to be updated | NULL

有两个进程在拉binlog,毫无疑问,其中一个是真正的从库,另一个就是我的binlogserver了.

完毕.




     本文转自arthur376 51CTO博客,原文链接:http://blog.51cto.com/arthur376/1794632,如需转载请自行联系原作者







相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
1月前
|
存储 安全 关系型数据库
Mysql 的binlog日志的优缺点
MySQL的binlog(二进制日志)是一个记录数据库更改的日志文件,它包含了所有对数据库执行的更改操作,如INSERT、UPDATE和DELETE等。binlog的主要目的是复制和恢复。以下是binlog日志的优缺点: ### 优点: 1. **数据恢复**:当数据库出现意外故障或数据丢失时,可以利用binlog进行点恢复(point-in-time recovery),将数据恢复到某一特定时间点。 2. **主从复制**:binlog是实现MySQL主从复制功能的核心组件。主服务器将binlog中的事件发送到从服务器,从服务器再重放这些事件,从而实现数据的同步。 3. **审计**:b
|
2月前
|
SQL 关系型数据库 MySQL
mysql的binlog恢复数据
mysql的binlog恢复数据
33 0
|
3月前
|
存储 SQL 安全
浅谈MySQL Binlog
浅谈MySQL Binlog
45 0
|
1月前
|
SQL 关系型数据库 MySQL
Mysql 的binlog日志的原理【4月更文挑战第1天】
【4月更文挑战第1天】 MySQL的binlog(二进制日志)是一个记录数据库更改的日志文件,它主要用于复制和恢复操作。以下是binlog日志的工作原理的简要概述: **事件写入**:当MySQL服务器执行一个事务时,它会将该事务中所有对数据库的修改操作(如INSERT、UPDATE和DELETE等)记录为一个事件(event)。这些事件包含了修改操作的相关信息,如操作类型、涉及的表、修改的行等。
|
13天前
|
DataWorks 关系型数据库 MySQL
DataWorks产品使用合集之在DataWorks中,如何通过PolarDB for MySQL来查看binlog日志
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
28 1
|
3月前
|
监控 关系型数据库 MySQL
MySQL Binlog实战:在生产环境中的应用与最佳实践【实战应用】
MySQL Binlog实战:在生产环境中的应用与最佳实践【实战应用】
50 0
|
3月前
|
SQL 监控 关系型数据库
MySQL Binlog深度解析:进阶应用与实战技巧【进阶应用】
MySQL Binlog深度解析:进阶应用与实战技巧【进阶应用】
49 0
|
5月前
|
缓存 关系型数据库 MySQL
MySQL Binlog--事务日志和BINLOG落盘参数对磁盘IO的影响
MySQL Binlog--事务日志和BINLOG落盘参数对磁盘IO的影响
54 0
|
3月前
|
SQL 存储 关系型数据库
解析MySQL Binlog:从零开始的入门指南【binlog入门指南】
解析MySQL Binlog:从零开始的入门指南【binlog入门指南】
1414 0
|
6月前
|
关系型数据库 MySQL Shell
如何用shell脚本获取mysql的binlog日志
如何用shell脚本获取mysql的binlog日志
69 1

推荐镜像

更多