解析MYSQL BINLOG二进制格式(10)--问题解答

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 原创转发请注明出处 上接 http://blog.itpub.net/7728585/viewspace-2133188/ 解析MYSQL BINLOG 二进制格式(1)--准备工作  http://blog.

原创转发请注明出处
上接
http://blog.itpub.net/7728585/viewspace-2133188/ 解析MYSQL BINLOG 二进制格式(1)--准备工作 
http://blog.itpub.net/7728585/viewspace-2133189/ 解析MYSQL BINLOG 二进制格式(2)--FORMAT_DESCRIPTION_EVENT 
http://blog.itpub.net/7728585/viewspace-2133321/ 解析MYSQL BINLOG 二进制格式(3)--QUERY_EVENT 
http://blog.itpub.net/7728585/viewspace-2133429/ 解析MYSQL BINLOG 二进制格式(4)--TABLE_MAP_EVENT 
http://blog.itpub.net/7728585/viewspace-2133463/ 解析MYSQL BINLOG 二进制格式(5)--WRITE_ROW_EVENT 
http://blog.itpub.net/7728585/viewspace-2133469/ 解析MYSQL BINLOG 二进制格式(6)--UPDATE_ROW_EVENT/DELETE_ROW_EVENT  
http://blog.itpub.net/7728585/viewspace-2133502/ 解析MYSQL BINLOG 二进制格式(7)--Xid_log_event/XID_EVENT 
http://blog.itpub.net/7728585/viewspace-2133506/ 解析MYSQL BINLOG二进制格式(8)--GTID_LOG_EVENT/ANONYMOUS_GTID_LOG_EVENT及其他 
http://blog.itpub.net/7728585/viewspace-2133534/ 解析MYSQL BINLOG二进制格式(9)--infobin解析binlog帮助文档

本文解析全部使用工具infobin 
参考
http://blog.itpub.net/7728585/viewspace-2133534/ 解析MYSQL BINLOG二进制格式(9)--infobin解析binlog帮助文档

最后我们来回答最开始提出的问题

1、为什么说row格式较statement更占空间
   在前面所述 因为row格式记录了真正的数据,比单纯的语句要大得多,
   其binlog生成量大约为修改数据量的2/3。如果是update则更大,因为有
   前后印象大约为修改数据量的4/3
2、为什么说row格式的binlog更加安全
   在前面所述,因为row格式加入了map event,使用table_id进行复制,同时
   记录是真正的记录,那么复制是解析的其真正的数据做到了更加安全,
   换句话说他是真正的二进制的包含了修改的数据
3、INSERT/UPDATE/DELETE是生成的row binlog如何直接看懂二进制格式
   如前面各个文章所描述,并且程序我已经写好了,可以使用参考前面的文章
4、DDL生成的binlog是怎么样的
   DDL生成的binlog是语句模式,只有DML操作可以记录行格式。
5、INSERT SELECT/CREATE TABLE 如何生成的row binlog
   insert select 生成是binlog是一个事物中的多个event,但是并不是每条数据一个event
   而是多条数据生成一个event,一个event大小大约为8K左右。
 但是这也有例外就是一行数据本来就超过了8K如下:
 insert into testb values(repeat('A',19999));
------>Insert Event:Pos:563(0X233) N_pos:20600(0X5078) Time:1487042557 Event_size:20037(bytes) 
   create table as 生成的binlog比insert selcet多了一个create table的过程,但是在开启
   gtid的情况是不能使用的create table as。
我做了语句:
mysql> insert into testkk select * from test limit 40000;
Query OK, 40000 rows affected (2.52 sec)
Records: 40000  Duplicates: 0  Warnings: 0

如下:
使用
 ./infobin test.000202|more

>Gtid Event:Pos:356(0X164) N_pos:421(0X1a5) Time:1487040273 Event_size:65(bytes) 
Gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1100471
-->Query Event:Pos:421(0X1a5) N_Pos:493(0X1ed) Time:1487040273 Event_size:72(bytes) 
Exe_time:0  Use_db:test Statment(35b-trun):BEGIN /*!Trx begin!*/ Gno:1100471
---->Map Event:Pos493(0X1ed) N_pos:666(0X29a) Time:1487040273 Event_size:173(bytes) 
TABLE_ID:350 DB_NAME:test TABLE_NAME:testkk Gno:1100471
------>Insert Event:Pos:666(0X29a) N_pos:8822(0X2276) Time:1487040273 Event_size:8156(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:8822(0X2276) N_pos:16982(0X4256) Time:1487040273 Event_size:8160(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:16982(0X4256) N_pos:25143(0X6237) Time:1487040273 Event_size:8161(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:25143(0X6237) N_pos:33304(0X8218) Time:1487040273 Event_size:8161(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:33304(0X8218) N_pos:41455(0Xa1ef) Time:1487040273 Event_size:8151(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:41455(0Xa1ef) N_pos:49572(0Xc1a4) Time:1487040273 Event_size:8117(bytes) 
....
------>Insert Event:Pos:5602407(0X557c67) N_pos:5610568(0X559c48) Time:1487040273 Event_size:8161(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:5610568(0X559c48) N_pos:5618719(0X55bc1f) Time:1487040273 Event_size:8151(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
------>Insert Event:Pos:5618719(0X55bc1f) N_pos:5624075(0X55d10b) Time:1487040273 Event_size:5356(bytes) 
Dml on table: test.testkk  table_id:350 Gno:1100471 
>Xid Event:Pos:5624075(0X55d10b) N_Pos:5624106(0X55d12a) Time:1487040273 Event_size:31(bytes) 
COMMIT; /*!Trx end*/ Gno:1100471

可以看到大小大约为8K,当然如果不嫌麻烦用mysqlbinlog也行但是event_size需要自己减一下。

6、如果一个delete大表先开始,然后不断有insert小表进入,他是如何生成binlog的。gtid又是按什么顺序生成

我通过分析 delete大表的binlog会在commit后写到binlog中,之前binlog记录在缓存或者临时文件中
但是binlog中的时间记录为事务开始时间为delete发起时间,其gtid生成顺序
是按照commit的时候生成的,同时一个事物的binlog一定是连续的。
如下:
>Gtid Event:Pos:120314(0X1d5fa) N_pos:120379(0X1d63b) Time:1487032811 Event_size:65(bytes)  --小事物开始
Gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000922
-->Query Event:Pos:120379(0X1d63b) N_Pos:120451(0X1d683) Time:1487032811 Event_size:72(bytes) 
Exe_time:0  Use_db:test Statment(35b-trun):BEGIN /*!Trx begin!*/ Gno:1000922
---->Map Event:Pos120451(0X1d683) N_pos:120503(0X1d6b7) Time:1487032811 Event_size:52(bytes) 
TABLE_ID:343 DB_NAME:test TABLE_NAME:testloop1 Gno:1000922
------>Insert Event:Pos:120503(0X1d6b7) N_pos:120543(0X1d6df) Time:1487032811 Event_size:40(bytes) 
Dml on table: test.testloop1  table_id:343 Gno:1000922 
>Xid Event:Pos:120543(0X1d6df) N_Pos:120574(0X1d6fe) Time:1487032811 Event_size:31(bytes) 
COMMIT; /*!Trx end*/ Gno:1000922 --小事物结束
>Gtid Event:Pos:120574(0X1d6fe) N_pos:120639(0X1d73f) Time:1487032783 Event_size:65(bytes) --大事物开始
Gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000923
-->Query Event:Pos:120639(0X1d73f) N_Pos:120711(0X1d787) Time:1487032783 Event_size:72(bytes) 
Exe_time:0  Use_db:test Statment(35b-trun):BEGIN /*!Trx begin!*/ Gno:1000923
---->Map Event:Pos120711(0X1d787) N_pos:120888(0X1d838) Time:1487032783 Event_size:177(bytes) 
TABLE_ID:342 DB_NAME:test TABLE_NAME:test100009 Gno:1000923
------>Delete Event:Pos:120888(0X1d838) N_pos:129044(0X1f814) Time:1487032783 Event_size:8156(bytes) 
Dml on table: test.test100009  table_id:342 Gno:1000923 
------>Delete Event:Pos:129044(0X1f814) N_pos:137204(0X217f4) Time:1487032783 Event_size:8160(bytes) 
Dml on table: test.test100009  table_id:342 Gno:1000923 
------>Delete Event:Pos:137204(0X217f4) N_pos:145365(0X237d5) Time:1487032783 Event_size:8161(bytes) 
Dml on table: test.test100009  table_id:342 Gno:1000923 
.................
Dml on table: test.test100009  table_id:342 Gno:1000923 
------>Delete Event:Pos:102028245(0X614d3d5) N_pos:102036403(0X614f3b3) Time:1487032783 Event_size:8158(bytes) 
Dml on table: test.test100009  table_id:342 Gno:1000923 
------>Delete Event:Pos:102036403(0X614f3b3) N_pos:102040255(0X61502bf) Time:1487032783 Event_size:3852(bytes) 
Dml on table: test.test100009  table_id:342 Gno:1000923 
>Xid Event:Pos:102040255(0X61502bf) N_Pos:102040286(0X61502de) Time:1487032783 Event_size:31(bytes) 
COMMIT; /*!Trx end*/ Gno:1000923 ---大事物结束
>Gtid Event:Pos:102040286(0X61502de) N_pos:102040351(0X615031f) Time:1487032811 Event_size:65(bytes) --小事物开始
Gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000924
-->Query Event:Pos:102040351(0X615031f) N_Pos:102040423(0X6150367) Time:1487032811 Event_size:72(bytes) 
Exe_time:0  Use_db:test Statment(35b-trun):BEGIN /*!Trx begin!*/ Gno:1000924
---->Map Event:Pos102040423(0X6150367) N_pos:102040475(0X615039b) Time:1487032811 Event_size:52(bytes) 
TABLE_ID:343 DB_NAME:test TABLE_NAME:testloop1 Gno:1000924
------>Insert Event:Pos:102040475(0X615039b) N_pos:102040515(0X61503c3) Time:1487032811 Event_size:40(bytes) 
Dml on table: test.testloop1  table_id:343 Gno:1000924 
>Xid Event:Pos:102040515(0X61503c3) N_Pos:102040546(0X61503e2) Time:1487032811 Event_size:31(bytes) 
COMMIT; /*!Trx end*/ Gno:1000924 --小事物结束


      会话 A                                                                                                       会话B
delete 事物 1487032783开始                                     
        +                                                                                             insert 事物开始 1487032811 
        +                                                                                            commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000922 
        +
delete 事物结束commit 生成
commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000923
                                                                                                      insert 事物开始 1487032811
                                                                                                     commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000924
                                                       


实际上记录binlog的顺序为
insert   commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000922 
delete commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000923
insert  commit gtid:4a6f2a67-5d87-11e6-a6bd-0c29a879a3:1000924


也就是说delete记录到了第一个insert之后,按照是commit的顺序来记录和分配gtid的
也就是上面解析出来的结果。

至此mysql binlog 二进制格式解析系列文章告于段落

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
9天前
|
SQL 关系型数据库 MySQL
深入解析MySQL的EXPLAIN:指标详解与索引优化
MySQL 中的 `EXPLAIN` 语句用于分析和优化 SQL 查询,帮助你了解查询优化器的执行计划。本文详细介绍了 `EXPLAIN` 输出的各项指标,如 `id`、`select_type`、`table`、`type`、`key` 等,并提供了如何利用这些指标优化索引结构和 SQL 语句的具体方法。通过实战案例,展示了如何通过创建合适索引和调整查询语句来提升查询性能。
77 9
|
20天前
|
存储 SQL 关系型数据库
mysql 的ReLog和BinLog区别
MySQL中的重做日志和二进制日志是确保数据库稳定性和可靠性的关键组件。重做日志主要用于事务的持久性和原子性,通过记录数据页的物理修改信息来恢复未提交的事务;而二进制日志记录SQL语句的逻辑变化,支持数据复制、恢复和审计。两者在写入时机、存储方式及配置参数等方面存在显著差异。
|
3天前
|
SQL 关系型数据库 MySQL
数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog
《数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog》介绍了如何利用MySQL的二进制日志(Binlog)恢复误删除的数据。主要内容包括: 1. **启用二进制日志**:在`my.cnf`中配置`log-bin`并重启MySQL服务。 2. **查看二进制日志文件**:使用`SHOW VARIABLES LIKE 'log_%';`和`SHOW MASTER STATUS;`命令获取当前日志文件及位置。 3. **创建数据备份**:确保在恢复前已有备份,以防意外。 4. **导出二进制日志为SQL语句**:使用`mysqlbinlog`
25 2
|
11天前
|
存储 关系型数据库 MySQL
double ,FLOAT还是double(m,n)--深入解析MySQL数据库中双精度浮点数的使用
本文探讨了在MySQL中使用`float`和`double`时指定精度和刻度的影响。对于`float`,指定精度会影响存储大小:0-23位使用4字节单精度存储,24-53位使用8字节双精度存储。而对于`double`,指定精度和刻度对存储空间没有影响,但可以限制数值的输入范围,提高数据的规范性和业务意义。从性能角度看,`float`和`double`的区别不大,但在存储空间和数据输入方面,指定精度和刻度有助于优化和约束。
|
20天前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
24天前
|
存储 网络协议 算法
【C语言】进制转换无难事:二进制、十进制、八进制与十六进制的全解析与实例
进制转换是计算机编程中常见的操作。在C语言中,了解如何在不同进制之间转换数据对于处理和显示数据非常重要。本文将详细介绍如何在二进制、十进制、八进制和十六进制之间进行转换。
34 5
|
1月前
|
关系型数据库 MySQL 数据库
【赵渝强老师】MySQL的binlog日志文件
MySQL的binlog日志记录了所有对数据库的更改操作(不包括SELECT和SHOW),主要用于主从复制和数据恢复。binlog有三种模式,可通过设置binlog_format参数选择。示例展示了如何启用binlog、设置格式、查看日志文件及记录的信息。
124 6
|
1月前
|
监控 Java 应用服务中间件
高级java面试---spring.factories文件的解析源码API机制
【11月更文挑战第20天】Spring Boot是一个用于快速构建基于Spring框架的应用程序的开源框架。它通过自动配置、起步依赖和内嵌服务器等特性,极大地简化了Spring应用的开发和部署过程。本文将深入探讨Spring Boot的背景历史、业务场景、功能点以及底层原理,并通过Java代码手写模拟Spring Boot的启动过程,特别是spring.factories文件的解析源码API机制。
76 2
|
2天前
|
存储 设计模式 算法
【23种设计模式·全精解析 | 行为型模式篇】11种行为型模式的结构概述、案例实现、优缺点、扩展对比、使用场景、源码解析
行为型模式用于描述程序在运行时复杂的流程控制,即描述多个类或对象之间怎样相互协作共同完成单个对象都无法单独完成的任务,它涉及算法与对象间职责的分配。行为型模式分为类行为模式和对象行为模式,前者采用继承机制来在类间分派行为,后者采用组合或聚合在对象间分配行为。由于组合关系或聚合关系比继承关系耦合度低,满足“合成复用原则”,所以对象行为模式比类行为模式具有更大的灵活性。 行为型模式分为: • 模板方法模式 • 策略模式 • 命令模式 • 职责链模式 • 状态模式 • 观察者模式 • 中介者模式 • 迭代器模式 • 访问者模式 • 备忘录模式 • 解释器模式
【23种设计模式·全精解析 | 行为型模式篇】11种行为型模式的结构概述、案例实现、优缺点、扩展对比、使用场景、源码解析
|
2天前
|
设计模式 存储 安全
【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析
结构型模式描述如何将类或对象按某种布局组成更大的结构。它分为类结构型模式和对象结构型模式,前者采用继承机制来组织接口和类,后者釆用组合或聚合来组合对象。由于组合关系或聚合关系比继承关系耦合度低,满足“合成复用原则”,所以对象结构型模式比类结构型模式具有更大的灵活性。 结构型模式分为以下 7 种: • 代理模式 • 适配器模式 • 装饰者模式 • 桥接模式 • 外观模式 • 组合模式 • 享元模式
【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析

热门文章

最新文章

推荐镜像

更多