[数据库]《高可用mysql》读书笔记

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 第一章:引言 复制:就是复制一个服务器上的所有改变到另一个服务器 备份的功用:错误保护,建立新服务器,法律原因 监控:不监控就无法观察到有问题的查询、过热的从节点、使用不恰当的表等 第二章:mysql复制原理 1.

第一章:引言

复制:就是复制一个服务器上的所有改变到另一个服务器

备份的功用:错误保护,建立新服务器,法律原因

监控:不监控就无法观察到有问题的查询、过热的从节点、使用不恰当的表等

第二章:mysql复制原理

1.配置master、slave、master和slave之间的连接

2.二进制日志简介

 1)在复制中的作用:slave通过二进制日志获取master上的改变
 2)事件:event_type、server_id、log_name、pos、end_log_pos、info

3.二进制日志结构和内容

Mysql 201307181.jpg

第三章:二进制日志


二进制日志的结构

binlog事件的结构:5.0以后为版本4,设计为可扩展的,如果开发者做了重大改动,版本会变化

 组成:1)通用头,2)提交头,3)事件体

注意:

1.事务在master上交错执行,但事务在二进制日志中的顺序不变,取决于事务的提交时间
2.如果服务器突然停止或死机,binlog末尾可能不是轮换事件


记录语句

1.记录DML及DDL语句

2.上下文:

 指服务器执行语句时必须知道的隐式信息,如:当前数据库、RAND函数的种子、当前时间、AUTO_INCREMENT字段的插入值、调用LAST_INSERT_ID的返回值、线程ID
 与语句有关的隐式信息需要满足:包含对用户定义变量的引用; 包含RAND函数的种子(需要将伪随机种子写入日志); LASTER_INSERT_ID;AUTO_INCREMENT;
 二进制日志通过如下事件来存储上下文信息:User_var; Rand; Intvar;

3.LOAD DATA INFILE:

 采用一套特殊的事件来用二进制日志处理文件传输
 引入的新事件:Begin_load_query; Append_block; Execute_load_query; 

4.二进制日志过滤器

 binlog-do-db和binlog-ignore-db Mysql 201307182.jpg 

5.触发器、事件和存储过程

 触发器:在slave上必需(基于语句的复制)
 存储过程:
     注意:1)CALL语句没有被写入二进制日志,而是将存储过程的主体展开后放入二进制日志
           2)对存储过程参数的引用被改写为NAME_CONST函数
           3)局部声明的变量pass也换成NAME_CONST函数
           4)调用存储过程的语句以Intvar事件作为前缀,且包含insert ID
 Event:在slave上被自动禁止

6.特殊结构

 LOAD_FILE函数:获取文件的函数,但slave上必须要有此文件,才能被正确执行。
 解决方案:1)将文件上传至slave;  2)使用LOAD DATA INFILE重写;  3)在用户变量中存储文件内容;

7.非事务性的变化和错误处理

 例:INSERT INTO table(column) values ('xxx');
 ERROR 1062:Duplicate entry 'xxx' for key 'PRIMARY'
 此语句仍会被二进制日志记录,但master会通过Query事件中的一个错误代码字段登记二进制日志。这个错误代码在SHOW BINLOG EVENT看不到,通过mysqlbinlog可查看


记录事务

默认提交的语句:

 1)写文件的语句; 2)修改数据库中表的语句; 3)锁表、管理、LOAD DATA INFILE语句

事务缓存:

 非事务性语句不会导致当前事务的结束
 记录非事务性语句的规则:
 1)如果语句被标记为事务的,它将被写入事务缓存
 2)如果语句没有被标记为事务性的,而且事务缓存中无此语句,该语句被直接写入事务缓存
 3)如果没有被标记为事务性的,但是事务缓存中有语句,则该语句被写入事务缓存 Mysql 201307183.jpg 左边:不应用规则3产生的不良影响  右边:应用规则3的实际情况
 
 避免非事务性语句的复制问题:确保在事务中首先被写入


二进制日志管理

系统崩溃安全:调整sync-binlog

Binlog文件轮换:

 导致轮换的活动:
 1)服务器停止    情景1:服务器停止后被升级
 2)binlog文件达到预设的最大尺寸
 3)Binlog被显式刷新  flush logs
 4)事故发生
 

Binlog文件的第一个事件:格式描述(format description)

 3个有趣项目:
 1)binlog-in-use flag  标记binlog文件是否被正确关闭
 2)binlog版本
 3)服务器版本  协助开发者找出微小错误

二进制日志中的两种事故标记(incident):

 1)stop  表明服务器已通过正常手段停止
 2)incident  包含标识符来指定是哪种类型的事故,slave会因此错误停止


第四章:基于复制的数据库高可用技术                                                                     

双master

 两种模式:active-active(两台同时写);active-passive(一台写,另一台被动)
 使用如下两个变量处理双master上同时写带来的冲突
 auto_increment_offset:自增列的起始值
 auto_increment_increment:自增列下一个值的增量


半同步复制

 理念:允许更改操作继续执行前,确保操作至少被写入一个slave的磁盘。即slave被告知事务已经在持久存储中后,master的客户端才返回提交指令

第五章:Mysql集群的横向扩展

级联复制:添加log-slave-updates选项配置中继服务器发送slave线程事件,并使用blackhole存储引擎提高性能

第六章:高级复制


多源复制

 即一个slave连接多个master。需要处理的冲突如下图: Mysql 201307184.jpg 解决方案:轮询多个master。官方暂未提供此功能,可使用python实现。


基于行的复制

binlog-format:STATEMENT; ROW; MIXED;

混合模式中会切换到基于行的复制的不安全的情况:
1)语句调用了UUID函数,用户自定义函数,CURRENT_USER,USER函数,LOAD_FILE函数
2)同一个语句更改了两张或更多包含AUTO_INCREMENT列的表
3)语句中使用了服务器变量
4)存储引擎不允许使用基于语句的复制,比如mysql cluster引擎

个人认为尽量选用ROW格式的复制,其次是MIXED,最后是最不安全的STATEMENT。

行事件的结构:

Mysql 201307185.jpg 
mysql闪回即是依据基于行的原理实现


参考文献:《高可用mysql的:构建健壮的数据中心

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
4天前
|
存储 Oracle 关系型数据库
数据库传奇:MySQL创世之父的两千金My、Maria
《数据库传奇:MySQL创世之父的两千金My、Maria》介绍了MySQL的发展历程及其分支MariaDB。MySQL由Michael Widenius等人于1994年创建,现归Oracle所有,广泛应用于阿里巴巴、腾讯等企业。2009年,Widenius因担心Oracle收购影响MySQL的开源性,创建了MariaDB,提供额外功能和改进。维基百科、Google等已逐步替换为MariaDB,以确保更好的性能和社区支持。掌握MariaDB作为备用方案,对未来发展至关重要。
18 3
|
4天前
|
安全 关系型数据库 MySQL
MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!
《MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!》介绍了MySQL中的三种关键日志:二进制日志(Binary Log)、重做日志(Redo Log)和撤销日志(Undo Log)。这些日志确保了数据库的ACID特性,即原子性、一致性、隔离性和持久性。Redo Log记录数据页的物理修改,保证事务持久性;Undo Log记录事务的逆操作,支持回滚和多版本并发控制(MVCC)。文章还详细对比了InnoDB和MyISAM存储引擎在事务支持、锁定机制、并发性等方面的差异,强调了InnoDB在高并发和事务处理中的优势。通过这些机制,MySQL能够在事务执行、崩溃和恢复过程中保持
22 3
|
4天前
|
SQL 关系型数据库 MySQL
数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog
《数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog》介绍了如何利用MySQL的二进制日志(Binlog)恢复误删除的数据。主要内容包括: 1. **启用二进制日志**:在`my.cnf`中配置`log-bin`并重启MySQL服务。 2. **查看二进制日志文件**:使用`SHOW VARIABLES LIKE 'log_%';`和`SHOW MASTER STATUS;`命令获取当前日志文件及位置。 3. **创建数据备份**:确保在恢复前已有备份,以防意外。 4. **导出二进制日志为SQL语句**:使用`mysqlbinlog`
28 2
|
18天前
|
关系型数据库 MySQL 数据库
Python处理数据库:MySQL与SQLite详解 | python小知识
本文详细介绍了如何使用Python操作MySQL和SQLite数据库,包括安装必要的库、连接数据库、执行增删改查等基本操作,适合初学者快速上手。
129 15
|
11天前
|
SQL 关系型数据库 MySQL
数据库数据恢复—Mysql数据库表记录丢失的数据恢复方案
Mysql数据库故障: Mysql数据库表记录丢失。 Mysql数据库故障表现: 1、Mysql数据库表中无任何数据或只有部分数据。 2、客户端无法查询到完整的信息。
|
18天前
|
关系型数据库 MySQL 数据库
数据库数据恢复—MYSQL数据库文件损坏的数据恢复案例
mysql数据库文件ibdata1、MYI、MYD损坏。 故障表现:1、数据库无法进行查询等操作;2、使用mysqlcheck和myisamchk无法修复数据库。
|
22天前
|
SQL 关系型数据库 MySQL
MySQL导入.sql文件后数据库乱码问题
本文分析了导入.sql文件后数据库备注出现乱码的原因,包括字符集不匹配、备注内容编码问题及MySQL版本或配置问题,并提供了详细的解决步骤,如检查和统一字符集设置、修改客户端连接方式、检查MySQL配置等,确保导入过程顺利。
|
1月前
|
关系型数据库 MySQL 数据库
GBase 数据库如何像MYSQL一样存放多行数据
GBase 数据库如何像MYSQL一样存放多行数据
|
1月前
|
SQL 关系型数据库 MySQL
12 PHP配置数据库MySQL
路老师分享了PHP操作MySQL数据库的方法,包括安装并连接MySQL服务器、选择数据库、执行SQL语句(如插入、更新、删除和查询),以及将结果集返回到数组。通过具体示例代码,详细介绍了每一步的操作流程,帮助读者快速入门PHP与MySQL的交互。
40 1
|
1月前
|
运维 关系型数据库 MySQL
安装MySQL8数据库
本文介绍了MySQL的不同版本及其特点,并详细描述了如何通过Yum源安装MySQL 8.4社区版,包括配置Yum源、安装MySQL、启动服务、设置开机自启动、修改root用户密码以及设置远程登录等步骤。最后还提供了测试连接的方法。适用于初学者和运维人员。
188 0