[数据库]《高可用mysql》读书笔记

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
日志服务 SLS,月写入数据量 50GB 1个月
简介: 第一章:引言 复制:就是复制一个服务器上的所有改变到另一个服务器 备份的功用:错误保护,建立新服务器,法律原因 监控:不监控就无法观察到有问题的查询、过热的从节点、使用不恰当的表等 第二章:mysql复制原理 1.

第一章:引言

复制:就是复制一个服务器上的所有改变到另一个服务器

备份的功用:错误保护,建立新服务器,法律原因

监控:不监控就无法观察到有问题的查询、过热的从节点、使用不恰当的表等

第二章:mysql复制原理

1.配置master、slave、master和slave之间的连接

2.二进制日志简介

 1)在复制中的作用:slave通过二进制日志获取master上的改变
 2)事件:event_type、server_id、log_name、pos、end_log_pos、info

3.二进制日志结构和内容

Mysql 201307181.jpg

第三章:二进制日志


二进制日志的结构

binlog事件的结构:5.0以后为版本4,设计为可扩展的,如果开发者做了重大改动,版本会变化

 组成:1)通用头,2)提交头,3)事件体

注意:

1.事务在master上交错执行,但事务在二进制日志中的顺序不变,取决于事务的提交时间
2.如果服务器突然停止或死机,binlog末尾可能不是轮换事件


记录语句

1.记录DML及DDL语句

2.上下文:

 指服务器执行语句时必须知道的隐式信息,如:当前数据库、RAND函数的种子、当前时间、AUTO_INCREMENT字段的插入值、调用LAST_INSERT_ID的返回值、线程ID
 与语句有关的隐式信息需要满足:包含对用户定义变量的引用; 包含RAND函数的种子(需要将伪随机种子写入日志); LASTER_INSERT_ID;AUTO_INCREMENT;
 二进制日志通过如下事件来存储上下文信息:User_var; Rand; Intvar;

3.LOAD DATA INFILE:

 采用一套特殊的事件来用二进制日志处理文件传输
 引入的新事件:Begin_load_query; Append_block; Execute_load_query; 

4.二进制日志过滤器

 binlog-do-db和binlog-ignore-db Mysql 201307182.jpg 

5.触发器、事件和存储过程

 触发器:在slave上必需(基于语句的复制)
 存储过程:
     注意:1)CALL语句没有被写入二进制日志,而是将存储过程的主体展开后放入二进制日志
           2)对存储过程参数的引用被改写为NAME_CONST函数
           3)局部声明的变量pass也换成NAME_CONST函数
           4)调用存储过程的语句以Intvar事件作为前缀,且包含insert ID
 Event:在slave上被自动禁止

6.特殊结构

 LOAD_FILE函数:获取文件的函数,但slave上必须要有此文件,才能被正确执行。
 解决方案:1)将文件上传至slave;  2)使用LOAD DATA INFILE重写;  3)在用户变量中存储文件内容;

7.非事务性的变化和错误处理

 例:INSERT INTO table(column) values ('xxx');
 ERROR 1062:Duplicate entry 'xxx' for key 'PRIMARY'
 此语句仍会被二进制日志记录,但master会通过Query事件中的一个错误代码字段登记二进制日志。这个错误代码在SHOW BINLOG EVENT看不到,通过mysqlbinlog可查看


记录事务

默认提交的语句:

 1)写文件的语句; 2)修改数据库中表的语句; 3)锁表、管理、LOAD DATA INFILE语句

事务缓存:

 非事务性语句不会导致当前事务的结束
 记录非事务性语句的规则:
 1)如果语句被标记为事务的,它将被写入事务缓存
 2)如果语句没有被标记为事务性的,而且事务缓存中无此语句,该语句被直接写入事务缓存
 3)如果没有被标记为事务性的,但是事务缓存中有语句,则该语句被写入事务缓存 Mysql 201307183.jpg 左边:不应用规则3产生的不良影响  右边:应用规则3的实际情况
 
 避免非事务性语句的复制问题:确保在事务中首先被写入


二进制日志管理

系统崩溃安全:调整sync-binlog

Binlog文件轮换:

 导致轮换的活动:
 1)服务器停止    情景1:服务器停止后被升级
 2)binlog文件达到预设的最大尺寸
 3)Binlog被显式刷新  flush logs
 4)事故发生
 

Binlog文件的第一个事件:格式描述(format description)

 3个有趣项目:
 1)binlog-in-use flag  标记binlog文件是否被正确关闭
 2)binlog版本
 3)服务器版本  协助开发者找出微小错误

二进制日志中的两种事故标记(incident):

 1)stop  表明服务器已通过正常手段停止
 2)incident  包含标识符来指定是哪种类型的事故,slave会因此错误停止


第四章:基于复制的数据库高可用技术                                                                     

双master

 两种模式:active-active(两台同时写);active-passive(一台写,另一台被动)
 使用如下两个变量处理双master上同时写带来的冲突
 auto_increment_offset:自增列的起始值
 auto_increment_increment:自增列下一个值的增量


半同步复制

 理念:允许更改操作继续执行前,确保操作至少被写入一个slave的磁盘。即slave被告知事务已经在持久存储中后,master的客户端才返回提交指令

第五章:Mysql集群的横向扩展

级联复制:添加log-slave-updates选项配置中继服务器发送slave线程事件,并使用blackhole存储引擎提高性能

第六章:高级复制


多源复制

 即一个slave连接多个master。需要处理的冲突如下图: Mysql 201307184.jpg 解决方案:轮询多个master。官方暂未提供此功能,可使用python实现。


基于行的复制

binlog-format:STATEMENT; ROW; MIXED;

混合模式中会切换到基于行的复制的不安全的情况:
1)语句调用了UUID函数,用户自定义函数,CURRENT_USER,USER函数,LOAD_FILE函数
2)同一个语句更改了两张或更多包含AUTO_INCREMENT列的表
3)语句中使用了服务器变量
4)存储引擎不允许使用基于语句的复制,比如mysql cluster引擎

个人认为尽量选用ROW格式的复制,其次是MIXED,最后是最不安全的STATEMENT。

行事件的结构:

Mysql 201307185.jpg 
mysql闪回即是依据基于行的原理实现


参考文献:《高可用mysql的:构建健壮的数据中心

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
2月前
|
关系型数据库 MySQL 数据库连接
数据库连接工具连接mysql提示:“Host ‘172.23.0.1‘ is not allowed to connect to this MySQL server“
docker-compose部署mysql8服务后,连接时提示不允许连接问题解决
|
1月前
|
关系型数据库 MySQL 数据库
Docker Compose V2 安装常用数据库MySQL+Mongo
以上内容涵盖了使用 Docker Compose 安装和管理 MySQL 和 MongoDB 的详细步骤,希望对您有所帮助。
175 42
|
5天前
|
SQL 关系型数据库 MySQL
MySQL生产环境迁移至YashanDB数据库深度体验
这篇文章是作者将 MySQL 生产环境迁移至 YashanDB 数据库的深度体验。介绍了 YashanDB 迁移平台 YMP 的产品相关信息、安装步骤、迁移中遇到的各种兼容问题及解决方案,最后总结了迁移体验,包括工具部署和操作特点,也指出功能有优化空间及暂不支持的部分,期待其不断优化。
|
1月前
|
关系型数据库 MySQL 网络安全
如何排查和解决PHP连接数据库MYSQL失败写锁的问题
通过本文的介绍,您可以系统地了解如何排查和解决PHP连接MySQL数据库失败及写锁问题。通过检查配置、确保服务启动、调整防火墙设置和用户权限,以及识别和解决长时间运行的事务和死锁问题,可以有效地保障应用的稳定运行。
133 25
|
16天前
|
监控 关系型数据库 MySQL
云数据库:从零到一,构建高可用MySQL集群
在互联网时代,数据成为企业核心资产,传统单机数据库难以满足高并发、高可用需求。云数据库通过弹性扩展、分布式架构等优势解决了这些问题,但也面临数据安全和性能优化挑战。本文介绍了如何从零开始构建高可用MySQL集群,涵盖选择云服务提供商、创建实例、配置高可用架构、数据备份恢复及性能优化等内容,并通过电商平台案例展示了具体应用。
|
23天前
|
SQL 关系型数据库 MySQL
数据库数据恢复——MySQL简介和数据恢复案例
MySQL数据库数据恢复环境&故障: 本地服务器,安装的windows server操作系统。 操作系统上部署MySQL单实例,引擎类型为innodb,表空间类型为独立表空间。该MySQL数据库没有备份,未开启binlog。 人为误操作,在用Delete命令删除数据时未添加where子句进行筛选导致全表数据被删除,删除后未对该表进行任何操作。
|
2月前
|
缓存 关系型数据库 MySQL
【深入了解MySQL】优化查询性能与数据库设计的深度总结
本文详细介绍了MySQL查询优化和数据库设计技巧,涵盖基础优化、高级技巧及性能监控。
517 0
|
3月前
|
存储 Oracle 关系型数据库
数据库传奇:MySQL创世之父的两千金My、Maria
《数据库传奇:MySQL创世之父的两千金My、Maria》介绍了MySQL的发展历程及其分支MariaDB。MySQL由Michael Widenius等人于1994年创建,现归Oracle所有,广泛应用于阿里巴巴、腾讯等企业。2009年,Widenius因担心Oracle收购影响MySQL的开源性,创建了MariaDB,提供额外功能和改进。维基百科、Google等已逐步替换为MariaDB,以确保更好的性能和社区支持。掌握MariaDB作为备用方案,对未来发展至关重要。
91 3
|
3月前
|
安全 关系型数据库 MySQL
MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!
《MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!》介绍了MySQL中的三种关键日志:二进制日志(Binary Log)、重做日志(Redo Log)和撤销日志(Undo Log)。这些日志确保了数据库的ACID特性,即原子性、一致性、隔离性和持久性。Redo Log记录数据页的物理修改,保证事务持久性;Undo Log记录事务的逆操作,支持回滚和多版本并发控制(MVCC)。文章还详细对比了InnoDB和MyISAM存储引擎在事务支持、锁定机制、并发性等方面的差异,强调了InnoDB在高并发和事务处理中的优势。通过这些机制,MySQL能够在事务执行、崩溃和恢复过程中保持
177 3
|
3月前
|
SQL 关系型数据库 MySQL
数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog
《数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog》介绍了如何利用MySQL的二进制日志(Binlog)恢复误删除的数据。主要内容包括: 1. **启用二进制日志**:在`my.cnf`中配置`log-bin`并重启MySQL服务。 2. **查看二进制日志文件**:使用`SHOW VARIABLES LIKE 'log_%';`和`SHOW MASTER STATUS;`命令获取当前日志文件及位置。 3. **创建数据备份**:确保在恢复前已有备份,以防意外。 4. **导出二进制日志为SQL语句**:使用`mysqlbinlog`
141 2

热门文章

最新文章