MySQL日志管理和完全备份增量备份与恢复(一)

本文涉及的产品
云数据库 RDS MySQL,集群版 2核4GB 100GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
日志服务 SLS,月写入数据量 50GB 1个月
简介: 1

前言

由于日志文件是掌握数据库的运行的重要参考;,因此日志文件的维护也有十分重要的意义。MySQL的日志类型有错误日志、通用查询日志、二进制日志、慢查询日志。



一、日志分类


MySQL 的日志默认保存位置为**/usr/local/mysql/data**

MySQL 的日志配置文件为/etc/my.cnf,里面有个**[mysqld]**项。


vim /etc/my.cnf
[mysqld]
##错误日志,用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log  #指定日志的保存位置和文件名
##通用查询日志,用来记录MySQL的所有连接和语句,默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
##二进制日志(binlog),用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
log-bin=mysql-bin #也可以 log_bin=mysql-bin
##慢查询日志,用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便于优化,默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 #设置超过5秒执行的语句被记录,缺省时为10秒




1.1错误日志

①错误日志主要记录当MySQL启动和停止时,以及在运行过程中发生任何错误时的相关信息。错误日志默认保存在MySQL的安装路径data文件夹下,后缀名是.err。


②在MySQL的配置文件中,可以指定日志文件的保存位置和日志的文件名。log-error=file_name选项来指定保存报错日志文件的位置,file-name指定日志文件名,如果没有指定文件名,使用host-name.err作为文件名。

[root@localhost data]# vim /etc/my.cnf
//省略内容
log-error=/usr/local/mysql/data/mysql_error.log  #指定日志的保存位置和文件名
//省略内容


③重启MySQL后,生成mysql_error.log用来记录错误日志。


[root@localhost data]# systemctl restart mysqld
[root@localhost data]# ls
 mysql_error.log
 //省略内容

注意:MySQL必须指定的文件夹有读写的权限,否则无法操作文件。


1.2通用查询日志

①通用查询日志用来记录MySQL的所有连接和语句,默认是关闭的。使用SHOW语句可以查询出日志的信息。


mysql> show variables like 'general%';
+------------------+-------------------------------------+
| Variable_name    | Value                               |
+------------------+-------------------------------------+
| general_log      | OFF                                 |
| general_log_file | /usr/local/mysql/data/localhost.log |
+------------------+-------------------------------------+
2 rows in set (0.00 sec)

general_log对应的时通用查询日志,它的值是OFF,表示是关闭的。


②修改MySQL配置文件的general_log=ON选项,可以打开通用日志查询日志,general_log_file=file_name定义通用查询日志的位置,如果没有指定file_name的值,默认名是host_name.log。


[root@localhost data]# vim /etc/my.cnf
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

③重启mysql后,通用查询日志生效。


[root@localhost data]# systemctl restart mysqld
[root@localhost data]# ls
mysql_general.log 

④使用SHOW语句查看通用查询日志已经打开,general_log对应的值是ON。


mysql> show variables like 'general%';
+------------------+-----------------------------------------+
| Variable_name    | Value                                   |
+------------------+-----------------------------------------+
| general_log      | ON                                      |
| general_log_file | /usr/local/mysql/data/mysql_general.log |
+------------------+-----------------------------------------+
2 rows in set (0.00 sec)

1.3二进制日志

①二进制日志用来记录所以更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,主要目的是在恢复数据时能够最大程度地恢复数据库。二进制日志默认是开启的,在data文件夹下,以mysql-bin命名,数据量大时,它会自动分割成多个日志文件,以数字作为扩展名。


[root@localhost data]# vim /etc/my.cnf
      log-bin=mysql-bin


[root@localhost data]# systemctl restart mysqld
[root@localhost data]# ls
    mysql-bin.000001 

②二进制日志可以使用MySQL的工具mysqlbinlog查看二进制文件。


[root@localhost data]# mysqlbinlog mysql-bin.000001
/*!50530 SET @@SESSION.PSEUDO_SLAVE_MODE=1*/;
/*!50003 SET @OLD_COMPLETION_TYPE=@@COMPLETION_TYPE,COMPLETION_TYPE=0*/;
DELIMITER /*!*/;
# at 4
#220622  3:23:29 server id 1  end_log_pos 123 CRC32 0xcdd06d5a  Start: binlog v 4, server v 5.7.17-log create
d 220622  3:23:29 at startup# Warning: this binlog is either in use or was not closed properly.
ROLLBACK/*!*/;
BINLOG '
ccOyYg8BAAAAdwAAAHsAAAABAAQANS43LjE3LWxvZwAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA
AAAAAAAAAAAAAAAAAABxw7JiEzgNAAgAEgAEBAQEEgAAXwAEGggAAAAICAgCAAAACgoKKioAEjQA
AVpt0M0=
'/*!*/;
# at 123
#220622  3:23:29 server id 1  end_log_pos 154 CRC32 0xeec34259  Previous-GTIDs
# [empty]
SET @@SESSION.GTID_NEXT= 'AUTOMATIC' /* added by mysqlbinlog */ /*!*/;
DELIMITER ;
# End of log file
/*!50003 SET COMPLETION_TYPE=@OLD_COMPLETION_TYPE*/;
/*!50530 SET @@SESSION.PSEUDO_SLAVE_MODE=0*/;


解释在本机里有一条事务操作rollback,操作时间是22年6月22日3点23分39秒这就是二进制文件的内容格式,MySQL根据这样的信息做的恢复数据库操作。


1.4慢查询日志

慢查询日志记录所有执行时间超过long_query_time秒的SQL语句,用于找到哪些查询语句执行时间长,以便于对其优化。默认慢查询日志是关闭的,slow_query_log是慢查询的选项, 默认是OFF。


mysql> show variables like '%slow%';//查看MysSQL慢查询功能是否开启
+---------------------------+------------------------------------------+
| Variable_name             | Value                                    |
+---------------------------+------------------------------------------+
| log_slow_admin_statements | OFF                                      |
| log_slow_slave_statements | OFF                                      |
| slow_launch_time          | 2                                        |
| slow_query_log            | OFF    //状态为OFF                                  |
| slow_query_log_file       | /usr/local/mysql/data/localhost-slow.log |
+---------------------------+------------------------------------------+
5 rows in set (0.00 sec)


①可以使用 SQL语句开启MySQL慢查询功能。


mysql> set global slow_query_log=ON; //开启MySQL慢查询功能
Query OK, 0 rows affected (0.00 sec)
mysql> show variables like '%slow%';
+---------------------------+------------------------------------------+
| Variable_name             | Value                                    |
+---------------------------+------------------------------------------+
| log_slow_admin_statements | OFF                                      |
| log_slow_slave_statements | OFF                                      |
| slow_launch_time          | 2                                        |
| slow_query_log            | ON   //状态为ON                                    |
| slow_query_log_file       | /usr/local/mysql/data/localhost-slow.log |
+---------------------------+------------------------------------------+
5 rows in set (0.01 sec)


慢查询时间设置默认为10秒,记录10秒内的查询,可以通用global long_query_time选项进行修改。


mysql> show variables like 'long_query_time';//查看慢查询时间设置
+-----------------+-----------+
| Variable_name   | Value     |
+-----------------+-----------+
| long_query_time | 10.000000 |
+-----------------+-----------+
1 row in set (0.00 sec)

mysql> set  long_query_time=5;
Query OK, 0 rows affected (0.00 sec)
mysql> show variables like 'long_query_time';
+-----------------+----------+
| Variable_name   | Value    |
+-----------------+----------+
| long_query_time | 5.000000 |
+-----------------+----------+
1 row in set (0.00 sec)

②也可以在MySQL的配置文件中进行设置,指定slow_query_log=ON选项启动慢查询功能,使用slow_query_log_file=filename指定存放慢查询日志位置,如果没有filename值,默认为hostname-slow.log,如果没有给出绝对路径,文件保存在data目录下。long_query_time=1设置了超过1秒执行的语句被记录。


slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5

重启后MySQL后,慢查询日志mysql_slow_query.log被创建。经常检查慢日志,当有有查询日志被记录,就需要对其进行优化处理了。


[root@localhost data]# systemctl restart mysqld
[root@localhost data]# ls
 mysql_slow_query.log

③进行慢查询测试生成慢查询日志。


mysql> select sleep(6);
+----------+
| sleep(6) |
+----------+
|        0 |
+----------+
1 row in set (6.00 sec)
mysql> show global status like  '%slow%';
+---------------------+-------+
| Variable_name       | Value |
+---------------------+-------+
| Slow_launch_threads | 0     |
| Slow_queries        | 1     |
+---------------------+-------+
2 rows in set (0.01 sec)

查看生成的慢查询日志。


[root@localhost data]# cat /usr/local/mysql/data/mysql_slow_query.log
/usr/local/mysql/bin/mysqld, Version: 5.7.17-log (Source distribution). started with:
Tcp port: 3306  Unix socket: /usr/local/mysql/mysql.sock
Time                 Id Command    Argument
# Time: 2022-06-22T09:20:30.882505Z
# User@Host: root[root] @ localhost []  Id:     3
# Query_time: 6.001033  Lock_time: 0.000000 Rows_sent: 1  Rows_examined: 0
SET timestamp=1655889630;
select sleep(6);



二、数据库备份的重要性与分类


在生产环境中,数据的安全性是至关重要的,任何数据的丢失都可能产生严重的后果。数据库备份的重要性主要体现在:


提高系统的高可用性和灾难可恢复性,在数据库崩溃时,没有数据库备份就没法找到数据。

使用数据库备份还原数据库,是数据库系统崩溃时提供最小代价的最优方案,如果让用户重新添加数据,代价未免太大。

没有数据就没有一切,数据库备份是一种防范灾难的强力手段。

使用数据库的过程中,有多种原因造成数据丢失:

备份的主要目的是灾难恢复

在生产环境中,数据的安全性至关重要


任何数据的丢失都可能产生严重的后果


造成数据丢失的原因


程序错误

人为操作错误

运算错误

磁盘故障

灾难(如火灾、地震)和盗窃

2.1数据库备份的分类

备份的方式分为很多种,从物理与逻辑的角度,备份分为以下几类:


物理备份:指对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。物理备份又可以分为脱机备份(冷备份)和联机备份(热备份)。


冷备份:在关闭数据库时进行的备份操作,能够较好地保证数据库的完整性。


热备份:在数据库运行状态中进行操作,这种备份方法依赖于数据库的日志文件。


逻辑备份:指对数据库逻辑组件(如表等数据库对象)的备份。


从数据库的备份策略角度,备份可以分为完全备份、差异备份和增量备份。

完全备份:每次对数据进行完整版的备份。可以备份整个数据库,包括用户表、系统表、索引、视图和存储过程等所有数据库对象。但它需要花费更多时间和空间,所以,做一次完全备份的周期要长些。


差异备份:备份那些自从上次完全备份之后被修改过的文件,只备份数据库部分的内容。它比最初的完全备份小,因为只包含自上次完全备份以来所改变的数据库。它的优点是存储和恢复速度快。


增量备份:只有那些在上次备份或者增量备份后被修改的文件才会被备份。

MySQL 完全备份

InnoDB存储引擎的数据库在磁盘上存储成三个文件:db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。


2.2完全备份演练

mysql数据库的备份可以采用两种方式,因为数据库实际上就是文件,直接打包数据库文件夹,或者是使用专用备份工具mysqldump都可以进行备份工作。


2.2.1使用tar打包文件夹备份

MySQL的数据库文件默认都是保存在安装目录的data文件夹下面,可以直接保存data文件夹,但是占用的空间较大,可以使用tar打包压缩进行保存。


mysql -u root -p #进入
create database caosong #建库
use school;#进库
create table if not exists class1 (
id int(4) not null auto_increment,
name varchar(10) not null,
age char(10) not null,
hobby varchar(50),
primary key (id));
 #创表并设id为主键
insert into class1 values(1,'caosong',18,'sleep');插入数据
insert into class1 values(2,'liu',18,'run');

①数据库文件很大,可以使用压缩率较大的xz格式压缩,首先需要安装xz压缩格式工具。


systemctl stop mysqld#冷备前关闭数据库服务
yum -y install xz#安装xz压缩工具,它速度快

②对数据库文件夹/usr/local/mysql/data/进行打包操作。


#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/#使用tar压缩,并加入压缩的日期


③使用ls命令,查看打包内容是否运行成功,已经生成了备份文件。

④如果数据库文件损坏数据丢失,可以解压缩备份文件,相当于做了数据恢复。


drop database caosong;#删除数据库
quit#退出数据库
tar Jxvf /opt/mysql_all_2022-06-22.tar.xz -C /usr/local/mysql/data/
#恢复数据
systemctl restart mysqld.service#重启服务查看被删除的库



2.2.2 mysqldump 备份与恢复

前面介绍的对MySQL整个数据库目录压缩的方式,是备份数据库中所有的内容。使用mysqldump可以更加灵活地控制备份的内容,比如某几个表或库都可以单独备份。

①使用mysqldump命令对某些表进行完全备份,命令格式如下:


mysqldump -u 用户名 -p[密码] [选项] [数据库名] [数据表名] … > /备份路径/备份文件名.sql

例:


mysqldump -uroot -p123456 [-d] school class > /opt/school_class.sql
#不使用“-d”选项,说明表数据也进行备份
#使用“-d”选项,说明只保存数据库的表结构

查看备份文件


cat school_class1_school2.sql |grep -v '^/'|grep -v '^$'|grep -v '^-'


②使用mysqldump命令对数据库进行完全备份


#完全备份单个库(包含其中所有的表)

mysqldump -u 用户名 -p[密码] [选项] [数据库名] > /备份路径/备份文件名.sql #导出的就是数据库脚本文件

#备份多个库

mysqldump -u 用户名 -p[密码] [选项] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql

#完全备份所有库

mysqldump -u 用户名 -p[密码] [选项] --all-databases  > /备份路径/备份文件名.sql


相关文章
|
17天前
|
存储 关系型数据库 MySQL
|
12天前
|
SQL 安全 关系型数据库
MySQL的binlog日志的简介与查看
MySQL的binlog日志的简介与查看
26 4
|
13天前
|
关系型数据库 MySQL 数据库
MySQL 启动日志报错: File /mysql-bin.index not found (Errcode: 13 - Permission denied)
MySQL 启动日志报错: File /mysql-bin.index not found (Errcode: 13 - Permission denied)
31 2
|
14天前
|
存储 关系型数据库 MySQL
|
11天前
|
SQL 关系型数据库 MySQL
Navicate,数据库,Mysql,改表,4月29日Finished - Unsuccessfully,导出数据不妨,右键,备份一下Mysql数据库的内容,你想导入和导出数据不如,用查询的方式去做
Navicate,数据库,Mysql,改表,4月29日Finished - Unsuccessfully,导出数据不妨,右键,备份一下Mysql数据库的内容,你想导入和导出数据不如,用查询的方式去做
|
15天前
|
SQL DataWorks Oracle
DataWorks产品使用合集之datax解析oracle增量log日志该如何操作
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
15 0
|
9天前
|
存储 关系型数据库 MySQL
探索MySQL:关系型数据库的基石
MySQL,作为全球最流行的开源关系型数据库管理系统(RDBMS)之一,广泛应用于各种Web应用、企业级应用和数据仓库中
|
7天前
|
关系型数据库 MySQL 网络安全
Mysql 数据库主从复制
在MySQL主从复制环境中,配置了两台虚拟机:主VM拥有IP1,从VM有IP2。主VM的`my.cnf`设置server-id为1,启用二进制日志;从VM设置server-id为2,开启GTID模式。通过`find`命令查找配置文件,编辑`my.cnf`,在主服务器上创建复制用户,记录二进制日志信息,然后锁定表并备份数据。备份文件通过SCP传输到从服务器,恢复数据并配置复制源,启动复制。检查复制状态确认运行正常。最后解锁表,完成主从同步,新用户在从库中自动更新。
919 6
Mysql 数据库主从复制
|
7天前
|
缓存 运维 关系型数据库
数据库容灾 | MySQL MGR与阿里云PolarDB-X Paxos的深度对比
经过深入的技术剖析与性能对比,PolarDB-X DN凭借其自研的X-Paxos协议和一系列优化设计,在性能、正确性、可用性及资源开销等方面展现出对MySQL MGR的多项优势,但MGR在MySQL生态体系内也占据重要地位,但需要考虑备库宕机抖动、跨机房容灾性能波动、稳定性等各种情况,因此如果想用好MGR,必须配备专业的技术和运维团队的支持。 在面对大规模、高并发、高可用性需求时,PolarDB-X存储引擎以其独特的技术优势和优异的性能表现,相比于MGR在开箱即用的场景下,PolarDB-X基于DN的集中式(标准版)在功能和性能都做到了很好的平衡,成为了极具竞争力的数据库解决方案。
|
13天前
|
XML Java 关系型数据库
Action:Consider the following: If you want an embedde ,springBoot配置数据库,补全springBoot的xml和mysql配置信息就好了
Action:Consider the following: If you want an embedde ,springBoot配置数据库,补全springBoot的xml和mysql配置信息就好了