3. Mysql主从复制
3.1 复制概述
复制是指将主数据库的DDL 和 DML 操作通过二进制日志传到从库服务器中，然后在从库上对这些日志重新执行（也叫重做），从而使得从库和主库的数据保持同步。
MySQL支持一台主库同时向多台从库进行复制， 从库同时也可以作为其他从服务器的主库，实现链状复制。
3.2 复制原理
MySQL 的主从复制原理如下。
从上层来看，复制分成三步：
1.Master 主库在事务提交时，会把数据变更作为时间 Events 记录在二进制日志文件 Binlog 中。
2.主库推送二进制日志文件 Binlog 中的日志事件到从库的中继日志 Relay Log 。
3.slave重做中继日志中的事件，将改变反映它自己的数据。
3.3 复制优势
MySQL 复制的要点主要包含以下三个方面：
1.主库出现问题，可以快速切换到从库提供服务。
2.可以在从库上执行查询操作，从主库中更新，实现读写分离，降低主库的访问压力。
3.可以在从库中执行备份，以避免备份期间影响主库的服务。
3.4 搭建步骤
3.4.1 master(主库)
1.在master 的配置文件（/usr/my.cnf）中，配置如下内容：
#mysql 服务ID,保证整个集群环境中唯一 server-id=1 #mysql binlog 日志的存储路径和文件名 log-bin=/var/lib/mysql/mysqlbin #错误日志,默认已经开启 #log-err #mysql的安装目录 #basedir #mysql的临时目录 #tmpdir #mysql的数据存放目录 #datadir #是否只读,1 代表只读, 0 代表读写 read-only=0 #忽略的数据, 指不需要同步的数据库 binlog-ignore-db=mysql #指定同步的数据库 #binlog-do-db=db01
2.执行完毕之后，需要重启Mysql：
systemctl restart mysqld
3.创建同步数据的账户，并且进行授权操作：
grant replication slave on *.* to 'slave128'@'192.168.75.128' identified by 'slave128'; flush privileges;
如果提示Your password does not satisfy the current policy requirements，则根据需要自己修改下配置，参考链接
4.查看master状态（因为之前配置过日志，可以先清除一下reset master）：
show master status;
字段含义：
File : 从哪个日志文件开始推送日志文件 Position ： 从哪个位置开始推送日志 Binlog_Ignore_DB : 指定不需要同步的数据库
3.4.2 slave(从库)
首先把虚拟机克隆一台，然后配置下网络就能使用了。
1.在 slave 端配置文件中，配置如下内容：
#mysql服务端ID,唯一 server-id=2 #指定binlog日志 log-bin=/var/lib/mysql/mysqlbin
2.执行完毕之后，需要重启Mysql：
systemctl restart mysqld
3.执行如下指令 (指定当前从库对应的主库的IP地址，用户名，密码，从哪个日志文件开始的那个位置开始同步推送日志。)：
change master to master_host= '192.168.75.127', master_user='slave128',master_password='slave128', master_log_file='mysqlbin.000001', master_log_pos=154;
4.开启同步操作
start slave; show slave status\G;
如果出现如下错误：
则还需要改一个地方:
可以看到因为是克隆，两台机子uuid还是一样，更改下从机（随便改）：
然后重启服务。
然后重新配置（又报错了，根据提示需要先停止同步）：
可以看到配置成功了：
3.4.3 验证同步操作
1.在主库中创建数据库，创建表，并插入数据 ：
create database db01; use db01; create table user( id int(11) not null auto_increment, name varchar(50) not null, sex varchar(1), primary key (id) )engine=innodb default charset=utf8; insert into user(id,name,sex) values(null,'Tom','1'); insert into user(id,name,sex) values(null,'Trigger','0'); insert into user(id,name,sex) values(null,'Dawn','1');
2.在从库中查询数据，进行验证 ：
在从库中，可以查看到刚才创建的数据库和查询user表中的数据：
4. MySQL读写分离
4.1 概述
在Mysql主从复制的基础上，可以使用读写分离来降低单台Mysql节点的压力，从而来提高访问效率，读写分离的架构如下：
对于读写分离的实现，可以通过Spring AOP 来进行动态的切换数据源。
4.2 创建项目
创建一个spring boot项目，使用mybatis操作数据库，数据库和表使用的是demo_03的tb_user表，那个表使用的是MyISAM引擎，因为后面有需求， 现在改为Innodb的。
表结构和数据：
DROP TABLE IF EXISTS `tb_user`; CREATE TABLE `tb_user` ( `id` int(11) NOT NULL AUTO_INCREMENT, `name` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT NULL, PRIMARY KEY (`id`) USING BTREE ) ENGINE = InnoDB AUTO_INCREMENT = 8 CHARACTER SET = utf8 COLLATE = utf8_general_ci ROW_FORMAT = Dynamic; INSERT INTO `tb_user` VALUES (1, '令狐冲'); INSERT INTO `tb_user` VALUES (2, '田伯光'); SET FOREIGN_KEY_CHECKS = 1;
4.2.1 pom.xml
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.4.2</version> <relativePath/> <!-- lookup parent from repository --> </parent> <groupId>com.example</groupId> <artifactId>mysqlrw</artifactId> <version>0.0.1-SNAPSHOT</version> <name>mysqlrw</name> <description>Demo project for Spring Boot</description> <properties> <java.version>1.8</java.version> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.mybatis.spring.boot</groupId> <artifactId>mybatis-spring-boot-starter</artifactId> <version>2.1.4</version> </dependency> <!--加入aop--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-aop</artifactId> </dependency> <dependency> <groupId>mysql</groupId> <artifactId>mysql-connector-java</artifactId> <scope>runtime</scope> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> <scope>test</scope> </dependency> </dependencies> <build> <plugins> <plugin> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-maven-plugin</artifactId> <configuration> <excludes> <exclude> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> </exclude> </excludes> </configuration> </plugin> </plugins> </build> </project>
4.2.2 application.properties
#master spring.datasource.master.driverClassName=com.mysql.cj.jdbc.Driver #这里要用jdbcUrl，url是不行的，看默认数据源HikariConfig类 spring.datasource.master.jdbcUrl=jdbc:mysql://192.168.75.127:3306/demo_03?characterEncoding=utf8 spring.datasource.master.username=root spring.datasource.master.password=123456 #slave spring.datasource.slave.driverClassName=com.mysql.cj.jdbc.Driver spring.datasource.slave.jdbcUrl=jdbc:mysql://192.168.75.128:3306/demo_03?characterEncoding=utf8 spring.datasource.slave.username=root spring.datasource.slave.password=123456
4.2.3 主要配置
三层架构的代码就不贴了，直接上配置：
当前线程需要使用的数据源：
package com.example.mysqlrw.config; /** * @author baikunlong * @date 2021/2/5 11:32 */ public class HandleDataSource { public static final ThreadLocal<String> holder=new ThreadLocal<>(); public static void putDataSource(String dataSource){ holder.set(dataSource); } public static String getDataSource(){ return holder.get(); } }
自定义路由数据源
package com.example.mysqlrw.config; import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource; /** * @author baikunlong * @date 2021/2/5 11:34 */ public class MyAbstractRoutingDataSource extends AbstractRoutingDataSource { @Override protected Object determineCurrentLookupKey() { System.out.println("determineCurrentLookupKey()--->: "+HandleDataSource.getDataSource()); return HandleDataSource.getDataSource(); } }
注册数据源相关bean：
package com.example.mysqlrw.config; import org.apache.ibatis.session.SqlSessionFactory; import org.mybatis.spring.SqlSessionFactoryBean; import org.mybatis.spring.SqlSessionTemplate; import org.springframework.boot.context.properties.ConfigurationProperties; import org.springframework.boot.jdbc.DataSourceBuilder; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.context.annotation.Primary; import org.springframework.jdbc.datasource.DataSourceTransactionManager; import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource; import javax.sql.DataSource; import java.util.HashMap; /** * @author baikunlong * @date 2021/2/5 11:36 */ @Configuration public class DataSourceConfig { @Bean @ConfigurationProperties(prefix = "spring.datasource.master") public DataSource masterDataSource(){ return DataSourceBuilder.create().build(); } @Bean @ConfigurationProperties(prefix = "spring.datasource.slave") public DataSource slaveDataSource(){ return DataSourceBuilder.create().build(); } /** * 设置数据源路由，通过该类中的determineCurrentLookupKey方法决定使用哪个数据源 * @return */ @Bean public AbstractRoutingDataSource routingDataSource(){ MyAbstractRoutingDataSource source = new MyAbstractRoutingDataSource(); HashMap<Object, Object> map = new HashMap<>(); map.put("master",masterDataSource()); map.put("slave",slaveDataSource()); // 默认使用主数据源 source.setDefaultTargetDataSource(masterDataSource()); source.setTargetDataSources(map); return source; } @Bean(name = "SqlSessionFactory") @Primary public SqlSessionFactory MasterSqlSessionFactory( DataSource routingDataSource) throws Exception { SqlSessionFactoryBean bean = new SqlSessionFactoryBean(); bean.setDataSource(routingDataSource);//DataSource使用路由数据源 // ResourcePatternResolver resolver = new PathMatchingResourcePatternResolver(); // try { // bean.setMapperLocations(resolver.getResources("classpath*:mappers/*.xml")); // bean.setConfigLocation(resolver.getResource("classpath:mybatis-config.xml")); return bean.getObject(); // } catch (Exception e) { // e.printStackTrace(); // throw new RuntimeException(e); // } } @Bean(name = "TransactionManager") @Primary public DataSourceTransactionManager testTransactionManager(DataSource routingDataSource) { return new DataSourceTransactionManager(routingDataSource); } @Bean(name = "SqlSessionTemplate") @Primary public SqlSessionTemplate MasterSqlSessionTemplate(SqlSessionFactory sqlSessionFactory) throws Exception { return new SqlSessionTemplate(sqlSessionFactory); } }
最后使用切面实现在每次请求时动态选择数据源：
package com.example.mysqlrw.config; import org.aspectj.lang.JoinPoint; import org.aspectj.lang.annotation.Aspect; import org.aspectj.lang.annotation.Before; import org.aspectj.lang.annotation.Pointcut; import org.springframework.context.annotation.EnableAspectJAutoProxy; import org.springframework.core.annotation.Order; import org.springframework.stereotype.Component; /** * @author baikunlong * @date 2021/2/5 11:43 */ @Aspect @Component @Order(-9999) @EnableAspectJAutoProxy(proxyTargetClass = true) public class DataSourceAspect { @Pointcut("execution(* com.example.mysqlrw.controller.*.*(..))") public void pointcut(){} @Before("pointcut()") @Order(-9999) public void before(JoinPoint joinPoint){ String name = joinPoint.getSignature().getName(); System.out.println("执行方法："+name); //读用从机，比如get、find、select等开头的方法都可认定为读 if(name.startsWith("get")){ HandleDataSource.putDataSource("slave"); }else { //写用主机 HandleDataSource.putDataSource("master"); } } }
通过 @Order(-9999) 注解来控制事务管理器, 与该通知类的加载顺序 , 需要让通知类先加载 , 来判定使用哪个数据源 。
4.3 验证
在主库和从库中，执行如下SQL语句，来查看是否读的时候， 从从库中读取 ； 写入操作的时候，是否写入到主库(因为上边开启了主从复制，所以从库的写操作数也会更新)。
5. MySQL性能优化
5.1 分析性能问题
系统中用户访问日志的数据量，随着时间的推移，这张表的数据量会越来越大，因此我们需要根据业务需求，来对日志查询模块的性能进行优化。
分页查询优化
由于在进行日志查询时，是进行分页查询，那也就意味着，在查看时，至少需要查询两次：
A. 查询符合条件的总记录数。–> count 操作
B. 查询符合条件的列表数据。–> 分页查询 limit 操作
通常来说，count() 都需要扫描大量的行（意味着需要访问大量的数据）才能获得精确的结果，因此是很难对该SQL进行优化操作的。如果需要对count进行优化，可以采用另外一种思路，可以增加汇总表，或者redis缓存来专门记录该表对应的记录数，这样的话，就可以很轻松的实现汇总数据的查询，而且效率很高，但是这种统计并不能保证百分之百的准确 。对于数据库的操作，“快速、精确、实现简单”，三者永远只能满足其二，必须舍掉其中一个。
条件查询优化
针对于条件查询,需要对查询条件,及排序字段建立索引。
读写分离
通过主从复制集群，来完成读写分离，使写操作走主节点， 而读操作，走从节点。
MySQL服务器优化
应用优化
5.1 性能优化 - 分页
5.1.1 优化count
创建一张表用来记录日志表的总数据量：
create table log_counter( logcount bigint not null )engine = innodb default CHARSET = utf8;
在每次插入数据之后，更新该表 ：
update log_counter set logcount = logcount + 1
在进行分页查询时, 获取总记录数，从该表中查询既可。
select logcount from log_counter limit 1
5.1.2 优化limit
在进行分页时，一般通过创建覆盖索引，能够比较好的提高性能。一个非常常见，而又非常头疼的分页场景就是"limit 1000000,10" ，此时MySQL需要搜索出前1000010 条记录后，仅仅需要返回第 1000001 到 1000010 条记录，前1000000 记录会被抛弃，查询代价非常大。
当点击比较靠后的页码时，就会出现这个问题，查询效率非常慢。
优化前SQL：
select * from operation_log limit 3000000 , 10;
优化后SQL：
select * from operation_log t , (select id from operation_log order by id limit 3000000,10) b where t.id = b.id ;
5.2 性能优化 - 索引
当根据操作人进行查询时， 查询的效率很低，耗时比较长。原因就是因为在创建数据库表结构时，并没有针对于操作人字段建立索引。
CREATE INDEX idx_user_method_return_cost ON operation_log(operate_user,operate_method,return_class,cost_time);
同上 ， 为了查询效率高，我们也需要对 操作方法、返回值类型、操作耗时 等字段进行创建索引，以提高查询效率。
CREATE INDEX idx_optlog_method_return_cost ON operation_log(operate_method,return_class,cost_time); CREATE INDEX idx_optlog_return_cost ON operation_log(return_class,cost_time); CREATE INDEX idx_optlog_cost ON operation_log(cost_time);
总结就是一句话，根据最左原则，建立需要用到的所有的复合索引速度就能提升。
5.3 性能优化 - 排序
在查询数据时，如果业务需求中需要我们对结果内容进行了排序处理 ，这个时候，我们还需要对排序的字段建立适当的索引，来提高排序的效率 。
5.4 性能优化 - 读写分离
上面例子已经讲述了。
5.5性能优化 - 应用优化
5.5.1缓存
可以在业务系统中使用redis来做缓存，缓存一些基础性的数据，来降低关系型数据库的压力，提高访问效率。
5.5.2 全文检索
如果业务系统中的数据量比较大（达到千万级别），这个时候，如果再对数据库进行查询，特别是进行分页查询，速度将变得很慢（因为在分页时首先需要count求合计数），为了提高访问效率，这个时候，可以考虑加入Solr 或
者 ElasticSearch全文检索服务，来提高访问效率。
5.5.3 非关系数据库
也可以考虑将非核心（重要）数据，存在 MongoDB 中，这样可以提高插入以及查询的效率。
