Mysql数据库平滑扩容解决高并发和大数据量问题 2

本文涉及的产品
PolarClaw,2核4GB
RDS AI 助手,专业版
RDS DuckDB + QuickBI 企业套餐,8核32GB + QuickBI 专业版
简介: Mysql数据库平滑扩容解决高并发和大数据量问题

4.4 环境部署

4.4.1 MariaDB服务安装

  1. 切换阿里云镜像服务(YUM安装过慢可以切换)
yum -y install wget
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak
wget -O /etc/yum.repos.d/CentOS-Base.repo
http://mirrors.aliyun.com/repo/Centos-7.repo
wget -P /etc/yum.repos.d/ http://mirrors.aliyun.com/repo/epel-7.repo
yum clean all
yum makecache

卸载Mariadb服务

yum -y remove Maria*

删除数据与配置:

rm -rf /var/lib/mysql/*
rm -rf /etc/my.cnf.d/
rm -rf /etc/my.cnf
  1. 初始化配置
systemctl  start mariadb
mysql_secure_installation
  1. 开启用户远程连接权限
    将连接用户root开启远程连接权限;
    mysql -uroot -p654321
    进入MySQL服务, 执行以下操作:
use mysql;
delete from user;
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '654321' WITH GRANT
OPTION;
FLUSH PRIVILEGES;

4.4.2 MariaDB双主同步

  1. 在Server1增加配置:
    在/etc/my.cnf中添加以下配置:
[mysqld]
server-id  = 1
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=1
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

注意, Server1自增为奇数位:

auto-increment-offset=1 主键自增基数, 从1开始。

auto-increment-increment=2 主键自增偏移量,每次为2。

2. 在Server2增加配置:

修改/etc/my.cnf:

[mysqld]
server-id = 2
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=2
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

Server2自增为偶数位:

auto-increment-offset=2 主键自增基数, 从2开始。

auto-increment-increment=2 主键自增偏移量,每次为2。

配置修改完成后, 重启数据库。

3. 同步授权配置

在Server1创建replica用于主从同步的用户:

MariaDB [(none)]> grant replication slave, replication client on *.* to
'replica'@'%' identified by 'replica';
mysql> flush privileges;

查询日志文件与偏移量,开启同步时需使用:

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File       | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 |    663 |       |         |
+------------------+----------+--------------+------------------+

同样, 在Server2创建replica用于主从同步的用户:

MariaDB [(none)]> grant replication slave, replication client on *.* to
'replica'@'%' identified by 'replica';
mysql> flush privileges;

查询日志文件与偏移量:

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File       | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 |    663 |       |         |
+------------------+----------+--------------+------------------+
  1. 配置主从同步信息
    在Server1中执行:
MariaDB [(none)]> change master to
master_host='10.10.20.126',master_user='replica', master_password='replica',
master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=663,
master_connect_retry=30;

在Server2中执行:

MariaDB [(none)]> change master to
master_host='10.10.20.125',master_user='replica', master_password='replica',
master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=663,
master_connect_retry=30;
  1. 开启双主同步
    在Server1和Server2中分别执行:
MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

在Server1查询同步信息:

MariaDB [(none)]> show slave status\G;
*************************** 1. row ***************************
       Slave_IO_State: Waiting for master to send event
        Master_Host: 10.10.20.126
        Master_User: replica
        Master_Port: 3306
       Connect_Retry: 30
      Master_Log_File: mysql-bin.000001
    Read_Master_Log_Pos: 663
       Relay_Log_File: mysql-relay-bin.000002
       Relay_Log_Pos: 555
   Relay_Master_Log_File: mysql-bin.000001
      Slave_IO_Running: Yes
     Slave_SQL_Running: Yes
...

在Server2查询同步信息:

MariaDB [(none)]> show slave status\G;
*************************** 1. row ***************************
       Slave_IO_State: Waiting for master to send event
        Master_Host: 10.10.20.125
        Master_User: replica
        Master_Port: 3306
       Connect_Retry: 30
      Master_Log_File: mysql-bin.000001
    Read_Master_Log_Pos: 663
       Relay_Log_File: mysql-relay-bin.000002
       Relay_Log_Pos: 555
   Relay_Master_Log_File: mysql-bin.000001
      Slave_IO_Running: Yes
     Slave_SQL_Running: Yes
...

Slave_IO_Running和Slave_SQL_Running 都是Yes,说明双主同步配置成功。

4.4.3 KeepAlived安装与高可用配置

  1. 在Server1与Server2两台节点安装keepalived:
    yum -y install keepalived
    2.关闭防火墙
systemctl stop firewalld
systemctl disable firewalld
  1. 设置主机名称:
    Server1节点:hostnamectl set-hostname vip1
    Server2节点:hostnamectl set-hostname vip2
  2. Server1节点配置
    /etc/keepalived/keepalived.conf:
global_defs {
 router_id vip1      # 机器标识,和主机名保持一致
}
vrrp_instance VI_1 {       #vrrp实例定义
 state BACKUP        #lvs的状态模式,MASTER代表主, BACKUP代表备份节点
 interface ens33        #绑定对外访问的网卡
 virtual_router_id 111     #虚拟路由标示,同一个vrrp实例采用唯一标示
 priority 100        #优先级,100代表最大优先级, 数字越大优先级越高
 advert_int 1        #master与backup节点同步检查的时间间隔,单位是秒
 authentication {      #设置验证信息
   auth_type PASS     #有PASS和AH两种
   auth_pass 6666     #验证密码,BACKUP密码须相同
 }
 virtual_ipaddress {     #KeepAlived虚拟的IP地址
    10.10.20.130
 }
}
virtual_server 10.10.20.130 3306 {    #配置虚拟服务器IP与访问端口
 delay_loop 6         #健康检查时间
 lb_algo rr          #负载均衡调度算法, rr代表轮询
 lb_kind DR          #负载均衡转发规则
 persistence_timeout 0     #会话保持时间,这里要做测试, 所以设为0, 实际可根
据session有效时间配置
 protocol TCP        #转发协议类型,支持TCP和UDP
 real_server 10.10.20.125 3306 {   #配置服务器节点VIP1  
 notify_down /usr/local/shell/mariadb.sh #当服务挂掉时, 会执行此脚本,结束
keepalived进程
 weight 1        #设置权重,越大权重越高
 TCP_CHECK {        #r状态监测设置
   connect_timeout 10    #超时配置, 单位秒
   retry 3       #重试次数
   delay_before_retry 3     #重试间隔
   connect_port 3306     #连接端口, 和上面保持一致
   }
 }
}

创建关闭脚本mariadb.sh

/usr/local/shell/mariadb.sh:pkill keepalived

加入执行权限:chmod a+x mariadb.sh

5.Server2节点配置:

global_defs {
 router_id vip2      # 机器标识,和主机名保持一致
}
vrrp_instance VI_1 {       #vrrp实例定义
 state BACKUP        #lvs的状态模式,MASTER代表主, BACKUP代表备份节点
 interface ens33        #绑定对外访问的网卡
 virtual_router_id 111     #虚拟路由标示,同一个vrrp实例采用唯一标示
 priority 98        #优先级,100代表最大优先级, 数字越大优先级越高
 advert_int 1        #master与backup节点同步检查的时间间隔,单位是秒
 authentication {      #设置验证信息
   auth_type PASS     #有PASS和AH两种
   auth_pass 6666     #验证密码,BACKUP密码须相同
 }
 virtual_ipaddress {     #KeepAlived虚拟的IP地址
    10.10.20.130
 }
}
virtual_server 10.10.20.130 3306 {    #配置虚拟服务器IP与访问端口
 delay_loop 6         #健康检查时间
 lb_algo rr          #负载均衡调度算法, rr代表轮询, 可以关闭
 lb_kind DR          #负载均衡转发规则, 可以关闭
 persistence_timeout 0     #会话保持时间,这里要做测试, 所以设为0, 实际可根
据session有效时间配置
 protocol TCP        #转发协议类型,支持TCP和UDP
 real_server 10.10.20.126 3306{   #配置服务器节点VIP2
 notify_down /usr/local/shell/mariadb.sh #当服务挂掉时, 会执行此脚本,结束
keepalived进程
 weight 1        #设置权重,越大权重越高
 TCP_CHECK {        #r状态监测设置
   connect_timeout 10    #超时配置, 单位秒
   retry 3       #重试次数
   delay_before_retry 3     #重试间隔
   connect_port 3306     #连接端口, 和上面保持一致
   }
 }
}

和Server1的差异项:

router_id vip2  # 机器标识,和主机名保持一致
priority 98        #优先级,100代表最大优先级, 数字越大优先级越高
real_server 10.10.20.126 3306  #配置服务器节点VIP2

注意, 两台节点都设为BACKUP

virtual_router_id 111     #同一个vrrp实例采用唯一标示
state BACKUP

如果不想重启后, 争夺备用节点的VIP, 可以设置此项

nopreempt #不主动抢占资源

6. 验证高可用

停止主节点MariaDB服务, 验证是否自动切换。

4.4.4 搭建应用服务工程

  1. ShardingJDBC的集成配置
  2. ShardingJDBC数据源的动态切换实现
  3. 验证应用服务动态扩容



  1. 配置两个数据源,分别指向Server1和Server2
  2. 分片只配置一个数据源
  3. 动态增加另一个数据源
  4. 动态扩容的验证
  5. 动态扩容的复原验证(模拟节点异常, 实现复原单节点数据源)
  6. 采用动态数据源配置实现扩容(扩容实践中改造)
// 动态数据源配置实现扩容
Properties properties = loadPropertiesFile("datasource1.properties");
try {
  log.info("load datasource config url: " + properties.get("url"));
  DruidDataSource druidDataSource = (DruidDataSource)
DruidDataSourceFactory.createDataSource(properties);
  druidDataSource.setRemoveAbandoned(true);
  druidDataSource.setRemoveAbandonedTimeout(600);
  druidDataSource.setLogAbandoned(true);
  // 设置数据源错误重连时间
  druidDataSource.setTimeBetweenConnectErrorMillis(60000);
  druidDataSource.init();
  OrchestrationShardingDataSource dataSource =
SpringContextUtil.getBean("tradeSystemDataSource",
OrchestrationShardingDataSource.class);
  Map<String, DataSource> dataSourceMap =
dataSource.getDataSource().getDataSourceMap();
  dataSourceMap.put(DatasourceEnum.DATASOURCE_2.getValue(),
druidDataSource);
  Map<String, DataSourceConfiguration> dataSourceConfigMap = new
HashMap<String, DataSourceConfiguration>();
  for(String key : dataSourceMap.keySet()) {
    dataSourceConfigMap.put(key,
DataSourceConfiguration.getDataSourceConfiguration(dataSourceMap.get(key)));
 }
  String result =
SHARDING_RULE_TABLE_ORDER.replace(SHARDING_RULE_DATASOURCE, newRule);
  replaceActualDataNodes(result);
  SHARDING_RULE_DATASOURCE = newRule;
  dataSource.renew(new DataSourceChangedEvent(
    "/" + DruidSystemDataSourceConfiguration.DYNAMIC_SHARDING +
"/config/schema/logic_db/datasource",
    dataSourceConfigMap));
  return;
} catch (Exception e) {
  log.error(e.getMessage(), e);
}

4.注意事项

Sharding JDBC, Mycat, Drds 等产品都是分布式数据库中间件, 相比直接的数据源操作, 会存在一些

限制, Sharding JDBC在使用时, 要注意以下问题:

有限支持子查询

不支持HAVING

不支持OR,UNION 和 UNION ALL

不支持特殊INSERT

每条INSERT语句只能插入一条数据,不支持VALUES后有多行数据的语句

不支持DISTINCT聚合

不支持dual虚拟表查询

不支持SELECT LAST_INSERT_ID(), 不支持自增序列

不支持CASE WHEN

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
目录
相关文章
|
11月前
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
9月前
|
缓存 关系型数据库 MySQL
在MySQL中处理高并发和负载峰值的关键技术与策略
采用上述策略和技术时,每个环节都要进行细致的规划和测试,确保数据库系统既能满足高并发的要求,又要保持足够的灵活性来应对各种突发的流量峰值。实施时,合理评估和测试改动对系统性能的影响,避免单一措施可能引起的连锁反应。持续的系统监控和分析将对维护系统稳定性和进行未来规划提供重要信息。
420 15
|
10月前
|
关系型数据库 MySQL 分布式数据库
Super MySQL|揭秘PolarDB全异步执行架构,高并发场景性能利器
阿里云瑶池旗下的云原生数据库PolarDB MySQL版设计了基于协程的全异步执行架构,实现鉴权、事务提交、锁等待等核心逻辑的异步化执行,这是业界首个真正意义上实现全异步执行架构的MySQL数据库产品,显著提升了PolarDB MySQL的高并发处理能力,其中通用写入性能提升超过70%,长尾延迟降低60%以上。
|
11月前
|
存储 关系型数据库 MySQL
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
本文详细介绍了在 MySQL 中创建数据库和表的方法。包括安装 MySQL、用命令行和图形化工具创建数据库、选择数据库、创建表(含数据类型介绍与选择建议、案例分析、最佳实践与注意事项)以及查看数据库和表的内容。文章专业、严谨且具可操作性,对数据管理有实际帮助。
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
|
关系型数据库 MySQL 数据安全/隐私保护
大数据新视界--大数据大厂之MySQL 数据库课程设计:数据安全深度剖析与未来展望
本文深入探讨数据库课程设计 MySQL 的数据安全。以医疗、电商、企业案例,详述用户管理、数据加密、备份恢复及网络安全等措施,结合数据安全技术发展趋势,与《大数据新视界 -- 大数据大厂之 MySQL 数据库课程设计》紧密关联,为 MySQL 数据安全提供全面指南。
大数据新视界--大数据大厂之MySQL 数据库课程设计:数据安全深度剖析与未来展望
|
9月前
|
关系型数据库 MySQL Java
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
|
负载均衡 算法 关系型数据库
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL集群架构负载均衡故障排除与解决方案
本文深入探讨 MySQL 集群架构负载均衡的常见故障及排除方法。涵盖请求分配不均、节点无法响应、负载均衡器故障等现象,介绍多种负载均衡算法及故障排除步骤,包括检查负载均衡器状态、调整算法、诊断修复节点故障等。还阐述了预防措施与确保系统稳定性的方法,如定期监控维护、备份恢复策略、团队协作与知识管理等。为确保 MySQL 数据库系统高可用性提供全面指导。
|
SQL 关系型数据库 MySQL
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL 数据库 SQL 语句调优方法详解(2-1)
本文深入介绍 MySQL 数据库 SQL 语句调优方法。涵盖分析查询执行计划,如使用 EXPLAIN 命令及理解关键指标;优化查询语句结构,包括避免子查询、减少函数使用、合理用索引列及避免 “OR”。还介绍了索引类型知识,如 B 树索引、哈希索引等。结合与 MySQL 数据库课程设计相关文章,强调 SQL 语句调优重要性。为提升数据库性能提供实用方法,适合数据库管理员和开发人员。
|
关系型数据库 MySQL 大数据
大数据新视界--大数据大厂之MySQL 数据库课程设计:MySQL 数据库 SQL 语句调优的进阶策略与实际案例(2-2)
本文延续前篇,深入探讨 MySQL 数据库 SQL 语句调优进阶策略。包括优化索引使用,介绍多种索引类型及避免索引失效等;调整数据库参数,如缓冲池、连接数和日志参数;还有分区表、垂直拆分等其他优化方法。通过实际案例分析展示调优效果。回顾与数据库课程设计相关文章,强调全面认识 MySQL 数据库重要性。为读者提供综合调优指导,确保数据库高效运行。
|
7月前
|
数据采集 存储 弹性计算
高并发Java爬虫的瓶颈分析与动态线程优化方案
高并发Java爬虫的瓶颈分析与动态线程优化方案

相关产品

  • 云数据库 RDS MySQL 版
  • 推荐镜像

    更多