MySQL-性能优化_影响MySQL性能的因素分析及解决方案

简介: MySQL-性能优化_影响MySQL性能的因素分析及解决方案

生猛干货

带你搞定MySQL实战,轻松对应海量业务处理及高并发需求,从容应对大场面试


官方文档

https://dev.mysql.com/doc/

如果英文不好的话,可以参考 searchdoc 翻译的中文版本

http://www.searchdoc.cn/rdbms/mysql/dev.mysql.com/doc/refman/5.7/en/index.com.coder114.cn.html


影响性能的几个因素

  • 硬件资源(CPU 、内存、磁盘等)
  • 操作系统的区别
  • MySQL的存储引擎的选择
    MyISAM: 不支持事务,表级锁
    InnoDB: 事务级存储引擎,完美支持行级锁,事务ACID特性。
    但 比不是说 MyISAM比InnoDB差,看使用场景
  • 数据库参数设置
  • 数据库结构设计和SQL语句 ,毫无疑问 这个是最最重要的因素 —> mysql 可以开启慢查询监控耗时长的SQL

CPU

更多的CPU or 更快的CPU ?

主要从以下几个方面考虑:

  • (1)CPU密集型的应用?

分析下我们的应用的类型,是的话,要提高SQL的运行效率,那就需要更快的CPU。

还有一点需要注意 MySQL不支持多CPU对同一SQL的并发处理,也就是说一个SQL只能运行在一个CPU的核上。


  • (2) 系统的并发量如何 ?

一个SQL只能跑在一个CPU上,如果有32个CPU呢 ,是不是同时可以跑32个SQL呢? 就是我们前面说的QPS 。 一般web应用,CPU的核心数量比CPU的主频更重要。


  • (3) MySQL的版本 ?

5.6、 5.7以上的版本,对多核CPU的支持更好。


  • (4) 64位操作系统 OR 32位操作系统

32的操作系统,进程所能寻址的最大内存也就4G。

总结

  • 对于并发较高的场景,CPU的数量比频率重要
  • 对CPU密集型场景和复杂的SQL 频率越高越好

内存

MyISAM : 索引 缓存在内存 ,数据通过OS来缓存

InnoDB : 索引和数据都是通过内存来缓存

举个例子, 100G的数据量, 内存64G,这个时候增加内存对性能有提高。 如果内存是256G,还是慢,那就是其他问题了。

当然了,内存多了,对于数据的读和写都是好处的,都可以利用缓存来提高读写性能。

如何选择内存呢? ----> 建议选择主板支持的最大内存频率, 跟CPU一个道理。

内存的型号,保持一致, 单个内存尽可能的大,都是比较好的选择。

配置的时候,要考虑数据的增长,比如100G的数据, 128G内存可能已经满足了要求,但数据可能增长较快,这个时候256的更佳。

总结

  • 选择主板所能使用的最高频率的内存
  • 内存尽可能的多

磁盘的配置和选择

主流的4种

  • 使用传统的机械硬盘
  • 使用RAID增强传统硬盘的性能
  • 使用固态存储SSD和PCIe卡
  • 使用网络存储NAS和SAN

传统的机械硬盘

传统的机械硬盘的读取数据的过程

  1. 移动磁头到磁盘表面上正确的位置
  2. 等待磁盘旋转,使所需的数据在磁头之下 ----> 访问时间
  3. 等磁盘旋转过去,所需的数据被磁头读出 ------> 传输速度

考虑的话 1. 存储容量 2.传输速度 3 访问时间 4 主轴的转速(常见的7200转、1万5千转等等) 5. 物理尺寸


RAID

RAID : 磁盘冗余队列 (Redundant Arrays of Independent Disks )

RAID是一种将多个容量较小的磁盘组成一组容量更大的磁盘,并提供数据冗余来保证数据完整性的技术 。

Linux-Raid0、Raid1、Raid5、Raid10初探


SSD 或者 PCIe卡

SSD

  • 比普通的机械盘有更好的随机读写性能
  • 支持更好的并发, I/O 性能好
  • 缺点: 长时间密集的写,容易造成损坏

特点:

  • 可以使用SATA接口,可以替换传统的磁盘而不需要任何的改动。
  • SATA接口的SSD同样支持RAID
  • SATA的SSD 3.0 接口如果放到了 2.0接口上,受2.0接口的性能影响,性能会下降

举个例子 SATA3.0接口 6Gbps , 放到SATA2.0接口上 最多只能用到2.0的 3Gbps


PCIe 卡(Fushion IO)

  • 无法使用SATA接口,需要独特的驱动和配置
  • 比SSD性能好,但价格也比SSD贵
  • PCIe 也会吃服务器的内存
  • 支持PCIe的Raid控制器比较少,而且成本相当高

固态存储使用的场景

  • 大量随机I/O的场景
  • 解决单线程负载的I/O 瓶颈

举个例子

主从节点的MYSQL, 有一个SSD, 给哪个节点用呢 ?

----> 从节点 上用。 主节点上写 ,是多线程, 从节点的复制,单线程,为了减少延迟,建议放到从服务器上。


网络存储SAN (光纤传输)和 NAS (带宽传输)

SAN: Storage Area Network

NAS: Network Attached Storage

是两种外部文件存储设备加载到服务器上的方法。

SAN设备通过光纤连接服务器,设备通过块接口访问,服务器可以将其当做硬盘使用。 可以承受大量的顺序读写,但随即读有的时候不如RAID

NAS 使用 宽带来传输,有延迟。

使用场景的话: 数据备份等 。

总结

  • PCIe > SSD > Raid10 > 本地磁盘 > NAS

网络

网络带宽 —> 低延时 、吞吐量达

网络质量—> 少抖动

建议

  • 采用高性能和高带宽的网络接口设备和交换机
  • 对多个网卡进行绑定,增强可用性和带宽
  • 尽可能的进行网络隔离

操作系统

windows 和 linux , 大小写的区别,可以通过修改MySQL的配置来调整。

以CentoOS为例来了解下系统的参数优化

内核相关参数 /etc/sysctl.conf

如需增加 可以直接追加到该文件的末尾

net.core.somaxconn=65535  # Linux kernel参数,表示socket监听的backlog(监听队列)上限
net.core.netdev_max_bakclog=65535 # 允许发送到队列中的数据包数目
net.ipv4.tcp_max_syn_backlog=65535 # #表示SYN队列长度,默认1024,改成65535,可以容纳更多等待连接的网络连接数。
net.ipv4.tcp_fin_timeout = 10 #表示如果套接字由本端要求关闭,这个参数决定了它保持在FIN-WAIT-2状态的时间
net.ipv4.tcp_tw_reuse = 1 #表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接,默认为0,表示关闭;
net.ipv4.tcp_tw_recycle = 1 #表示开启TCP连接中TIME-WAIT sockets的快速回收,默认为0,表示关闭。

TCP/IP及内核参数优化调优

net.core.wmen_default = 87380 # 表示内核套接字发送缓存区默认的大小。
net.core.wmen_max = 16777216 # 表示内核套接字发送缓存区最大大小。
net.core.rmem_default = 87380 # 默认的TCP数据接收缓冲
net.core.rmem_max=16777216 # 最大的TCP数据接收缓冲
#单位是秒   可适当调整 
net.ipv4.tcp_keepalive_time = 120 # 有效时长
net.ipv4.tcp_keepalive_intvl = 30  # 探测失败时,重发的间隔
net.ipv4.tcp_keepalive_probes = 3  # 最多发送多少次探测消息
kernel.shmmax = 4294967295  # (4G)单个共享内存段的最大值,应该设置的足够大,以便能在一个共享段下容纳整个Innodb缓冲池的大小 。 可以取物理内存-1 byte 
vm.swappiness = 0 #  除非虚拟内存满了,否则不会使用交换分区

其实就是swap交换分区的设置, 当操作系统没有足够的内存时,就会将一些虚拟内存写到磁盘的交换区中,这样就会发生内存交换。

然后执行sysctl -p命令,使上述修改生效


资源限制的配置文件 /etc/security/limits.conf

# 文件句柄数量 
* soft nofile 65535
* hard nofile 65535
*  对所有用户生效
soft 当前系统生效的设置
hard 系统所能设置的最大值
nofile 表示所限制的资源是打开文件的最大数目
65535 限制的数目

这俩参数,重启系统才生效。


磁盘调度策略

I/O 调度算法再各个进程竞争磁盘I/O的时候担当了裁判的角色,以求得尽可能最好的整体I/O性能。

在linux下面列出4种调度算法

  • CFQ (Completely Fair Queuing 完全公平的排队)(elevator=cfq) 默认策略
  • Deadline (elevator=deadline): 试图把每次请求的延迟降至最低
  • NOOP (elevator=noop):FIFO队列形式处理
  • Anticipatory (elevator=as):对读操作优化服务时间,在提供一个I/O的时候进行短时间等待,使进程能够提交到另外的I/O。
#查看当前IO
[root@artisan ~]#  cat /sys/block/sd*/queue/scheduler
noop [deadline] cfq 
[root@artisan ~]# 

文件系统

windows -----> FAT 和 NTFS

WinServer 只有 NTFS 这种可以选择

Linux —> EXT3 EXT4 XFS

EXT3 EXT4系统的挂载参数 /etc/fstab

# data的可配置选项
data=writeback | ordered |journal 
noatime 
nodiratime 
/dev/sda1/ext4 noatime,nodiratime,data-writeback 1 1


搞定MySQL


相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
10月前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能(下)
使用MYSQL Report分析数据库性能
587 158
|
9月前
|
存储 消息中间件 监控
MySQL 到 ClickHouse 明细分析链路改造:数据校验、补偿与延迟治理
蒋星熠Jaxonic,数据领域技术深耕者。擅长MySQL到ClickHouse链路改造,精通实时同步、数据校验与延迟治理,致力于构建高性能、高一致性的数据架构体系。
MySQL 到 ClickHouse 明细分析链路改造:数据校验、补偿与延迟治理
|
10月前
|
缓存 监控 关系型数据库
使用MYSQL Report分析数据库性能(中)
使用MYSQL Report分析数据库性能
626 156
|
10月前
|
缓存 监控 关系型数据库
使用MYSQL Report分析数据库性能(上)
最终建议:当前系统是完美的读密集型负载模型,优化重点应放在减少行读取量和提高数据定位效率。通过索引优化、分区策略和内存缓存,预期可降低30%的CPU负载,同时保持100%的缓冲池命中率。建议每百万次查询后刷新统计信息以持续优化
738 161
|
9月前
|
NoSQL 算法 Redis
【Docker】(3)学习Docker中 镜像与容器数据卷、映射关系!手把手带你安装 MySql主从同步 和 Redis三主三从集群!并且进行主从切换与扩容操作,还有分析 哈希分区 等知识点!
Union文件系统(UnionFS)是一种**分层、轻量级并且高性能的文件系统**,它支持对文件系统的修改作为一次提交来一层层的叠加,同时可以将不同目录挂载到同一个虚拟文件系统下(unite several directories into a single virtual filesystem) Union 文件系统是 Docker 镜像的基础。 镜像可以通过分层来进行继承,基于基础镜像(没有父镜像),可以制作各种具体的应用镜像。
906 6
|
11月前
|
存储 关系型数据库 MySQL
深入理解MySQL索引类型及其应用场景分析。
通过以上介绍可以看出各类MySQL指标各自拥有明显利弊与最佳实践情墁,在实际业务处理过程中选择正确型号极其重要以确保系统运作流畅而稳健。
304 12
|
10月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程,需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS,可快速、平滑完成迁移任务,将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例,实现间接迁移上云。
|
10月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格:MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB,多种引擎优惠上线!MySQL倚天版88元/年,SQL Server 2核4G仅299元/年,PostgreSQL 227元/年起。高可用、可弹性伸缩,安全稳定。详情见官网活动页。
1540 152
|
10月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎,提供高性价比、稳定安全的云数据库服务,适用于多种行业与业务场景。
1086 156
|
11月前
|
存储 运维 关系型数据库
从MySQL到云数据库,数据库迁移真的有必要吗?
本文探讨了企业在业务增长背景下,是否应从 MySQL 迁移至云数据库的决策问题。分析了 MySQL 的优势与瓶颈,对比了云数据库在存储计算分离、自动化运维、多负载支持等方面的优势,并提出判断迁移必要性的五个关键问题及实施路径,帮助企业理性决策并落地迁移方案。

推荐镜像

更多