使用sysbench对MySQL进行测试

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 为什么要测试,测什么东西? 测试的种类非常多,测试的目的也非常多,我这里主要的目的就两个 测试MySQL的极限IO 对比不同版本MySQL,不同参数, 不同硬件,不同系统对MySQL的性能影响 为什么选择sysbench 因为MySQL官方的测试就是用sysbench哦 尽量选择最新版本

为什么要测试,测什么东西?

测试的种类非常多,测试的目的也非常多,我这里主要的目的就两个

  1. 测试MySQL的极限IO
  2. 对比不同版本MySQL,不同参数, 不同硬件,不同系统对MySQL的性能影响

为什么选择sysbench

  1. 因为MySQL官方的测试就是用sysbench哦
  2. 尽量选择最新版本的sysbench哦,大于0.4版本的sysbench有实时显示功能

如何下载sysbench

http://github.com/akopytov/sysbench

文档在哪里

http://github.com/akopytov/sysbench

如何安装

* 基本步骤
cd sysbench-1.0;
./autogen.sh;
./configure --with-mysql-includes=/usr/local/mysql/include --with-mysql-libs=/usr/local/mysql/lib/;
make;
make install;

* 过程中可能会遇到的故障
sysbench: error while loading shared libraries: libmysqlclient.so.20: cannot open shared object file: No such file or directory

* 解决方案
export LD_LIBRARY_PATH=/usr/local/mysql/lib/;

* 测试是否安装成功
shell> sysbench --version
sysbench 1.0

介绍sysbench的核心用法

  1. 它可以用来测试很多东西,测试io,cpu,mem,mysql,oracle,pg等等。
  2. 这里主要介绍我关心的两个,IO & MySQL
  3. 以下前半部分是0.4版本的用法,0.4以上的版本用法不一样,会注明。

一、通用语法

sysbench [common-options] --test=name [test-options] command
  • command
* prepare
 准备阶段,也就是装载数据。
 filo test 中: 就是创建指定大小的文件
 oltp test 中: 就是创建指定大小的表

* run
 实际测试阶段

* cleanup
 收尾阶段,清除之前测试的数据。
  • common-options

只介绍常用的选项

选项 描述 默认值
--num-threads 多少个线程 1
--max-requests 多少个请求,0意味着无限制 1000
--max-time 测试多长时间,0意味着无限制 0
--test 测试什么模块 必须要求
--report-interval 阶段性的汇报测试统计信息,0.4以上版本新增
  • --test=fileio 模块的选项

提前注明:--file-test-mode

* seqwr
sequential write

* seqrewr
sequential rewrite

* seqrd
sequential read

* rndrd
random read

* rndwr
random write

* rndrw
combined random read/write
  • test option for fileio
选项 描述 默认值
--file-num 创建文件的数量 128
--file-block-size IO操作的大小 16k
--file-total-size 所有文件的总大小 2G
--file-test-mode seqwr,seqrewr, seqrd, rndrd, rndwr, rndwr(上面已经介绍) 必须
--file-io-mode i/O 模式,sync, async, fastmmap, slowmmap sync
--file-extra-flags 以额外的标记(O_SYNC,O_DSYNC,O_DIRECT)打开 -
--file-fsync-freq 多少请求后使用fsync 100
--file-fsync-all 每次写IO都必须fsync no
--file-fsync-mode 用什么样的模式来同步文件fsync, fdatasync (see above) fsync
--file-rw-ratio 随机读写请求的比例 1.5

举例:

$ sysbench --num-threads=16 --test=fileio --file-total-size=3G --file-test-mode=rndrw prepare
$ sysbench --num-threads=16 --test=fileio --file-total-size=3G --file-test-mode=rndrw run
$ sysbench --num-threads=16 --test=fileio --file-total-size=3G --file-test-mode=rndrw cleanup

OLTP-MySQL

此模式用于测试真实数据库性能。在prepare阶段创建表,sbtest默认

CREATE TABLE `sbtest` (
`id` int(10) unsigned NOT NULL auto_increment,
`k` int(10) unsigned NOT NULL default '0',
`c` char(120) NOT NULL default '',
`pad` char(60) NOT NULL default '',
PRIMARY KEY  (`id`),
KEY `k` (`k`));

在run阶段

  • simple模式
SELECT c FROM sbtest WHERE id=N
  • Point queries
SELECT c FROM sbtest WHERE id=N
  • Range queries:
SELECT c FROM sbtest WHERE id BETWEEN N AND M
  • Range SUM() queries
SELECT SUM(K) FROM sbtest WHERE id BETWEEN N and M
  • Range ORDER BY queries
SELECT c FROM sbtest WHERE id between N and M ORDER BY c
  • Range DISTINCT queries
SELECT DISTINCT c FROM sbtest WHERE id BETWEEN N and M ORDER BY c
  • UPDATEs on index column
UPDATE sbtest SET k=k+1 WHERE id=N
  • UPDATEs on non-index column:
UPDATE sbtest SET c=N WHERE id=M
  • DELETE queries
DELETE FROM sbtest WHERE id=N
  • INSERT queries
INSERT INTO sbtest VALUES (...)
  • oltp test模式通用参数
选项 描述 默认值
--oltp-table-name 表的名字 sbtest
--oltp-table-size 表的行数 10000
--oltp-tables-count 表的个数 1
--oltp-dist-type 热点数据分布{uniform(均匀分布),Gaussian(高斯分布),special(空间分布)}。默认是special special
--oltp-dist-pct special:热点数据产生的比例 1
--oltp-dist-res special:热点数据的访问频率 75
--oltp-test-mode simple,complex(以上介绍) complex
--oltp-read-only 只有select 请求 off
--oltp-skip-trx 不用事务 off
--oltp-point-selects 一个事务中简单select查询数量 10
--oltp-simple-ranges 一个事务中简单range查询的数量 1
--oltp-sum-ranges sum range的数量 1
--oltp-order=ranges order range的数量 1
  • mysql test 参数
  --mysql-host=[LIST,...]      MySQL server host [localhost]
  --mysql-port=[LIST,...]      MySQL server port [3306]
  --mysql-socket=[LIST,...]    MySQL socket
  --mysql-user=STRING          MySQL user [sbtest]
  --mysql-password=STRING      MySQL password []
  --mysql-db=STRING            MySQL database name [sbtest]
  --mysql-table-engine=STRING  storage engine to use for the test table {myisam,innodb,bdb,heap,ndbcluster,federated} [innodb]
  --mysql-engine-trx=STRING    whether storage engine used is transactional or not {yes,no,auto} [auto]
  --mysql-ssl=[on|off]         use SSL connections, if available in the client library [off]
  --mysql-ssl-cipher=STRING    use specific cipher for SSL connections []
  --mysql-compression=[on|off] use compression, if available in the client library [off]
  --myisam-max-rows=N          max-rows parameter for MyISAM tables [1000000]
  --mysql-debug=[on|off]       dump all client library calls [off]
  --mysql-ignore-errors=[LIST,...]list of errors to ignore, or "all" [1213,1020,1205]
  --mysql-dry-run=[on|off]     Dry run, pretent that all MySQL client API calls are successful without executing them [off]

以上0.4版本的语法介绍完毕。

接下来是大于0.4版本的新语法,尤其是--test=oltp模块

用--test=xx.lua (完整路径来传递)来代替

FileIO实战

磁盘:S3610 * 6 raid10, 内存128G
测试出相关场景下的极限IOPS

  • 随机读写(3:2 oltp场景)
* sysbench --num-threads=16 --report-interval=3 --max-requests=0 --max-time=300  --test=fileio --file-num=200 --file-total-size=200G --file-test-mode=rndrw --file-block-size=16384 --file-extra-flags=direct run

ssd3600_rndrw32

  • 随机读写(5:1 oltp场景)
* sysbench --num-threads=16 --report-interval=3 --max-requests=0 --max-time=300  --test=fileio --file-num=200 --file-total-size=200G --file-test-mode=rndrw --file-block-size=16384 --file-extra-flags=direct --file-rw-ratio=5  run

fileio_rndrw51

  • 随机写
* sysbench --num-threads=16 --report-interval=3 --max-requests=0 --max-time=300  --test=fileio --file-num=200 --file-total-size=200G --file-test-mode=rndwr --file-block-size=16384 --file-extra-flags=direct run

fileio_rndwr

  • 随机读
* sysbench --num-threads=16 --report-interval=3 --max-requests=0 --max-time=300  --test=fileio --file-num=200 --file-total-size=200G --file-test-mode=rndrd --file-block-size=16384 --file-extra-flags=direct run

fileio_rndrd

MySQL5.6 vs MySQL5.7 测试

磁盘:S3610 * 6 raid10, 内存128G

  • Point select
* 产生数据
sysbench --num-threads=128 --report-interval=3 --max-requests=0 --max-time=300 --test=/root/sysbench-1.0/sysbench/tests/db/select.lua --mysql-table-engine=innodb --oltp-table-size=50000000 --mysql-user=sysbench --mysql-password=sysbench  --oltp-tables-count=2 --mysql-host=xx --mysql-port=3306 prepare


* 执行
sysbench --num-threads=128 --report-interval=3 --max-requests=0 --max-time=300 --test=/root/sysbench-1.0/sysbench/tests/db/select.lua --mysql-table-engine=innodb --oltp-table-size=50000000 --mysql-user=sysbench --mysql-password=sysbench  --oltp-tables-count=2 --mysql-host=xx --mysql-port=3306 run

sysbench_mysql_select_56_57

  • Point oltp
* 产生数据
sysbench --num-threads=128 --report-interval=3 --max-requests=0 --max-time=300 --test=/root/sysbench-1.0/sysbench/tests/db/oltp.lua --mysql-table-engine=innodb --oltp-table-size=50000000 --mysql-user=sysbench --mysql-password=sysbench  --oltp-tables-count=2 --mysql-host=xx --mysql-port=3306 prepare


* 执行
sysbench --num-threads=128 --report-interval=3 --max-requests=0 --max-time=300 --test=/root/sysbench-1.0/sysbench/tests/db/oltp.lua --mysql-table-engine=innodb --oltp-table-size=50000000 --mysql-user=sysbench --mysql-password=sysbench  --oltp-tables-count=2 --mysql-host=xx --mysql-port=3306 run

oltp_56_57_sysbench

结论

  1. 在性能方面,虽然官方号称5.7性能比5.6快3倍,但是在实际测试中5.7比5.6却稍微差一点点
  2. 是否会选择5.7生产环境?当然,因为5.7的新特性太诱人了

参考:

https://www.percona.com/blog/2016/04/07/mysql-5-7-sysbench-oltp-read-results-really-faster/
http://dimitrik.free.fr/blog/archives/2013/09/mysql-performance-reaching-500k-qps-with-mysql-57.html
https://github.com/akopytov/sysbench
http://www.mysql.com/why-mysql/benchmarks/

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
2月前
|
关系型数据库 MySQL 测试技术
【赵渝强老师】MySQL的基准测试与sysbench
本文介绍了MySQL数据库的基准测试及其重要性,并详细讲解了如何使用sysbench工具进行测试。内容涵盖sysbench的安装、基本使用方法,以及具体测试MySQL数据库的步骤,包括创建测试数据库、准备测试数据、执行测试和清理测试数据。通过这些步骤,可以帮助读者掌握如何有效地评估MySQL数据库的性能。
111 5
|
3月前
|
Java 关系型数据库 MySQL
自动化测试项目实战笔记(一):JDK、Tomcat、MySQL、Jpress环境安装和搭建
这篇文章是关于自动化测试项目实战笔记,涵盖了JDK、Tomcat、MySQL、Jpress环境的安装和搭建过程,以及测试用例和常见问题总结。
76 1
自动化测试项目实战笔记(一):JDK、Tomcat、MySQL、Jpress环境安装和搭建
|
5月前
|
关系型数据库 MySQL 测试技术
使用docker部署MySQL测试环境
使用docker部署MySQL测试环境
68 0
|
5月前
|
SQL 缓存 关系型数据库
MySQL配置简单优化与读写测试
MySQL配置简单优化与读写测试
|
28天前
|
存储 Oracle 关系型数据库
数据库传奇:MySQL创世之父的两千金My、Maria
《数据库传奇:MySQL创世之父的两千金My、Maria》介绍了MySQL的发展历程及其分支MariaDB。MySQL由Michael Widenius等人于1994年创建,现归Oracle所有,广泛应用于阿里巴巴、腾讯等企业。2009年,Widenius因担心Oracle收购影响MySQL的开源性,创建了MariaDB,提供额外功能和改进。维基百科、Google等已逐步替换为MariaDB,以确保更好的性能和社区支持。掌握MariaDB作为备用方案,对未来发展至关重要。
56 3
|
28天前
|
安全 关系型数据库 MySQL
MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!
《MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!》介绍了MySQL中的三种关键日志:二进制日志(Binary Log)、重做日志(Redo Log)和撤销日志(Undo Log)。这些日志确保了数据库的ACID特性,即原子性、一致性、隔离性和持久性。Redo Log记录数据页的物理修改,保证事务持久性;Undo Log记录事务的逆操作,支持回滚和多版本并发控制(MVCC)。文章还详细对比了InnoDB和MyISAM存储引擎在事务支持、锁定机制、并发性等方面的差异,强调了InnoDB在高并发和事务处理中的优势。通过这些机制,MySQL能够在事务执行、崩溃和恢复过程中保持
66 3
|
28天前
|
SQL 关系型数据库 MySQL
数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog
《数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog》介绍了如何利用MySQL的二进制日志(Binlog)恢复误删除的数据。主要内容包括: 1. **启用二进制日志**:在`my.cnf`中配置`log-bin`并重启MySQL服务。 2. **查看二进制日志文件**:使用`SHOW VARIABLES LIKE 'log_%';`和`SHOW MASTER STATUS;`命令获取当前日志文件及位置。 3. **创建数据备份**:确保在恢复前已有备份,以防意外。 4. **导出二进制日志为SQL语句**:使用`mysqlbinlog`
85 2
|
1月前
|
关系型数据库 MySQL 数据库
Python处理数据库:MySQL与SQLite详解 | python小知识
本文详细介绍了如何使用Python操作MySQL和SQLite数据库,包括安装必要的库、连接数据库、执行增删改查等基本操作,适合初学者快速上手。
261 15
|
1月前
|
SQL 关系型数据库 MySQL
数据库数据恢复—Mysql数据库表记录丢失的数据恢复方案
Mysql数据库故障: Mysql数据库表记录丢失。 Mysql数据库故障表现: 1、Mysql数据库表中无任何数据或只有部分数据。 2、客户端无法查询到完整的信息。
|
1月前
|
关系型数据库 MySQL 数据库
数据库数据恢复—MYSQL数据库文件损坏的数据恢复案例
mysql数据库文件ibdata1、MYI、MYD损坏。 故障表现:1、数据库无法进行查询等操作;2、使用mysqlcheck和myisamchk无法修复数据库。

热门文章

最新文章