用sysbench测试mysql

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 在github上有安装说明

安装

在github上有安装说明:https://github.com/akopytov/sysbench


curl -s https://packagecloud.io/install/repositories/akopytov/sysbench/script.deb.sh | sudo bash
 sudo apt -y install sysbench

准备数据

root@scutech:/mysql/data# mysqladmin create sbtest
root@scutech:/mysql/data# sysbench --test=/usr/share/sysbench/tests/include/oltp_legacy/oltp.lua --oltp-table-size=10000 --oltp-tables-count=10  --oltp-test-mode=complex --time=120 --report-interval=10 prepare  --mysql-user=root --mysql-password=dingjia
scutech@scutech:/mysql/data/sbtest$ ll
total 102572
drwxr-x---  2 mysql mysql     4096 Mar  4 21:03 ./
drwxr-xr-x 12 mysql mysql     4096 Mar  4 21:03 ../
-rw-r-----  1 mysql mysql       65 Mar  4 21:03 db.opt
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest1.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:03 sbtest1.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest10.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest10.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest2.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest2.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest3.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest3.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest4.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest4.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest5.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest5.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest6.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest6.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest7.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest7.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest8.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest8.ibd
-rw-r-----  1 mysql mysql     8632 Mar  4 21:03 sbtest9.frm
-rw-r-----  1 mysql mysql 10485760 Mar  4 21:04 sbtest9.ibd
scutech@scutech:/mysql/data/sbtest$ du -sh .
101M  .



从docker中运行

准备工作

在mysql的客户端中运行

CREATE SCHEMA sbtest;
CREATE USER sbtest@'%' IDENTIFIED BY 'password';
GRANT ALL PRIVILEGES ON sbtest.* to sbtest@'%';


造数据的工作


time docker run \
--rm=true \
--name=sb-prepare \
severalnines/sysbench \
sysbench \
--db-driver=mysql \
--oltp-table-size=10000000 \
--oltp-tables-count=24 \
--threads=1 \
--mysql-host=192.168.87.205 \
--mysql-port=3306 \
--mysql-user=sbtest \
--mysql-password=password \
/usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua \
run


清除把run 改成cleanup

运行结果

queries performed:
        read:                            0
        write:                           89760
        other:                           48
        total:                           89808
    transactions:                        1      (0.00 per sec.)
    queries:                             89808  (21.72 per sec.)
    ignored errors:                      0      (0.00 per sec.)
    reconnects:                          0      (0.00 per sec.)
General statistics:
    total time:                          4134.4101s
    total number of events:              1
Latency (ms):
         min:                              4134408.88
         avg:                              4134408.88
         max:                              4134408.88
         95th percentile:                   100000.00
         sum:                              4134408.88
Threads fairness:
    events (avg/stddev):           1.0000/0.00
    execution time (avg/stddev):   4134.4089/0.00
real  68m58.429s
user  0m0.732s
sys 0m0.287s


数据大小


[root@base-test-01 sbtest]# du -sh .

55G .


可以认为一个小时生成了50G的内容

查看帮助

--name=sb-run \
 severalnines/sysbench \
 sysbench /usr/share/sysbench/oltp_common.lua help


从docker中运行 the benchmark for MySQL:

$ docker run \
--name=sb-run \
severalnines/sysbench \
sysbench \
--db-driver=mysql \
--report-interval=2 \
--mysql-table-engine=innodb \
--oltp-table-size=100000 \
--oltp-tables-count=24 \
--threads=64 \
--time=99999 \
--mysql-host=10.0.0.51 \
--mysql-port=3306 \
--mysql-user=sbtest \
--mysql-password=password \
/usr/share/sysbench/tests/include/oltp_legacy/oltp.lua \
run



服务器测试

测试环境配置

服务器 DELL PowerEdge R820

CPU Intel® Xeon® CPU E5-4650 v2 @ 2.40GHz 4个10核

内存 256G DDR-3

存储 1111.25GB 71862.50GB SATA SSD

操作系统 Centos 7.7 64bit

内核 3.10.0-1062.el7.x86_64


造数据

用140个线程造2000个表的数据

scutech@infokist:/md10$ sysbench oltp_common --tables=2000 --table-size=1000000 --mysql-user=root --mysql-password=dingjia --mysql-host=192.168.87.178  prepare --threads=140


生成数据近500G


[oracle@localhost ~]$ sudo du -sh /u01/mysql/data/sbtest/
469G  /u01/mysql/data/sbtest/
[oracle@localhost ~]$

造数据时服务器的压力如下:

image.png

如果需要清除数据用下面的命令,清除10个表的数据:

sysbench oltp_common cleanup --mysql-user=root --mysql-password=dingjia --mysql-host=192.168.87.178 --tables=10


测试run

开始测试


sysbench oltp_read_write  --tables=1000 --table-size=1000000 --mysql-user=root --mysql-password=dingjia --mysql-host=192.168.87.178 --threads=80 --report-interval=10 --time=1000 run

运行时出错,提示:


FATAL: MySQL error: 1461 "Can't create more than max_prepared_stmt_count statements (current value: 16382)"

修改参数后解决

mysql> set persist max_prepared_stmt_count=100000;
Query OK, 0 rows affected (0.00 sec)
mysql>  show global status like 'com_stmt%';
+-------------------------+---------+
| Variable_name           | Value   |
+-------------------------+---------+
| Com_stmt_execute        | 1883907 |
| Com_stmt_close          | 720080  |
| Com_stmt_fetch          | 0       |
| Com_stmt_prepare        | 820240  |
| Com_stmt_reset          | 0       |
| Com_stmt_send_long_data | 0       |
| Com_stmt_reprepare      | 0       |
+-------------------------+---------+
7 rows in set (0.01 sec)


image.png

sysbench提示的性能如下


[ 520s ] thds: 80 tps: 1000.19 qps: 20014.08 (r/w/o: 14012.02/4001.68/2000.39) lat (ms,95%): 116.80 err/s: 0.00 reconn/s: 0.00
[ 530s ] thds: 80 tps: 1000.00 qps: 20001.64 (r/w/o: 14001.56/4000.09/1999.99) lat (ms,95%): 116.80 err/s: 0.00 reconn/s: 0.00
[ 540s ] thds: 80 tps: 1003.10 qps: 20054.76 (r/w/o: 14035.98/4012.59/2006.20) lat (ms,95%): 116.80 err/s: 0.00 reconn/s: 0.00
[ 550s ] thds: 80 tps: 1000.71 qps: 20015.13 (r/w/o: 14010.49/4003.23/2001.41) lat (ms,95%): 116.80 err/s: 0.00 reconn/s: 0.00
[ 1000s ] thds: 80 tps: 997.28 qps: 19940.16 (r/w/o: 13957.16/3988.53/1994.47) lat (ms,95%): 118.92 err/s: 0.00 reconn/s: 0.00
SQL statistics:
    queries performed:
        read:                            13978370
        write:                           3993820
        other:                           1996910
        total:                           19969100
    transactions:                        998455 (997.15 per sec.)
    queries:                             19969100 (19942.94 per sec.)
    ignored errors:                      0      (0.00 per sec.)
    reconnects:                          0      (0.00 per sec.)
General statistics:
    total time:                          1001.3063s
    total number of events:              998455
Latency (ms):
         min:                                    9.92
         avg:                                   80.12
         max:                                  902.25
         95th percentile:                      116.80
         sum:                             79998913.63
Threads fairness:
    events (avg/stddev):           12480.6875/823.73
    execution time (avg/stddev):   999.9864/0.05



每秒的tps是1000,每秒大约2万个sql语句

从enterprise monitor 中截取的数据如下:

image.png

在top观察的mysqld进程的res随着业务量上来后的运行不断的增加。


和同一机器Oracle的测试对比

oracle用swingbench的测试


项目 MySQL测试结果 Oracle测试结果

TPS 1000 10000

qps 20000 146463

Transactions 997 6151.5

感觉MySQL的innodb明显没有Oracle吞吐量大呀!

而且My取消binlog和把innodb_flush_log_at_trx_commit为1也没有看到性能有什么变化。


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
8天前
|
关系型数据库 MySQL 测试技术
【赵渝强老师】MySQL的基准测试与sysbench
本文介绍了MySQL数据库的基准测试及其重要性,并详细讲解了如何使用sysbench工具进行测试。内容涵盖sysbench的安装、基本使用方法,以及具体测试MySQL数据库的步骤,包括创建测试数据库、准备测试数据、执行测试和清理测试数据。通过这些步骤,可以帮助读者掌握如何有效地评估MySQL数据库的性能。
|
1月前
|
Java 关系型数据库 MySQL
自动化测试项目实战笔记(一):JDK、Tomcat、MySQL、Jpress环境安装和搭建
这篇文章是关于自动化测试项目实战笔记,涵盖了JDK、Tomcat、MySQL、Jpress环境的安装和搭建过程,以及测试用例和常见问题总结。
49 1
自动化测试项目实战笔记(一):JDK、Tomcat、MySQL、Jpress环境安装和搭建
|
3月前
|
关系型数据库 MySQL 测试技术
使用docker部署MySQL测试环境
使用docker部署MySQL测试环境
47 0
|
3月前
|
SQL 缓存 关系型数据库
MySQL配置简单优化与读写测试
MySQL配置简单优化与读写测试
|
7天前
|
JSON Java 测试技术
SpringCloud2023实战之接口服务测试工具SpringBootTest
SpringBootTest同时集成了JUnit Jupiter、AssertJ、Hamcrest测试辅助库,使得更容易编写但愿测试代码。
37 3
|
1月前
|
JSON 算法 数据可视化
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)
这篇文章是关于如何通过算法接口返回的目标检测结果来计算性能指标的笔记。它涵盖了任务描述、指标分析(包括TP、FP、FN、TN、精准率和召回率),接口处理,数据集处理,以及如何使用实用工具进行文件操作和数据可视化。文章还提供了一些Python代码示例,用于处理图像文件、转换数据格式以及计算目标检测的性能指标。
59 0
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)
|
2月前
|
移动开发 JSON Java
Jmeter实现WebSocket协议的接口测试方法
WebSocket协议是HTML5的一种新协议,实现了浏览器与服务器之间的全双工通信。通过简单的握手动作,双方可直接传输数据。其优势包括极小的头部开销和服务器推送功能。使用JMeter进行WebSocket接口和性能测试时,需安装特定插件并配置相关参数,如服务器地址、端口号等,还可通过CSV文件实现参数化,以满足不同测试需求。
239 7
Jmeter实现WebSocket协议的接口测试方法
|
2月前
|
JSON 移动开发 监控
快速上手|HTTP 接口功能自动化测试
HTTP接口功能测试对于确保Web应用和H5应用的数据正确性至关重要。这类测试主要针对后台HTTP接口,通过构造不同参数输入值并获取JSON格式的输出结果来进行验证。HTTP协议基于TCP连接,包括请求与响应模式。请求由请求行、消息报头和请求正文组成,响应则包含状态行、消息报头及响应正文。常用的请求方法有GET、POST等,而响应状态码如2xx代表成功。测试过程使用Python语言和pycurl模块调用接口,并通过断言机制比对实际与预期结果,确保功能正确性。
247 3
快速上手|HTTP 接口功能自动化测试
|
1月前
|
JavaScript 前端开发 API
vue尚品汇商城项目-day02【9.Home组件拆分+10.postman测试接口】
vue尚品汇商城项目-day02【9.Home组件拆分+10.postman测试接口】
40 0
|
2月前
|
JavaScript 前端开发 测试技术
ChatGPT与接口测试
ChatGPT与接口测试,测试通过
48 5