AI 助理
备案控制台
开发者社区 物联网 文章 正文

性能工具之emqtt-bench BenchMark 测试示例

2024-04-21 937
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 【4月更文挑战第19天】在前面两篇文章中介绍了emqtt-bench工具和MQTT的入门压测，本文示例 emqtt_bench 对 MQTT Broker 做 Beachmark 测试，让大家对 MQTT消息中间 BenchMark 测试有个整体了解，方便平常在压测工作查阅。

一、前言

在前面两篇文章中介绍了emqtt-bench工具和MQTT的入门压测，本文示例 emqtt_bench 对 MQTT Broker 做 Beachmark 测试，让大家对 MQTT消息中间 BenchMark 测试有个整体了解，方便平常在压测工作查阅。

BenchMark 测试以 MQTT 最典型的场景来验证其性能：

  • 并发连接：使用 emqtt-bench 创建海量连接到 MQTT Broker。
  • 消息吞吐量测试：使用 emqtt-bench 在 EMQX 中创建出海量的 Qos0 消息吞吐量，分别模拟发布-订阅 1对1，1对多，多对1这 3 种类型场景。

三、机器准备

共需准备六台服务器，一台为 EMQX Broker，七台为客户端压力机。其中：

EMQX Broker（1台）：

  • 系统：CentOS Linux release 7.6.1810 (Core)
  • CPU：8C
  • 内存：8GB
  • 服务端：EMQX 5.1.6
  • 压力机：emqtt-bench-0.4.18-el7-amd64.tar.gz

压力机（6台）：

  • 系统：CentOS Linux release 7.6.1810 (Core)
  • CPU：8C
  • 内存：16GB
  • 压力机：emqtt-bench-0.4.18-el7-amd64.tar.gz

四、典型压测场景

1、并发连接

  • 场景名称：MQTT Broker 单节点支持 30 万级设备在线，背景连接 (只连接不发送消息)
  • 描述：模拟 30 万 MQTT TCP 并发连接，并保持在线，测试执行 1 个小时。
  • 期望结果：内网测试成功率为 100%，无连接掉线，CPU 和内存在测试期间表现平稳，没有大幅度的抖动。

拓扑结构如下：
image.png

在6台客户端压力机上同时执行该命令，在每台压力机上启动 5w 的连接数，共计 30w 的连接：

./emqtt_bench conn -h emqx-server -c 50000

客户端压力机执行截图：
image.png

EMQX Broker运行情况：
image.png

在 MQTT Broker 单节点 8C8G的情况，我压到的峰值是30W连接，超过会导致服务崩溃。

2、消息吞吐量测试

注意这里我只具体说明如何设置，并不是实际压测场景数据。

2.1 1 对 1（示例）

  • 场景名称：MQTT Broker 单节点 500 并发连接下支持1000 QoS0 消息吞吐
  • 描述：1000 MQTT TCP 连接， pub 客户端和 sub 客户端数量相同都是 500，每个接收端均订阅一个对应的发送端 pub 主题，每个 pub 客户端每秒发送 2 条 QoS 0、payload 为 256 字节（默认值）的消息。因此消息发送和接收均为每秒 1000，总的消息吞吐达到每秒 2000。测试执行 1 个小时。
  • 期望结果：内网测试成功率为 100%，无消息积压，CPU 和内存在测试期间表现平稳，没有大幅度的抖动。

拓扑结构如下：

image.png

单台sub 客户端压力机：

./emqtt_bench sub -t test_topic_%i -h emqx-server -c 500

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
[root@ bin]# ./emqtt_bench sub -t test_topic_%i -h emqx-server -c 500
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s sub total=104 rate=103.28/sec
1s connect_succ total=104 rate=103.28/sec
2s sub total=200 rate=96.00/sec
2s connect_succ total=200 rate=96.00/sec
3s sub total=296 rate=96.00/sec
3s connect_succ total=296 rate=96.00/sec
4s sub total=400 rate=104.00/sec
4s connect_succ total=400 rate=104.00/sec
5s sub total=496 rate=96.00/sec
5s connect_succ total=496 rate=96.00/sec
6s sub total=500 rate=4.00/sec
6s connect_succ total=500 rate=4.00/sec

单台 pub 客户端压力机：

./emqtt_bench pub -t test_topic/%i -h  emqx-server -c 500 -I 500

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
  • -I：每间隔多少时间创建一个客户端；单位：毫秒
[root@ bin]# ./emqtt_bench pub -t test_topic/%i -h  emqx-server -c 500 -I 500
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s pub total=160 rate=159.05/sec
1s connect_succ total=104 rate=103.38/sec
2s pub total=512 rate=352.00/sec
2s connect_succ total=200 rate=96.00/sec
3s pub total=1056 rate=544.00/sec
3s connect_succ total=296 rate=96.00/sec
4s pub total=1808 rate=752.00/sec
4s connect_succ total=400 rate=104.00/sec
5s pub total=2752 rate=944.00/sec
5s connect_succ total=496 rate=96.00/sec
6s pub total=3752 rate=1000.00/sec
6s connect_succ total=500 rate=4.00/sec
7s pub total=4752 rate=1000.00/sec
8s pub total=5752 rate=1000.00/sec
9s pub total=6752 rate=1000.00/sec
10s pub total=7752 rate=1000.00/sec
11s pub total=8752 rate=1000.00/sec
12s pub total=9752 rate=1000.00/sec
13s pub total=10752 rate=1000.00/sec
14s pub total=11752 rate=1000.00/sec

在订阅客户端压力机，可看到当前接收消息的速率，类似于：

12s pub total=9752 rate=1000.00/sec

MQTT Broker 运行情况：
image.png

2.2 多对1（示例）

  • 场景名称：并发连接+消息吞吐（上报）
  • 描述：501 MQTT TCP 连接， pub 客户端 500 和 sub 客户端1，接收端均订阅同一个主题，每个 pub 客户端每秒发送 2 条 QoS 0、payload 为 256 字节的消息。因此消息发送和接受均为每秒 1000，总的消息吞吐达到每秒 2000。测试执行 1 个小时。
  • 期望结果：内网测试成功率为 100%，无消息积压，CPU 和内存在测试期间表现平稳，没有大幅度的抖动。

拓扑结构如下：
在这里插入图片描述

单台 sub 客户端压力机：

./emqtt_bench sub -t test_topic -h emqx-server -c 1

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
[root@ bin]# ./emqtt_bench sub -t test_topic -h emqx-server -c 1
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s sub total=1 rate=0.99/sec
1s connect_succ total=1 rate=0.99/sec

单台 pub 客户端压力机：

./emqtt_bench pub -t test_topic -h  emqx-server -c 500 -I 500

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
  • -I：每间隔多少时间创建一个客户端；单位：毫秒
root@bin]# ./emqtt_bench pub -t test_topic -h  emqx-server -c 500 -I 500
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s pub total=160 rate=158.89/sec
1s connect_succ total=104 rate=103.28/sec
2s pub total=496 rate=336.00/sec
2s connect_succ total=184 rate=80.00/sec
3s pub total=1040 rate=544.00/sec
3s connect_succ total=296 rate=112.00/sec
4s pub total=1792 rate=752.00/sec
4s connect_succ total=400 rate=104.00/sec
5s pub total=2736 rate=944.00/sec
5s connect_succ total=496 rate=96.00/sec
6s pub total=3736 rate=1000.00/sec
6s connect_succ total=500 rate=4.00/sec
7s pub total=4736 rate=1000.00/sec
8s pub total=5736 rate=1000.00/sec
9s pub total=6736 rate=1000.00/sec
10s pub total=7736 rate=1000.00/sec
11s pub total=8736 rate=1000.00/sec
12s pub total=9736 rate=1000.00/sec
13s pub total=10736 rate=1000.00/sec
14s pub total=11736 rate=1000.00/sec
15s pub total=12736 rate=1000.00/sec
16s pub total=13736 rate=1000.00/sec
17s pub total=14736 rate=1000.00/sec

MQTT Broker 运行情况（举例）：
image.png

2.3 1对多（示例）

  • 场景名称：消息广播
  • 描述：501 MQTT TCP 连接， pub 客户端 1 和 sub 客户端 500，接收端均订阅同一个主题，pub 客户端每秒发送 2 条 QoS 0、payload 为 256 字节的消息。因此消息发送为每秒 2，消息接收为每秒 1000，总的消息吞吐达到每秒 1002。测试执行 1 个小时。
  • 期望结果：内网测试成功率为 100%，无消息积压，CPU 和内存在测试期间表现平稳，没有大幅度的抖动。

拓扑结构如下：
image.png

单台 sub 客户端压力机：

./emqtt_bench sub -t test_topic -h emqx-server -c 500

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
[root@d bin]# ./emqtt_bench sub -t test_topic -h emqx-server -c 500
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s sub total=104 rate=103.38/sec
1s connect_succ total=104 rate=103.38/sec
2s sub total=200 rate=96.00/sec
2s connect_succ total=200 rate=96.00/sec
3s sub total=296 rate=96.00/sec
3s connect_succ total=296 rate=96.00/sec
4s sub total=400 rate=104.00/sec
4s connect_succ total=400 rate=104.00/sec
5s sub total=496 rate=96.00/sec
5s connect_succ total=496 rate=96.00/sec
6s sub total=500 rate=4.00/sec
6s connect_succ total=500 rate=4.00/sec

单台 pub 客户端压力机：

./emqtt_bench pub -t test_topic -h  emqx-server -c 1 -I 500

参数说明：

  • -s：消息 Payload 的大小；单位：字节。不加默认256字节。
  • -t：topic，%i：表示客户端的序列数
  • -h：要连接的 MQTT 服务器地址
  • -c：客户端总数
  • -I：每间隔多少时间创建一个客户端；单位：毫秒
[root@ bin]# ./emqtt_bench pub -t test_topic -h  emqx-server -c 1 -I 500
Start with 8 workers, addrs pool size: 1 and req interval: 80 ms 

1s pub total=2 rate=1.99/sec
1s connect_succ total=1 rate=0.99/sec
2s pub total=4 rate=2.00/sec
3s pub total=6 rate=2.00/sec
4s pub total=8 rate=2.00/sec
5s pub total=10 rate=2.00/sec
6s pub total=12 rate=2.00/sec
7s pub total=14 rate=2.00/sec
8s pub total=16 rate=2.00/sec
9s pub total=18 rate=2.00/sec
10s pub total=20 rate=2.00/sec
11s pub total=22 rate=2.00/sec
12s pub total=24 rate=2.00/sec
13s pub total=26 rate=2.00/sec
14s pub total=28 rate=2.00/sec
15s pub total=30 rate=2.00/sec
16s pub total=32 rate=2.00/sec
17s pub total=34 rate=2.00/sec

EMQX Broker 运行情况（举例）：
image.png

五、遇到的问题

client(): EXIT for {shutdown,eaddrnotavail}

在压力机连接超过5万的时候，出现了emqtt_bench客户端报错的情况。

EMQX Broker 运行情况：

image.png

单台客户端压力机报错截图：
image.png

通过设置以下内核参数解决：

#允许当前会话 / 进程打开文件句柄数:
ulimit -n 1048576

# 可用端口范围:
sudo sysctl -w net.ipv4.ip_local_port_range="1025 65534"

原因分析：
Linux 内核在这个范围内选择一个可用的端口作为本地端口去connect服务器，如果没有可用的端口可用，比如这个范围内的端口都处于如下状态中的一种：

  1. bind使用的端口
  2. 端口处于非TIME_WAIT状态
  3. 端口处于TIME_WAIT状态，但是没有启用tcp_tw_reuse，那么就会返回EADDRNOTAVAIL错误。

一般情况下，出现这个错误可用使用如下方法解决问题：

  1. 增大可选端口的范围，修改/proc/sys/net/ipv4/ip_local_port_range的值。
  2. 开启tcp_tw_reuse，允许使用TIME_WAIT状态的端口。

六、附录：调优建议

当然，我们也可以在 Beachmark 测试前就做好服务器参数调优，可以参考以下的内容。

1、关闭交换分区

Linux 交换分区可能会导致 EMQX Broker 出现不确定的内存延迟，影响系统的稳定性。 建议永久关闭交换分区。

  • 要立即关闭交换分区，执行命令 sudo swapoff -a。
  • 要永久关闭交换分区，在 /etc/fstab 文件中注释掉 swap 行，然后重新启动主机。

2、Linux 操作系统参数

系统全局允许分配的最大文件句柄数:

sysctl -w fs.file-max=2097152
sysctl -w fs.nr_open=2097152
echo 2097152 > /proc/sys/fs/nr_open

允许当前会话 / 进程打开文件句柄数:

ulimit -n 1048576

/etc/sysctl.conf

持久化 fs.file-max 设置到 /etc/sysctl.conf 文件:

fs.file-max = 1048576

/etc/systemd/system.conf 设置服务最大文件句柄数:

DefaultLimitNOFILE=1048576

/etc/security/limits.conf

/etc/security/limits.conf 持久化设置允许用户 / 进程打开文件句柄数:

*      soft   nofile      1048576
*      hard   nofile      1048576

3、TCP 协议栈网络参数

并发连接 backlog 设置:

sysctl -w net.core.somaxconn=32768
sysctl -w net.ipv4.tcp_max_syn_backlog=16384
sysctl -w net.core.netdev_max_backlog=16384

可用端口范围:

sysctl -w net.ipv4.ip_local_port_range='1024 65535'

TCP Socket 读写 Buffer 设置:

sysctl -w net.core.rmem_default=262144
sysctl -w net.core.wmem_default=262144
sysctl -w net.core.rmem_max=16777216
sysctl -w net.core.wmem_max=16777216
sysctl -w net.core.optmem_max=16777216

sysctl -w net.ipv4.tcp_rmem='1024 4096 16777216'
sysctl -w net.ipv4.tcp_wmem='1024 4096 16777216'

TCP 连接追踪设置:

sysctl -w net.nf_conntrack_max=1000000
sysctl -w net.netfilter.nf_conntrack_max=1000000
sysctl -w net.netfilter.nf_conntrack_tcp_timeout_time_wait=30

TIME-WAIT Socket 最大数量、回收与重用设置:

sysctl -w net.ipv4.tcp_max_tw_buckets=1048576

# 注意：不建议开启該设置，NAT 模式下可能引起连接 RST
# sysctl -w net.ipv4.tcp_tw_recycle=1
# sysctl -w net.ipv4.tcp_tw_reuse=1

FIN-WAIT-2 Socket 超时设置:

sysctl -w net.ipv4.tcp_fin_timeout=15

3、测试客户端设置

测试客户端服务器在一个接口上，最多只能创建 65000 连接:

# 可用端口范围:
sysctl -w net.ipv4.ip_local_port_range="500 65535"

#允许当前会话 / 进程打开文件句柄数:
echo 1048576 > /proc/sys/fs/nr_open
ulimit -n 1048576

参考资料：

文章标签：
云消息队列 MQ
性能测试
测试技术
Linux
网络协议
网络性能优化
安全
关键词：
测试性能
测试工具
工具测试
性能测试
benchmark测试
相关实践学习
快速体验阿里云云消息队列RocketMQ版
本实验将带您快速体验使用云消息队列RocketMQ版Serverless系列实例进行获取接入点、创建Topic、创建订阅组、收发消息、查看消息轨迹和仪表盘。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列：消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验：基于MNS，0基础轻松构建 Web Client 本节课带您一起基于MNS，0基础轻松构建 Web Client
zuozewei
目录
相关文章
顾翔
|
11天前
|
Java 测试技术 API
自动化测试工具集成及实践
自动化测试用例的覆盖度及关键点最佳实践、自动化测试工具、集成方法、自动化脚本编写等（兼容多语言（Java、Python、Go、C++、C#等）、多框架（Spring、React、Vue等））
顾翔
50 6
蓝易云
|
1月前
|
前端开发 Java jenkins
Jmeter压力测试工具全面教程和使用技巧。
JMeter是一个能够模拟高并发请求以检查应用程序各方面性能的工具，包括但不限于前端页面、后端服务及数据库系统。熟练使用JMeter不仅能够帮助发现性能瓶颈，还能在软件开发早期就预测系统在面对真实用户压力时的表现，确保软件质量和用户体验。在上述介绍的基础上，建议读者结合官方文档和社区最佳实践，持续深入学习和应用。
蓝易云
485 10
游客odubx6aledlki
|
11天前
|
测试技术 UED 开发者
性能测试报告-用于项目的性能验证、性能调优、发现性能缺陷等应用场景
性能测试报告用于评估系统性能、稳定性和安全性，涵盖测试环境、方法、指标分析及缺陷优化建议，是保障软件质量与用户体验的关键文档。
游客odubx6aledlki
25 0
游客qdcmugzxqbfle
|
2月前
|
敏捷开发 运维 数据可视化
DevOps看板工具中的协作功能：如何打破开发、测试与运维之间的沟通壁垒
在DevOps实践中，看板工具通过可视化任务管理和自动化流程，提升开发与运维团队的协作效率。它支持敏捷开发、持续交付，助力团队高效应对需求变化，实现跨职能协作与流程优化。
游客qdcmugzxqbfle
88 2
程序员爱钓鱼
|
3月前
|
数据可视化 测试技术 Go
Go 语言测试与调试：`go test` 工具用法
`go test` 是 Go 语言内置的测试工具，支持单元测试、基准测试、示例测试等功能。本文详解其常用参数、调试技巧及性能测试命令，并提供实际项目中的应用示例与最佳实践。
程序员爱钓鱼
351 2
游客rqe7i472exejk
|
2月前
|
人工智能 数据可视化 测试技术
UAT测试排程工具深度解析：让验收测试不再失控，项目稳稳上线
在系统交付节奏加快的背景下，“测试节奏混乱”已成为项目延期的主因之一。UAT测试排程工具应运而生，帮助团队结构化拆解任务、清晰分配责任、实时掌控进度，打通需求、测试、开发三方协作闭环，提升测试效率与质量。本文还盘点了2025年热门UAT工具，助力团队选型落地，告别靠表格和群聊推进测试的低效方式，实现有节奏、有章法的测试管理。
游客rqe7i472exejk
189 0
蓝易云
|
3月前
|
Java 测试技术 容器
Jmeter工具使用：HTTP接口性能测试实战
希望这篇文章能够帮助你初步理解如何使用JMeter进行HTTP接口性能测试，有兴趣的话，你可以研究更多关于JMeter的内容。记住，只有理解并掌握了这些工具，你才能充分利用它们发挥其应有的价值。+
蓝易云
742 23
一个幽默的程序员
|
8月前
|
数据可视化 前端开发 测试技术
接口测试新选择：Postman替代方案全解析
在软件开发中，接口测试工具至关重要。Postman长期占据主导地位，但随着国产工具的崛起，越来越多开发者转向更适合中国市场的替代方案——Apifox。它不仅支持中英文切换、完全免费不限人数，还具备强大的可视化操作、自动生成文档和API调试功能，极大简化了开发流程。
一个幽默的程序员
448 2
油梨子
|
5月前
|
SQL 安全 测试技术
2025接口测试全攻略：高并发、安全防护与六大工具实战指南
本文探讨高并发稳定性验证、安全防护实战及六大工具（Postman、RunnerGo、Apipost、JMeter、SoapUI、Fiddler）选型指南，助力构建未来接口测试体系。接口测试旨在验证数据传输、参数合法性、错误处理能力及性能安全性，其重要性体现在早期发现问题、保障系统稳定和支撑持续集成。常用方法包括功能、性能、安全性及兼容性测试，典型场景涵盖前后端分离开发、第三方服务集成与数据一致性检查。选择合适的工具需综合考虑需求与团队协作等因素。
油梨子
690 24
handsome0916
|
5月前
|
SQL 测试技术
除了postman还有什么接口测试工具
最好还是使用国内的接口测试软件，其实国内替换postman的软件有很多，这里我推荐使用yunedit-post这款接口测试工具来代替postman，因为它除了接口测试功能外，在动态参数的支持、后置处理执行sql语句等支持方面做得比较好。而且还有接口分享功能，可以生成接口文档给团队在线浏览。
handsome0916
239 2

物联网

热门文章

最新文章

  • 1
    阿里云物联网消息透传设备端payLoad设置问题
  • 2
    【连载】物联网全栈教程-从云端到设备（十二）---最简单的单片机上云方法！
  • 3
    使用Python模拟设备接入阿里云物联网的MQTT服务器
  • 4
    阿里云物联网平台设备升级OTA演示
  • 5
    GPRS模组通过MQTT和阿里云服务器通讯
  • 6
    2018阿里云IoT极客创新挑战赛（GXIC）开启
  • 7
    浅谈蓝牙Mesh网络对物联网技术的影响
  • 8
    AliOS Things KV组件的写平衡特性
  • 9
    AliOS Things 3.0 应用开发指南
  • 10
    国际物联网展亮相中国苏州 成功促进产业链交流与合作
  • 1
    RFID电子标签如何选择才能事半功倍呢？
    19
  • 2
    汽车雷达系统的干扰缓解：现状调查与未来趋势——论文阅读
    32
  • 3
    汽车雷达在多径存在下的幽灵目标检测——论文阅读
    27
  • 4
    面向能效和低延迟的语音控制智能家居：离线语音识别与物联网集成方案——论文阅读
    34
  • 5
    智能家居环境中的AI决策解释：实现以人为中心的可解释性——论文阅读
    37
  • 6
    Sasha：使用大语言模型在智能家居中进行创造性目标导向推理——论文阅读
    42
  • 7
    边缘云系统的灵活可变速率图像特征压缩——论文阅读
    36
  • 8
    FrankenSplit：用于移动边缘计算的浅层变分瓶颈注入高效神经特征压缩——论文阅读
    37
  • 9
    RFID为船舶航行提供保驾护航
    20
  • 10
    Motrix教程来了！让你的下载不限速！全网最仔细的教程来咯！
    52

    • 相关课程

    更多
  • MSE微服务测试最佳实践 - 自动化回归

    • 相关电子书

    更多
  • 移动互联网测试到质量的转变
  • 给ITer的技术实战进阶课-阿里CIO学院独家教材（四）
  • F2etest — 多浏览器兼容性测试整体解决方案
    • 下一篇
    2025云栖大会，阿里云百炼邀请您的参与和见证