FreeMQTT Plus 黑白节点(A/B)架构:如何提升可靠性 + 可扩展性

简介: FreeMQTT Plus 是一个MQTT Broker 集群的实现• 首创黑白(A/B)节点架构。• FreeMQTT plus 是用Python语言并基于Tornado框架开发的。本文阐述这种黑白(A/B)节点架构是如何提升MQTT Broker集群的可靠性、可扩展性。

FreeMQTT Plus 是一个MQTT Broker 集群的实现

  • 首创黑白(A/B)节点架构。
  • FreeMQTT plus 是用Python语言并基于Tornado框架开发的。

本文阐述这种黑白(A/B)节点架构是如何提升MQTT Broker集群的可靠性、可扩展性。

一、架构基础分工

  1. 黑节点 A(接入 Broker) :对外承载设备 TCP/WS/TLS 连接,存储本地客户端会话、订阅、离线消息、Retain 消息;对等无主从
  2. 白节点 B(路由总线 FreeMQTT BUS) :客户端无感知,只负责跨 A 节点消息路由、会话查询、共享订阅分发;所有 B 组成分布式路由总线,无中心化路由节点。
  3. 节点间通信仅基于 MQTT5 原生扩展,无 Redis/ZooKeeper/Gossip 等第三方依赖,消除外部中间件单点故障。

二、对系统可靠性的提升逻辑

1. 消除多层单点故障风险

  • 无主从架构:所有 A 节点对等、所有 B 节点对等,不存在主节点宕机集群瘫痪问题;任意 A/B 实例下线,剩余节点自动承接流量。
  • 剥离外部依赖:传统 MQTT 集群依赖 Redis/etcd 存储会话、协调集群,一旦中间件故障全集群不可用;A/B 架构仅自身 MQTT5 互通,少一层故障面。
  • 故障隔离(职责拆分)
  • A 节点故障:仅丢失本机在线设备,客户端重连其他 A 节点;通过 B 总线全局查询会话,自动恢复订阅、离线消息、遗嘱,无需粘性会话
  • B 节点故障:其余 B 节点组成完整路由总线,消息转发不受阻断;B 无客户端连接,故障影响范围极小。

2. No Sticky Session 无粘性会话,大幅提升故障容灾

传统集群必须把同一设备固定绑定单一 Broker(粘性会话),该节点宕机后会话丢失、QoS1/2 消息丢失、重连失效。 A/B 架构机制:

  1. 设备随机重连任意空闲 A 节点;
  2. 新 A 节点通过 B 总线广播SESSION_QUERY元指令,查询全集群所有 A 节点;
  3. 持有该 ClientID 会话的原 A 节点返回订阅、未确认消息、Retain 信息;
  4. 当前 A 节点重建完整会话,业务无感知恢复,断连、节点宕机均不会丢失会话数据。

3. 分布式会话 / 消息存储,无中心存储崩溃风险

会话、订阅、离线消息分散存储在各个 A 节点,不集中存放于共享存储;不存在 “中心存储宕机导致全部设备会话清空” 的致命问题。 Retain 消息、共享订阅由 B 节点跨 A 同步,发布后全集群可见,单一 A 节点下线不丢失保留消息。

4. 分层限流与故障熔断,避免雪崩

连接压力(A 节点)、路由转发压力(B 节点)物理隔离:

  • 海量设备并发断线重连只会冲击 A 接入层,不会挤占跨节点路由带宽;
  • 消息洪峰仅占用 B 总线资源,不会压垮设备连接服务; 单一模块过载不会连锁拖垮整套集群。

三、对系统可扩展性的提升逻辑

1. 连接层与路由层独立横向扩容,按需拆分资源瓶颈

两类节点负载完全解耦,可独立扩容,精准匹配业务瓶颈:

  1. 设备连接数不足 → 只加 A 节点 A 专门承载百万级 TCP 长连接,扩容 A 即可提升接入上限;单机可多开 A 节点突破 Python GIL 多核限制,充分利用 CPU 多核资源。
  2. 跨节点消息吞吐、共享订阅压力大 → 只加 B 节点 B 作为路由总线,新增 B 节点自动加入 BUS 分担转发、查询压力,路由带宽线性提升。 传统一体化 Broker 集群只能整体扩容,连接与路由资源绑定,资源浪费严重。

2. 扩容无停机、无数据迁移、无分片重平衡

  • 新增 A/B 节点直接加入集群,自动通过 MQTT5 总线同步集群成员,无需重启集群、无需迁移会话分片;
  • 不存在分片迁移带来的消息抖动、会话丢失;
  • 支持单机多 A/B、多机器分布式混合部署,从十几台设备到百万终端平滑扩容。

3. 天然适配容器弹性扩缩容

单一 Docker 镜像同时支持 A、B 模式,Docker Swarm/K8s 可分别对 A、B 两组服务设置独立弹性策略:

  • 白天设备在线高峰自动扩容 A;
  • 夜间上报消息突增自动扩容 B; 扩缩容逻辑互不干扰,资源利用率最大化。

4. 集群能力无上限,跨租户线性扩展

  • 多租户隔离内置在 A 节点,新增业务只需新增 A 节点承载独立租户流量,租户间主题、ClientID 完全隔离;
  • B 总线全局共享,多租户共用一套路由层,不用为每条业务线单独搭建完整集群,降低扩容成本。

5. 解决 Python GIL 瓶颈,单机垂直扩展能力拉满

Python 单进程受 GIL 限制只能单核跑;A/B 分离架构支持单机部署多组 A、B 进程,每个进程绑定独立 CPU 核心,单机并发连接、消息吞吐可随 CPU 核心数线性提升,单机即可支撑十万级设备,不用过早拆分多服务器集群。

四、总结:A/B 架构核心价值浓缩

  1. 可靠性提升根源 职责分层隔离故障、无主从无单点、无外部中间件依赖、无粘性会话实现会话自动迁移、分布式存储规避中心数据崩溃,断连 / 节点宕机不丢会话与消息。
  2. 可扩展性提升根源 接入层 (A)、路由层 (B) 独立弹性扩容,单机突破 Python 多核限制,容器化快速扩缩,扩容无需停机迁移,连接与路由资源按需分配,适配从小规模到百万级终端平滑演进。
相关文章
|
27天前
|
存储 人工智能 缓存
企业AI私有化与云端协同方案:GLM5.2部署+OpenClaw/Hermes运维教程
GLM 5.2是一款753B混合专家架构开源旗舰大模型,原生支持百万Token超长上下文、复杂代码工程、长周期自主智能体任务,完整支持本地、私有云自托管部署。自托管模式能够实现全部业务数据不出环境、企业自定义推理调度、全链路操作私有化审计,对数据安全管控有严格要求的研发、金融、政企团队具备不可替代价值。整套落地链路包含硬件分级选型、多量化权重存储配置、vLLM/SGLang双推理框架部署、长期使用成本盈亏测算四大核心模块,同时可搭配轻量应用服务器部署OpenClaw、Hermes两类主流AI智能体,结合百炼Token Plan云端订阅算力构建混合AI架构,兼顾私有化数据安全与云端灵活弹性
230 1
|
2月前
|
存储 人工智能 Serverless
Serverless AI Agent 实战:用阿里云 AgentRun + Google ADK 搭建多智能体协同工作流
本文详解如何在阿里云AgentRun上快速搭建基于Google A2A协议的多Agent竞品分析系统:搜索、分析、报告三个专业Agent通过Serverless架构协同工作,内置百炼大模型与NAS共享存储,开箱即用、按量计费,显著降低多Agent落地门槛。
|
2月前
|
存储 人工智能 数据可视化
AI 智能体开发技术方案
企业级AI智能体以LLM为大脑,融合规划、记忆、工具调用四大核心模块,实现从“能对话”到“会做事”的跃迁,支撑工单处理、知识问答、流程自动化等场景落地。(239字)
|
2月前
|
存储 人工智能 算法
告别无效刷屏!TrendRadar:最快30秒部署的开源热点助手,让你只看真正关心的新闻
TrendRadar 是一个轻量级、易部署的热点新闻聚合与推送工具。它能够从知乎、抖音、B站、微博、百度、华尔街见闻等11个主流平台抓取热搜榜单,然后根据你设定的关键词进行智能筛选,最终将你最关心的内容推送到手机或邮箱。
665 13
 告别无效刷屏!TrendRadar:最快30秒部署的开源热点助手,让你只看真正关心的新闻
|
2月前
|
内存技术
STM32F103C8T6(Blue Pill) 上移植 USB 虚拟串口(CDC)
STM32F103C8T6(Blue Pill) 上移植 USB 虚拟串口(CDC)
651 4
|
2月前
|
人工智能 缓存 弹性计算
阿里云服务器2核4G5M199元解析:独享型u1实例,性能、适用场景、购买和续费规则介绍
阿里云通用算力型u1实例(ecs.u1-c1m2.large)2核4G、5M带宽、80G ESSD Entry云盘,活动特惠价仅199元/年(官网价3498.36元),企业新老用户同享,续费同价至2027年3月31日,每人限购1台。该实例采用独享型架构,搭载Intel至强可扩展处理器,内网带宽1Gbit/s、收发包30万PPS、云盘IOPS 1万,性能稳定,适合企业官网、中小Web应用、轻量数据库及开发测试等场景。
|
29天前
|
物联网 应用服务中间件 nginx
十分钟部署一个 MQTT Broker 集群
FreeMQTT Plus是首创A/B节点架构的MQTT Broker集群,支持Docker Swarm一键部署,10分钟内可完成集群搭建。它充分利用多核CPU,兼具单机版的鲁棒性与高效性,适用于高并发IoT场景。(239字)
|
2月前
|
SQL 安全 测试技术
《ZAKU渗透论:卓伊凡的2026渗透工程》第一章:黑客是怎么工作的?
渗透测试是授权下模拟黑客攻击,检验系统安全性;白帽合法防护,黑帽非法入侵,灰帽亦违法。攻击分7步:侦察、武器化、投递、利用、安装、C2、目标达成。它不同于自动化漏洞扫描,重在人工验证与深度分析。(239字)
332 6
|
26天前
|
数据采集 存储 人工智能
DCMM 2.0 九大能力域技术架构深度解析:数据中台作为贯标评估核心基础设施的实现路径
本文解析DCMM 2.0(GB/T 36073-2025)新标准,聚焦新增“数据资产”能力域,从技术架构视角系统梳理九大能力域与数据中台的映射关系,提出“理采存管用”五阶段落地路径,助力企业实现数据资产化闭环管理。
|
29天前
|
人工智能 测试技术
TID质量竞争大会分享议题|“求索”人工智能国家标准评测基准体系
人工智能产业落地加速,“如何评测”成为关键。中国电子标院李晨将在TID大会解读《“求索”人工智能国家标准评测基准体系》,涵盖标准化意义、十余项国标、AISBench等核心工具,及算力、大模型、软硬协同评测实践,助力构建统一可信的AI评测生态。

热门文章

最新文章