分布式系统架构中的中间件

本文涉及的产品
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
注册配置 MSE Nacos/ZooKeeper,182元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。
版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。 https://blog.csdn.net/wireless_com/article/details/44176271

分布式系统: A distributed system is one in which components located at network computers communicate and coordinate their actions only by passing messages.

由于单机处理能力存在瓶颈,而升级单机处理能力的性价比越来越低,出于稳定性和可用性的考虑,就出现了分布式系统的架构方案。将分布式系统中的一些通用功能提出来形成了中间件,常用的有消息系统,服务框架,数据访问等。

1)  消息中间件,应用于解耦,提供分布式环境下完成事务。

消息系统的引入是为了解耦服务调用。消息发送的一致性是指产生消息的业务动作和消息发送一致。

JMS中基本元素的关系:

ConnectionFactory ->Connection ->Session ->Message

Destination+Session -> MessageProvider

Destination + Session -> MessageConsumer

JMS可以解决消息一致性问题,但存在限制且成本较高。JMS Queue模型也称为PTP方式,Topic模型称为Pub/Sub方式。分布式系统中的消息模型需求:

-消息发送方和接收方都是集群

-同一个消息的接收方可能有多个集群进行处理

-不同集群对于同一消息的处理不能相互干扰

 

2)  远程调用和对象访问中间件即服务框架,服务框架对应用进行拆分,完成服务化

服务框架的自身部署有两种:一种是把服务框架作为应用的一个依赖包并与应用一起打包;另一种是服务框架作为容器的一部分,或变为一个容器来提供远程调用和远程服务的功能。

服务框架自身用的类与应用用到的类都控制在User-Defined Class Loader级别,这样就实现了相互间的隔离。

服务框架可以使用基于接口,方法和参数的路由。流量控制是保证系统的稳定性,是为了控制到服务提供者的请求的流量,一般从两个维度考虑:

-根据服务自身的接口、方法做控制,针对不同的接口、方法设置不同的阈值,能够使服务端的不同接口、方法之间的负载不互相影响。

-根据来源做控制,根据不同来源设置不同的限制,一般用在比较基础的服务上。

服务框架是点对点模型,且一般是同构系统,企业服务总线是总线式模型,可以是异步系统。

 

3)  数据访问中间件,数据拆分以及数据的管理,扩容,迁移等。

使用数据库是一种读写数据的选择。数据库减压的方式有三:a优化应用,b引入缓存和搜索引擎,c数据和访问拆分。

数据库垂直或水平拆分后,要涉及分布式事务。分布式事务是指事务的参与者、支持事务的服务器,资源服务器以及事务服务器分别位于分布式系统的不同节点上。DTP定义了三个组件:

-application grogram,即应用程序,定义事务边界

-resource manager,资源管理器,理解为一个DBMS,资源必须实行XA规范定义的接口。

-transaction manager,事务管理器,负责协调和管理事务,并提供api并管理资源管理器,还控制着全局事务,管理事务的生命周期,并协调资源。

 在分布式系统中,在提交之前增加了准备的阶段,成为两阶段提交。Paxos是一个比两阶段提交要轻量的保证一致性协议。CAP理论指出了consistency,availablity和partition-tolerance三个约束中最大满足两个。

从工程上看,最好避免分布式事务,如果必须使用,则考虑最终一致的方法,不要追求强一致。处理多主机sequence问题,一般采用独立ID生成器,或者id的生成逻辑直接放入应用本身。跨库join的解决方法,把join操作分成多次数据库操作,或者对常用信息冗余形成单表查询,再者就要借助搜索引擎解决跨库问题了。外键约束一般要求分库后每个单库的数据是内聚的。跨库查询一般要结果合并,并尽量避免排序分页操作。

目录
相关文章
|
3月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
678 3
|
4月前
|
人工智能 Kubernetes 数据可视化
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
本文回顾了一次关键词监测任务在容器集群中失效的全过程,分析了中转IP复用、调度节奏和异常处理等隐性风险,并提出通过解耦架构、动态IP分发和行为模拟优化采集策略,最终实现稳定高效的数据抓取与分析。
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
|
1月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
6月前
|
消息中间件 存储 Kafka
分布式消息中间件设计与实现
本文深入探讨了消息中间件的核心功能实现与高并发、高可用设计。在生产者设计中,涵盖消息构造、序列化、路由策略及可靠性保障(如ACK机制)。消费者部分分析了拉取/推送模式、分区分配与消息确认机制。同时,Broker作为核心组件,负责消息路由、存储和投递,并通过索引技术实现快速检索。 高并发设计方面,重点讨论了文件存储(顺序写入、分段存储)、日志结构存储及负载均衡策略(如哈希分区、轮询分区)。为确保高可用性,文章详细解析了主从复制、故障转移机制以及同城/异地多活容灾方案。
|
1月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
264 1
|
7月前
|
人工智能 安全 Java
智慧工地源码,Java语言开发,微服务架构,支持分布式和集群部署,多端覆盖
智慧工地是“互联网+建筑工地”的创新模式,基于物联网、移动互联网、BIM、大数据、人工智能等技术,实现对施工现场人员、设备、材料、安全等环节的智能化管理。其解决方案涵盖数据大屏、移动APP和PC管理端,采用高性能Java微服务架构,支持分布式与集群部署,结合Redis、消息队列等技术确保系统稳定高效。通过大数据驱动决策、物联网实时监测预警及AI智能视频监控,消除数据孤岛,提升项目可控性与安全性。智慧工地提供专家级远程管理服务,助力施工质量和安全管理升级,同时依托可扩展平台、多端应用和丰富设备接口,满足多样化需求,推动建筑行业数字化转型。
272 5
|
2月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,
|
5月前
|
监控 算法 关系型数据库
分布式事务难题终结:Seata+DRDS全局事务一致性架构设计
在分布式系统中,CAP定理限制了可用性、一致性与分区容错的三者兼得,尤其在网络分区时需做出取舍。为应对这一挑战,最终一致性方案成为常见选择。以电商订单系统为例,微服务化后,原本的本地事务演变为跨数据库的分布式事务,暴露出全局锁失效、事务边界模糊及协议差异等问题。本文深入探讨了基于 Seata 与 DRDS 的分布式事务解决方案,涵盖 AT 模式实践、分片策略优化、典型问题处理、性能调优及高级特性实现,结合实际业务场景提供可落地的技术路径与架构设计原则。通过压测验证,该方案在事务延迟、TPS 及失败率等方面均取得显著优化效果。
330 61
|
6月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
2184 57
|
6月前
|
消息中间件 存储 中间件
分布式消息中间件基础
消息中间件是一种基于异步消息传递的分布式系统通信工具,核心功能包括消息传输、存储、路由与投递,能够实现系统解耦、异步处理和流量削峰。其主要组件包括生产者、消费者、Broker、主题/队列等,支持点对点和发布-订阅两种消息模型。主流中间件如Kafka(高吞吐)、RabbitMQ(灵活路由)、RocketMQ(事务支持)各有特色,适用于不同场景。此外,中间件还涉及多种协议(AMQP、MQTT等)、可靠性传输机制(持久化、确认机制)、顺序性与重复性问题解决以及事务支持(两阶段提交、本地消息表等)。选择中间件需根据业务需求权衡性能、功能和运维成本。