分布式系统架构中的中间件

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。
版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。 https://blog.csdn.net/wireless_com/article/details/44176271

分布式系统: A distributed system is one in which components located at network computers communicate and coordinate their actions only by passing messages.

由于单机处理能力存在瓶颈,而升级单机处理能力的性价比越来越低,出于稳定性和可用性的考虑,就出现了分布式系统的架构方案。将分布式系统中的一些通用功能提出来形成了中间件,常用的有消息系统,服务框架,数据访问等。

1)  消息中间件,应用于解耦,提供分布式环境下完成事务。

消息系统的引入是为了解耦服务调用。消息发送的一致性是指产生消息的业务动作和消息发送一致。

JMS中基本元素的关系:

ConnectionFactory ->Connection ->Session ->Message

Destination+Session -> MessageProvider

Destination + Session -> MessageConsumer

JMS可以解决消息一致性问题,但存在限制且成本较高。JMS Queue模型也称为PTP方式,Topic模型称为Pub/Sub方式。分布式系统中的消息模型需求:

-消息发送方和接收方都是集群

-同一个消息的接收方可能有多个集群进行处理

-不同集群对于同一消息的处理不能相互干扰

 

2)  远程调用和对象访问中间件即服务框架,服务框架对应用进行拆分,完成服务化

服务框架的自身部署有两种:一种是把服务框架作为应用的一个依赖包并与应用一起打包;另一种是服务框架作为容器的一部分,或变为一个容器来提供远程调用和远程服务的功能。

服务框架自身用的类与应用用到的类都控制在User-Defined Class Loader级别,这样就实现了相互间的隔离。

服务框架可以使用基于接口,方法和参数的路由。流量控制是保证系统的稳定性,是为了控制到服务提供者的请求的流量,一般从两个维度考虑:

-根据服务自身的接口、方法做控制,针对不同的接口、方法设置不同的阈值,能够使服务端的不同接口、方法之间的负载不互相影响。

-根据来源做控制,根据不同来源设置不同的限制,一般用在比较基础的服务上。

服务框架是点对点模型,且一般是同构系统,企业服务总线是总线式模型,可以是异步系统。

 

3)  数据访问中间件,数据拆分以及数据的管理,扩容,迁移等。

使用数据库是一种读写数据的选择。数据库减压的方式有三:a优化应用,b引入缓存和搜索引擎,c数据和访问拆分。

数据库垂直或水平拆分后,要涉及分布式事务。分布式事务是指事务的参与者、支持事务的服务器,资源服务器以及事务服务器分别位于分布式系统的不同节点上。DTP定义了三个组件:

-application grogram,即应用程序,定义事务边界

-resource manager,资源管理器,理解为一个DBMS,资源必须实行XA规范定义的接口。

-transaction manager,事务管理器,负责协调和管理事务,并提供api并管理资源管理器,还控制着全局事务,管理事务的生命周期,并协调资源。

 在分布式系统中,在提交之前增加了准备的阶段,成为两阶段提交。Paxos是一个比两阶段提交要轻量的保证一致性协议。CAP理论指出了consistency,availablity和partition-tolerance三个约束中最大满足两个。

从工程上看,最好避免分布式事务,如果必须使用,则考虑最终一致的方法,不要追求强一致。处理多主机sequence问题,一般采用独立ID生成器,或者id的生成逻辑直接放入应用本身。跨库join的解决方法,把join操作分成多次数据库操作,或者对常用信息冗余形成单表查询,再者就要借助搜索引擎解决跨库问题了。外键约束一般要求分库后每个单库的数据是内聚的。跨库查询一般要结果合并,并尽量避免排序分页操作。

目录
相关文章
|
3月前
|
消息中间件 存储 Java
RocketMQ(一):消息中间件缘起,一览整体架构及核心组件
【10月更文挑战第15天】本文介绍了消息中间件的基本概念和特点,重点解析了RocketMQ的整体架构和核心组件。消息中间件如RocketMQ、RabbitMQ、Kafka等,具备异步通信、持久化、削峰填谷、系统解耦等特点,适用于分布式系统。RocketMQ的架构包括NameServer、Broker、Producer、Consumer等组件,通过这些组件实现消息的生产、存储和消费。文章还提供了Spring Boot快速上手RocketMQ的示例代码,帮助读者快速入门。
|
4天前
|
存储 Prometheus Cloud Native
分布式系统架构6:链路追踪
本文深入探讨了分布式系统中的链路追踪理论,涵盖追踪与跨度的概念、追踪系统的模块划分及数据收集的三种方式。链路追踪旨在解决复杂分布式系统中请求流转路径不清晰的问题,帮助快速定位故障和性能瓶颈。文中介绍了基于日志、服务探针和边车代理的数据收集方法,并简述了OpenTracing、OpenCensus和OpenTelemetry等链路追踪协议的发展历程及其特点。通过理解这些概念,可以更好地掌握开源链路追踪框架的使用。
56 41
|
15天前
|
设计模式 存储 算法
分布式系统架构5:限流设计模式
本文是小卷关于分布式系统架构学习的第5篇,重点介绍限流器及4种常见的限流设计模式:流量计数器、滑动窗口、漏桶和令牌桶。限流旨在保护系统免受超额流量冲击,确保资源合理分配。流量计数器简单但存在边界问题;滑动窗口更精细地控制流量;漏桶平滑流量但配置复杂;令牌桶允许突发流量。此外,还简要介绍了分布式限流的概念及实现方式,强调了限流的代价与收益权衡。
59 11
|
17天前
|
设计模式 监控 Java
分布式系统架构4:容错设计模式
这是小卷对分布式系统架构学习的第4篇文章,重点介绍了三种常见的容错设计模式:断路器模式、舱壁隔离模式和重试模式。断路器模式防止服务故障蔓延,舱壁隔离模式通过资源隔离避免全局影响,重试模式提升短期故障下的调用成功率。文章还对比了这些模式的优缺点及适用场景,并解释了服务熔断与服务降级的区别。尽管技术文章阅读量不高,但小卷坚持每日更新以促进个人成长。
44 11
|
18天前
|
消息中间件 存储 安全
分布式系统架构3:服务容错
分布式系统因其复杂性,故障几乎是必然的。那么如何让系统在不可避免的故障中依然保持稳定?本文详细介绍了分布式架构中7种核心的服务容错策略,包括故障转移、快速失败、安全失败等,以及它们在实际业务场景中的应用。无论是支付场景的快速失败,还是日志采集的安全失败,每种策略都有自己的适用领域和优缺点。此外,文章还为技术面试提供了解题思路,助你在关键时刻脱颖而出。掌握这些策略,不仅能提升系统健壮性,还能让你的技术栈更上一层楼!快来深入学习,走向架构师之路吧!
54 11
|
20天前
|
自然语言处理 负载均衡 Kubernetes
分布式系统架构2:服务发现
服务发现是分布式系统中服务实例动态注册和发现机制,确保服务间通信。主要由注册中心和服务消费者组成,支持客户端和服务端两种发现模式。注册中心需具备高可用性,常用框架有Eureka、Zookeeper、Consul等。服务注册方式包括主动注册和被动注册,核心流程涵盖服务注册、心跳检测、服务发现、服务调用和注销。
55 12
|
1月前
|
消息中间件 架构师 数据库
本地消息表事务:10Wqps 高并发分布式事务的 终极方案,大厂架构师的 必备方案
45岁资深架构师尼恩分享了一篇关于分布式事务的文章,详细解析了如何在10Wqps高并发场景下实现分布式事务。文章从传统单体架构到微服务架构下分布式事务的需求背景出发,介绍了Seata这一开源分布式事务解决方案及其AT和TCC两种模式。随后,文章深入探讨了经典ebay本地消息表方案,以及如何使用RocketMQ消息队列替代数据库表来提高性能和可靠性。尼恩还分享了如何结合延迟消息进行事务数据的定时对账,确保最终一致性。最后,尼恩强调了高端面试中需要准备“高大上”的答案,并提供了多个技术领域的深度学习资料,帮助读者提升技术水平,顺利通过面试。
本地消息表事务:10Wqps 高并发分布式事务的 终极方案,大厂架构师的 必备方案
|
28天前
|
存储 算法 安全
分布式系统架构1:共识算法Paxos
本文介绍了分布式系统中实现数据一致性的重要算法——Paxos及其改进版Multi Paxos。Paxos算法由Leslie Lamport提出,旨在解决分布式环境下的共识问题,通过提案节点、决策节点和记录节点的协作,确保数据在多台机器间的一致性和可用性。Multi Paxos通过引入主节点选举机制,优化了基本Paxos的效率,减少了网络通信次数,提高了系统的性能和可靠性。文中还简要讨论了数据复制的安全性和一致性保障措施。
38 1
|
2月前
|
人工智能 运维 算法
引领企业未来数字基础架构浪潮,中国铁塔探索超大规模分布式算力
引领企业未来数字基础架构浪潮,中国铁塔探索超大规模分布式算力
|
2月前
|
NoSQL Java 数据处理
基于Redis海量数据场景分布式ID架构实践
【11月更文挑战第30天】在现代分布式系统中,生成全局唯一的ID是一个常见且重要的需求。在微服务架构中,各个服务可能需要生成唯一标识符,如用户ID、订单ID等。传统的自增ID已经无法满足在集群环境下保持唯一性的要求,而分布式ID解决方案能够确保即使在多个实例间也能生成全局唯一的标识符。本文将深入探讨如何利用Redis实现分布式ID生成,并通过Java语言展示多个示例,同时分析每个实践方案的优缺点。
71 8