分布式系统架构中的中间件

本文涉及的产品
Serverless 应用引擎 SAE,800核*时 1600GiB*时
性能测试 PTS,5000VUM额度
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。
版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。 https://blog.csdn.net/wireless_com/article/details/44176271

分布式系统: A distributed system is one in which components located at network computers communicate and coordinate their actions only by passing messages.

由于单机处理能力存在瓶颈,而升级单机处理能力的性价比越来越低,出于稳定性和可用性的考虑,就出现了分布式系统的架构方案。将分布式系统中的一些通用功能提出来形成了中间件,常用的有消息系统,服务框架,数据访问等。

1)  消息中间件,应用于解耦,提供分布式环境下完成事务。

消息系统的引入是为了解耦服务调用。消息发送的一致性是指产生消息的业务动作和消息发送一致。

JMS中基本元素的关系:

ConnectionFactory ->Connection ->Session ->Message

Destination+Session -> MessageProvider

Destination + Session -> MessageConsumer

JMS可以解决消息一致性问题,但存在限制且成本较高。JMS Queue模型也称为PTP方式,Topic模型称为Pub/Sub方式。分布式系统中的消息模型需求:

-消息发送方和接收方都是集群

-同一个消息的接收方可能有多个集群进行处理

-不同集群对于同一消息的处理不能相互干扰

 

2)  远程调用和对象访问中间件即服务框架,服务框架对应用进行拆分,完成服务化

服务框架的自身部署有两种:一种是把服务框架作为应用的一个依赖包并与应用一起打包;另一种是服务框架作为容器的一部分,或变为一个容器来提供远程调用和远程服务的功能。

服务框架自身用的类与应用用到的类都控制在User-Defined Class Loader级别,这样就实现了相互间的隔离。

服务框架可以使用基于接口,方法和参数的路由。流量控制是保证系统的稳定性,是为了控制到服务提供者的请求的流量,一般从两个维度考虑:

-根据服务自身的接口、方法做控制,针对不同的接口、方法设置不同的阈值,能够使服务端的不同接口、方法之间的负载不互相影响。

-根据来源做控制,根据不同来源设置不同的限制,一般用在比较基础的服务上。

服务框架是点对点模型,且一般是同构系统,企业服务总线是总线式模型,可以是异步系统。

 

3)  数据访问中间件,数据拆分以及数据的管理,扩容,迁移等。

使用数据库是一种读写数据的选择。数据库减压的方式有三:a优化应用,b引入缓存和搜索引擎,c数据和访问拆分。

数据库垂直或水平拆分后,要涉及分布式事务。分布式事务是指事务的参与者、支持事务的服务器,资源服务器以及事务服务器分别位于分布式系统的不同节点上。DTP定义了三个组件:

-application grogram,即应用程序,定义事务边界

-resource manager,资源管理器,理解为一个DBMS,资源必须实行XA规范定义的接口。

-transaction manager,事务管理器,负责协调和管理事务,并提供api并管理资源管理器,还控制着全局事务,管理事务的生命周期,并协调资源。

 在分布式系统中,在提交之前增加了准备的阶段,成为两阶段提交。Paxos是一个比两阶段提交要轻量的保证一致性协议。CAP理论指出了consistency,availablity和partition-tolerance三个约束中最大满足两个。

从工程上看,最好避免分布式事务,如果必须使用,则考虑最终一致的方法,不要追求强一致。处理多主机sequence问题,一般采用独立ID生成器,或者id的生成逻辑直接放入应用本身。跨库join的解决方法,把join操作分成多次数据库操作,或者对常用信息冗余形成单表查询,再者就要借助搜索引擎解决跨库问题了。外键约束一般要求分库后每个单库的数据是内聚的。跨库查询一般要结果合并,并尽量避免排序分页操作。

目录
相关文章
|
9天前
|
存储 JSON 数据库
Elasticsearch 分布式架构解析
【9月更文第2天】Elasticsearch 是一个分布式的搜索和分析引擎,以其高可扩展性和实时性著称。它基于 Lucene 开发,但提供了更高级别的抽象,使得开发者能够轻松地构建复杂的搜索应用。本文将深入探讨 Elasticsearch 的分布式存储和检索机制,解释其背后的原理及其优势。
39 5
|
27天前
|
存储 缓存 监控
分布式链路监控系统问题之kywalking在后期维护过程中可能会遇到中间件版本升级的问题如何解决
分布式链路监控系统问题之kywalking在后期维护过程中可能会遇到中间件版本升级的问题如何解决
|
28天前
|
存储 NoSQL Java
一天五道Java面试题----第十一天(分布式架构下,Session共享有什么方案--------->分布式事务解决方案)
这篇文章是关于Java面试中的分布式架构问题的笔记,包括分布式架构下的Session共享方案、RPC和RMI的理解、分布式ID生成方案、分布式锁解决方案以及分布式事务解决方案。
一天五道Java面试题----第十一天(分布式架构下,Session共享有什么方案--------->分布式事务解决方案)
|
16天前
|
监控 安全 中间件
Python Django 后端架构开发: 中间件架构设计
Python Django 后端架构开发: 中间件架构设计
21 1
|
16天前
|
安全 中间件 项目管理
Django 后端架构开发:分页器到中间件开发
Django 后端架构开发:分页器到中间件开发
32 1
|
18天前
|
运维 安全 Cloud Native
核心系统转型问题之分布式数据库和数据访问中间件协作如何解决
核心系统转型问题之分布式数据库和数据访问中间件协作如何解决
|
18天前
|
弹性计算 Cloud Native Windows
核心系统转型问题之核心系统需要转型到云原生分布式架构的原因如何解决
核心系统转型问题之核心系统需要转型到云原生分布式架构的原因如何解决
|
23天前
|
机器学习/深度学习 分布式计算 Cloud Native
云原生架构下的高性能计算解决方案:利用分布式计算资源加速机器学习训练
【8月更文第19天】随着大数据和人工智能技术的发展,机器学习模型的训练数据量和复杂度都在迅速增长。传统的单机训练方式已经无法满足日益增长的计算需求。云原生架构为高性能计算提供了新的可能性,通过利用分布式计算资源,可以在短时间内完成大规模数据集的训练任务。本文将探讨如何在云原生环境下搭建高性能计算平台,并展示如何使用 PyTorch 和 TensorFlow 这样的流行框架进行分布式训练。
43 2
|
23天前
|
监控 Java 开发者
随着软件开发的发展,传统单体应用已难以适应现代业务需求,微服务架构因此兴起,成为构建可伸缩、分布式系统的主流
随着软件开发的发展,传统单体应用已难以适应现代业务需求,微服务架构因此兴起,成为构建可伸缩、分布式系统的主流。本文探讨Java微服务架构的设计原则与实践。核心思想是将应用拆分为独立服务单元,增强模块化与扩展性。Java开发者可利用Spring Boot等框架简化开发流程。设计时需遵循单一职责、自治性和面向接口编程的原则。以电商系统为例,将订单处理、商品管理和用户认证等拆分为独立服务,提高可维护性和容错能力。还需考虑服务间通信、数据一致性及监控等高级话题。掌握这些原则和工具,开发者能构建高效、可维护的微服务应用,更好地应对未来挑战。
63 1
|
1月前
|
Cloud Native 云计算 微服务
云原生时代:企业分布式应用架构的惊人蜕变,从SOA到微服务的大逃亡!
【8月更文挑战第8天】在云计算与容器技术推动下,企业分布式应用架构正经历从SOA到微服务再到云原生的深刻变革。SOA强调服务重用与组合,通过标准化接口实现服务解耦;微服务以细粒度划分服务,增强系统灵活性;云原生架构借助容器化与自动化技术简化部署与管理。每一步演进都为企业带来新的技术挑战与机遇。
77 6
下一篇
DDNS