分布式系统架构之框架化服务

简介: 版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。
版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。 https://blog.csdn.net/wireless_com/article/details/44193853

要使业务系统无极缩放,微服务架构方兴未艾。本质上,就是采用API(例如REST) 封装服务调用,形成服务框架。


既然是分布式API调用,必然涉及到网络IO常见的三种方式:

1)  BIO:Blocking IO,阻塞方式,一个socket用一个线程处理

2)  NIO: Non-blocking IO,事件驱动,采用reactor模式,一个线程中处理多个socket,JDK1.4以上版本支持

3)  AIO:Asynchronous IO,异步,采用Proactor模式,NIO在有通知时可以进行相关操作,AIO在有通知时表示相关操作已经完成,JDK1.7以上版本支持。


对服务的API调用而言,分为同步服务调用和异步服务调用。

 

同步服务调用

支持同步服务调用时,一般要有IO线程,数据队列,通信对象队列和定时任务。

1)  IO线程专门负责和socket连接,进行数据的收发。

2)  收发的数据进入数据队列

3)  通信对象队列保存了多个线程使用的通信对象,主要为了阻塞请求线程,请求线程把数据放入数据队列后会生成一个通信对象,进入通信对象队列并在通信对象队列上等待。

4)  通信对象用于唤醒请求线程。

5)  如果在远程调用超时前执行完毕并返回,那么IO线程就会通知通信对象,通信对象则会结束请求线程的等待,并把结果传给请求进程,以进行后续处理

6)  定时任务负责检查通信队列中的哪些通信对象已经超时,然后这些通信对象会通知请求线程超时。


异步服务调用

支持异步服务调用时,常见的有四种调用方式

1)  单向请求,基本等价于一个不保证可靠到达的通知

2)  回调,是一种被动的方式。请求者设置了回调对象,把数据写入数据队列后就继续自己处理了。回调的执行在IO线程中或定时任务(主要处理超时)的线程中,建议用新的线程来执行回调。

3)  Future,Java中的future非常便利,先把future放入队列,然后数据入队列,在线程中处理,等请求线程的其他处理结束后,就通过future来获取通信结果并直接控制超时。

4)  可靠异步,能保证异步请求在远程被执行。

 

服务端主要有两部分工作:

1)  本地服务的注册管理,服务需要注册到服务注册查找中心后才能被服务调用者发现。

2)  根据请求来定位服务并执行。启动时完成注册,监听端口,通信部分同样用NIO方式实现。IO线程进行通信的处理,一般是多个,完成协议解析。调用服务一般在工作线程进行,反序列化取决于具体实现。工作线程实际上是相互隔离的多个不同服务的线程池。

 

服务的升级有两种情况:

1)      接口不变,代码完善或功能完善,只是内部服务的实现有变化。

2)      需要修改原有的接口

a)        在接口中增加方法

b)        对接口的某些方法修改调用的参数列表。可以通过版本号来解决,或者在设计上考虑参数的扩展性,例如map传参


服务治理是在系统采用服务框架后,完成管理服务和查看服务的功能。管理服务需要控制、操作整个分布式系统中的服务,查看则是看运行时的状态或一些具体信息、历史数据等。查看服务的具体内容包括:服务信息,服务质量,容量,依赖,分布,统计,元数据,服务查询,报表和监视。 服务管理的内容内容包括:上下线,路由,限流降级,归组,线程池管理,机房规则,服务授权。


需要注意的是,在分布式系统中处理session存储问题的方式:

1)  Session Sticky:负责均衡需要根据每次请求的会话标识来进行请求转发

2)  Session Replication:web服务器之间增加了会话数据同步

3)  Session 数据的集中存储:在web服务器数量大,session 数多时最佳

4)  Cookie 使用,在客户端请求上使用session 数据

目录
相关文章
|
11月前
|
人工智能 Kubernetes 数据可视化
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
本文回顾了一次关键词监测任务在容器集群中失效的全过程,分析了中转IP复用、调度节奏和异常处理等隐性风险,并提出通过解耦架构、动态IP分发和行为模拟优化采集策略,最终实现稳定高效的数据抓取与分析。
233 2
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
|
10月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
1422 3
|
11月前
|
消息中间件 负载均衡 中间件
⚡ 构建真正的高性能即时通讯服务:基于 Netty 集群的架构设计与实现
本文介绍了如何基于 Netty 构建分布式即时通讯集群。随着用户量增长,单体架构面临性能瓶颈,文章对比了三种集群方案:Nginx 负载均衡、注册中心服务发现与基于 ZooKeeper 的消息路由架构。最终选择第三种方案,通过 ZooKeeper 实现服务注册发现与消息路由,并结合 RabbitMQ 支持跨服务器消息广播。文中还详细讲解了 ZooKeeper 搭建、Netty 集群改造、动态端口分配、服务注册、负载均衡及消息广播的实现,构建了一个高可用、可水平扩展的即时通讯系统。
1140 0
|
8月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
8月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
556 1
|
12月前
|
监控 算法 关系型数据库
分布式事务难题终结:Seata+DRDS全局事务一致性架构设计
在分布式系统中,CAP定理限制了可用性、一致性与分区容错的三者兼得,尤其在网络分区时需做出取舍。为应对这一挑战,最终一致性方案成为常见选择。以电商订单系统为例,微服务化后,原本的本地事务演变为跨数据库的分布式事务,暴露出全局锁失效、事务边界模糊及协议差异等问题。本文深入探讨了基于 Seata 与 DRDS 的分布式事务解决方案,涵盖 AT 模式实践、分片策略优化、典型问题处理、性能调优及高级特性实现,结合实际业务场景提供可落地的技术路径与架构设计原则。通过压测验证,该方案在事务延迟、TPS 及失败率等方面均取得显著优化效果。
599 61
|
9月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
3925 57
|
11月前
|
文字识别 运维 监控
架构解密|一步步打造高可用的 JOCR OCR 识别服务
本文深入解析了JOCR OCR识别服务的高可用架构设计,涵盖从用户上传、智能调度、核心识别到容错监控的完整链路,助力打造高性能、低成本的工业级OCR服务。
433 0
架构解密|一步步打造高可用的 JOCR OCR 识别服务
|
监控 Java 调度
SpringBoot中@Scheduled和Quartz的区别是什么?分布式定时任务框架选型实战
本文对比分析了SpringBoot中的`@Scheduled`与Quartz定时任务框架。`@Scheduled`轻量易用,适合单机简单场景,但存在多实例重复执行、无持久化等缺陷;Quartz功能强大,支持分布式调度、任务持久化、动态调整和失败重试,适用于复杂企业级需求。文章通过特性对比、代码示例及常见问题解答,帮助开发者理解两者差异,合理选择方案。记住口诀:单机简单用注解,多节点上Quartz;若是任务要可靠,持久化配置不能少。
1068 4