分布式系统应用之服务发现!

简介: 分布式系统应用之服务发现!

什么是服务发现?

服务 → ip:port list的查找表

为什么需要服务发现?

虚拟化,容器技术,云平台 --> ip 动态分配

微服务化 --> 应用拆分,相互调用增加

方案演进

硬编码:只适用稳定的服务方

dns: 缓存导致更新扩散有延迟,故障转移问题

dns + loadbalancer/VIP: 基础设置配置方案(mysql,redis)

服务发现做什么?

服务注册/注销

失败节点检测

服务列表查询

实现分类

发现

client-side discovery: client请求前从registry查询ip:port列表,选择一个发请求 (eureka)

server-side discovery: 加一个lb/router,做代理转发,从registry获取服务ip的逻辑放到代理层 (nginx,k8s)

注册

self-registration:服务方在启动跟停止时主动上报注册中心 (eureka, nacos)

third-party registration:第三方模块代替服务方向注册中心上报 (consul, nacos)

实现细节 - 关注点

client端查询:缓存及更新

server端查找表维护:注册信息同步及失败节点检测

服务发现实现案例

eureka

client端:

所有查询走本地缓存

两个定时任务

  • 心跳:默认30s一次,服务续期
  • 缓存刷新:第一次全量,后面拉delta,即全部app的hash,发生变化触发全量刷新

server端:

客户端查询&注册表维护:多级缓存,读写分离,内层实时写,外层只读存储,30s更新一次

集群成员信息同步:定时任务,从已知节点同步

集群间数据同步:所有注册,下线,心跳,淘汰请求走异步队列同步peer node

失败检测:默认超3个周期无心跳,进入淘汰队列

  • 自我保护机制:如果一次清理超过15%,停止,保留当前全部数据直到恢复或人为干预,避免网络抖动触发大量服务下线

保证可用性,不保证一致性,server间数据同步可能延迟

consul

两种agent模式:

server → 负责维护注册表 & rpc响应

client → 转发请求 & 心跳检查

client端缓存:

agent支持参数指定最大过期时间

agent block query数据变更,client查询永远走缓存,超过3天不请求,不再监听

状态同步:

一个dc内client与server是一个集群,可以相互发现与广播信息,client不一定要配置server信息

server端,dc间wan gossip,dc内server之间raft保证一致性

client端参与lan gossip,广播成员以及服务状态,优先udp,重试几次降级到tcp

所有rpc请求均转发到对应dc内的leader处理

跨dc请求,由请求发起方的dc leader转发到目标dc的leader (dc间不同步数据)

server数据默认不做持久化

保证一致性,牺牲写性能

读一致性级别

  • default: leader leasing期限内提供读
  • consistent:leader每次rpc都跟folowler确认,有延迟
  • stale:任意时刻,任何节点都能提供读

失败检测:

agent主动进行心跳检测,失败检测通过集群内所有节点监控传播

agent下线,注册到该agent下的服务信息都会丢失

lifeguard,增强swim协议,动态调整超时时间,降低误判率

几类服务发现产品对比

eureka consul nacos etcd zk
api 服务发现rest api rest api & dns rest api & dns rest api & grpc zkClient
watcher long polling (eureka2) long polling udp key watcherclient long polling,server端定时任务遍历日志找某个版本之后的变更通知 key watcherclient 注册handler到本地,server保存回掉信息,触发时调用
心跳检查 client heartbeat server探活(支持mysql,redis之类无法嵌入client的基础服务) 注册时配了healthcheck的server端检查,client端默认注册就会启动beat定时任务 put key & ttl 并定时续期 依赖临时节点,跟server心跳保持
客户端缓存策略&更新策略 定时刷新,最多60s延迟 可手动指定缓存期限 一个service一个schedule任务定时更新
持久化 可手动持久化,用于还原备份 支持 v3支持,写wal 支持,快照 + 事务日志
cap ap cp(raft) ap(distrio) & cp (raft) cp(raft) cp(zab)



相关文章
|
6月前
|
安全 JavaScript 前端开发
HarmonyOS NEXT~HarmonyOS 语言仓颉:下一代分布式开发语言的技术解析与应用实践
HarmonyOS语言仓颉是华为专为HarmonyOS生态系统设计的新型编程语言,旨在解决分布式环境下的开发挑战。它以“编码创造”为理念,具备分布式原生、高性能与高效率、安全可靠三大核心特性。仓颉语言通过内置分布式能力简化跨设备开发,提供统一的编程模型和开发体验。文章从语言基础、关键特性、开发实践及未来展望四个方面剖析其技术优势,助力开发者掌握这一新兴工具,构建全场景分布式应用。
687 35
|
5月前
|
分布式计算 Java 大数据
Java 大视界 —— 基于 Java 的大数据分布式计算在气象数据处理与天气预报中的应用进展(176)
本文围绕基于 Java 的大数据分布式计算在气象数据处理与天气预报中的应用展开,剖析行业现状与挑战,阐释技术原理,介绍其在数据处理及天气预报中的具体应用,并结合实际案例展示实施效果。
Java 大视界 -- 基于 Java 的大数据分布式存储在视频监控数据管理中的应用优化(170)
本文围绕基于 Java 的大数据分布式存储在视频监控数据管理中的应用展开,分析管理现状与挑战,阐述技术应用,结合案例和代码给出实操方案。
|
9月前
|
机器学习/深度学习 存储
DeepSeek进阶开发与应用4:DeepSeek中的分布式训练技术
随着深度学习模型和数据集规模的扩大,单机训练已无法满足需求,分布式训练技术应运而生。DeepSeek框架支持数据并行和模型并行两种模式,通过将计算任务分配到多个节点上并行执行,显著提高训练效率。本文介绍DeepSeek中的分布式训练技术,包括配置与启动方法,帮助用户轻松实现大规模模型训练。数据并行通过`MirroredStrategy`同步梯度,适用于大多数模型;模型并行则通过`ParameterServerStrategy`异步处理大模型。DeepSeek简化了分布式环境配置,支持单机多卡和多机多卡等场景。
|
11月前
|
自然语言处理 负载均衡 Kubernetes
分布式系统架构2:服务发现
服务发现是分布式系统中服务实例动态注册和发现机制,确保服务间通信。主要由注册中心和服务消费者组成,支持客户端和服务端两种发现模式。注册中心需具备高可用性,常用框架有Eureka、Zookeeper、Consul等。服务注册方式包括主动注册和被动注册,核心流程涵盖服务注册、心跳检测、服务发现、服务调用和注销。
459 13
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
248 5
|
人工智能 文字识别 Java
SpringCloud+Python 混合微服务,如何打造AI分布式业务应用的技术底层?
尼恩,一位拥有20年架构经验的老架构师,通过其深厚的架构功力,成功指导了一位9年经验的网易工程师转型为大模型架构师,薪资逆涨50%,年薪近80W。尼恩的指导不仅帮助这位工程师在一年内成为大模型架构师,还让他管理起了10人团队,产品成功应用于多家大中型企业。尼恩因此决定编写《LLM大模型学习圣经》系列,帮助更多人掌握大模型架构,实现职业跃迁。该系列包括《从0到1吃透Transformer技术底座》、《从0到1精通RAG架构》等,旨在系统化、体系化地讲解大模型技术,助力读者实现“offer直提”。此外,尼恩还分享了多个技术圣经,如《NIO圣经》、《Docker圣经》等,帮助读者深入理解核心技术。
SpringCloud+Python 混合微服务,如何打造AI分布式业务应用的技术底层?
|
存储 NoSQL Java
分布式session-SpringSession的应用
Spring Session 提供了一种创建和管理 Servlet HttpSession 的方案,默认使用外置 Redis 存储 Session 数据,解决了 Session 共享问题。其特性包括:API 及实现用于管理用户会话、以应用容器中性方式替换 HttpSession、简化集群会话支持、管理单个浏览器实例中的多个用户会话以及通过 headers 提供会话 ID 以使用 RESTful API。Spring Session 通过 SessionRepositoryFilter 实现,拦截请求并转换 request 和 response 对象,从而实现 Session 的创建与管理。
330 0
分布式session-SpringSession的应用
|
存储 NoSQL Java
分布式session-SpringSession的应用
Spring Session 提供了一种创建和管理 Servlet HttpSession 的方案,默认使用外置 Redis 存储 Session 数据,解决 Session 共享问题。其主要特性包括:提供 API 和实现来管理用户会话,以中立方式替换应用程序容器中的 HttpSession,简化集群会话支持,并在单个浏览器实例中管理多个用户会话。此外,Spring Session 允许通过 headers 提供会话 ID 以使用 RESTful API。结合 Spring Boot 使用时,可通过配置 Redis 依赖和支持缓存的依赖实现 Session 共享。
301 0
分布式session-SpringSession的应用
|
3月前
|
存储 负载均衡 NoSQL
【赵渝强老师】Redis Cluster分布式集群
Redis Cluster是Redis的分布式存储解决方案,通过哈希槽(slot)实现数据分片,支持水平扩展,具备高可用性和负载均衡能力,适用于大规模数据场景。
323 2