服务化架构增加了哪些复杂度:微服务架构谈(5)(下)

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 服务化架构增加了哪些复杂度:微服务架构谈(5)(下)

三、SLA限流的陷阱


如《分布式服务框架》一书第1414.6总结所说,流量控制是保障服务SLA的重要措施,也是业务高峰期故障预防和恢复的有效手段,分布式服务框架需要支持不同的流控策略,还要支持流控阈值、策略的在线调整。作者介绍了静态流控,动态流控的基本思想。


具体到操作层而言,我们的单机服务器容量一般是针对服务接口粒度。比如A系统有咨询、支付、发放三个主要接口,那么一般而言,在压测的时候有不同的场景组合模型来支持三个接口组合的能力设定,QPS或者TPS。

 

场景组合\接口名

咨询

支付

发放

场景组合1

1000QPS

150TPS

400TPS

场景组合2

800QPS

170TPS

450TPS

场景组合3

600QPS

210TPS

500TPS


如果业务需求判定为重点保障咨询接口,则把咨询设置为最大值比如1000,而支付和发放就会调小,比如支付120TPS。但是如果咨询实际的值大于预期,支付实际又没有预期高,原本期望用于支付的资源可以部分挪用来做咨询,然而现有固定阈值状态下咨询会被限流。于是可以通过动态调整限流策略来做到这一点。期望限流策略同时做到:1保护系统资源 2 保证重点接口的服务能力 3 根据当前的各接口负载,动态调整限流。

 

再谈谈第二个问题,假设支付接口B的单机TPS测定为300TPS,可能商户m的流量占了60%,如果商户m的流量奇高(某日营销活动),那么商户m的流量就会打满300触发限流导致其他商户均支付不成功。解决方案1是在路由的时候就区分好大商户和普通商户,大商户有专门的服务集群,达到隔离的目标。解决方案2是在接口SLA上面做文章,扩展限流组件的能力,可以支持细粒度的限流,可以通过配置商户参数、表达式来实现。下图即是粗放式限流一类管理界面。


image.png



四、参数传递的商榷


林峰在12章总结参数传递策略。包括业务内部参数传递、服务框架和业务之间的参数传递。其中业务流程编排涉及参数传递总结了三种方式:


  • 硬编码
  • 通过抽象的编排上下文进行传递
  • 通过专业的BPM流程引擎进行业务逻辑编排,参数通过流程上下文传递


4.1 线程上下文传参规范

在上下文参数传递中,经过使用ThreadLocal进行参数传递。要特别注意的是ThreadLocal参数清理,以及使用ThreadLocal还存在多线程情况下数据混乱的风险。因此在一些编码规范中约定:

  • 本系统内, ThreadLocal变量使用完成后,必须在本系统显式remove。
  • 跨系统,接口服务提供方,不能直接或者间接通过ThreadLocal参数提供给服务消费者使用。
4.2 参数透传风险

透传参数也是我们经常使用的一种方案。透传参数看似简单,也有一些容易犯的错。透传参数最大的问题是没有定义那些参数应该在那些系统消费。比如A>B>C>D…E,A、B、C、D系统存在同步调用关系,D发消息给E。一些上下文的构造在A系统创建,本身应该在D系统消费的,结果在C系统不小心被修改了,那么就发生了超出预期的风险。

 

4.3 非合理使用共享变量

我们来看一个使用扩展字段的例子:

A系统调用B系统的服务,B系统的处理逻辑伪代码如下:

 

//检查checkInfoMap是否有payInfo对象匹配的内容

List<CheckInfo>  pAssertCheckInfos=matchCheckInfos(payInfo,checkInfoMap);

//匹配结果不为空

if(pAssertCheckInfos.isEmpty())

{

   //代码省略

   return;

}

//清空

payInfo.getInfoMap().clear();

这段代码的问题在于进入if分支后,直接返回;没有执行map的清空逻辑。


A系统继续使用了decisionInfo对象,处理逻辑是拿到大字段map以后直接putAll追加到原有入参map中,导致在某种情况下返回map追加到多个入参map中,而产生超出预期的结果。对象共享有几种方式:本地缓存、静态对象、单例对象、单例bean服务的成员变量等。以下介绍一个本地缓存风险介绍的案例。


在大型并发系统设计中,基于现有分布式编码的经验总结出如下原则:任何对象共享涉及都需要杜绝外部变更风险,有如下几种方式基于自身使用场景去考虑哪种更适合:采用深克隆的方式,采用不变对象模式。


五、服务规模的把握


经常有人问,服务拆多大合适?有人说微服务的微究竟是多”微”?林昊在前一段有一篇文章《大部分公司并不需要微服务》,一个单一应用的复杂度远比N个应用组成的分布式系统简单、快速的多;一旦进入分布式的坑,在技术上就不得不有比较大的投入,而对于一些处于中小规模的公司而言,完全没有必要。


我觉得在几十名研发的公司,可能还真的不需要做服务化或者微服务。在支付宝几百研发人员的时候,应该还是2个主要系统,一个前台业务,一个后台系统。


回到多大服务规模合适,可以看看康威定律,系统架构往往和组织架构相关,反之亦然。我们回头看3人一组的小team能cover多少system?如果把system拆分为service(服务),可以再次计算。比如1个人cover 1-2个系统,如果平均1个系统10个服务的话,那么单人管理的服务在20以内的级别;3个小组管理的服务应在100个之内。


服务本身的拆分粒度也要在管理复杂度上做权衡,业务领域的内聚上做权衡。服务变多,链路变长,研发效率反而会下降。我们应尽量降低依赖。


六、服务调用跟踪

众所周知,trace架构基本都源自Google Dapper


image.png


下图为高德在基于trace基础上做的场景应用,比如服务状态自我诊断、监控追溯等。


image.png


上图为支付宝app通过无线网关的trace示意图,包括应用链路,文件存储。应用链路包括rpc调用和消息服务。《分布式服务框架》一书,林峰特别对服务调用链价值进行了汇总,体现了对于不同角色,服务调用链路跟踪的价值所在。


开发:

架构优化

消除不合理依赖

性能优化

还可以补充容量评测、设计变更分析等


测试:

识别调用流程

优化测试用例

关键路径覆盖率

还可以补充自动化端到端测试


运维:

故障定界

故障定位

提前预警

易故障点识别

 

七、分布式事务

todo

 

声明:

本文部分插图引用网络公开资料,包括高德稳定性架构实践(雷娃)、支付宝无线-从前端到后端的服务治理 以及 阿里妈妈全景业务监控平台Goldeneye。

相关文章
|
20小时前
|
监控 持续交付 Docker
使用Docker进行微服务架构的最佳实践
【5月更文挑战第10天】本文探讨了使用Docker实施微服务架构的最佳实践。首先,理解微服务架构是拆分小型独立服务的模式,借助Docker实现快速部署、高可移植性和环境一致性。Docker的优势在于服务扩展、容器编排、自动化构建与部署。最佳实践包括:定义清晰服务边界,使用Dockerfile和Docker Compose自动化构建,利用Docker Swarm或Kubernetes编排,实施服务发现和负载均衡,监控与日志记录,以及持续集成和持续部署。Docker虽重要,但需与其他技术结合以确保系统整体稳定性。
|
20小时前
|
缓存 负载均衡 API
微服务架构下的API网关性能优化实践
【5月更文挑战第10天】在微服务架构中,API网关作为前端和后端服务之间的关键枢纽,其性能直接影响到整个系统的响应速度和稳定性。本文将探讨在高并发场景下,如何通过缓存策略、负载均衡、异步处理等技术手段对API网关进行性能优化,以确保用户体验和服务的可靠性。
|
1天前
|
存储 监控 API
构建高效微服务架构:后端开发的现代实践
【5月更文挑战第9天】 在本文中,我们将深入探讨如何在后端开发中构建一个高效的微服务架构。通过分析不同的设计模式和最佳实践,我们将展示如何提升系统的可扩展性、弹性和维护性。我们还将讨论微服务架构在处理复杂业务逻辑和高并发场景下的优势。最后,我们将分享一些实用的工具和技术,以帮助开发者实现这一目标。
|
1天前
|
负载均衡 算法 NoSQL
探索微服务架构下的服务发现与治理
【5月更文挑战第9天】 在当今的软件开发领域,微服务架构已成为构建可伸缩、灵活且容错的系统的首选模式。随着服务的增多,如何有效地进行服务发现与治理成为了关键的挑战。本文将深入探讨微服务环境中服务发现的机制和治理策略,分析不同服务发现工具的优缺点,并提出一种基于一致性哈希和健康检查相结合的服务治理方案,旨在提高系统的可用性和性能。
|
2天前
|
监控 API 持续交付
构建高效可靠的微服务架构:策略与实践
【5月更文挑战第8天】在当今快速演进的软件开发领域,微服务架构已经成为实现敏捷开发、持续交付和系统弹性的关键模式。本文将探讨构建一个高效且可靠的微服务系统所必须的策略和最佳实践。我们将从服务的划分与设计原则出发,讨论如何通过容器化、服务发现、API网关以及断路器模式来优化系统的可伸缩性和鲁棒性。此外,我们还将涉及监控、日志管理以及CI/CD流程在确保微服务架构稳定运行中的作用。
|
2天前
|
消息中间件 Java 微服务
Java微服务架构实践指南
Java微服务架构实践指南
12 0
|
2天前
|
Kubernetes 持续交付 开发者
构建高效微服务架构:后端开发的新趋势
【5月更文挑战第8天】 随着现代软件开发的不断演进,微服务架构已成为众多企业解决复杂系统问题的首选方案。本文深入探讨了微服务架构的核心概念、设计原则以及实施策略,旨在为后端开发者提供一种清晰、高效的技术路径。通过分析微服务的优势与挑战,结合具体的应用实例,文章将展示如何通过容器化、服务网格和持续集成/持续部署(CI/CD)等先进技术手段,实现后端服务的高可用性、可扩展性和敏捷性。
|
2天前
|
消息中间件 监控 Java
构建高效微服务架构:后端开发的新趋势
【5月更文挑战第8天】随着现代软件开发的复杂性日益增加,传统的单体应用架构逐渐难以满足快速迭代和灵活部署的需求。微服务架构作为一种新的解决方案,以其模块化、独立性强和易于扩展的特点,正在成为后端开发领域的重要趋势。本文将深入探讨如何构建一个高效的微服务架构,并分析其对后端开发实践的影响。
|
2天前
|
敏捷开发 持续交付 API
构建高效微服务架构:后端开发的现代实践
【5月更文挑战第8天】 在数字化转型的浪潮中,微服务架构已成为企业追求敏捷开发、持续交付和系统弹性的关键解决方案。本文将深入探讨微服务的核心概念,包括其设计原则、优缺点以及如何在后端开发中实现高效的微服务架构。我们将通过实际案例分析,展示微服务如何帮助企业快速适应市场变化,同时保持系统的可维护性和扩展性。
|
2天前
|
API 持续交付 开发者
构建高效微服务架构:后端开发的新视角
【5月更文挑战第8天】 随着现代软件开发的演变,微服务架构已经成为了企业追求敏捷、可扩展和灵活部署的重要解决方案。本文将深入探讨如何构建一个高效的微服务架构,包括关键的设计原则、技术栈选择以及持续集成与部署的最佳实践。我们还将讨论微服务带来的挑战,如数据一致性、服务发现和网络延迟,并提出相应的解决策略。通过本文,后端开发者将获得构建和维护微服务系统所需的深度知识,并了解如何在不断变化的技术环境中保持系统的健壮性和可维护性。
34 8