服务化架构增加了哪些复杂度:微服务架构谈(5)(下)

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 服务化架构增加了哪些复杂度:微服务架构谈(5)(下)

三、SLA限流的陷阱


如《分布式服务框架》一书第1414.6总结所说,流量控制是保障服务SLA的重要措施,也是业务高峰期故障预防和恢复的有效手段,分布式服务框架需要支持不同的流控策略,还要支持流控阈值、策略的在线调整。作者介绍了静态流控,动态流控的基本思想。


具体到操作层而言,我们的单机服务器容量一般是针对服务接口粒度。比如A系统有咨询、支付、发放三个主要接口,那么一般而言,在压测的时候有不同的场景组合模型来支持三个接口组合的能力设定,QPS或者TPS。

 

场景组合\接口名

咨询

支付

发放

场景组合1

1000QPS

150TPS

400TPS

场景组合2

800QPS

170TPS

450TPS

场景组合3

600QPS

210TPS

500TPS


如果业务需求判定为重点保障咨询接口,则把咨询设置为最大值比如1000,而支付和发放就会调小,比如支付120TPS。但是如果咨询实际的值大于预期,支付实际又没有预期高,原本期望用于支付的资源可以部分挪用来做咨询,然而现有固定阈值状态下咨询会被限流。于是可以通过动态调整限流策略来做到这一点。期望限流策略同时做到:1保护系统资源 2 保证重点接口的服务能力 3 根据当前的各接口负载,动态调整限流。

 

再谈谈第二个问题,假设支付接口B的单机TPS测定为300TPS,可能商户m的流量占了60%,如果商户m的流量奇高(某日营销活动),那么商户m的流量就会打满300触发限流导致其他商户均支付不成功。解决方案1是在路由的时候就区分好大商户和普通商户,大商户有专门的服务集群,达到隔离的目标。解决方案2是在接口SLA上面做文章,扩展限流组件的能力,可以支持细粒度的限流,可以通过配置商户参数、表达式来实现。下图即是粗放式限流一类管理界面。


image.png



四、参数传递的商榷


林峰在12章总结参数传递策略。包括业务内部参数传递、服务框架和业务之间的参数传递。其中业务流程编排涉及参数传递总结了三种方式:


  • 硬编码
  • 通过抽象的编排上下文进行传递
  • 通过专业的BPM流程引擎进行业务逻辑编排,参数通过流程上下文传递


4.1 线程上下文传参规范

在上下文参数传递中,经过使用ThreadLocal进行参数传递。要特别注意的是ThreadLocal参数清理,以及使用ThreadLocal还存在多线程情况下数据混乱的风险。因此在一些编码规范中约定:

  • 本系统内, ThreadLocal变量使用完成后,必须在本系统显式remove。
  • 跨系统,接口服务提供方,不能直接或者间接通过ThreadLocal参数提供给服务消费者使用。
4.2 参数透传风险

透传参数也是我们经常使用的一种方案。透传参数看似简单,也有一些容易犯的错。透传参数最大的问题是没有定义那些参数应该在那些系统消费。比如A>B>C>D…E,A、B、C、D系统存在同步调用关系,D发消息给E。一些上下文的构造在A系统创建,本身应该在D系统消费的,结果在C系统不小心被修改了,那么就发生了超出预期的风险。

 

4.3 非合理使用共享变量

我们来看一个使用扩展字段的例子:

A系统调用B系统的服务,B系统的处理逻辑伪代码如下:

 

//检查checkInfoMap是否有payInfo对象匹配的内容

List<CheckInfo>  pAssertCheckInfos=matchCheckInfos(payInfo,checkInfoMap);

//匹配结果不为空

if(pAssertCheckInfos.isEmpty())

{

   //代码省略

   return;

}

//清空

payInfo.getInfoMap().clear();

这段代码的问题在于进入if分支后,直接返回;没有执行map的清空逻辑。


A系统继续使用了decisionInfo对象,处理逻辑是拿到大字段map以后直接putAll追加到原有入参map中,导致在某种情况下返回map追加到多个入参map中,而产生超出预期的结果。对象共享有几种方式:本地缓存、静态对象、单例对象、单例bean服务的成员变量等。以下介绍一个本地缓存风险介绍的案例。


在大型并发系统设计中,基于现有分布式编码的经验总结出如下原则:任何对象共享涉及都需要杜绝外部变更风险,有如下几种方式基于自身使用场景去考虑哪种更适合:采用深克隆的方式,采用不变对象模式。


五、服务规模的把握


经常有人问,服务拆多大合适?有人说微服务的微究竟是多”微”?林昊在前一段有一篇文章《大部分公司并不需要微服务》,一个单一应用的复杂度远比N个应用组成的分布式系统简单、快速的多;一旦进入分布式的坑,在技术上就不得不有比较大的投入,而对于一些处于中小规模的公司而言,完全没有必要。


我觉得在几十名研发的公司,可能还真的不需要做服务化或者微服务。在支付宝几百研发人员的时候,应该还是2个主要系统,一个前台业务,一个后台系统。


回到多大服务规模合适,可以看看康威定律,系统架构往往和组织架构相关,反之亦然。我们回头看3人一组的小team能cover多少system?如果把system拆分为service(服务),可以再次计算。比如1个人cover 1-2个系统,如果平均1个系统10个服务的话,那么单人管理的服务在20以内的级别;3个小组管理的服务应在100个之内。


服务本身的拆分粒度也要在管理复杂度上做权衡,业务领域的内聚上做权衡。服务变多,链路变长,研发效率反而会下降。我们应尽量降低依赖。


六、服务调用跟踪

众所周知,trace架构基本都源自Google Dapper


image.png


下图为高德在基于trace基础上做的场景应用,比如服务状态自我诊断、监控追溯等。


image.png


上图为支付宝app通过无线网关的trace示意图,包括应用链路,文件存储。应用链路包括rpc调用和消息服务。《分布式服务框架》一书,林峰特别对服务调用链价值进行了汇总,体现了对于不同角色,服务调用链路跟踪的价值所在。


开发:

架构优化

消除不合理依赖

性能优化

还可以补充容量评测、设计变更分析等


测试:

识别调用流程

优化测试用例

关键路径覆盖率

还可以补充自动化端到端测试


运维:

故障定界

故障定位

提前预警

易故障点识别

 

七、分布式事务

todo

 

声明:

本文部分插图引用网络公开资料,包括高德稳定性架构实践(雷娃)、支付宝无线-从前端到后端的服务治理 以及 阿里妈妈全景业务监控平台Goldeneye。

相关文章
|
29天前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
|
2月前
|
Cloud Native Devops 云计算
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
47 3
|
2月前
|
Cloud Native 安全 数据安全/隐私保护
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####
|
28天前
|
Java 开发者 微服务
从单体到微服务:如何借助 Spring Cloud 实现架构转型
**Spring Cloud** 是一套基于 Spring 框架的**微服务架构解决方案**,它提供了一系列的工具和组件,帮助开发者快速构建分布式系统,尤其是微服务架构。
154 69
从单体到微服务:如何借助 Spring Cloud 实现架构转型
|
27天前
|
运维 监控 持续交付
微服务架构解析:跨越传统架构的技术革命
微服务架构(Microservices Architecture)是一种软件架构风格,它将一个大型的单体应用拆分为多个小而独立的服务,每个服务都可以独立开发、部署和扩展。
167 36
微服务架构解析:跨越传统架构的技术革命
|
30天前
|
设计模式 负载均衡 监控
探索微服务架构下的API网关设计
在微服务的大潮中,API网关如同一座桥梁,连接着服务的提供者与消费者。本文将深入探讨API网关的核心功能、设计原则及实现策略,旨在为读者揭示如何构建一个高效、可靠的API网关。通过分析API网关在微服务架构中的作用和挑战,我们将了解到,一个优秀的API网关不仅要处理服务路由、负载均衡、认证授权等基础问题,还需考虑如何提升系统的可扩展性、安全性和可维护性。文章最后将提供实用的代码示例,帮助读者更好地理解和应用API网关的设计概念。
64 8
|
2月前
|
Dubbo Java 应用服务中间件
服务架构的演进:从单体到微服务的探索之旅
随着企业业务的不断拓展和复杂度的提升,对软件系统架构的要求也日益严苛。传统的架构模式在应对现代业务场景时逐渐暴露出诸多局限性,于是服务架构开启了持续演变之路。从单体架构的简易便捷,到分布式架构的模块化解耦,再到微服务架构的精细化管理,企业对技术的选择变得至关重要,尤其是 Spring Cloud 和 Dubbo 等微服务技术的对比和应用,直接影响着项目的成败。 本篇文章会从服务架构的演进开始分析,探索从单体项目到微服务项目的演变过程。然后也会对目前常见的微服务技术进行对比,找到目前市面上所常用的技术给大家进行讲解。
60 1
服务架构的演进:从单体到微服务的探索之旅
|
2月前
|
负载均衡 Java 持续交付
深入解析微服务架构中的服务发现与负载均衡
深入解析微服务架构中的服务发现与负载均衡
79 7
|
2月前
|
消息中间件 运维 Kubernetes
后端架构演进:从单体到微服务####
本文将探讨后端架构的演变过程,重点分析从传统的单体架构向现代微服务架构的转变。通过实际案例和理论解析,揭示这一转变背后的技术驱动力、挑战及最佳实践。文章还将讨论在采用微服务架构时需考虑的关键因素,包括服务划分、通信机制、数据管理以及部署策略,旨在为读者提供一个全面的架构转型视角。 ####
39 1
|
2月前
|
弹性计算 运维 开发者
后端架构优化:微服务与容器化的协同进化
在现代软件开发中,后端架构的优化是提高系统性能和可维护性的关键。本文探讨了微服务架构与容器化技术如何相辅相成,共同推动后端系统的高效运行。通过分析两者的优势和挑战,我们提出了一系列最佳实践策略,旨在帮助开发者构建更加灵活、可扩展的后端服务。