微服务架构原理与治理实践|青训营笔记

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
云原生网关 MSE Higress,422元/月
简介: 本次课程将介绍:1. 微服务架构、2. 微服务架构原理及特征、3. 核心服务治理功能、4. 字节跳动服务治理实践。

课程资料

课程视频:https://live.juejin.cn/4354/yc_govern

课程导学:https://juejin.cn/post/7099665398655615006/#heading-32

课程PPT:https://bytedance.feishu.cn/file/boxcnPjF5oJxpZh4ZQYDwVCSxib

课后作业:https://juejin.cn/post/7100198862404452383/

微服务架构介绍

架构概览

image-20220529152806419

  • 优势:

    1. 开发效率高、2. 业务独立设计、3. 自下而上、4. 故障隔离
  • 劣势:

    1. 治理、运维难度高、2. 观测挑战、3. 安全性、4. 分布式系统的问题

核心要素

  • 服务治理:

    1. 服务注册、2. 服务发现、3. 负载均衡、4. 扩缩容、5. 流量治理、6. 稳定性治理
  • 可观测性:

    1. 日志采集、2. 日志分析、3. 监控打点、4. 监控大盘、5. 异常报警、6. 链路追踪
  • 安全:

    1. 身份验证、2. 认证授权、3. 访问令牌、4. 审计、5. 传输加密、6. 黑客攻击

微服务架构原理及特征

服务间通信

对于单体服务,不同模块通信只是简单的函数调用,对于微服务,服务间通信意味着网络传输。

image-20220529154849782

服务注册及发现

在代码层面,如何指定调用一个目标服务的地址(ip:port)?

解决思路:新增一个统一的注册中心,用于存储服务名到服务实例的映射。

image-20220529155256156

服务的上下线流程(上面是下线流程、下面是上线流程)

image-20220529155835743

流量特征

统一网关入口、内网通信多数采用RPC、网状调用链路。

image-20220529160029585

核心服务治理功能

服务发布

蓝绿发布:简单、但需要两倍资源(可以根据流量的错峰特性使用蓝绿发布)

金丝雀发布:过度平滑,但是在部署时进度在1%~99%时都有可能出现问题,需要回滚版本,这种维护能力需要平台级的设施提供支持。

image-20220529160407261

流量治理

在微服务架构下,我们可以基于地区、集群、实例、请求等维度,对端到端流量的路由进行精确控制。

image-20220529160735008

负载均衡

负载均衡负责分配请求在每个下游实例上的分布。

常见的LB策略:轮询、随机、一致性hash等。

稳定性治理

线上服务总是会出现故障:网络攻击、流量突增、机房断电、光纤问题、机器问题、网络问题......

下面给出了微服务治理中的四个经典功能:

image-20220529161043591

字节跳动服务治理实践

针对于微服务架构中的请求重试机制字节给出了如下实践:

重试的意义

本地函数重试基本上是没有意义的,而远程函数重试则有意义,因为其发生请求错误的原因可能不是下游程序编写出错,而是因为:网络抖动、下游负载高导致超时、下游机器宕机、本地机器负载高、调度超时、下游熔断、限流等。

因此远程调用的重试可以:

  • 降低错误率:单次错误概率为0.01,连续错误两次概率为0.0001
  • 降低长尾延迟:对于偶尔耗时较长的请求,重试请求有机会提前返回
  • 规避暂时性错误:网络抖动
  • 避开下游故障实例:一个服务可能会有少量故障实例(如机器故障),重试可以将请求打到其他机器

image-20220529161434858

重试的难点

重试本身并不默认开启,因为有一些难点需要克服:

  • 幂等性:一些请求发起一次和多次结果会造成数据不一致情况(转账)
  • 超时设置:不同项目需要结合自己的业务设置超时重试时间和频率
  • 重试风暴:下游的重试次数会因为调用层数的深入而不断放大

image-20220529162348668

重试策略

  • 限制重试比例:设定一个重试比例阈值(例如1%),重试此处占所有请求比例不超过该阈值。

image-20220529162647109

  • 防止链路重试:链路层面防止重试风暴的核心是限制每层都发生重试,理想情况下只有最下层发生重试。可以返回特殊的status表明“请求失败、但别重试”。

image-20220529162717859

  • Hedgedrequests:对于可能超时或者高延时的请求,重新向下游另一个实例发送相同请求,并且等待先到达的响应。

image-20220529162952632

  • 重试效果验证:

image-20220529163104076

\

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
3天前
|
设计模式 API 开发者
深入浅出微服务架构:从理论到实践
在软件开发领域,微服务架构已经成为一种流行的设计模式。它承诺能够带来更好的模块化、可扩展性和敏捷性。然而,将一个传统的单体应用拆分成多个微服务并非易事。本文旨在通过实际案例分析,帮助读者理解微服务的核心概念,以及如何在实际项目中实施微服务架构。我们将一起探讨微服务的设计原则、技术选型和面临的挑战,并分享一些成功实施的策略。
|
6天前
|
Kubernetes Cloud Native 持续交付
云原生技术浪潮下的微服务架构实践
在数字化转型的今天,云原生技术成为推动企业IT革新的关键力量。本文将通过浅显易懂的语言和实际案例,带领读者了解云原生的核心概念、微服务架构的设计原则以及如何在云平台上高效部署和管理微服务。我们将从基础概念出发,逐步深入到微服务的生命周期管理,探讨如何在云原生生态中实现快速迭代和持续交付。无论你是云原生技术的初学者,还是希望深化理解的开发者,这篇文章都将为你提供有价值的指导和思考。
|
1天前
|
运维 监控 架构师
如何进行系统架构评审:全面指导与实践
【8月更文挑战第18天】系统架构评审是确保软件项目成功的关键环节之一。通过科学合理的评审流程和严格的评审要点控制,可以显著提高架构设计的质量和项目的整体成功率。
|
2天前
|
监控 负载均衡 API
从单体到微服务:架构转型之道
【8月更文挑战第17天】从单体架构到微服务架构的转型是一项复杂而系统的工程,需要综合考虑技术、团队、文化等多个方面的因素。通过合理的规划和实施策略,可以克服转型过程中的挑战,实现系统架构的升级和优化。微服务架构以其高度的模块化、可扩展性和灵活性,为业务的持续发展和创新提供了坚实的技术保障。
|
5天前
|
消息中间件 运维 监控
深入浅出微服务架构:从理论到实践
微服务架构,一种将复杂应用拆分成小型、独立服务的设计理念,近年来在软件开发领域大放异彩。它以灵活性、可维护性和可扩展性著称,但同时也带来了一系列挑战,如服务间通信、数据一致性和运维复杂性等。本文旨在通过浅显易懂的语言和实际案例,带领读者深入理解微服务架构的核心概念,掌握其设计原则,并了解如何在实际项目中有效运用。我们将从基础讲起,逐步深入,让初学者能够快速上手,同时为有经验的开发者提供一些高级技巧和最佳实践。
14 4
|
5天前
|
监控 API 数据库
深入浅出:微服务架构的设计与实践
微服务架构,作为现代软件工程的一颗璀璨明星,它以小而美、独立部署和易于扩展的特点,正逐步改变着后端开发的面貌。本文将通过浅显易懂的语言,带领读者走进微服务的世界,从概念理解到设计原则,再到实战案例,一步步揭示微服务架构的魅力所在。无论你是初学者还是资深开发者,这篇文章都将为你提供新的视角和思考。
15 2
|
3天前
|
敏捷开发 设计模式 前端开发
实践总结|前端架构设计的一点考究
本文总结了作者在日常/大促业务的“敏捷”开发过程中产生的疑惑,并尝试做出思考得到一些解决思路和方案。在前端开发和实践过程中,梳理了一些简单设计方案可以缓解当时 “头疼” 的几个敏捷迭代问题,并实践在项目迭代中。
|
3天前
|
存储 缓存 Java
Eureka原理与实践:深入探索微服务架构的核心组件
在微服务架构日益盛行的今天,服务之间的注册与发现成为了保证系统高可用性和灵活性的关键。Eureka,作为Netflix开源的服务注册与发现框架,凭借其简单、健壮的特性,在微服务领域占据了举足轻重的地位。本文将深入剖析Eureka的原理,并通过实践案例展示其在实际项目中的应用,以期为开发者提供一个高端、深入的视角。
10 0
|
4天前
|
设计模式 监控 Java
深入浅出:微服务架构的设计与实践
在软件开发领域,微服务架构已成为一种越来越流行的设计模式。本文将通过浅显易懂的语言介绍微服务的基本概念、设计原则和实践方法,帮助初学者快速理解并应用微服务架构。
|
6天前
|
Java 开发者 Docker
深入浅出:微服务架构的设计与实践
在软件开发领域,微服务架构因其灵活性、可维护性而受到青睐。本文将通过浅显易懂的语言和实际案例,带你了解微服务的设计理念,并指导你如何在实践中落地微服务。我们将从基础概念入手,逐步深入到设计模式、技术选型,最后探讨微服务在企业中的具体应用和面临的挑战。无论你是初学者还是有经验的开发者,这篇文章都将为你提供有价值的视角和知识。