AI 助理
备案控制台
开发者社区 云原生 微服务 文章 正文

微服务应用实现无损上下线最佳实践

2022-02-16 2090
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
注册配置 MSE Nacos/ZooKeeper，118元/月
服务治理 MSE Sentinel/OpenSergo，Agent数量 不受限
云原生网关 MSE Higress，422元/月
简介： 本文是阿里云微服务引擎MSE在应用发布时提供的无损上下线和服务预热能力最佳实践介绍。

本文是阿里云微服务引擎MSE在应用发布时提供的无损上下线和服务预热能力最佳实践介绍。假设应用的架构由Zuul网关以及后端的微服务应用实例（Spring Cloud）构成。具体的后端调用链路有购物车应用A，交易中心应用B，库存中心应用C，这些应用中的服务之间通过Nacos注册中心实现服务注册与发现。

前提条件

开启 MSE 微服务治理


背景信息

很多用户量大并发度高的应用系统为了避免发布过程中的流量有损一般选择在流量较小的半夜发布，虽然这样做有效果，但不可控导致背后的研发运维人员经常因为发布问题时常搞得半夜胆战心惊，心力疲惫。基于此，阿里云微服务引擎MSE通过在应用发布过程中，通过应用下线主动实时注销，应用上线健康就绪检查与生命周期对齐以及服务预热等技术手段所提供的微服务应用无损上下线发布功能，让研发运维人员即使是在白天发布应用，也能风轻云淡。


准备工作


注意，本实践所使用的 Agent 目前还在灰度中，需要对应用 Agent 进行灰度升级，升级文档：https://help.aliyun.com/document_detail/392373.html

应用部署在不同的Region（暂时仅支持国内region）请使用对应的Agent下载地址：http://arms-apm-cn-[regionId].oss-cn-[regionId].aliyuncs.com/2.7.1.3-mse-beta/，注意替换地址中的[regionId]，regionId是阿里云regionId，

例如Region北京Agent 地址为：http://arms-apm-cn-beijing.oss-cn-beijing.aliyuncs.com/2.7.1.3-mse-beta/


应用部署流量架构图




流量压力来源

在 spring-cloud-zuul应用中，每个 pod 具备并发为 10 的访问本地 zuul 端口的 127.0.0.1:20000:/A/a 的http请求流量。可以通过环境变量 demo.qps 配置并发数。



部署 Demo 应用程序

将下面的内容保存到一个文件中，假设取名为 mse-demo.yaml，并执行 kubectl apply -f mse-demo.yaml 以部署应用到提前创建好的Kubernetes集群中（注意因为demo中有CronHPA任务，所以请先在集群中安装 ack-kubernetes-cronhpa-controller 组件，具体在容器服务-Kubernetes->市场->应用目录中搜索组件在测试集群中进行安装），这里我们将要部署 Zuul，A, B 和 C 三个应用，其中 A、B 两个应用分别部署一个基线版本和一个灰度版本，B应用的基线版本关闭了无损下线能力，灰度版本开启了无损下线能力。C应用开启了服务预热能力，其中预热时长为120秒。

# Nacos Server

---

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: nacos-server

 name: nacos-server

spec:

 replicas: 1

 selector:

   matchLabels:

     app: nacos-server

 template:

   metadata:

     labels:

       app: nacos-server

   spec:

     containers:

     - env:

       - name: MODE

         value: standalone

       image: registry.cn-shanghai.aliyuncs.com/yizhan/nacos-server:latest

       imagePullPolicy: Always

       name: nacos-server

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

     dnsPolicy: ClusterFirst

     restartPolicy: Always


# Nacos Server Service 配置

---

apiVersion: v1

kind: Service

metadata:

 name: nacos-server

spec:

 ports:

 - port: 8848

   protocol: TCP

   targetPort: 8848

 selector:

   app: nacos-server

 type: ClusterIP


#入口 zuul 应用

---

apiVersion: apps/v1

kind: Deployment

metadata:

 name: spring-cloud-zuul

spec:

 replicas: 1

 selector:

   matchLabels:

     app: spring-cloud-zuul

 template:

   metadata:

     annotations:

       msePilotCreateAppName: spring-cloud-zuul

     labels:

       app: spring-cloud-zuul

   spec:

     containers:

       - env:

           - name: JAVA_HOME

             value: /usr/lib/jvm/java-1.8-openjdk/jre

           - name: LANG

             value: C.UTF-8

         image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-zuul:1.0.1

         imagePullPolicy: Always

         name: spring-cloud-zuul

         ports:

           - containerPort: 20000


# A 应用 base 版本,开启按照机器纬度全链路透传

---

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: spring-cloud-a

 name: spring-cloud-a

spec:

 replicas: 2

 selector:

   matchLabels:

     app: spring-cloud-a

 template:

   metadata:

     annotations:

       msePilotCreateAppName: spring-cloud-a

       msePilotAutoEnable: "on"

     labels:

       app: spring-cloud-a

   spec:

     containers:

     - env:

       - name: LANG

         value: C.UTF-8

       - name: JAVA_HOME

         value: /usr/lib/jvm/java-1.8-openjdk/jre

       - name: profiler.micro.service.tag.trace.enable

         value: "true"

       image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-a:0.1-SNAPSHOT

       imagePullPolicy: Always

       name: spring-cloud-a

       ports:

       - containerPort: 20001

         protocol: TCP

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

       livenessProbe:

         tcpSocket:

           port: 20001

         initialDelaySeconds: 10

         periodSeconds: 30

     

# A 应用 gray 版本,开启按照机器纬度全链路透传

---            

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: spring-cloud-a-gray

 name: spring-cloud-a-gray

spec:

 replicas: 2

 selector:

   matchLabels:

     app: spring-cloud-a-gray

 strategy:

 template:

   metadata:

     annotations:

       alicloud.service.tag: gray

       msePilotCreateAppName: spring-cloud-a

       msePilotAutoEnable: "on"

     labels:

       app: spring-cloud-a-gray

   spec:

     containers:

     - env:

       - name: LANG

         value: C.UTF-8

       - name: JAVA_HOME

         value: /usr/lib/jvm/java-1.8-openjdk/jre

       - name: profiler.micro.service.tag.trace.enable

         value: "true"

       image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-a:0.1-SNAPSHOT

       imagePullPolicy: Always

       name: spring-cloud-a-gray

       ports:

       - containerPort: 20001

         protocol: TCP

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

       livenessProbe:

         tcpSocket:

           port: 20001

         initialDelaySeconds: 10

         periodSeconds: 30

           

# B 应用 base 版本，关闭无损下线能力

---

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: spring-cloud-b

 name: spring-cloud-b

spec:

 replicas: 2

 selector:

   matchLabels:

     app: spring-cloud-b

 strategy:

 template:

   metadata:

     annotations:

       msePilotCreateAppName: spring-cloud-b

       msePilotAutoEnable: "on"

     labels:

       app: spring-cloud-b

   spec:

     containers:

     - env:

       - name: LANG

         value: C.UTF-8

       - name: JAVA_HOME

         value: /usr/lib/jvm/java-1.8-openjdk/jre

       - name: micro.service.shutdown.server.enable

         value: "false"

       - name: profiler.micro.service.http.server.enable

         value: "false"

       image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-b:0.1-SNAPSHOT

       imagePullPolicy: Always

       name: spring-cloud-b

       ports:

       - containerPort: 8080

         protocol: TCP

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

       livenessProbe:

         tcpSocket:

           port: 20002

         initialDelaySeconds: 10

         periodSeconds: 30

           

# B 应用 gray 版本,默认开启无损下线功能

---

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: spring-cloud-b-gray

 name: spring-cloud-b-gray

spec:

 replicas: 2

 selector:

   matchLabels:

     app: spring-cloud-b-gray

 template:

   metadata:

     annotations:

       alicloud.service.tag: gray

       msePilotCreateAppName: spring-cloud-b

       msePilotAutoEnable: "on"

     labels:

       app: spring-cloud-b-gray

   spec:

     containers:

     - env:

       - name: LANG

         value: C.UTF-8

       - name: JAVA_HOME

         value: /usr/lib/jvm/java-1.8-openjdk/jre

       image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-b:0.1-SNAPSHOT

       imagePullPolicy: Always

       name: spring-cloud-b-gray

       ports:

       - containerPort: 8080

         protocol: TCP

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

       lifecycle:

           preStop:

             exec:

               command:

                 - /bin/sh

                 - '-c'

                 - >-

                   wget http://127.0.0.1:54199/offline 2>/tmp/null;sleep

                   30;exit 0

       livenessProbe:

         tcpSocket:

           port: 20002

         initialDelaySeconds: 10

         periodSeconds: 30

           

# C 应用 base 版本

---

apiVersion: apps/v1

kind: Deployment

metadata:

 labels:

   app: spring-cloud-c

 name: spring-cloud-c

spec:

 replicas: 2

 selector:

   matchLabels:

     app: spring-cloud-c

 template:

   metadata:

     annotations:

       msePilotCreateAppName: spring-cloud-c

       msePilotAutoEnable: "on"

     labels:

       app: spring-cloud-c

   spec:

     containers:

     - env:

       - name: LANG

         value: C.UTF-8

       - name: JAVA_HOME

         value: /usr/lib/jvm/java-1.8-openjdk/jre

       image: registry.cn-shanghai.aliyuncs.com/yizhan/spring-cloud-c:0.1-SNAPSHOT

       imagePullPolicy: Always

       name: spring-cloud-c

       ports:

       - containerPort: 8080

         protocol: TCP

       resources:

         requests:

           cpu: 250m

           memory: 512Mi

       livenessProbe:

         tcpSocket:

           port: 20003

         initialDelaySeconds: 10

         periodSeconds: 30


#HPA 配置

---

apiVersion: autoscaling.alibabacloud.com/v1beta1

kind: CronHorizontalPodAutoscaler

metadata:

 labels:

   controller-tools.k8s.io: "1.0"

 name: spring-cloud-b

spec:

  scaleTargetRef:

     apiVersion: apps/v1beta2

     kind: Deployment

     name: spring-cloud-b

  jobs:

  - name: "scale-down"

    schedule: "0 0/5 * * * *"

    targetSize: 1

  - name: "scale-up"

    schedule: "10 0/5 * * * *"

    targetSize: 2

---

apiVersion: autoscaling.alibabacloud.com/v1beta1

kind: CronHorizontalPodAutoscaler

metadata:

 labels:

   controller-tools.k8s.io: "1.0"

 name: spring-cloud-b-gray

spec:

  scaleTargetRef:

     apiVersion: apps/v1beta2

     kind: Deployment

     name: spring-cloud-b-gray

  jobs:

  - name: "scale-down"

    schedule: "0 0/5 * * * *"

    targetSize: 1

  - name: "scale-up"

    schedule: "10 0/5 * * * *"

    targetSize: 2

---

apiVersion: autoscaling.alibabacloud.com/v1beta1

kind: CronHorizontalPodAutoscaler

metadata:

 labels:

   controller-tools.k8s.io: "1.0"

 name: spring-cloud-c

spec:

  scaleTargetRef:

     apiVersion: apps/v1beta2

     kind: Deployment

     name: spring-cloud-c

  jobs:

  - name: "scale-down"

    schedule: "0 2/5 * * * *"

    targetSize: 1

  - name: "scale-up"

    schedule: "10 2/5 * * * *"

    targetSize: 2



# zuul 网关开启 SLB 暴露展示页面  

---    

apiVersion: v1

kind: Service

metadata:

 name: zuul-slb

spec:

 ports:

   - port: 80

     protocol: TCP

     targetPort: 20000

 selector:

   app: spring-cloud-zuul

 type: ClusterIP


# a 应用暴露 k8s service

---

apiVersion: v1

kind: Service

metadata:

 name: spring-cloud-a-base

spec:

 ports:

   - name: http

     port: 20001

     protocol: TCP

     targetPort: 20001

 selector:

   app: spring-cloud-a


---

apiVersion: v1

kind: Service

metadata:

 name: spring-cloud-a-gray

spec:

 ports:

   - name: http

     port: 20001

     protocol: TCP

     targetPort: 20001

 selector:

   app: spring-cloud-a-gray


# Nacos Server SLB Service 配置

---

apiVersion: v1

kind: Service

metadata:

 name: nacos-slb

spec:

 ports:

 - port: 8848

   protocol: TCP

   targetPort: 8848

 selector:

   app: nacos-server

 type: LoadBalancer


结果验证一：无损下线功能

由于我们对spring-cloud-b跟spring-cloud-b-gray应用均开启了定时HPA，模拟每5分钟进行一次定时的扩缩容。


登录MSE控制台，进入微服务治理中心->应用列表->spring-cloud-a->应用详情，从应用监控曲线，我们可以看到spring-cloud-a应用的流量数据：

gray版本的流量在pod扩缩容的过程中请求错误数为0，无流量损失。未打标的版本由于关闭了无损下线功能，在pod扩缩容的过程中有20个从spring-cloud-a发到spring-cloud-b的请求出现报错，发生了请求流量损耗。


结果验证二：服务预热功能


我们在 spring-cloud-c 应用开启了定时HPA 模拟应用启动的过程，每隔5分钟做一次伸缩，在第2分钟第0秒缩容到1个节点，在第2分钟第10秒扩容到2个节点。

在预热应用的消费端 spring-cloud-b开启服务预热功能。


在预热应用的服务提供端 spring-cloud-c开启服务预热功能。预热时长配置为 120 秒。


观察节点的流量，发现节点流量缓慢上升。并且能看到节点的预热开始和结束时间，以及相关的事件。

从上图可以看到开启预热功能的应用重启后的流量会随时间缓慢增加，在一些应用启动过程中需要预建连接池和缓存等资源的慢启动场景，开启服务预热能有效保护应用启动过程中缓存资源有序创建保障应用安全启动并做到流量无损。

文章标签：
应用实时监控服务
容器服务Kubernetes版
微服务引擎
Java
Perl
容器
微服务
运维
网络协议
Nacos
Kubernetes
Spring
缓存
关键词：
微服务应用
微服务最佳实践
微服务无损
微服务应用最佳实践
微服务无损上下线
相关实践学习
通过云拨测对指定服务器进行Ping/DNS监测
本实验将通过云拨测对指定服务器进行Ping/DNS监测，评估网站服务质量和用户体验。
中间件小哥
目录
相关文章
游客762btuqu5wybw666
|
14天前
|
监控 Go API
Go语言在微服务架构中的应用实践
在微服务架构的浪潮中，Go语言以其简洁、高效和并发处理能力脱颖而出，成为构建微服务的理想选择。本文将探讨Go语言在微服务架构中的应用实践，包括Go语言的特性如何适应微服务架构的需求，以及在实际开发中如何利用Go语言的特性来提高服务的性能和可维护性。我们将通过一个具体的案例分析，展示Go语言在微服务开发中的优势，并讨论在实际应用中可能遇到的挑战和解决方案。
游客762btuqu5wybw666
41 8
游客762btuqu5wybw666
|
15天前
|
Go 数据处理 API
Go语言在微服务架构中的应用与优势
本文摘要采用问答形式，以期提供更直接的信息获取方式。 Q1: 为什么选择Go语言进行微服务开发？ A1: Go语言的并发模型、简洁的语法和高效的编译速度使其成为微服务架构的理想选择。 Q2: Go语言在微服务架构中有哪些优势？ A2: 主要优势包括高性能、高并发处理能力、简洁的代码和强大的标准库。 Q3: 文章将如何展示Go语言在微服务中的应用？ A3: 通过对比其他语言和展示Go语言在实际项目中的应用案例，来说明其在微服务架构中的优势。
游客762btuqu5wybw666
40 6
光明顶阳顶天
|
13天前
|
监控 持续交付 Docker
Docker 容器化部署在微服务架构中的应用有哪些？
Docker 容器化部署在微服务架构中的应用有哪些？
光明顶阳顶天
32 2
光明顶阳顶天
|
13天前
|
监控 持续交付 Docker
Docker容器化部署在微服务架构中的应用
Docker容器化部署在微服务架构中的应用
光明顶阳顶天
47 3
喜欢猪猪
|
16天前
|
设计模式 Java API
微服务架构演变与架构设计深度解析
【11月更文挑战第14天】在当今的IT行业中，微服务架构已经成为构建大型、复杂系统的重要范式。本文将从微服务架构的背景、业务场景、功能点、底层原理、实战、设计模式等多个方面进行深度解析，并结合京东电商的案例，探讨微服务架构在实际应用中的实施与效果。
喜欢猪猪
64 6
喜欢猪猪
|
16天前
|
设计模式 Java API
微服务架构演变与架构设计深度解析
【11月更文挑战第14天】在当今的IT行业中，微服务架构已经成为构建大型、复杂系统的重要范式。本文将从微服务架构的背景、业务场景、功能点、底层原理、实战、设计模式等多个方面进行深度解析，并结合京东电商的案例，探讨微服务架构在实际应用中的实施与效果。
喜欢猪猪
30 1
1176112968452250
|
2月前
|
安全 应用服务中间件 API
微服务分布式系统架构之zookeeper与dubbo-2
微服务分布式系统架构之zookeeper与dubbo-2
1176112968452250
73 1
1176112968452250
|
2月前
|
负载均衡 Java 应用服务中间件
微服务分布式系统架构之zookeeper与dubbor-1
微服务分布式系统架构之zookeeper与dubbor-1
1176112968452250
86 1
请看我回答~
|
3月前
|
Kubernetes Cloud Native Docker
云原生之旅：从容器到微服务的架构演变
【8月更文挑战第29天】在数字化时代的浪潮下，云原生技术以其灵活性、可扩展性和弹性管理成为企业数字化转型的关键。本文将通过浅显易懂的语言和生动的比喻，带领读者了解云原生的基本概念，探索容器化技术的奥秘，并深入微服务架构的世界。我们将一起见证代码如何转化为现实中的服务，实现快速迭代和高效部署。无论你是初学者还是有经验的开发者，这篇文章都会为你打开一扇通往云原生世界的大门。
请看我回答~
79 4
郑小健
|
3月前
|
负载均衡 应用服务中间件 持续交付
微服务架构下的Web服务器部署
【8月更文第28天】随着互联网应用的不断发展，传统的单体应用架构逐渐显露出其局限性，特别是在可扩展性和维护性方面。为了解决这些问题，微服务架构应运而生。微服务架构通过将应用程序分解成一系列小型、独立的服务来提高系统的灵活性和可维护性。本文将探讨如何在微服务架构中有效部署和管理Web服务器实例，并提供一些实际的代码示例。
郑小健
122 0
云原生

微服务

热门文章

最新文章

  • 1
    微服务架构的理论基础 - 康威定律
  • 2
    微服务（Microservice）那点事
  • 3
    ASP.NET Core微服务之基于Consul实现服务治理（3）
  • 4
    微服务网关Zuul迁移到Spring Cloud Gateway
  • 5
    ASP.NET Core微服务之基于Consul实现服务治理（1）
  • 6
    微服务架构下的事务一致性保证
  • 7
    微服务一站式解决方案Spring Cloud
  • 8
    提升微服务测试效率：消费者驱动契约测试
  • 9
    微服务开源生态报告 No.7
  • 10
    Java微服务开发指南 -- 使用Spring Boot构建微服务
  • 1
    JVM进阶调优系列(10)敢向stop the world喊卡的G1垃圾回收器 | 有必要讲透
    16
  • 2
    JVM进阶调优系列(9)大厂面试官:内存溢出几种？能否现场演示一下？| 面试就那点事
    71
  • 3
    热联集团：从 APISIX 迁移到云原生网关
    58
  • 4
    阿里云微服务引擎 MSE 及 云原生 API 网关 2024 年 10 月产品动态
    48
  • 5
    java.util的Collections类
    43
  • 6
    JVM进阶调优系列(8)如何手把手，逐行教她看懂GC日志？| IT男的专属浪漫
    84
  • 7
    无障碍工具条本地化安装部署
    44
  • 8
    服务器磁盘爆满？别慌，教你轻松清理！
    106
  • 9
    JVM进阶调优系列(6)一文详解JVM参数与大厂实战调优模板推荐
    116
  • 10
    JVM进阶调优系列(5)CMS回收器通俗演义一文讲透FullGC
    60

    • 相关课程

    更多
  • 微服务实战-RocketMQ Binder
  • 微服务实战-服务熔断 - Sentinel
  • 微服务实战-Service Mesh与Istio
  • 微服务实战-分布式配置中心 - Config
  • 微服务实战-服务注册与发现 - Nacos Discovery
  • Spring Cloud微服务架构设计与开发实战

    • 相关电子书

    更多
  • 微服务治理技术白皮书
  • 微服务与Serverless
  • EDAS4.0 助力企业一站实现微服务架构转型与 K8s 容器化升级

    • 相关实验场景

    更多
  • 配置流程编排实现根据天气情况播放歌曲
  • 容器服务Serverless版ACK Serverless 快速入门：在线魔方应用部署和监控
  • 体验PolarDB-X透明分布式
  • 基于OpenTelemetry构建全链路追踪与监控
  • 利用大模型大规模分发技术，实现AIGC在线应用秒级弹性
  • 基于云原生网关MSE-Higress插件实现WAF防护能力
    • 下一篇
    无影云桌面