Istio - TrafficManagement - Retries

简介: Retries 是在服务请求的过程中产生异常后最简单的处理方法,就是让服务再次重试,通过重试可以提供服务的可用性和健壮性。

>  Retries 是在服务请求的过程中产生异常后最简单的处理方法,就是让服务再次重试,通过重试可以提供服务的可用性和健壮性。


#### 什么场景需要用到重试

重试是解决很多请求异常最直接、简单的方法,尤其是在工作环境比较复杂的场景下,克提高总体的服务质量。重试使用不当也会有问题,最糟糕的情况是重试一直不成功,反而增加延迟和性能开销。所以根据系统运行环境、服务自身特点,配置适当的重试规则显得尤为重要。


#### 通过例子来理解

image.jpeg

nginx 服务访问 httpd 服务,但 httpd 服务由于自身故障错误响应 nginx 服务,nginx 服务为了提高容错率则在等待了15秒之后重新发起第一次重试,如果还是为有响应,则在试第二次,如果还是没有响应则请求失败。在大多数场景下,由于故障不是恒定的,而是瞬时出现而后自动恢复的,则可以通过重试去提供服务的可用性。


apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: nginx-deployment
  name: nginx-deployment
spec:  replicas: 1  selector:    matchLabels:      app: nginx-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: nginx-deployment
    spec:      containers:        - image: 'nginx:latest'          name: nginx-deployment
---apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: httpd-deployment
  name: httpd-deployment
spec:  replicas: 1  selector:    matchLabels:      app: httpd-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: httpd-deployment
    spec:      containers:        - image: 'httpd:latest'          name: httpd-deployment
---apiVersion: v1
kind: Service
metadata:  name: nginx-service
spec:  selector:    app: nginx-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: v1
kind: Service
metadata:  name: httpd-service
spec:  selector:    app: httpd-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: nginx-vs
spec:  hosts:  - nginx-service
  http:  - route:    - destination:        host: nginx-service
    retries:      attempts: 3      perTryTimeout: 5s
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: httpd-vs
spec:  hosts:  - httpd-service
  http:  - fault:      abort:        percentage:           value: 100        httpStatus: 503    route:    - destination:        host: httpd-service
```
##### 配置 nginx 反向代理 httpd 以完成上下游调用的效果kubectl exec -it nginx-deployment-56c94b9957-xgw88 -- sh
tee /etc/nginx/conf.d/default.conf <<-'EOF'server {    listen 80;
    server_name localhost;
    location / {        proxy_pass http://httpd-service;
        proxy_http_version 1.1;
}}EOF
nginx -t ; nginx -s reload
##### 进入客户端容器测试```yaml
apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: client-deployment
  name: client-deployment
spec:  replicas: 1  selector:    matchLabels:      app: client-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: client-deployment
    spec:      containers:        - image: 'busybox:latest'          name: client-deployment
          command: ["/bin/sh","-c","sleep 3600"]

通过 ``kubectl exec -it client-deployment-56c94b9957-xgw88 -- sh`` 进入容器

执行 ``wget -q -O - http://nginx-service`` 测试

image.jpeg


执行 ``kubectl logs -f nginx-deployment-86684f9cf6-lvxtj  -c istio-proxy -n demo`` 观测边车日志

image.jpeg

本身请求一次,加上三次重试



#### 重试相关参数配置

##### retries 参数

可以定义请求失败时的策略,重试策略包括重试次数、超时、重试条件

attempts: 必选字段,定义重试的次数

perTryTimeout: 单次重试超时的时间,单位可以是ms、s、m和h

retryOn: 重试的条件,可以是多个条件,以逗号分隔


##### retryOn 参数

5xx:在上游服务返回5xx应答码,或者在没有返回时重试

gateway-error:类似于5xx异常,只对502、503和504应答码进行重试

connect-failure:在链接上游服务失败时重试

retriable-4xx:在上游服务返回可重试的4xx应答码时执行重试

refused-stream:在上游服务使用REFUSED_STREAM错误码重置时执行重试

cancelled:gRPC应答的Header中状态码是cancelled时执行重试

deadline-exceeded:在gRPC应答的Header中状态码是deadline-exceeded时执行重试

internal:在gRPC应答的Header中状态码是internal时执行重试

resource-exhausted:在gRPC应答的Header中状态码是resource-exhausted时执行重试

unavailable:在gRPC应答的Header中状态码是unavailable时执行重试。

目录
相关文章
Istio中如何限流?
在 Istio 中,可以使用 Envoy 的内置限流机制来限制服务的流量。Envoy 是 Istio 中的数据平面代理,它可以在服务之间进行流量管理和控制。
504 0
|
运维 监控 负载均衡
Istio 介绍
当下,微服务架构在构建和部署现代应用程序时变得越来越流行。然而,微服务架构的复杂性也随之增加,特别是在涉及到服务间通信、负载均衡、安全性和监控方面。在这个复杂的环境中,Istio成为了一个强大的工具,它可以帮助您管理和控制微服务应用程序的各个方面。本文将详细介绍Istio,并探讨其核心功能和优势。
|
负载均衡 Kubernetes API
Istio:Gateway设计与实现
Istio:Gateway设计与实现
1028 0
Istio:Gateway设计与实现
|
Kubernetes 测试技术 应用服务中间件
Istio简介及基于ACK安装Istio
了解服务网格开源产品Istio,使用阿里云ACK安装Istio过程
1180 2
|
网络协议 应用服务中间件 nginx
玩转Kubernetes TCP Ingress
如何使用Kubernetes的TCP Ingress
19924 0
|
3天前
|
应用服务中间件 nginx
创建Istio
此教程介绍如何使用 Helm 安装 Istio 及其组件。首先修改 `kube-apiserver.yaml` 配置服务账户参数,接着创建 `istio-system` 命名空间并添加 Istio 的 Helm 源。通过 Helm 安装 Istio Base 和 Discovery (istiod) Chart,并部署 Ingress Gateway 到 `istio-ingress` 命名空间。最后,创建一个 Nginx Deployment 和 Service,以及对应的 Istio Gateway 和 VirtualService 来验证安装是否成功.
|
4月前
|
Kubernetes 网络协议 安全
Istio安全-证书管理
Istio安全-证书管理
59 1
Istio安全-证书管理
|
负载均衡 Kubernetes 网络协议
[Istio是什么?] 还不知道你就out了,40分钟快速理解(下)
[Istio是什么?] 还不知道你就out了,40分钟快速理解(下)
118 0
|
负载均衡 Kubernetes 监控
[Istio是什么?] 还不知道你就out了,40分钟快速理解(上)
[Istio是什么?] 还不知道你就out了,40分钟快速理解
197 0
|
数据采集 Prometheus 监控
ISTIO telemetry V2 介绍
### 背景 ISTIO 早期版本(1.4以前)的架构非常优雅, 模块之间解耦清晰,职责分明。 但现在看来有一定理想化,所有流量通过Mixer,通过Mixer 统一采集和上报所有的遥测数据和服务间访问鉴权,导致一旦规模上来,Mixer 非常容易成为性能瓶颈。 ![image.png](https://ata2-img.cn-hangzhou.oss-pub.aliyun-inc.com/920
1719 0