Istio - TrafficManagement - Retries

简介: Retries 是在服务请求的过程中产生异常后最简单的处理方法,就是让服务再次重试,通过重试可以提供服务的可用性和健壮性。

>  Retries 是在服务请求的过程中产生异常后最简单的处理方法,就是让服务再次重试,通过重试可以提供服务的可用性和健壮性。


#### 什么场景需要用到重试

重试是解决很多请求异常最直接、简单的方法,尤其是在工作环境比较复杂的场景下,克提高总体的服务质量。重试使用不当也会有问题,最糟糕的情况是重试一直不成功,反而增加延迟和性能开销。所以根据系统运行环境、服务自身特点,配置适当的重试规则显得尤为重要。


#### 通过例子来理解

image.jpeg

nginx 服务访问 httpd 服务,但 httpd 服务由于自身故障错误响应 nginx 服务,nginx 服务为了提高容错率则在等待了15秒之后重新发起第一次重试,如果还是为有响应,则在试第二次,如果还是没有响应则请求失败。在大多数场景下,由于故障不是恒定的,而是瞬时出现而后自动恢复的,则可以通过重试去提供服务的可用性。


apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: nginx-deployment
  name: nginx-deployment
spec:  replicas: 1  selector:    matchLabels:      app: nginx-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: nginx-deployment
    spec:      containers:        - image: 'nginx:latest'          name: nginx-deployment
---apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: httpd-deployment
  name: httpd-deployment
spec:  replicas: 1  selector:    matchLabels:      app: httpd-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: httpd-deployment
    spec:      containers:        - image: 'httpd:latest'          name: httpd-deployment
---apiVersion: v1
kind: Service
metadata:  name: nginx-service
spec:  selector:    app: nginx-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: v1
kind: Service
metadata:  name: httpd-service
spec:  selector:    app: httpd-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: nginx-vs
spec:  hosts:  - nginx-service
  http:  - route:    - destination:        host: nginx-service
    retries:      attempts: 3      perTryTimeout: 5s
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: httpd-vs
spec:  hosts:  - httpd-service
  http:  - fault:      abort:        percentage:           value: 100        httpStatus: 503    route:    - destination:        host: httpd-service
```
##### 配置 nginx 反向代理 httpd 以完成上下游调用的效果kubectl exec -it nginx-deployment-56c94b9957-xgw88 -- sh
tee /etc/nginx/conf.d/default.conf <<-'EOF'server {    listen 80;
    server_name localhost;
    location / {        proxy_pass http://httpd-service;
        proxy_http_version 1.1;
}}EOF
nginx -t ; nginx -s reload
##### 进入客户端容器测试```yaml
apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: client-deployment
  name: client-deployment
spec:  replicas: 1  selector:    matchLabels:      app: client-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: client-deployment
    spec:      containers:        - image: 'busybox:latest'          name: client-deployment
          command: ["/bin/sh","-c","sleep 3600"]

通过 ``kubectl exec -it client-deployment-56c94b9957-xgw88 -- sh`` 进入容器

执行 ``wget -q -O - http://nginx-service`` 测试

image.jpeg


执行 ``kubectl logs -f nginx-deployment-86684f9cf6-lvxtj  -c istio-proxy -n demo`` 观测边车日志

image.jpeg

本身请求一次,加上三次重试



#### 重试相关参数配置

##### retries 参数

可以定义请求失败时的策略,重试策略包括重试次数、超时、重试条件

attempts: 必选字段,定义重试的次数

perTryTimeout: 单次重试超时的时间,单位可以是ms、s、m和h

retryOn: 重试的条件,可以是多个条件,以逗号分隔


##### retryOn 参数

5xx:在上游服务返回5xx应答码,或者在没有返回时重试

gateway-error:类似于5xx异常,只对502、503和504应答码进行重试

connect-failure:在链接上游服务失败时重试

retriable-4xx:在上游服务返回可重试的4xx应答码时执行重试

refused-stream:在上游服务使用REFUSED_STREAM错误码重置时执行重试

cancelled:gRPC应答的Header中状态码是cancelled时执行重试

deadline-exceeded:在gRPC应答的Header中状态码是deadline-exceeded时执行重试

internal:在gRPC应答的Header中状态码是internal时执行重试

resource-exhausted:在gRPC应答的Header中状态码是resource-exhausted时执行重试

unavailable:在gRPC应答的Header中状态码是unavailable时执行重试。

目录
相关文章
|
Kubernetes 负载均衡 监控
Istio 出错重试 重定向 熔断
Istio 出错重试 重定向 熔断
|
分布式计算 Hadoop 测试技术
Hadoop【环境搭建 05】【hadoop-3.1.3 单机版基准测试 TestDFSIO + mrbench + nnbench + Terasort + sort 举例】
【4月更文挑战第1天】Hadoop【环境搭建 05】【hadoop-3.1.3 单机版基准测试 TestDFSIO + mrbench + nnbench + Terasort + sort 举例】
521 3
|
存储 固态存储 Java
文件系统使用固态硬盘(SSD)
【10月更文挑战第8天】
440 2
|
存储 关系型数据库 MySQL
mysql8.0中的mysql.ibd
`mysql.ibd`文件在MySQL 8.0中扮演着重要角色,负责存储InnoDB表的数据和索引。通过了解其结构和管理方法,可以有效维护数据库的性能和数据完整性。希望本文对 `mysql.ibd`文件的深入解析能帮助您更好地理解和管理MySQL数据库。
769 1
|
运维 架构师 微服务
谷粒商城:如何通过笔记复盘实现事半功倍?
该博客文章讨论了如何通过笔记复盘来提高学习和工作效率。
谷粒商城:如何通过笔记复盘实现事半功倍?
|
前端开发 Java Linux
性能工具之 Jmeter 通过 SpringBoot 工程启动
【5月更文挑战第22天】性能工具之 Jmeter 通过 SpringBoot 工程启动
393 8
性能工具之 Jmeter 通过 SpringBoot 工程启动
Grafana如何展示柱状图-将折线图调整为柱状图
Grafana如何展示柱状图-将折线图调整为柱状图
Cannot resolve plugin org.apache.maven.plugins:maven-site-plugin:3.3
Cannot resolve plugin org.apache.maven.plugins:maven-site-plugin:3.3
|
算法 定位技术
无线定位中TDOA时延估计算法matlab仿真
无线定位中TDOA时延估计算法matlab仿真
|
开发工具 数据安全/隐私保护 git
git 重置用户名 密码信息
git 重置用户名 密码信息