Istio - TrafficManagement - Timeout

简介: 超时是为了解决长时间或者无限期的等待造成服务不可用,通常需要在代码中植入此类的网络层面的弹性处理逻辑,但通过 Istio 就可以使用 Vitual Sevice来优雅的实现超时的处理。

> 超时是为了解决长时间或者无限期的等待造成服务不可用,通常需要在代码中植入此类的网络层面的弹性处理逻辑,但通过 Istio 就可以使用 Vitual Sevice来优雅的实现超时的处理。


#### 什么场景需要用到超时处理

在生产环境中经常会碰到由于调用方等待下游的响应过长,堆积大量的请求阻塞了自身服务,造成雪崩的情况,通过通过超时处理来避免由于无限期等待造成的故障,进而增强服务的可用性。


#### 通过例子来理解

image.jpeg

nginx 服务设置了超时时间为3秒,如果超出这个时间就不在等待,返回超时错误。

httpd 服务设置了响应时间延迟5秒,任何请求都需要等待5秒后才能返回。

client 通过访问 nginx 服务去反向代理 httpd 服务,由于 httpd 服务需要5秒后才能返回,但nginx 服务只等待3秒,所以客户端会提示超时错误。

apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: nginx-deployment
  name: nginx-deployment
spec:  replicas: 1  selector:    matchLabels:      app: nginx-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: nginx-deployment
    spec:      containers:        - image: 'nginx:latest'          name: nginx-deployment
---apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: httpd-deployment
  name: httpd-deployment
spec:  replicas: 1  selector:    matchLabels:      app: httpd-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: httpd-deployment
    spec:      containers:        - image: 'httpd:latest'          name: httpd-deployment
---apiVersion: v1
kind: Service
metadata:  name: nginx-service
spec:  selector:    app: nginx-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: v1
kind: Service
metadata:  name: httpd-service
spec:  selector:    app: httpd-deployment
  type: ClusterIP
  ports:  - name: http
    port: 80    targetPort: 80    protocol: TCP
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: nginx-vs
spec:  hosts:  - nginx-service
  http:  - route:    - destination:        host: nginx-service
    timeout: 3s
---apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:  name: httpd-vs
spec:  hosts:  - httpd-service
  http:  - fault:      delay:        percentage:          value: 100        fixedDelay: 5s
    route:    - destination:        host: httpd-service
---apiVersion: apps/v1
kind: Deployment
metadata:  labels:    app: client-deployment
  name: client-deployment
spec:  replicas: 1  selector:    matchLabels:      app: client-deployment
  strategy:    rollingUpdate:      maxSurge: 25%
      maxUnavailable: 25%
    type: RollingUpdate
  template:    metadata:      labels:        app: client-deployment
    spec:      containers:        - image: 'busybox:latest'          name: client-deployment
          command: ["/bin/sh","-c","sleep 3600"]

##### 配置 nginx 反向代理 模拟下游调用

``kubectl exec -it nginx-deployment-56c94b9957-xgw88 -- sh``

tee /etc/nginx/conf.d/default.conf <<-'EOF'server {
    listen 80;
    server_name localhost;
    location / {
        proxy_pass http://httpd-service;
        proxy_http_version 1.1;
    }
}
EOF

执行  ``nginx -t ; nginx -s reload`` 重启服务以生效配置


##### 进入客户端容器测试结果

``kubectl exec -it client-deployment-56c94b9957-xgw88 -- sh``

``while true; do wget -q -O - http://nginx-service; done``

image.jpeg

每隔3秒,由于 nginx 服务的超时时间到了而 httpd 未有响应,则提示返回超时错误。


目录
相关文章
|
小程序 开发工具 开发者
小程序vant-weapp-商品卡片列表
小程序vant-weapp-商品卡片列表
483 0
|
存储 JavaScript 安全
|
自然语言处理 API Python
LLaMA
【9月更文挑战第26天】
529 63
|
11月前
|
机器学习/深度学习 算法框架/工具 网络架构
深度学习中的正则化技术及其对模型性能的影响
本文深入探讨了深度学习领域中正则化技术的重要性,通过分析L1、L2以及Dropout等常见正则化方法,揭示了它们如何帮助防止过拟合,提升模型的泛化能力。文章还讨论了正则化在不同类型的神经网络中的应用,并指出了选择合适正则化策略的关键因素。通过实例和代码片段,本文旨在为读者提供关于如何在实际问题中有效应用正则化技术的深刻见解。
|
Ubuntu 机器人 Shell
ubuntu20.04创建ros环境、创建rospackage
至此,我们已经详细讲解了在Ubuntu 20.04上创建ROS环境及ROS包的步骤。这为进一步的机器人软件开发奠定了坚实的基础。
383 1
|
SQL 存储 Java
4.2 SQL Server获取webshell及提权基础
4.2 SQL Server获取webshell及提权基础
268 0
|
SQL 数据库 索引
SQL 编程最佳实践简直太牛啦!带你编写高效又可维护的 SQL 代码,轻松应对数据库挑战!
【8月更文挑战第31天】在SQL编程中,高效与可维护的代码至关重要,不仅能提升数据库性能,还降低维护成本。本文通过案例分析探讨SQL最佳实践:避免全表扫描,利用索引加速查询;合理使用JOIN,避免性能问题;避免使用`SELECT *`,减少不必要的数据传输;使用`COMMIT`和`ROLLBACK`确保事务一致性;添加注释提高代码可读性。遵循这些实践,不仅提升性能,还便于后期维护和扩展。应根据具体情况选择合适方法并持续优化SQL代码。
237 0
|
JavaScript Java 测试技术
基于springboot+vue.js的基于Web教师个人成果管理系统附带文章和源代码设计说明文档ppt
基于springboot+vue.js的基于Web教师个人成果管理系统附带文章和源代码设计说明文档ppt
174 7
|
监控 测试技术 UED
升级和维护老旧LabVIEW程序
升级和维护老旧LabVIEW程序
319 0
|
监控 Python
什么是WSGI,uwsgi和gunicorn在Python Web部署中起到什么作用?
**WSGI**是Python Web应用与服务器间的标准接口。**uwsgi**是实现WSGI的服务器,用于在不同服务器上高效部署应用。**gunicorn**是高性能的WSGI服务器,提供易用接口和进程管理功能。两者协同工作,作为桥梁连接应用与服务器,支持高并发和生产环境部署,提升性能和可靠性。配置因应用和环境而异,需按需调整。
618 2