服务的容灾与容错

简介: 服务容灾的解决方案就是冗余。多几个备份来切换。常用的有N+1容灾和两地三中心。N和中心实际上都是机房的意思。所谓中心就是数据中心。N是数据中心的电力配置部分。电力配置有市电和备用发动机供电,但是一般互联网公司是不支持备用发动机供电的。所以一般一个机房就是一个N。

引子


先介绍几个概念,同步一下认知:


容灾:是指系统冗余部署,当一处由于意外停止工作,整个系统应用还可以正常工作。


容错:是指在运行中出现错误(如上下游故障或概率性失败)仍可正常提供服务。


可用性:描述的是系统可提供服务的时间长短。用公式来说就是A=MTBF/(MTBF+MTTR),即正常工作时间/(正常工作时间+故障时间)。


可靠性:描述的是系统指定时间单位内无故障的次数。比如:一年365天,以天为单位来衡量。有天发生了故障,哪怕只有1秒,这天算不可靠。其他没有故障的是可靠的。


稳定性:这个业界没有明确的定义,我的理解是:在受到各种干扰时仍然能够提供符合预期的服务的能力。


从要求的严格程度上:可用性<可靠性<稳定性。


可用性和可靠性更侧重于容灾,而对稳定性同时包含容灾和容错。

 

服务的容灾


服务容灾的解决方案就是冗余。多几个备份来切换。常用的有N+1容灾和两地三中心。N和中心实际上都是机房的意思。所谓中心就是数据中心。N是数据中心的电力配置部分。电力配置有市电和备用发动机供电,但是一般互联网公司是不支持备用发动机供电的。所以一般一个机房就是一个N。


N+1容灾就是要多出一个机房做容灾。而两地三中心,是提高了安全级别,除了同城两个中心外,在异地再多出来一个中心。如果整个地区市电都不供电了,还有个备份。


这个备份的冷备和热备不同于数据库的冷备和热备。数据库的冷备是离线备份,就是不接收新流量的情况下备份。热备是一边接收流量一边备份。


而通常服务的冷备是服务还没有接收流量。而热备是指备份数据也在接收流量,比如负载均衡或者master-slave模式的slave承担读流量的副本。这些热备由于一直在运行所以避免了要切换前的服务检查等步骤,可以快速切换。

 

服务的容错



Everything fails!



服务容错的难点在于存在未知和不可预测。所以对服务容错要处理两个问题:发现和解决。


可以自下而上和自上而下两个角度来发现问题。自下而上主要是根据海因法则,从根本上解决遇到的每一个问题,以避免引起更大的问题。自上而下是系统化的思考,根据已知和可预测的,推演出未知和不可预测的。


在解决问题方面,衍生出很多派系。比如调研到阿里那边更倾向于从流程上做把控:


1112728-20200316201022765-1181178833.png



隔离术


1>领域拆分解耦


   ACL防止损坏层


   有界上下文


   提炼核心、支撑和通用域


   分层架构


    CRUD增删改查简单架构


   CQRS命令查询隔离


   依赖消弱控


2>服务部署隔离


   环境拆分


   机房隔离


   通道隔离


   单元化


   泳道


   热点隔离


   读写隔离


   容器隔离


   拆库拆表


   动静隔离


   非核心流量隔离


3>服务间交互隔离


   熔断降级


4>服务内资源隔离


   线程池隔离


   信号量隔离


风险巡检术


慢查询


超时治理


依赖治理:消除依赖、弱化依赖、控制依赖


系统破窗户


废弃代码资源治理


系统异常治理


告警治理


数据一致性治理


稳定性设计术


请参考《稳定性三十六计》

 


超时重试:推荐spring-retryer


熔断:推荐hystrix


限流:推荐Guava RateLimiter


spring cloud提供了超时重试、熔断、限流的综合解决方案



相关文章
|
6月前
|
SQL 关系型数据库 SDN
双活中心数据一致性
双活中心数据一致性
274 2
|
负载均衡 关系型数据库 RDS
良好架构设计中的可靠性:高可用、容错、灾难恢复
良好架构设计支柱 云计算良好架构设计有五大支柱,分别是:安全性,可靠性,性能效率,成本优化和卓越操作。其中可靠性是指系统从基础设施或者服务故障当中实现恢复、以动态方式获取计算资源以满足需求,以及缓解配置错误或者暂时性网络问题等干扰因素的能力。
4660 0
|
11天前
|
负载均衡 Dubbo 算法
集群容错架构设计
集群容错架构设计
23 1
集群容错架构设计
|
存储 运维 容灾
容灾的架构分析和容灾选择策略
容灾的架构分析和容灾选择策略
容灾的架构分析和容灾选择策略
|
4月前
|
消息中间件 存储 负载均衡
Kafka高可用性指南:提高数据一致性和集群容错能力!
**Kafka高可用性概览** - 创建Topic时设置`--replication-factor 3`确保数据冗余和高可用。 - 分配角色:Leader处理读写,Follower同步数据,简化管理和客户端逻辑。 - ISR(In-Sync Replicas)保持与Leader同步的副本列表,确保数据一致性和可靠性。 - 设置`acks=all`保证消息被所有副本确认,防止数据丢失,增强一致性。 - 通过这些机制,Kafka实现了分布式环境中的数据可靠性、一致性及服务的高可用性。
642 0
|
存储 负载均衡 监控
高可用
当今数字化时代,高可用性已经成为许多企业和组织的重要关注点。无论是云计算、大数据、电子商务还是日常生活中的各种应用程序,高可用性都是确保系统稳定运行和用户满意度的关键因素。本文将深入探讨高可用性的概念、重要性以及实现高可用性的方法。
|
6月前
|
容灾 数据中心
双活中心高可用性
双活中心高可用性
93 1
|
6月前
|
消息中间件 缓存 数据库
高可用之故障隔离
【2月更文挑战第21天】
|
存储 NoSQL 容灾
Redis集群:集群容灾
Redis集群:集群容灾
|
容灾 测试技术 数据库
容灾架构迁移
容灾架构迁移

相关实验场景

更多