【服务器系列】高可用方案

简介: 高可用的一些解决方案冷备双机热备同城双活异地双活异地多活。

 「高可用」通常用 2 个指标来衡量:

    • 平均故障间隔 MTBF(Mean Time Between Failure):表示两次故障的间隔时间,也就是系统「正常运行」的平均时间,这个时间越长,说明系统稳定性越高
    • 故障恢复时间 MTTR(Mean Time To Repair):表示系统发生故障后「恢复的时间」,这个值越小,故障对用户的影响越小

    可用性与这两者的关系:

    可用性(Availability)= MTBF / (MTBF + MTTR) * 100%

    故障一般体现在 3 个方面:

      1. 硬件故障:CPU、内存、磁盘、网卡、交换机、路由器
      2. 软件问题:代码 Bug、版本迭代
      3. 不可抗力:地震、水灾、火灾、战争

      后台服务可以划分为两类有状态无状态

      高可用对于无状态的应用来说是比较简单的,无状态的应用,只需要通过 F5 或者任何代理的方式就可以很好的解决。

      本文描述的主要是针对有状态的服务进行分析。

      服务端进行状态维护主要是通过磁盘或内存进行保存,如 MySQL 数据库,redis 等内存数据库。除了这两种类型的维护方式,还有 jvm 的内存的状态维持,但jvm的状态生命周期通常很短

      1、方案概述:

      高可用的一些解决方案

        • 冷备
        • 双机热备
        • 同城双活
        • 异地双活
        • 异地多活

        1.1 冷备

        冷备,通过停止数据库对外服务的能力,通过文件拷贝的方式将数据快速进行备份归档的操作方式。

        简而言之,冷备,可以理解为复制粘贴,在 linux 上通过 cp 命令就可以很快完成。可以通过人为操作,或者定时脚本进行。

        优点:

          • 简单
          • 快速备份(相对于其他备份方式)
          • 快速恢复。只需要将备份文件拷贝回工作目录即完成恢复过程(亦或者修改数据库的配置,直接将备份的目录修改为数据库工作目录)。更甚,通过两次mv命令就可瞬间完成恢复。
          • 可以按照时间点恢复

          以上的好处,对于以前的软件来说,是很好的方式。但是对于现如今的很多场景,已经不好用了,因为:

            • 服务需要停机:n个服务器肯定无法做到了。然后,以前我们的停机冷备是在凌晨没有人使用的时候进行,但是现在很多的互联网应用已经是面向全球了,所以,任何时候都是有人在使用的。
            • 数据丢失:如果不采取措施,那么在完成了数据恢复后,备份时间点到还原时间内的数据会丢失。传统的做法,是冷备还原以后,通过数据库日志手动恢复数据。比如通过 redo日志,恢复是极大的体力活,错误率高,恢复时间长。
            • 冷备是全量备份:全量备份会造成磁盘空间浪费,以及容量不足的问题,只能通过将备份拷贝到其他移动设备上解决。所以,整个备份过程的时间很长。

            如何权衡冷备的利弊,是每个业务需要考虑的。目前不是很推荐这种方式,当然还是要根据自身需求进行选择

            1.2 双机热备

            双机热备(局域网)

            热备,和冷备比起来,主要的差别是不用停机,一边备份一边提供服务。但还原的时候还是需要停机的。由于我们讨论的是和存储相关的,所以不将共享磁盘的方式看作双机热备。

            Active/Standby模式

            相当于1主1从主节点对外提供服务从节点作为backup

            通过一些手段将数据从主节点同步到从节点,当故障发生时,将从节点设置为工作节点。

            数据同步的方式可以是偏软件层面,也可以是偏硬件层面的。

            偏软件层面的,比如mysql的master/slave方式,通过同步binlog的方式;sqlserver的订阅复制方式。

            偏硬件层面,通过扇区和磁盘的拦截等镜像技术,将数据拷贝到另外的磁盘。

            偏硬件的方式,也被叫做数据级灾备

            偏软件的,被叫做应用级灾备。后面谈得更多的是应用级灾备。

            1.3 双机互备

            双机互备本质上还是Active/Standby,只是互为主从而已

            双机互备并不能工作于同一个业务,只是在服务器角度来看,更好的压榨了可用的资源

            比如,两个业务分别有库A和B,通过两个机器P和Q进行部署。

            那么对于A业务,P主Q从,对于B业务,Q主P从。整体上看起来是两个机器互为主备。

            这种架构下,读写分离是很好的,单写多读,减少冲突又提高了效率

            其他的高可用方案还可以参考各类数据库的多种部署模式,

            比如mysql的主从、双主多从、MHA;

            redis 的主从,哨兵,cluster 等等

            1.4同城双活

            同城双活(外网IP通信)

            前面的几种方案,基本都是在一个局域网内进行的。业务发展到后面,有了同城多活的方案。和前面比起来,不信任的粒度从机器转为了机房

            这种方案可以解决某个IDC机房整体挂掉的情况(停电,断网等)。

            同城双活其实和前文提到的双机热备没有本质的区别,只是“距离”更远了,基本上还是一样(同城专线网速还是很快的)。

            双机热备提供了灾备能力,双机互备避免了过多的资源浪费。

            在程序代码的辅助下,有的业务还可以做到真正的双活,即同一个业务,双主,同时提供读写,只要处理好冲突的问题即可。需要注意的是,并不是所有的业务都能做到

            业界更多采用的是两地三中心的做法。远端的备份机房能更大的提供灾备能力,能更好的抵抗地震,恐袭等情况。

            双活的机器必须部署到同城,距离更远的城市作为灾备机房。

            灾备机房是不对外提供服务的,只作为备份使用,发生故障了才切流量到灾备机房;或者是只作为数据备份。

            原因主要在于:距离太远,网络延迟太大。

            image.gif编辑

            1.4.1 两地三中心

            如上图,用户流量通过负载均衡,将服务A的流量发送到IDC1,服务器集A;将服务B的流量发送到IDC2,服务器B;同时,服务器集a和b分别从A和B进行同城专线的数据同步,并且通过长距离的异地专线往IDC3进行同步。当任何一个IDC当机时,将所有流量切到同城的另一个IDC机房,完成了failover。

            当城市1发生大面积故障时,比如发生地震导致IDC1和2同时停止工作,则数据在IDC3得以保全。同时,如果负载均衡仍然有效,也可以将流量全部转发到IDC3中。不过,此时IDC3机房的距离非常远,网络延迟变得很严重,通常用户的体验的会受到严重影响的。

            image.gif编辑

            1.4.2 两地三中心主从模式

            上图是一种基于Master-Slave模式的两地三中心示意图。

            城市1中的两个机房作为1主1从,异地机房作为从。

            也可以采用同城双主+keepalived+vip的方式,或者MHA的方式进行failover。但城市2不能(最好不要)被选择为Master。

            1.5异地双活

            异地双活(外网IP通信)

            同城双活可以应对大部分的灾备情况,但是碰到大面积停电,或者自然灾害的时候,服务依然会中断。

            对上面的两地三中心进行改造,在异地也部署前端入口节点和应用,在城市1停止服务后将流量切到城市2,可以在降低用户体验的情况下,进行降级。但用户的体验下降程度非常大

            所以大多数的互联网公司采用了异地双活的方案。

            简单的异地双活示意图

            image.gif编辑

            上图是一个简单的异地双活的示意图。

            流量经过LB后分发到两个城市的服务器集群中,服务器集群只连接本地的数据库集群,只有当本地的所有数据库集群均不能访问,才failover到异地的数据库集群中。

            在这种方式下,由于异地网络问题,双向同步需要花费更多的时间。更长的同步时间将会导致更加严重的吞吐量下降,或者出现数据冲突的情况。吞吐量和冲突是两个对立的问题,你需要在其中进行权衡。

            例如,

            为了解决冲突,引入分布式锁/分布式事务;

            为了解决达到更高的吞吐量,利用中间状态、错误重试等手段,达到最终一致性;降低冲突,将数据进行恰当的sharding,尽可能在一个节点中完成整个事务。

            示例:饿了么服务器架构

            image.gif编辑

            对于个别一致性要求很高的应用,我们提供了一种强一致的方案(Global Zone),Globa Zone是一种跨机房的读写分离机制,所有的写操作被定向到一个 Master 机房进行,以保证一致性,读操作可以在每个机房的 Slave库执行,也可以 bind 到 Master 机房进行,这一切都基于我们的数据库访问层(DAL)完成,业务基本无感知。

            ——《饿了么异地多活技术实现(一)总体介绍》

            也就是说,在这个区域是不能进行双活的。采用主从而不是双写,自然解决了冲突的问题。

            实际上,异地双活和异地多活已经很像了,双活的结构更为简单,所以在程序架构上不用做过多的考虑,只需要做传统的限流,failover等操作即可

            但其实双活只是一个临时的步骤,最终的目的是切换到多活。因为双活除了有数据冲突上的问题意外,还无法进行横向扩展。

            image.gif编辑

            1.6 异地多活

            image.gif编辑

            异地多活

            根据异地双活的思路,我们可以画出异地多活的一种示意图。每个节点的出度和入度都是4,在这种情况下,任何节点下线都不会对业务有影响。但是,考虑到距离的问题,一次写操作将带来更大的时间开销。时间开销除了影响用户体验以外,还带来了更多的数据冲突。在严重的数据冲突下,使用分布式锁的代价也更大。这将导致系统的复杂度上升,吞吐量下降。所以上图的方案是无法使用的。

            回忆一下我们在解决网状网络拓扑的时候是怎么优化的?引入中间节点,将网状改为星状:

            应对机房级别的故障呢?

            没错,就是冗余

            多活的优势在于,可以任意扩展机房「就近」部署。任意机房发生故障,可以完成快速「切换」,大大提高了系统的可用性。


            相关文章
            |
            8月前
            |
            关系型数据库 Linux PHP
            开源站群服务器方案:构建高效流量矩阵的全攻略
            正在寻找高性价比、可控性强且功能强大的站群解决方案?小编将深度解析开源站群服务器方案,从核心优势、主流工具选型到部署实践,助您构建稳定、高效的站群流量体系。
            |
            10月前
            |
            运维 前端开发 JavaScript
            半夜服务器告警不再错过!运维人员必备的语音通知方案
            为解决深夜服务器宕机错过告警的问题,本文介绍一款专为个人开发者与运维人员设计的语音通知方案。通过电话直接推送重要告警,确保第一时间响应,避免故障扩大。支持多种编程语言调用,配置简单,3步即可完成,实时性强,适合各类关键业务场景。
            780 5
            |
            9月前
            |
            存储 固态存储 Linux
            从 0 学服务器虚拟化:VMware 搭建 3 个虚拟主机,个人 / 小企业够用的方案
            服务器虚拟化技术通过在单台物理机上运行多个虚拟机,显著提升资源利用率和管理灵活性。本文以 VMware ESXi 8.0 Update 3e 为例,详解如何搭建经济实用的虚拟化环境,支持 3 个虚拟主机稳定运行,适合个人开发者和小企业降低硬件投入、实现数据本地化与安全存储。
            2107 0
            |
            10月前
            |
            人工智能 负载均衡 监控
            使用 Go 和 Gin 实现高可用负载均衡代理服务器
            本文基于Go语言和Gin框架,实现了一个企业级负载均衡代理服务器,支持动态路由、健康检查、会话保持等功能。具备高可用性与高性能,单节点支持100k+ QPS,延迟达亚毫秒级,并提供完整的压力测试方案与优化建议。
            337 7
            |
            9月前
            |
            弹性计算 监控 网络协议
            香港云服务器访问速度慢?阿里云精品BGP线路EIP一键提速方案
            香港云服务器因默认BGP线路访问不稳定,尤其中国大陆用户面临高延迟与丢包问题。本文详解问题根源,并介绍阿里云国际站推出的精品BGP线路EIP解决方案,通过直连优化显著降低延迟,提升稳定性,助力企业实现高效跨境网络访问。
            |
            9月前
            |
            运维 数据可视化 数据库
            一小时搞定服务器软件部署:资深工程师实测方案
            本文分享了一位运维工程师在短时间内将30个不同软件部署到新服务器上的实战经验。面对全新 Rocky Linux 系统,传统手工部署方式效率低下且容易出错。作者尝试多种自动化方案后,最终选择使用自动化部署工具,通过其内置的 Docker Compose 模板和可视化界面,实现快速、批量部署,大幅提升效率,30个应用仅用约1小时完成,显著节省时间和人力成本。
            |
            存储 安全 关系型数据库
            阿里云服务器选购配置方案云产品搭配指南参考
            对于部分新手用户来说,面对阿里云众多的服务器配置和云产品,如何做出合适的选择,成为了大家比较关注的问题。本文将深入探讨阿里云服务器选择的相关知识,包括配置方案、云服务器活动以及云产品搭配策略,帮助您在众多选项中找到最适合自己的解决方案。
            |
            安全 网络安全 定位技术
            网络通讯技术:HTTP POST协议用于发送本地压缩数据到服务器的方案。
            总的来说,无论你是一名网络开发者,还是普通的IT工作人员,理解并掌握POST方法的运用是非常有价值的。它就像一艘快速,稳定,安全的大船,始终为我们在网络海洋中的冒险提供了可靠的支持。
            367 22
            |
            12月前
            |
            存储 数据挖掘
            服务器数据恢复—V7000存储上raid5阵列多块硬盘离线的数据恢复方案
            V7000存储设备上raid5阵列上一块硬盘出现故障离线,热备盘自动启用开始同步数据。热备盘数据同步还没有结束的情况下,与离线盘处于同一组Mdisk中的另一块磁盘离线。热备盘同步失败,该组Mdisk失效,通用卷无法使用。