本文作者,缪睿,来自驻云信息的云计算资深数据库架构师。
以下正文:
· 关于阿里云的HAVIP
阿里云官方文档的介绍:
私网高可用虚拟IP(Private High-Availability Virtual IP Address,简称HaVip),是一种可以独立创建和释放的私网IP资源。这种私网IP的特殊之处在于,用户可以在ECS上使用协议进行该IP的宣告。
-
一个HaVip对象可以与最多两台ECS实例进行绑定;绑定了的实例可以通过ARP方式进行该私网IP的宣告。
-
一台ECS实例可以在持有一个普通私网IP的情况下,可以宣告多个HaVip类型的私网IP,从而同时持有多个私网IP。
-
利用可在ECS进行私网IP宣告的功能,可以 实现基于VRRP协议的高可用方案,包括keepalived、heartbeat等成熟的开源方案。
-
HaVip可以与EIP进行绑定,从而实现HaVip在ECS实例间切换时,发向EIP的消息也被重定向到新的ECS实例上。
-
HaVip仅支持VPC网络环境。Classic网络环境下不提供HaVip功能。
文字多了理解起来困难,直接看图。
· Keepalived是什么?
keepalived是一个类似于layer3、4、7交换机制的软件,也就是我们平时说的第3层、第4层和第7层交换。Keepalived的作用是检测web服务器的状态,如果有一台web服务器死机,或工作出现故障,Keepalived将检测到,并将有故障的web服务器从系统中剔除,当web服务器工作正常后Keepalived自动将web服务器加入到服务器群中,这些工作全部自动完成,不需要人工干涉,需要人工做的只是修复故障的web服务器。
但是在这里,keepalived的作用是与HAVIP通信,目的是将HAVIP指向到我们开启了keepalived服务的那台ECS上。
· 关于阿里云的Oracle的高可用
有着Oracle背景的DBA们都知道,Oracle的高可用集群是Real Application Cluster(RAC),但是搭建RAC集群需要几个硬性条网络通讯模式得是广播
-
网络通讯模式得是广播
-
必须有两个网络分别用于心跳链路与公网服务
-
共享存储 (可以使用NFS挂载来解决)
这网络广播模式在阿里云上就无法跳过,更不用说VPC环境下只能有一个网卡地址,只能考虑使用其他的方案来解决OracleDB的高可用环境。
有过阿里云RDS经验的同学都知道,RDS的高可用是通过主备库的服务切换来实现的,当主库损坏的情况下,备库会在很短时间内接管服务,其代价就是在切换过程中session会断开造成短时间的数据库服务中断,大概在30秒左右。而我们在阿里云上实现Oracle高可用也是类似这种方式实现。
言归正传,接下来我们说说如何在阿里云上部署这套高可用方案。
传统方式下的Dataguard架构如下图:
一般是由有两台ECS,IP地址分别为10.10.1.2,与10.10.1.3,这两台ECS上部署着一套Oracle PRIMARY-STANDBY环境,这套Dataguard方案使用Oracle dgbroker管理,当PRIMARY库崩溃的时候,Standby会主动的接管服务,但是这里大家都知道,Oracle database的访问是需要通过listener的,我们两台ECS默认的IP地址是不同的,这样当standby接管服务后,application的数据库连接池要把IP改为10.10.1.3才能再次连接数据库服务,大家都知道,连接池地址的改动是要重启容器,如果application都需要重启,就完全不能称做高可用了,很庆幸,阿里云提供了一个叫做havip的服务。
我们来看看下面这幅图
这里我们在ECS原IP的基础上,加入了HAVIP的概念,application 通过10.10.1.99这个IP地址访问数据库服务,当PRIMARY与STANDBY角色互换之后。
application依然还是通过10.10.1.99访问数据库服务,只是这个IP地址已经漂移到我们曾经的standbyDB了。大家都知道Oracle的RAC环境是必须共享存储的,也就是说当物理文件损坏的时候,整个数据库服务依然还是会崩溃。上面这套HAVIP+Dataguard的方案既实现了数据库物理层面的灾备,同时可以实现数据库服务停止后的快速接管。
以上就是这套方案的框架图,说起来很简单,但是实现起来就麻烦了,主要两个难点:
-
如果ECS服务不终止,数据库角色做切换,havip如何漂移?
-
如果ECS服务强制停止了,Havip如何漂移到备用环境?
要解决这两个问题,我们就要用到我们的keepalived了,具体的实现思路,我们来看看。
· 实现思路
4:通过keepalived做一个master->backup的配置集群启动,这里贴出两份配置文件这里master (10.10.1.2) backup(10.10.1.3)master配置文件keepalived.conf
! Configuration File for keepalived global_defs { router_id LVS_DEVEL #集群的ID 主备两台机器的这名字得一样 } #检查脚本,keepalived会定时的执行shell做检查 vrrp_script chk_http_port { script "/etc/keepalived/mcheckdb.sh" interval 2 weight 2 } vrrp_instance VI_1 { state MASTER interface eth0 virtual_router_id 51 priority 100 advert_int 1 authentication { auth_type PASS auth_pass 1111 } track_script { chk_http_port } virtual_ipaddress { 10.10.1.99 dev eth0 label eth0:havip #havip } unicast_src_ip 10.10.1.2 #本地IP unicast_peer { 10.10.1.3 #备机IP } } |
Backup 配置文件
keepalived.conf
! Configuration File for keepalived global_defs { router_id LVS_DEVEL } vrrp_script chk_http_port { script "/etc/keepalived/scheckdb.sh" interval 2 weight 2 } vrrp_instance VI_1 { state BACKUP interface eth0 virtual_router_id 51 priority 99 advert_int 1 authentication { auth_type PASS auth_pass 1111 } track_script { chk_http_port } virtual_ipaddress { 10.10.1.99 dev eth0 label eth0:havip } unicast_src_ip 10.10.1.3 unicast_peer { 10.10.1.2 } } |
这里我们假设两个场景,keepalived启动后。
1、10.10.1.2使用了master(primary)配置文件,10.10.1.3使用了backup(standby)配置文件。当primary db与standby db互换了角色,而这时候havip依然是与master也就是10.10.1.2这台绑定。
2、10.10.1.2使用了master(primary)配置文件,10.10.1.3使用了backup(standby)配置文件。我们强制关闭了10.10.1.2这台ECS,这时候havip漂移到了backup机器
上,standby db也变成了primary角色,当我们再次启动10.10.1.2这台ECS后,havip又会飘回master配置文件所在的ECS,这时候数据库服务又无法通过havip访问了。
这里该如何去解决这个问题呢?面对上面的两个场景,我们取了个巧。
注意配置文件中的这两段
这里shell都会定时的在ECS上执行用于检查环境配置。那么既然可以写逻辑,还有什么不能实现?
说到这,大家是不是很想看看shell的代码~
首先我们看看master的检查逻辑
mcheckdb.sh
#!/bin/bash max_sn="PRIMARY" su - oracle -c "sh /etc/keepalived/oracle/dbrole.sh" max_sn=`cat /etc/keepalived/oracle/dbrole` if [ "$max_sn" != "PRIMARY" ] then cat /etc/keepalived/samples/backup.keepalived.conf > /etc/keepalived/keepalived.conf /etc/init.d/keepalived restart echo `date` > /etc/keepalived/date fi; |
很简单的逻辑,切换到oracle用户执行一个dbrole.sh,这个shell会执行Oracle db的角色查询,然后把结果写在/etc/keepalived/oracle/dbrole这个文件中。如果结果不是’PRIMARY’就把/etc/keepalived/samples/backup.keepalived.conf 文件内容替换掉当前keepalived进程使用的配置文件,然后再重启keepalived 服务。到这儿,大家应该知道如何做了吧。
scheckdb.sh
#!/bin/bash max_sn="PHYSICAL STANDBY" su - oracle -c "sh /etc/keepalived/oracle/dbrole.sh" max_sn=`cat /etc/keepalived/oracle/dbrole` if [ "$max_sn" = "PRIMARY" ] then cat /etc/keepalived/samples/master.keepalived.conf > /etc/keepalived/keepalived.conf /etc/init.d/keepalived restart #echo "stop keepalived" #打开监听 #su - oracle -c " lsnrctl start listener2" fi; |
scheckdb.sh的内容大同小异样,不过多了一步,打开监听listener2,这listener2,就是开启HAVIP的监听地址。
我们可以在两台ECS上都准备好master与backup 两份配置文件,这样不但解决了上面两个场景的问题,还直接让havip可以根据数据库的角色做漂移,保证在dataguard可用的前提下,时刻漂移在我们的primary database。
最后,给大家提供一些代码与一个小工具。
Keepalived 的各种配置文件:
下载地址:http://jiagouyun-cn.oss-cn-hangzhou.aliyuncs.com/oracle/keepalived/keepalived.zip
解压后把整个keepallived 目录直接放到/etc下,注意其中有个oracle目录,包括其中的文件必须改成oracle用户的权限。
再提供提供一个配置DG的shell工具,大家没事可以用用,脚本有针对性,仅用于学习不建议配置生产环境时使用。
下载地址:http://jiagouyun-cn.oss-cn-hangzhou.aliyuncs.com/oracle/dataguard.1.3.zip