开发者社区> 科技小先锋> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

结合keepalived实现redis群集高可用故障自动切换

简介:
+关注继续查看

   系统架构图:

wKioL1NYeY7CE3KNAAGRzA16SNA956.jpg


我们所要实现的目的很简单,

104,107 为keepalive和redis主从架构,其余服务器比如105、106均为redis从库并且挂在vip 192.168.56.180下面。

主keepalive负责主要日常工作,从keepalive担任备机角色,一旦主keepalive挂掉,从keepalive服务器立即使从redis转变角色切换成master状态开始接管任务提供服务,实现业务的无缝切换,当挂掉的服务器修好上线后继续担任主的角色,从库会自动切换到slave状态并且不影响挂载在vip下的从redis的数据同步,一满足高并发架构的需求。


keepalive在ubuntu的安装很简单

1
2
3
4
apt-get install libssl-dev
apt-get install openssl
apt-get install libpopt-dev
apt-get install keepalived

redis的安装也很简单:

网上很多方法,也可参考我的另一篇文章: redis的shell安装脚本,实现在linux下本机主从架构

网上有一篇郭冬的一篇文章给了我很大启发故拿来参考:通过Keepalived实现Redis Failover自动故障切换

下面我们看192.168.56.104主keepalived的配置

/etc/keepalived/keepalived.conf


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
global_defs {
        notification_email {
                409011500@qq.com
        }
        notification_email_from  409011500@qq.com
                smtp_server 127.0.0.1  (如果本机配置的话)
                smtp_connect_timeout 30
                router_id redis-ha
}
vrrp_script chk_redis {
                script "/home/lhb/sh/redis_check.sh"   ###监控脚本
                interval 2                                        ###监控时间
}
vrrp_instance VI_1 {
        state MASTER                            ###设置为MASTER
        interface eth0                          ###监控网卡
        virtual_router_id 52
        priority 101                            ###权重值
        authentication {
                     auth_type PASS             ###加密
                     auth_pass redis            ###密码
        }
        track_script {
                chk_redis                       ###执行上面定义的chk_redis
        }
        virtual_ipaddress {
             192.168.56.180                        ###VIP
        }
        notify_master /home/lhb/sh/redis_master.sh
        notify_backup /home/lhb/sh/redis_backup.sh
}

/home/lhb/sh/redis_master.sh

1
2
3
4
5
6
7
8
9
10
11
#!/bin/bash
REDISCLI="/usr/local/redis/bin/redis-cli"
LOGFILE="/usr/local/redis/log/keepalived-redis-state.log"
echo "[master]" >> $LOGFILE
date >> $LOGFILE
echo "Being master...." >> $LOGFILE 2>&1
echo "Run SLAVEOF cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF 192.168.56.107 6379 >> $LOGFILE  2>&1
sleep 10 #延迟10秒以后待数据同步完成后再取消同步状态
echo "Run SLAVEOF NO ONE cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF NO ONE >> $LOGFILE 2>&1


/home/lhb/sh/redis_backup.sh

1
2
3
4
5
6
7
8
9
#!/bin/bash
REDISCLI="/usr/local/redis/bin/redis-cli"
LOGFILE="/usr/local/redis/log/keepalived-redis-state.log"
echo "[backup]" >> $LOGFILE
date >> $LOGFILE
echo "Being slave...." >> $LOGFILE 2>&1
sleep 15 #延迟15秒待数据被对方同步完成之后再切换主从角色
echo "Run SLAVEOF cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF 192.168.56.107 6379 >> $LOGFILE  2>&1


/usr/local/redis/etc/redis.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
daemonize yes
pidfile /var/run/redis.pid
port 6379
tcp-backlog 511
timeout 0
tcp-keepalive 0
loglevel notice
logfile "/usr/local/redis/log/redis.log"
databases 16
save 900 1
save 300 10
save 60 10000
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes
dbfilename dump.rdb
dir /usr/local/redis/data
slave-serve-stale-data yes
slave-read-only no
repl-disable-tcp-nodelay no
slave-priority 100
appendonly yes
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
lua-time-limit 5000
slowlog-log-slower-than 10000
slowlog-max-len 128
notify-keyspace-events ""
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
activerehashing yes
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
hz 10
aof-rewrite-incremental-fsync yes


192.168.56.107从keepalived的配置

/etc/keepalived/keepalived.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
global_defs {
        notification_email {
                409011500@qq.com
        }
        notification_email_from 409011500@qq.com
                smtp_server 127.0.0.1
                smtp_connect_timeout 30
                router_id redis-ha
}
vrrp_script chk_redis {
                script "/home/lhb/sh/redis_check.sh"   ###监控脚本
                interval 2                                        ###监控时间
}
vrrp_instance VI_1 {
        state BACKUP                                ###设置为BACKUP
        interface eth0                              ###监控网卡
        virtual_router_id 52
        priority 100                                ###比MASTRE权重值低
        authentication {
                     auth_type PASS
                     auth_pass redis                ###密码与MASTRE相同
        }
        track_script {
                chk_redis                       ###执行上面定义的chk_redis
        }
        virtual_ipaddress {
             192.168.56.180                         ###VIP
        }
        notify_master /home/lhb/sh/redis_master.sh
        notify_backup /home/lhb/sh/redis_backup.sh
}


/home/lhb/sh/redis_master.sh

1
2
3
4
5
6
7
8
9
10
11
#!/bin/bash
REDISCLI="/usr/local/redis/bin/redis-cli"
LOGFILE="/usr/local/redis/log/keepalived-redis-state.log"
echo "[master]" >> $LOGFILE
date >> $LOGFILE
echo "Being master...." >> $LOGFILE 2>&1
echo "Run SLAVEOF cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF 192.168.56.104 6379 >> $LOGFILE  2>&1
sleep 10 #延迟10秒以后待数据同步完成后再取消同步状态
echo "Run SLAVEOF NO ONE cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF NO ONE >> $LOGFILE 2>&1


/home/lhb/sh/redis_backup.sh

1
2
3
4
5
6
7
8
9
#!/bin/bash
REDISCLI="/usr/local/redis/bin/redis-cli"
LOGFILE="/usr/local/redis/log/keepalived-redis-state.log"
echo "[backup]" >> $LOGFILE
date >> $LOGFILE
echo "Being slave...." >> $LOGFILE 2>&1
sleep 15 #延迟15秒待数据被对方同步完成之后再切换主从角色
echo "Run SLAVEOF cmd ..." >> $LOGFILE
$REDISCLI SLAVEOF 192.168.56.104 6379 >> $LOGFILE  2>&1


/home/lhb/sh/redis_check.sh

1
2
3
4
5
6
7
8
9
#!/bin/bash
ALIVE=`/usr/local/redis/bin/redis-cli PING`
if "$ALIVE" == "PONG" ]; then
  echo $ALIVE
  exit 0
else
  echo $ALIVE
  exit 1
fi


/usr/local/redis/etc/redis_slave.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
daemonize yes
pidfile /var/run/redis_salve.pid
port 6379
tcp-backlog 511
timeout 0
tcp-keepalive 0
loglevel notice
logfile "/usr/local/redis/log/redis_slave.log"
databases 16
save 900 1
save 300 10
save 60 10000
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes
dbfilename dump_salve.rdb
dir /usr/local/redis/data
slave-serve-stale-data yes
slave-read-only no
repl-disable-tcp-nodelay no
slave-priority 100
appendonly yes
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
lua-time-limit 5000
slowlog-log-slower-than 10000
slowlog-max-len 128
notify-keyspace-events ""
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
activerehashing yes
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
hz 10
aof-rewrite-incremental-fsync yes
SLAVEOF 192.168.56.104 6379


192.168.56.105、192.168.56.106 redis配置文件相同:

/usr/local/redis/etc/redis_salve.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
daemonize yes
pidfile /var/run/redis_salve.pid
port 6379
tcp-backlog 511
timeout 0
tcp-keepalive 0
loglevel notice
logfile "/usr/local/redis/log/redis_slave.log"
databases 16
save 900 1
save 300 10
save 60 10000
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes
dbfilename dump_salve.rdb
dir /usr/local/redis/data
slave-serve-stale-data yes
slave-read-only no
repl-disable-tcp-nodelay no
slave-priority 100
appendonly no
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
lua-time-limit 5000
slowlog-log-slower-than 10000
slowlog-max-len 128
notify-keyspace-events ""
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
activerehashing yes
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
hz 10
aof-rewrite-incremental-fsync yes
SLAVEOF 192.168.56.180 6379


好了,下面我们就来展示一下是否是我们期待的那样?


启动192.168.56.104,192.168.56.107上的redis,keepalvied,以及192.168.56.105,192.168.56.106上的redis

在192.168.56.104 我们看到以下结果,已经获取vip:192.168.56.180

wKiom1NYiejyYscZAAJldQVu4Ss388.jpg


wKiom1NYinnxIpddAAFCuP5SdOw780.jpg


在192.168.56.107 我们看到以下结果,并没有获得vip192.168.56.180

wKioL1NYi1zBOgf1AAKBRQPf020589.jpg


wKiom1NYi4biZ_S3AAF73oQ0smY062.jpg


在192.168.56.105,192.168.56.106我们看到相同结果redis挂载在vip:192.168.56.180下

wKiom1NYjBuzgpjdAAEyqSBY5RY919.jpg


这时我们把192.168.56.104下的redis给关闭掉,看一下结果:vip已经释放

wKioL1NYjPXQ4BV_AAMw36SD3cA511.jpg

然后到192.168.56.107下看一下信息: 已经获取vip,并且redis已经从salve切换到master,并且从库105、106状态均为online

wKiom1NYjeDguOWsAAJWPJYKPGI184.jpg

wKioL1NYjbbxEHjuAAFUpLSSi1g578.jpg


192.168.56.105、192.168.56.106 redis结果:一直挂载在vip下面并且link_status处于up状态

wKiom1NYlL3DwQmnAAEXRmwk9Vc332.jpg

由此可见,当主redis挂掉后,备机上的redis立即切换为master,并且不影响业务正常运行。


我们然后把主上redis从新启动,看到下面结果: 主服务器获取vip

wKioL1NYlefRP8S_AAQN0ZwQ7F8168.jpg

redis信息:我们可以看到192.168.56.107备机已经出现在master的slave列表中

wKioL1NYlkaj5aC2AAFGW2SCmkA345.jpg

然后切换到:192.168.56.107看一下信息: 已经释放vip,并且redis已经从master切换到slave状态,并且指向的master是192.168.56.104

wKiom1NYlw2SQ3b_AAIcAEkp6cU174.jpg


wKioL1NYluSyuVL6AAFzkvp_rMo237.jpg


在看192.168.56.105、192.168.56.106 redis信息,亦然指向192.168.56.180

wKiom1NYl6ywM19YAAEZ8YuEbtI608.jpg


看到这里,已经满足我们系统架构最初的所有设想功能。有感兴趣的同学可以一起交流。谢谢



本文转自birdinroom 51CTO博客,原文链接:http://blog.51cto.com/birdinroom/1401663,如需转载请自行联系原作者

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
分布式缓存Redis分区(分片)的高可用方案在大厂中的实践(中)
分片,Redis 数据的分布方式,分片就是将数据拆分到多个 Redis 实例,这样每个实例将只是所有键的一个子集。
54 0
Redis笔记5-redis高可用方案
一.哨兵机制   有了主从复制的实现以后,如果想对主服务器进行监控,那么在redis2.6以后提供了一个"哨兵"的机制。顾名思义,哨兵的含义就是监控redis系统的运行状态。可以启动多个哨兵,去监控redis数据库的运行状态。
1149 0
Redis Cluster 高可用方案
一、Redis Cluster Cluster介绍  Redis 集群采用无中心的方式,为了维护集群状态统一,节点之间需要互相交换消息。Redis采用交换消息的方式被称为 Gossip ,基本思想是节点之间互相交换信息最终所有节点达到一致,更多关于 Gossip 可参考 https://en
13036 0
Redis之高可用方案
Redis之高可用方案   Redis以其高效的访问速度著称。但由于官方还未发布redis-cluster,而redis的replica又有诸多不便:比如一组master-slave的机器,如果之间有链接瞬段,或者对slave重新执行slaveof命令,会导致slave机器从头开始同步一次master的数据,造成较大的开销。
1057 0
linux环境下redis安装
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/tomnic_ylwang/article/details/81105639 安装redis需要gcc支持,使用yum进行安装。
1101 0
redis的安装
去redis.io下载稳定版# wget http://download.redis.io/releases/redis-2.8.17.tar.gz# tar -zxvf redis-2.8.17.tar.gz# cd  redis-2.8.17# make# make PREFIX=/usr/local/redis install复制配置文件到安装目录下面# cp redis.conf
1315 0
Linux下php安装Redis扩展
下载:https://github.com/nicolasff/phpredis/archive/2.2.4.tar.gz tar zxvf phpredis-2.2.4.tar.gz #解压 cd phpredis-2.2.4 #进入安装目录 phpize ./configure  make  sudo make install 修改配置文件 sudo
1459 0
Redis安装及主从配置
一、何为Redis   redis是一个key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)和zset(有序集合)。
859 0
*****linux下redis安装
我用的系统是:redhat [root@infa ~]# wget http://download.redis.io/releases/redis-2.8.12.tar.gz   tar xzf redis-2.
698 0
Windows环境下安装Redis
1:首先下载redis。从下面地址下:https://github.com/MSOpenTech/redis/releases2:创建redis.conf文件:这是一个配置文件,指定了redis的监听端口,timeout等。
952 0
文章
问答
文章排行榜
最热
最新
相关电子书
更多
Codis 集群演化与 Redis 异步迁移
立即下载
Redis Cluster的基本原理
立即下载
Redis&MongoDB的同步、迁移以及混合云场景构建
立即下载