一、Sentinel概述:
当用Redis做Master-slave的高可用方案时,假如master宕机了,Redis本身(包括它的很多客户端)都没有实现自动进行主备切换,而Redis-sentinel本身也是一个独立运行的进程,它能监控多个master-slave集群,发现master宕机后能进行自动切换。Sentinel是Redis的高可用性(HA)解决方案,由一个或多个Sentinel实例组成的Sentinel系统可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进行下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器,然后由新的主服务器代替已下线的主服务器继续处理命令请求。Redis提供的sentinel(哨兵)机制,通过sentinel模式启动redis后,自动监控master/slave的运行状态,基本原理是:心跳机制+投票裁决
l 监控(Monitoring): Sentinel 会不断地检查你的主服务器和从服务器是否运作正常。
l 提醒(Notification): 当被监控的某个 Redis 服务器出现问题时, Sentinel 可以通过 API 向管理员或者其他应用程序发送通知。
l 自动故障迁移(Automatic failover): 当一个主服务器不能正常工作时, Sentinel 会开始一次自动故障迁移操作, 它会将失效主服务器的其中一个从服务器升级为新的主服务器, 并让失效主服务器的其他从服务器改为复制新的主服务器; 当客户端试图连接失效的主服务器时, 集群也会向客户端返回新主服务器的地址, 使得集群可以使用新主服务器代替失效服务器。
l 配置信息:哨兵提供了认证和服务发现,客户端连接到哨兵去获取当前redis 主服务器地址,如果发生故障转移,哨兵将会汇报新的服务器地址。每次进行主从切换时,sentinel配置文件自动更新
二、Sentinel支持集群
很显然,只使用单个sentinel进程来监控redis集群是不可靠的,当sentinel进程宕掉后(sentinel本身也有单点问题,single-point-of-failure)整个集群系统将无法按照预期的方式运行。所以有必要将sentinel集群,这样有几个好处:
1. 即使有一些sentinel进程宕掉了,依然可以进行redis集群的主备切换;
2. 如果只有一个sentinel进程,如果这个进程运行出错,或者是网络堵塞,那么将无法实现redis集群的主备切换(单点问题);
3. 如果有多个sentinel,redis的客户端可以随意地连接任意一个sentinel来获得关于redis集群中的信息。
三、Sentinel版本选择
Sentinel当前最新的稳定版本称为Sentinel 2(与之前的Sentinel 1区分开来)。随着redis2.8的安装包一起发行。安装完Redis2.8后,可以在redis2.8/src/里面找到Redis-sentinel的启动程序。如果你使用的是redis2.6(sentinel版本为sentinel 1),你最好应该使用redis2.8版本的sentinel 2,因为sentinel 1有很多的Bug,已经被官方弃用,所以强烈建议使用redis2.8以及sentinel 2。
四、Redis Sentinel的配置
redis主ip:192.168.221.160
redis从ip:192.168.221.161
Sentinel在redis主从的基础上继续配置,主从配置的方式这里不再赘述。详情请参考楼主另一篇文章:redis安装及主从配置
我这里配置了两个哨兵,分别部署在两台机器上,采用了典型的配置项,配置文件如下:
1
2
3
4
5
6
7
8
9
10
|
[root@DB ~]
# grep -Ev '^#|^$' /etc/sentinel_26379.conf
port 26379
daemonize
yes
#程序后台执行
logfile
"/var/log/sentinel.log"
dir
"/tmp"
sentinel monitor mymaster 192.168.221.160 6379 2
#第一次设置哨兵时此ip一定要设置为redis集群中的主ip
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 6000
sentinel config-epoch mymaster 7
sentinel parallel-syncs mymaster 1
|
下面简单解释下这些配置项:
sentinel monitor mymaster 192.168.221.160 6379 2 表示sentinel监控的master名字是mymaster,地址为192.168.221.160:6379。行尾最后的一个2代表什么意思呢?我们知道,网络是不可靠的,有时候一个sentinel会因为网络堵塞而误以为一个master redis已经死掉了,当sentinel集群式,解决这个问题的方法就变得很简单,只需要多个sentinel互相沟通来确认某个master是否真的死了,这个2代表,当集群中有2个sentinel认为master死了时,才能真正认为该master已经不可用了。(sentinel集群中各个sentinel也有互相通信,通过gossip协议)
sentinel down-after-milliseconds mymaster 5000 Sentinel会向master发送心跳PING来确认master是否存活,如果master在“一定时间范围”内不回应PONG 或者是回复了一个错误消息,那么这个sentinel会主观地(单方面地)认为这个master已经不可用了(subjectively down, 也简称为SDOWN)。而这个down-after-milliseconds就是用来指定这个“一定时间范围”的,单位是毫秒
sentinel parallel-syncs mymaster 1 在执行故障转移时,最多可以有多少个从服务器同时从新的主服务器进行同步,数字越小,完成故障转移需要的时间越长
五、运行Sentinel,状态检查
先启动redis主从程序,在启动sentinel:
1
|
redis-server
/etc/sentinel_26379
.conf --sentinel
|
Master机器查看进程:
1
2
3
4
5
|
root 84286 57342 0 Oct18 pts
/2
00:00:00 redis-cli -h 192.168.221.160 -p 26379
root 84302 1 0 Oct18 ? 00:03:41 redis-server *:26379
redis 84328 1 0 Oct18 ? 00:03:01
/usr/sbin/redis-server
192.168.221.160:6379
root 84391 83553 0 Oct18 pts
/3
00:00:00 redis-cli -h 192.168.221.160
root 86746 86651 0 09:35 pts
/6
00:00:00
grep
redis
|
Slave机器查看进程:
1
2
3
4
|
redis 53505 1 0 Oct18 ? 00:02:17
/usr/sbin/redis-server
192.168.221.161:6379
root 53510 52922 0 Oct18 pts
/0
00:00:00 redis-cli -h 192.168.221.161
root 53542 1 0 Oct18 ? 00:02:53 redis-server *:26379
root 54767 54723 0 09:34 pts
/1
00:00:00
grep
redis
|
查看master状态:
1
2
3
4
5
6
7
8
9
10
11
|
[root@MidApp ~]
# redis-cli -h 192.168.221.160
192.168.221.160:6379> info replication
# Replication
role:master
connected_slaves:1
slave0:ip=192.168.221.161,port=6379,state=online,offset=9243499,lag=0
master_repl_offset:9243644
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:8195069
repl_backlog_histlen:1048576
|
查看slave状态:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
[root@DB ~]
# redis-cli -h 192.168.221.161 -p 6379
192.168.221.161:6379> info replication
# Replication
role:slave
master_host:192.168.221.160
master_port:6379
master_link_status:up
master_last_io_seconds_ago:0
master_sync_in_progress:0
slave_repl_offset:9200304
slave_priority:100
slave_read_only:1
connected_slaves:0
master_repl_offset:0
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_offset:0
repl_backlog_histlen:0
|
查看sentinel状态:
1
2
3
4
5
6
7
8
|
[root@DB ~]
# redis-cli -h 192.168.221.160 -p 26379
192.168.221.160:26379> info sentinel
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
master0:name=mymaster,status=ok,address=192.168.221.160:6379,slaves=1,sentinels=2
|
六、Redis-Sentinel主从切换测试
首先手动关闭主redis(192.168.221.160),查看sentinel日志,可以看到192.168.221.161已经变成了主redis,自动完成了切换:
1
2
3
4
5
6
7
|
[84302] 18 Oct 15:22:31.539 * +failover-state-wait-promotion slave 192.168.221.161:6379 192.168.221.161 6379 @ mymaster 192.168.221.160 6379
[84302] 18 Oct 15:22:32.434
# +promoted-slave slave 192.168.221.161:6379 192.168.221.161 6379 @ mymaster 192.168.221.160 6379
[84302] 18 Oct 15:22:32.434
# +failover-state-reconf-slaves master mymaster 192.168.221.160 6379
[84302] 18 Oct 15:22:32.498
# +failover-end master mymaster 192.168.221.160 6379
[84302] 18 Oct 15:22:32.499
# +switch-master mymaster 192.168.221.160 6379 192.168.221.161 6379
[84302] 18 Oct 15:22:32.500 * +slave slave 192.168.221.160:6379 192.168.221.160 6379 @ mymaster 192.168.221.161 6379
[84302] 18 Oct 15:22:37.552
# +sdown slave 192.168.221.160:6379 192.168.221.160 6379 @ mymaster 192.168.221.161 6379
|
把刚才关闭的redis再次启动之后检查redis主从状态:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
[root@DB ~]
# redis-cli -h 192.168.221.160 -p 6379
192.168.221.160:6379> info replication
# Replication
role:slave
master_host:192.168.221.161
master_port:6379
master_link_status:up
master_last_io_seconds_ago:0
master_sync_in_progress:0
slave_repl_offset:9200304
slave_priority:100
slave_read_only:1
connected_slaves:0
master_repl_offset:0
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_offset:0
repl_backlog_histlen:0
|
1
2
3
4
5
6
7
8
9
10
11
|
[root@MidApp ~]
# redis-cli -h 192.168.221.161
192.168.221.161:6379> info replication
# Replication
role:master
connected_slaves:1
slave0:ip=192.168.221.160,port=6379,state=online,offset=9243499,lag=0
master_repl_offset:9243644
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:8195069
repl_backlog_histlen:1048576
|
检查sentinel配置文件:
1
2
3
4
5
6
7
8
9
10
11
|
[root@DB ~]
# grep -Ev '^#|^$' /etc/sentinel_26379.conf
port 26379
daemonize
yes
logfile
"/var/log/sentinel.log"
dir
"/tmp"
sentinel monitor mymaster 192.168.221.161 6379 1
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 6000
sentinel config-epoch mymaster 7
sentinel known-slave mymaster 192.168.221.160 6379
sentinel known-sentinel mymaster 192.168.221.161 26379 74f54a23bf06b57ce1618ee48f42a09a11522bb9
|
可以看到配置文件监控的master机器也变成了192.168.221.161:6379。
七、python程序访问sentinel集群
由于很好奇连入的程序是如何访问sentinel集群的,自己用python验证了一下。
Python下需要安装redis相关的lib库,我这里使用的是redis-2.10.5版本
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
[root@DB ~]
# python
Python 2.6.6 (r266:84292, Jan 22 2014, 09:42:36)
[GCC 4.4.7 20120313 (Red Hat 4.4.7-4)] on linux2
Type
"help"
,
"copyright"
,
"credits"
or
"license"
for
more
information.
>>> from redis.sentinel
import
Sentinel
#加载redis模块
>>> sentinel = Sentinel([(
'192.168.221.160'
, 26379),
... (
'192.168.221.161'
, 26379)],
... socket_timeout=0.1)
#连接哨兵服务器
>>> sentinel.discover_master(
'mymaster'
)
#获取主redis服务器地址
(
'192.168.221.161'
, 6379)
>>> sentinel.discover_slaves(
'mymaster'
)
#获取从redis服务区地址
[(
'192.168.221.160'
, 6379)]
>>> master = sentinel.master_for(
'mymaster'
, socket_timeout=0.1)
>>> master.
set
(
'foo'
,
'bar'
)
#获取主redis服务器并进行写入
True
>>> slave = sentinel.slave_for(
'mymaster'
, socket_timeout=0.1)
>>> slave.get(
'foo'
)
#获取从redis服务器进行获取
'bar'
>>>
|
初步认为程序通过sentinel提供的端口进行访问,获取主redis进行写入操作,读的话如果不指定方式会采取轮询的方式进行读操作
参考文档: