【NoSQL】redis高可用和持久化(一)

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介: 【NoSQL】redis高可用和持久化

一、Redis高可用


在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、 99.99%、 99.999%等等)


但是在Redis语境中, 高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展,数据安全不会丢失等


在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和集群,作用如下:


持久化:持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失


主从复制 :主从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制


哨兵 :在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷 :写操作无法负载均衡;存储能力受到单机的限制


集群 :通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案


二、Redis持久化


2.1持久化的功能

Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。


除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置


2.2持久化的俩种方式

RDB持久化(Redis DataBase):原理是将Reids在内存中的数据库记录定时保存到磁盘上


AOF持久化(append only file):原理是将Reids的操作日志以追加的方式写入文件,类似于MySQL的binlog


总结:由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持久化仍然有其用武之地


三、RDB持久化

RDB持久化是指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),用二进制压缩存储,保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据


3.1触发条件

RDB持久化的触发分为:手动触发和自动触发两种


3.1.1手动触发

save命令和bgsave命令都可以生成RDB文件。


save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。


bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程 (即Redis主进程) 则继续处理请求。


bgsave命令执行过程中,只有fork子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用!!!


3.1.2自动触发

在自动触发RDB持久化时,Redis也 会选择bgsave而不是save来进行持久化


save m n

自动触发最常见的情况是在配置文件中通过save m n,指定当m秒内发生n次变化时,会触发bgsave


vim /etc/redis/6379.conf
-----219行--以下三个save条件满足任意一个时,都会引起bgsave的调用
save 900 1 :当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave
save 300 10 :当时间到300秒时, 如果redis数据发生了至少10次变化,则执行bgsave
save 60 10000 :当时间到60秒时,如果redis数据发生了至少10000次变化, 则执行bgsave
-----242行--是否开启RDB文件压缩
rdbcompression yes
-----254行--指定RDB文件名
dbfilename dump.rdb
-----264行--指定RDB文件和AOF文件所在目录
dir /var/lib/redis/637







3.1.3其他自动触发机制

除了 savemn 以外,还有一些其他情况会触发bgsave


在主从复制场景下,如果从节点执行全量复制操作,则主节点会执行bgsave命令,并将rdb文件发送给从节点。


执行shutdown命令时,自动执行rdb持久化


3.2执行流程

(1)Redis父进程首先判断:当前是否在执行save,或bgsave/bgrewriteaof的子进程,如果在执行则bgsave命令直接返回。bgsave/bgrewriteaof的子进程不能同时执行,主要是基于性能方面的考虑: 两个并发的子进程同时执行大量的磁盘写操作,可能引起严重的性能问题。

(2)父进程执行fork操作创建子进程,这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令

(3)父进程fork后,bgsave命令返回”Background saving started”信息并不再阻塞父进程,并可以响应其他命令

(4)子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行原子替换

(5)子进程发送信号给父进程表示完成,父进程更新统计信息


3.3启动时加载

RDB文件的载入工作是在服务器启动时自动执行的,并没有专门的命令。但是由于A0F的优先级更高,因此当AOF开启时,Redis会优先载入AOF文件来恢复数据;只有当A0F关闭时,才会在Redis服务器启动时检测RDB文件,并自动载入。服务器载入RDB文件期间处于阻塞状态,直到载入完成为止。


Redis载入RDB文件时,会对RDB文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。


四、AOF持久化

RDB持久化是将进程数据写入文件,而AOF持久化,则是将Redis执行的每次写、删除命令记录到单独的日志文件中,查询操作不会记录; 当Redis重启时再次执行AOF文件中的命令来恢复数据。


与RDB相比,AOF的实时性更好,因此已成为主流的持久化方案


4.1开启AOF

Redis服务器默认开启RDB,关闭AOF的, 要开启AOF,需要在配置文件中配置

vim /etc/redis/6379.conf
--700行--修改,开启AOF
appendonly yes
--704行--指定A0F文件名称
appendfilename "appendonly.aof"
--796行--是否忽略最后一条可能存在问题的指令
aof-load-truncated yes
/etc/init.d/redis_6379 restart   重启服务



4.2执行流程

由于需要记录Redis的每条写命令,因此A0F不需要触发,AOF的执行流程如下:


命令追加(append):将Redis的写命令追加到缓冲区aof_ buf;


文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘;


文件重写(rewrite):定期重写AOF文件,达到压缩的目的


4.2.1命令追加(append)

Redis先将写命令追加到缓冲区,而不是直接写入文件,主要是为了避免每次有写命令都直接写入硬盘,导致硬盘IO成为Redis负载的瓶颈。


命令追加的格式是Redis命令请求的协议格式,它是一种纯文本格式,具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在A0F文件中,除了用于指定数据库的select命令 (如select0为选中0号数据库) 是由Redis添加的,其他都是客户端发送来的写命令


4.2.2文件写入(write) 和文件同步 (sync)

Redis 提供了多种AOF缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数,说明如下:


为了提高文件写入效率,在现代操作系统中,当用户调用write函数将数据写入文件时,操作系统通常会将数据暂存到一个内存缓冲区里,当缓冲区被填满或超过了指定时限后,才真正将缓冲区的数据写入到硬盘里。这样的操作虽然提高了效率,但也带来了安全问题:如果计算机停机,内存缓冲区中的数据会丢失;因此系统同时提供了fsync、fdatasync等同步函数,可以强制操作系统立刻将缓冲区中的数据写入到硬盘里,从而确保数据的安全性。


AOF缓存区的同步文件策略存在三种同步方式,它们分别是:


vim /etc/redis/6379.conf
---729---
● appendfsync always:
解释:命令写入aof_ buf后立即调用系统fsync操作同步到AOF文件,fsync完成后线程返回。
     这种情况下,每次有写命令都要同步到AOF文件,硬盘IO成为性能瓶颈,Redis只能支持大约几百TPS写入,
     严重降低了Redis的性能;即便是使用固态硬盘(SSD),每秒大约也只能处理几万个命令,而且会大大降低SSD的寿命。
● appendfsync no:
解释:命令写入aof_ buf后调用系统write操作,不对AOF文件做fsync同步;
     同步由操作系统负责,通常同步周期为30秒。这种情况下,文件同步的时间不可控,
     且缓冲区中堆积的数据会很多,数据安全性无法保证。
● appendfsynceverysec:
解释:命令写入aof_ buf后调用系统write操作,write完成后线程返回; 
     fsync同步文件操作由专门的线程每秒调用一次。
     everysec是前述两种策略的折中,是性能和数据安全性的平衡,
     因此是Redis的默认配置,也是我们推荐的配置。



相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
NoSQL Redis
基于Redis的高可用分布式锁——RedLock
这篇文章介绍了基于Redis的高可用分布式锁RedLock的概念、工作流程、获取和释放锁的方法,以及RedLock相比单机锁在高可用性上的优势,同时指出了其在某些特殊场景下的不足,并提到了ZooKeeper作为另一种实现分布式锁的方案。
68 2
基于Redis的高可用分布式锁——RedLock
|
2月前
|
监控 NoSQL Redis
Redis 哨兵模式高可用
Redis 哨兵模式高可用
54 4
|
14天前
|
存储 NoSQL Redis
SpringCloud基础7——Redis分布式缓存,RDB,AOF持久化+主从+哨兵+分片集群
Redis持久化、RDB和AOF方案、Redis主从集群、哨兵、分片集群、散列插槽、自动手动故障转移
SpringCloud基础7——Redis分布式缓存,RDB,AOF持久化+主从+哨兵+分片集群
|
1月前
|
SQL 存储 NoSQL
Redis6入门到实战------ 一、NoSQL数据库简介
这篇文章是关于NoSQL数据库的简介,讨论了技术发展、NoSQL数据库的概念、适用场景、不适用场景,以及常见的非关系型数据库。文章还提到了Web1.0到Web2.0时代的技术演进,以及解决CPU、内存和IO压力的方法,并对比了行式存储和列式存储数据库的特点。
Redis6入门到实战------ 一、NoSQL数据库简介
|
1月前
|
NoSQL Redis
Redis 临时manifest修改问题之确保被持久化到磁盘如何解决
Redis 临时manifest修改问题之确保被持久化到磁盘如何解决
|
2月前
|
NoSQL Redis 数据库
redis 持久化机制及配置
redis 持久化机制及配置
65 4
|
1月前
|
缓存 NoSQL Redis
redis数据持久化之RDB和AOF
redis数据持久化之RDB和AOF
|
存储 NoSQL Redis
NoSQL-Redis入门(二)
Redis要点: 1.关键字(keys)用于标识一段数据的字符串 2.值(values)是一段任意的字节序列,Redis不会关注他们实质是什么 3.Redis展示了5种专门的数据结构 4.上面几点使得Redis快速而且容易使用,但Redis不适用于所有的应用场景 1.Redis的数据结构 每种数据结构的要点包括: 1.是什么? 2.包含的有效方法 3.使用这些数据结构能处理哪些类型的特性和数据 1.1 字符串(String) 在Redis里,字符串是最基本的数据结构。
988 0
|
SQL Web App开发 NoSQL
NoSQL-Redis入门(一)
从这篇开始记录Redis相关知识: 1 NoSQL是什么?1.1 NoSQL特性 1.1.1 易扩展 1.1.2 大数据量与高性能1.2 RDBMS vs NoSQL1.
1489 0