Redis Cluster原理初步

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: Redis Cluster原理初步.pdf 目录 目录 1 1. 前言 1 2. 槽(slots) 1 3. 路由配置(node.

img_e25d4fb2f8de1caf41a735ec53088516.pngRedis Cluster原理初步.pdf

目录

目录 1

1. 前言 1

2. 槽(slots 1

3. 路由配置(node.conf 1

4. 总slots数(cluster.h:16384 2

5. key的路由 2

6. 将key转成整数值(crc16.c:crc16 2

7. 计算key所在slotcluster.c:keyHashSlot 2

8. Redis Cluster Client实现 3

 

1. 前言

截至2016/5/16最新版本的redis-3.2.0仍然非强一致性,基于性能考虑master和它的slaves间数据是异步复制的。另外,一个确定的key总是只会落到确定的master,除非使用redis-trib.rb等工具修改slotsmaster间的绑定关系,目前的redis cluste不支持自动从一个master迁移一个slot到另一个masterslavesslots来说,可以认为和对应的master相同)。

2. 槽(slots

Redis cluster将所有存储在其上的key通过一个hash算法划分成若干slots,当前为16384个slots,值在cluster.h文件中由宏CLUSTER_SLOSTS指定。

3. 路由配置(node.conf

存储的内容和redis命令“cluster nodes”的输出相同,即存储了masterslave信息,以及各master存储的slots,亦即slots的路由信息存储在node.conf

同一Redis cluster中的所有节点的node.conf文件内容最终是一致的。

4. 总slots数(cluster.h:16384

#define CLUSTER_SLOTS 16384 // 等于(0x3FFF + 1)

 

CLUSTER_SLOTS定义了redis clusterslots数,理论上这个值应当可以修改重编译。其值越大,相对更容易均衡,可支撑更多节点数的集群(实际受限于无中心节点,当然架构的redis cluster节点数不宜过大,否则可能引起网络风暴)。

5. key的路由

-> key转成整数值

-> 计算key所在的slot

-> 找到slot所在的masterslavesredis cluster可配置允许slaves提供读)

-> 转成直接对masterslaves的请求。

 

由于任何一个redis cluster节点都存储了相同内容的node.conf,所以client可以请求任一节点获得slots的路由数据。

而且由于node.conf中包含了masterslaves信息,因此读写操作可以完美的路由到相应的节点。

6. 将key转成整数值(crc16.c:crc16

Redis使用crc算法将一个字符串转成整数,CLUSTER_SLOTS的值是不能超过CRC返回的最大值。

uint16_t crc16(const char *buf, int len) {

    int counter;

    uint16_t crc = 0;

    for (counter = 0; counter 

            crc = (crc>8) ^ *buf++)&0x00FF];

    return crc;

}

7. 计算key所在slotcluster.c:keyHashSlot

对于一个redis KEY它归属于哪一个slot,这个可以通过函数keyHashSlot()调用计算出来:

unsigned int keyHashSlot(char *key, int keylen) {

    int s, e; /* start-end indexes of { and } */

 

    for (s = 0; s 

        if (key[s] == '{') break;

 

    /* No '{' ? Hash the whole key. This is the base case. */

    if (s == keylen) return crc16(key,keylen) & 0x3FFF;

 

    /* '{' found? Check if we have the corresponding '}'. */

    for (e = s+1; e 

        if (key[e] == '}') break;

 

    /* No '}' or nothing betweeen {} ? Hash the whole key. */

    if (e == keylen || e == s+1) return crc16(key,keylen) & 0x3FFF;

 

    /* If we are here there is both a { and a } on its right. Hash

     * what is in the middle between { and }. */

    return crc16(key+s+1,e-s-1) & 0x3FFF// 3FFF即为16383

}

8. Redis Cluster Client实现

通过上面的信息,不然发现,Redis Cluster Client只是在原来单机版client基础上多了一层薄的路由逻辑。因此可以基于现有的hiredis等实现支持redis clusterclient库。大致过程如下:

class CRedisClusterClient

{

public:

    // nodes Redis集群中的单个或多个节点,格式为:ip1:port1,ip2:port2,如:127.0.0.1:6379,127.0.0.1:6380,192.168.31.11:6379

    CRedisClusterClient(const std::string& nodes);

    void set(const std::string& key, const std::string& value) const;

    void get(const std::string& key, std::string* value);

 

private:

    redisContext* _redis_context; // hiredis

};

 

set()函数实现:

1) CRedisClusterClient从nodes取任一nodeA,如:127.0.0.1:6380

2) 建立与nodeA的连接

3) 从nodeA取得slots路由数据(实现时可缓存这部分数据,以提升性能)

4) 构造slots路由数据表(由于slots总数有限,可以以slot为下标数组方式组织路由表)

5) 计算key所在的slot

6) 找到slot所在的nodeB(对于写操作,要求nodeBmaster,有可能碰巧就是nodeA

7) 使用hiredis访问nodeB(从这步开始和原使用hiredis相同)

8) 取得hiredis返回的结果

 

如果使用hiredis发生网络异常,对于写操作从第3步开始重执行,对于读操作从第6步重选一个node重执行。

 

相关文章
|
存储 缓存 NoSQL
Redis 服务器全方位介绍:从入门到核心原理
Redis是一款高性能内存键值数据库,支持字符串、哈希、列表等多种数据结构,广泛用于缓存、会话存储、排行榜及消息队列。其单线程事件循环架构保障高并发与低延迟,结合RDB和AOF持久化机制兼顾性能与数据安全。通过主从复制、哨兵及集群模式实现高可用与横向扩展,适用于现代应用的多样化场景。合理配置与优化可显著提升系统性能与稳定性。
893 0
|
11月前
|
存储 负载均衡 NoSQL
【赵渝强老师】Redis Cluster分布式集群
Redis Cluster是Redis的分布式存储解决方案,通过哈希槽(slot)实现数据分片,支持水平扩展,具备高可用性和负载均衡能力,适用于大规模数据场景。
757 2
|
9月前
|
NoSQL Java 网络安全
SpringBoot启动时连接Redis报错:ERR This instance has cluster support disabled - 如何解决?
通过以上步骤一般可以解决由于配置不匹配造成的连接错误。在调试问题时,一定要确保服务端和客户端的Redis配置保持同步一致。这能够确保SpringBoot应用顺利连接到正确配置的Redis服务,无论是单机模式还是集群模式。
724 5
|
10月前
|
存储 缓存 监控
Redis分区的核心原理与应用实践
Redis分区通过将数据分散存储于多个节点,提升系统处理高并发与大规模数据的能力。本文详解分区原理、策略及应用实践,涵盖哈希、范围、一致性哈希等分片方式,分析其适用场景与性能优势,并探讨电商秒杀、物联网等典型用例,为构建高性能、可扩展的Redis集群提供参考。
494 0
|
NoSQL Redis
Redis 执行 Lua保证原子性原理
Redis 执行 Lua 保证原子性原理
1374 1
|
消息中间件 缓存 NoSQL
Redis原理—5.性能和使用总结
本文详细探讨了Redis的阻塞原因、性能优化、缓存相关问题及数据库与缓存的一致性问题。同时还列举了不同缓存操作方案下的并发情况,帮助读者理解并选择合适的缓存管理策略。最终得出结论,在实际应用中应尽量采用“先更新数据库再删除缓存”的方案,并结合异步重试机制来保证数据的一致性和系统的高性能。
Redis原理—5.性能和使用总结
|
NoSQL 算法 安全
Redis原理—1.Redis数据结构
本文介绍了Redis 的主要数据结构及应用。
Redis原理—1.Redis数据结构
|
缓存 NoSQL Redis
Redis原理—2.单机数据库的实现
本文概述了Redis数据库的核心结构和操作机制。
Redis原理—2.单机数据库的实现
|
存储 缓存 NoSQL
Redis原理—4.核心原理摘要
Redis 是一个基于内存的高性能NoSQL数据库,支持分布式集群和持久化。其网络通信模型采用多路复用监听与文件事件机制,通过单线程串行化处理大量并发请求,确保高效运行。本文主要简单介绍了 Redis 的核心特性。
|
缓存 NoSQL Redis
Redis原理—3.复制、哨兵和集群
详细介绍了Redis的复制原理、哨兵原理和集群原理。