Redis 三种批量查询技巧,高并发场景下的利器

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 在高并发场景下,巧妙地利用缓存批量查询技巧能够显著提高系统性能。在笔者看来,熟练掌握细粒度的缓存使用是每位架构师必备的技能。因此,在本文中,我们将深入探讨 Redis 中批量查询的一些技巧,希望能够给你带来一些启发。

在高并发场景下,巧妙地利用缓存批量查询技巧能够显著提高系统性能。

在笔者看来,熟练掌握细粒度的缓存使用是每位架构师必备的技能。因此,在本文中,我们将深入探讨 Redis 中批量查询的一些技巧,希望能够给你带来一些启发。

1.为什么需要批量执行命令

下图展示了客户端与服务端交互的流程:

每次客户端发送一个一个请求命令,Redis 服务端接收到命令后,将命令放在队列内,一个一个命令执行,并将结果返回。

批量执行命令有三点优势:

  • 提高命令执行效率

    减少了网络延迟,从而提高了 Redis 服务器的响应速度。批量执行减少了每个命令的单独网络传输开销,有效降低了往返时间(RTT)。

  • 简化客户端逻辑

    通过将多个命令封装成一个操作,客户端的处理逻辑变得更加简洁和清晰。这使得客户端代码更易读、易维护。

  • 提升事务性能

    批量执行命令能够确保一组命令在同一时间内执行,从而提高了事务的性能。这对于需要保持原子性的操作尤为重要,确保一组命令要么全部执行成功,要么全部失败。

接下来,我们详细讲解批量查询的四种方式。

  • 字符串 MGET命令
  • 哈希表 HMGET命令
  • 管道技术
  • Lua 脚本

2.字符串 MGET命令

MGET 是 Redis 中的一个命令,用于批量获取多个字符串键的值。它接受一个或多个键作为参数,返回与这些键关联的值。

以下是一个简要的描述:

  • key1, key2, ..., keyN:要获取值的键列表。

  • MGET 返回一个包含相应值的列表,如果键不存在,则对应的位置返回 nil

该命令主要用于一次性获取多个键的值,可以减少多次单独查询的开销,提高效率。

接下来,我们展示 SpringBoot 项目展示如何使用 MGET 命令。

图中,我们分别设置(key:a , b , c) 三个 key 的值,然后定义一个列表对象 keys, 列表中包含了一个不存在的键 "d"。

当我们使用 MULTIGET 命令查看结果时,发现返回的结果是一个列表对象,列表对象的大小是 4,同时第三个对象值为 NULL ,也就是键 “d” 对应的值为 nil

3.哈希表 HMGET命令

HMGET 是 Redis 中的命令之一,用于获取哈希表中指定字段的值。

它接受一个哈希表的键以及一个或多个字段名作为参数,返回与这些字段名关联的值。以下是 HMGET 命令的基本语法:

如果给定的域不存在于哈希表,那么返回一个 nil 值。

因为不存在的 key 被当作一个空哈希表来处理,所以对一个不存在的 key 进行 HMGET 操作将返回一个只带有 nil 值的表。

接下来,我们展示 SpringBoot 项目展示如何使用 HMGET 命令。

首先分别设置键为 "myhashkey" 下的三个字段(field)的值 ,然后定义需要查询的字段集合 fields ,最后调用哈希表的 HMGET 命令。

和 MGET命令的结果类似,spring data redis 会将结果封装成 List 对象,列表对象的大小是 4,同时第三个对象值为 NULL ,因为字段 “d” 对应的值为 nil

4.管道技术

Redis Pipeline(管道)命令是一种优化网络通信的技术,可以将多个命令一次性发送给 Redis 服务器,可以减少客户端与 Redis 服务器之间的网络通信次数。

客户端将多个命令一次性发送给 Redis 服务器,Redis 服务器缓存这些命令,并一次性执行,最后将执行结果一次性返回给客户端。

通过使用 Redis Pipeline,显而易见的好处是避免了在每个命令执行时都进行一次网络通信,从而显著降低了时间开销。

1 次 pipeline(n条命令) = 1 次网络时间 + 执行n 条命令时间

接下来,我们展示 SpringBoot 项目展示如何使用 Pipeline 管道命令。

首先分别设置三个键(key:a, b, c)的值,然后分别设置键为 "myhashkey" 下的三个字段(field)的值, 最后调用 Pipeline 执行多个命令,并获取结果。

需要注意的是:

  1. Redis Cluster 中 Pipeline 命令操作可能无法保证原子性!

    由于 Redis Cluster 采用的是分片机制,这些键无法保证所有的 key 都在同一区域的哈希槽上。因此,即使使用了 Pipeline,每个命令仍可能在不同的节点上进行处理,导致多个命令的执行不在同一时刻。

  2. Pipeline 能执行有依赖关系的命令吗?

    不可以。如果 Pipeline 中后一个命令的执行依赖于前一个命令的执行结果,Pipeline 无法满足这样的需求。

  3. Pipeline 对发送的命令有数量限制吗?

    虽然命令可以一次性发给 Redis 服务端,但是考虑到带宽等情况,建议不要超过500个命令,或者根据实际命令的数据类型和大小进行调整。这样可以避免潜在的性能问题。

5.Lua 脚本

Redis Lua 脚本是一种在 Redis 服务器上执行的脚本语言,基于 Lua 编程语言。

这种脚本可以包含多个 Redis 命令,而且它们在 Redis 服务器上以原子性操作的方式执行。通过使用 Lua 脚本,你可以在服务器端执行一系列的 Redis 命令,而不需要将它们一条一条地发送到服务器。

Redis 执行 Lua 脚本有两种执行方式:EvalEvalSHA

5.1 Eval

EVAL命令的执行过程主要可以分为三个步骤:

  1. 根据客户端提供的 Lua 脚本,在 Lua 环境中定义一个 Lua 函数。

    Lua 函数的名称实际上是以 "f_" 为前缀加上脚本本身计算出的 SHA1 值,例如 f_ddfsdfjgjbg33rndgj00,其中 SHA1 的长度为40字符。函数体则是脚本本身。

  2. 将客户端提供的脚本保存到 lua_scripts 字典中。简单来说,就是添加一个键值对,其中键是 Lua 脚本的 SHA1 校验和,值是 Lua 脚本本身。这主要是为了以后能够复用这个脚本。

  3. 执行第一步在 Lua 环境中定义的函数,从而执行客户端提供的 Lua 脚本。这个过程利用了在步骤二中保存的 SHA1 校验和来调用对应的 Lua 函数。

这个流程使得 Redis 能够高效地处理客户端提供的 Lua 脚本,同时通过缓存 SHA1 校验和,可以减少重复传输脚本的开销,提高效率。

在Redis中,使用了 Key 列表和参数列表来为Lua脚本提供更多的灵活性,执行 Eval 命令的格式为:

下图演示下 Lua 如何调用 Redis 命令 ,通过redis.call()来执行了 Redis 命令 。

5.2 EvalSHA

EVAL 不同,EVALSHA 的主要目的是通过脚本的 SHA1 校验和来执行预先在服务器端加载的 Lua 脚本,从而避免重复传输脚本的开销。

使用步骤:

1、加载 Lua 脚本到 Redis 服务端:

首先,将 Lua 脚本加载到 Redis 服务端。这可以通过 SCRIPT LOAD 命令完成。执行 SCRIPT LOAD 后,会返回一个 SHA1 校验和,该值唯一标识了加载的 Lua 脚本。

这会返回SHA1 校验和: a1104f2250e5dd9fc10c3c681ddb389e7bd4a2cf

2、执行 Lua 脚本:

一旦 Lua 脚本被加载并获得了 SHA1 校验和,之后就可以使用 EVALSHA 命令来执行该脚本。

5.3 springboot例子

首先分别设置三个键(key:a, b, c)的值,然后分别设置键为 "myhashkey" 下的三个字段(field)的值, 并编写 Lua 脚本,执行 Lua 脚本并获取结果。

6 总结

本文介绍了Redis 中批量查询的四种技巧:

1、MGET(批量获取字符串值):

简单直接,适用于批量获取字符串值的场景。

2、HMGET(批量获取哈希表字段值):

适用于批量获取哈希表中的字段值,可以在一个命令中获取多个字段。

3、Pipeline(管道):

最小化网络开销,一次性发送多个不同的命令,管道中的命令按照执行顺序依次执行,减少往返时间。高并发场景下,可以显著提高性能。

4、Lua脚本:

使用 Lua 脚本的好处 :

  • 减少网络开销。将多个请求通过脚本的形式一次发送,减少网络时延。
  • 原子操作。Redis会将整个脚本作为一个整体执行,中间不会被其他命令插入。
  • 复用。客户端发送的脚本会永久存在 Redis 中,其他客户端可以复用这一脚本而不需要使用代码完成相同的逻辑。

当然 使用 Lua 脚本也会有瑕疵,编写和维护相对复杂。

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
2月前
|
监控 NoSQL Java
场景题:百万数据插入Redis有哪些实现方案?
场景题:百万数据插入Redis有哪些实现方案?
43 1
场景题:百万数据插入Redis有哪些实现方案?
|
2月前
|
消息中间件 缓存 NoSQL
Redis 是一个高性能的键值对存储系统,常用于缓存、消息队列和会话管理等场景。
【10月更文挑战第4天】Redis 是一个高性能的键值对存储系统,常用于缓存、消息队列和会话管理等场景。随着数据增长,有时需要将 Redis 数据导出以进行分析、备份或迁移。本文详细介绍几种导出方法:1)使用 Redis 命令与重定向;2)利用 Redis 的 RDB 和 AOF 持久化功能;3)借助第三方工具如 `redis-dump`。每种方法均附有示例代码,帮助你轻松完成数据导出任务。无论数据量大小,总有一款适合你。
78 6
|
24天前
|
消息中间件 缓存 NoSQL
Redis 高并发竞争 key ,如何解决这个难点?
本文主要探讨 Redis 在高并发场景下的并发竞争 Key 问题,以及较为常用的两种解决方案(分布式锁+时间戳、利用消息队列)。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
Redis 高并发竞争 key ,如何解决这个难点?
|
26天前
|
缓存 NoSQL 中间件
redis高并发缓存中间件总结!
本文档详细介绍了高并发缓存中间件Redis的原理、高级操作及其在电商架构中的应用。通过阿里云的角度,分析了Redis与架构的关系,并展示了无Redis和使用Redis缓存的架构图。文档还涵盖了Redis的基本特性、应用场景、安装部署步骤、配置文件详解、启动和关闭方法、systemctl管理脚本的生成以及日志警告处理等内容。适合初学者和有一定经验的技术人员参考学习。
130 7
|
29天前
|
SQL NoSQL 关系型数据库
2024Mysql And Redis基础与进阶操作系列(5)作者——LJS[含MySQL DQL基本查询:select;简单、排序、分组、聚合、分组、分页等详解步骤及常见报错问题所对应的解决方法]
MySQL DQL基本查询:select;简单、排序、分组、聚合、分组、分页、INSERT INTO SELECT / FROM查询结合精例等详解步骤及常见报错问题所对应的解决方法
|
1月前
|
缓存 监控 Java
Java 线程池在高并发场景下有哪些优势和潜在问题?
Java 线程池在高并发场景下有哪些优势和潜在问题?
|
2月前
|
NoSQL Java Redis
京东双十一高并发场景下的分布式锁性能优化
【10月更文挑战第20天】在电商领域,尤其是像京东双十一这样的大促活动,系统需要处理极高的并发请求。这些请求往往涉及库存的查询和更新,如果处理不当,很容易出现库存超卖、数据不一致等问题。
51 1
|
2月前
|
Java Linux 应用服务中间件
【编程进阶知识】高并发场景下Bio与Nio的比较及原理示意图
本文介绍了在Linux系统上使用Tomcat部署Java应用程序时,BIO(阻塞I/O)和NIO(非阻塞I/O)在网络编程中的实现和性能差异。BIO采用传统的线程模型,每个连接请求都会创建一个新线程进行处理,导致在高并发场景下存在严重的性能瓶颈,如阻塞等待和线程创建开销大等问题。而NIO则通过事件驱动机制,利用事件注册、事件轮询器和事件通知,实现了更高效的连接管理和数据传输,避免了阻塞和多级数据复制,显著提升了系统的并发处理能力。
65 0
|
2月前
|
消息中间件 前端开发 Java
java高并发场景RabbitMQ的使用
java高并发场景RabbitMQ的使用
108 0
|
18天前
|
缓存 NoSQL 关系型数据库
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题
本文详解缓存雪崩、缓存穿透、缓存并发及缓存预热等问题,提供高可用解决方案,帮助你在大厂面试和实际工作中应对这些常见并发场景。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题