【实战】使用Lua脚本怎么清理redis中的数据【实战】使用Lua脚本怎么清理redis中的数据

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 首先我们通过hiredis 向redis 中写入了数据,这里我们主要以测试为目的,所以,Key 值设定为毫秒级时间戳。

概述

  1. 首先我们通过hiredis 向redis 中写入了数据,这里我们主要以测试为目的,所以,Key 值设定为毫秒级时间戳。
  2. 但是当我们测试完成之后,需要验证实际情况,这里我们直接使用redis-cli 登录数据库看看。
  3. 本次测试完成,接下来要结合业务开始测试,需要清理数据库,但是一条一条的删除太慢了。这里给出lua 脚本,以及使用方式。

接下来为具体实际内容。

详述

通过消息队列接收数据,并向redis中存储。

使用技术栈:ZeroMQ、redis

简述:通过消息队列接收转发的消息内容,存储到缓存数据库中。

key-value: 毫秒级时间戳-消息内容

/*
 * @Author       : Zry && 978524088@qq.com
 * @Date         : 2023-07-05 15:31:34
 * @LastEditors  : Zry && 978524088@qq.com
 * @LastEditTime : 2023-07-05 15:46:04
 * @FilePath     : /zryTest/src/include/redis/redis_zmq/receiver.c
 * @Description  :
 *
 * Copyright (c) 2023 by 978524088@qq.com, All Rights Reserved.
 */
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <time.h>
#include <zmq.h>
#include <hiredis/hiredis.h>
// 定义Redis服务器的地址和端口
#define REDIS_HOST "127.0.0.1"
#define REDIS_PORT 6379
// 定义消息的最大长度
#define MAX_MESSAGE_SIZE 1024
long long current_timestamp()
{
    struct timespec ts;
    clock_gettime(CLOCK_MONOTONIC, &ts);
    return ts.tv_sec * 1000LL + ts.tv_nsec / 1000000LL;
}
int main()
{
    // 创建zmq的上下文和socket,用于接收路由消息
    void *context = zmq_ctx_new();
    void *socket = zmq_socket(context, ZMQ_ROUTER);
    zmq_bind(socket, "tcp://*:5566");
    while (1)
    {
        // 接收路由消息的各个部分
        zmq_msg_t identity;
        zmq_msg_init(&identity);
        zmq_msg_recv(&identity, socket, 0);
        zmq_msg_t empty;
        zmq_msg_init(&empty);
        zmq_msg_recv(&empty, socket, 0);
        zmq_msg_t message;
        zmq_msg_init(&message);
        zmq_msg_recv(&message, socket, 0);
        // 获取消息内容和类型
        char *content = (char *)zmq_msg_data(&message);
        size_t content_size = zmq_msg_size(&message);
        char *type = (char *)zmq_msg_data(&empty);
        size_t type_size = zmq_msg_size(&empty);
        // 获取当前时间戳
        long long timestamp = current_timestamp();
        // 将消息存储到Redis缓存中
        redisContext *redis = redisConnect(REDIS_HOST, REDIS_PORT);
        if (redis != NULL && redis->err == 0)
        {
            // 构造Key
            char key[256];
            snprintf(key, sizeof(key), "%lld:%.*s", timestamp, (int)type_size, type);
            // 存储消息内容到Redis
            redisReply *reply = (redisReply *)redisCommand(redis, "SET %s %b", key, content, content_size);
            freeReplyObject(reply);
            // 打印存储结果
            printf("Stored message: %s\n", key);
            // 断开与Redis服务器的连接
            redisFree(redis);
        }
        else
        {
            printf("Failed to connect to Redis server\n");
        }
        // 释放消息
        zmq_msg_close(&identity);
        zmq_msg_close(&empty);
        zmq_msg_close(&message);
    }
    // 关闭zmq的socket和上下文
    zmq_close(socket);
    zmq_ctx_destroy(context);
    return 0;
}


通过 redis-cli 登录数据库查看具体的数据内容。

要通过Redis直接查看数据内容,你可以使用Redis的命令行工具redis-cli来连接到Redis服务器,并执行相应的命令来查看数据。


以下是一些常用的Redis命令,可以帮助你查看数据内容:


查看所有键:使用KEYS *命令可以列出所有的键。

KEYS *


获取键的值:使用GET命令可以获取指定键的值。

GET key

将key替换为你要查看的键的名称。


获取哈希表的字段和值:使用HGETALL命令可以获取指定哈希表的所有字段和值。

HGETALL hash

将hash替换为你要查看的哈希表的名称。


获取列表的元素:使用LRANGE命令可以获取指定列表的指定范围内的元素。

LRANGE list start stop

将list替换为你要查看的列表的名称,start和stop分别替换为范围的起始和结束索引。


获取集合的元素:使用SMEMBERS命令可以获取指定集合的所有元素。

SMEMBERS set

将set替换为你要查看的集合的名称。


获取有序集合的元素:使用ZRANGE命令可以获取指定有序集合的指定范围内的元素。

ZRANGE zset start stop

将zset替换为你要查看的有序集合的名称,start和stop分别替换为范围的起始和结束索引。


这里我使用 KEYS *查看,因为现在只有我存储的少量数据

127.0.0.1:6379> KEYS *
.......
1054) "3673007893:Hello, world!"
1055) "3673008590:"
1056) "3673009630:test"
1057) "3673010538:"
1058) "3673008562:"
1059) "3673010512:client"
1060) "3673008640:Hello, world!"
1061) "3673009571:client"
1062) "3673010513:Hello, world!"
1063) "3673006965:Hello, world!"
1064) "3673008613:Hello, world!"
1065) "3673006999:Hello, world!"


至此可以确认,数据已经从消息队列读取出,并保存到数据库中了。


使用lua 脚本 清理数据内容。

接下来,将设计具体消息内容,key 键种类、过期时间、为了数据干净,现在先要把当前存在的数据清理掉。


因为redis 我没找到直接形如 DEL * 的方式删掉全部,所以干脆通过lua 脚本 来批量删除


使用以下 的Lua脚本来批量删除键:


local keys = redis.call('KEYS', ARGV[1])
for i, key in ipairs(keys) do
    redis.call('DEL', key)
end



将这个修正后的Lua脚本保存到一个文件中,例如delete_keys.lua。


然后,使用以下命令来执行Lua脚本并批量删除键:


redis-cli EVAL "$(cat delete_keys.lua)" 0 prefix:*

将prefix:*替换为实际的键的模式。


这个命令使用了Redis的EVAL命令和Lua脚本。它通过EVAL命令执行Lua脚本,并将键的模式作为参数传递给Lua脚本。Lua脚本使用KEYS命令获取匹配模式的键的列表,并使用DEL命令多次调用来删除每个键。


请注意,使用DEL命令删除键是不可逆的操作,一旦删除就无法恢复。在执行删除操作之前,请确保你已经备份了需要保留的数据。

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
14天前
|
监控 NoSQL Java
场景题:百万数据插入Redis有哪些实现方案?
场景题:百万数据插入Redis有哪些实现方案?
35 1
场景题:百万数据插入Redis有哪些实现方案?
|
26天前
|
缓存 NoSQL Java
大数据-50 Redis 分布式锁 乐观锁 Watch SETNX Lua Redisson分布式锁 Java实现分布式锁
大数据-50 Redis 分布式锁 乐观锁 Watch SETNX Lua Redisson分布式锁 Java实现分布式锁
45 3
大数据-50 Redis 分布式锁 乐观锁 Watch SETNX Lua Redisson分布式锁 Java实现分布式锁
|
8天前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:优化百万数据查询的实战经验
【10月更文挑战第13天】 在处理大规模数据集时,传统的关系型数据库如MySQL可能会遇到性能瓶颈。为了提升数据处理的效率,我们可以结合使用MySQL和Redis,利用两者的优势来优化数据查询。本文将分享一次实战经验,探讨如何通过MySQL与Redis的协同工作来优化百万级数据统计。
26 5
|
14天前
|
缓存 NoSQL Java
Spring Boot与Redis:整合与实战
【10月更文挑战第15天】本文介绍了如何在Spring Boot项目中整合Redis,通过一个电商商品推荐系统的案例,详细展示了从添加依赖、配置连接信息到创建配置类的具体步骤。实战部分演示了如何利用Redis缓存提高系统响应速度,减少数据库访问压力,从而提升用户体验。
40 2
|
26天前
|
消息中间件 缓存 NoSQL
大数据-49 Redis 缓存问题中 穿透、雪崩、击穿、数据不一致、HotKey、BigKey
大数据-49 Redis 缓存问题中 穿透、雪崩、击穿、数据不一致、HotKey、BigKey
41 2
|
26天前
|
缓存 分布式计算 NoSQL
大数据-43 Redis 功能扩展 Lua 脚本 对Redis扩展 eval redis.call redis.pcall
大数据-43 Redis 功能扩展 Lua 脚本 对Redis扩展 eval redis.call redis.pcall
24 2
|
14天前
|
存储 数据采集 监控
将百万数据插入到 Redis,有哪些实现方案
【10月更文挑战第15天】将百万数据插入到 Redis 是一个具有挑战性的任务,但通过合理选择实现方案和进行性能优化,可以高效地完成任务。
52 0
|
27天前
|
存储 NoSQL Redis
redis保存数据的结构-redisobject结构体
`redisObject`结构体是Redis内部数据组织的核心,它通过集成类型标识、引用计数和编码方式等关键信息,实现了数据的高效管理和访问。这种设计允许Redis根据数据的实际需求动态调整存储结构,既保证了内存使用的高效性,也确保了数据操作的灵活性和速度。通过对 `redisObject`的深入了解,可以更好地掌握Redis如何在内存中高效存储和操作数据,进而优化数据库的性能和资源利用。
17 0
|
缓存 NoSQL Redis
Redis命令——脚本
Redis 脚本使用 Lua 解释器来执行脚本。 Reids 2.6 版本通过内嵌支持 Lua 环境。执行脚本的常用命令为 EVAL。
1388 0
|
缓存 NoSQL Redis
redis必杀命令:脚本
题记: Redis 脚本使用 Lua 解释器来执行脚本。 Reids 2.6 版本通过内嵌支持 Lua 环境。执行脚本的常用命令为 EVAL。
1275 0