一文彻底搞定Redis与MySQL的数据同步

本文涉及的产品
RDS MySQL DuckDB 分析主实例,基础系列 4核8GB
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
RDS AI 助手,专业版
简介: 【10月更文挑战第21天】本文介绍了 Redis 与 MySQL 数据同步的原因及实现方式。同步的主要目的是为了优化性能和保持数据一致性。实现方式包括基于数据库触发器、应用层双写和使用消息队列。每种方式都有其优缺点,需根据具体场景选择合适的方法。此外,文章还强调了数据同步时需要注意的数据一致性、性能优化和异常处理等问题。

一、为什么要进行 Redis 与 MySQL 数据同步


  1. 性能优化
  • MySQL 是关系型数据库,数据存储和读取相对复杂。Redis 是内存数据库,读写速度极快。将热点数据存储在 Redis 中,可以大大提高系统的访问速度。例如,在一个电商系统中,商品的基本信息(如名称、价格等)如果频繁被用户访问,将这些信息存储在 Redis 中,用户查询时可以快速响应。
  1. 数据一致性需求
  • 虽然 Redis 和 MySQL 存储的数据有不同的用途,但在很多场景下,它们的数据需要保持一定程度的一致性。比如,当 MySQL 中的商品库存发生变化时,Redis 中缓存的库存信息也需要相应更新,否则可能会导致数据不一致的问题,如超卖现象。


二、数据同步的实现方式


(一)基于数据库的触发器


  1. 原理
  • 可以在 MySQL 数据库中创建触发器,当表中的数据发生插入、更新或删除操作时,触发器会自动执行一段代码。这段代码可以通过相关的 Redis 客户端库与 Redis 进行通信,将变化的数据同步到 Redis 中。
  1. 示例
  • 假设我们有一个名为products的 MySQL 表,其中包含idnameprice字段。我们要在插入数据时同步到 Redis。首先,我们需要创建一个 Redis 连接:


import redis
   r = redis.Redis(host='localhost', port=6379, db=0)


  • 然后在 MySQL 中创建触发器。以下是一个简单的INSERT触发器示例(假设使用的是 MySQL 数据库):


DELIMITER //
   CREATE TRIGGER sync_product_insert AFTER INSERT ON products
   FOR EACH ROW
   BEGIN
       SET @product_key = CONCAT('product:', NEW.id);
       SET @product_name = NEW.name;
       SET @product_price = NEW.price;
       SET @redis_command = CONCAT('HMSET ', @product_key,'name ', @product_name,'price ', @product_price);
       SELECT sys_exec(@redis_command); 
   END;
   //
   DELIMITER ;


  • 这里使用了sys_exec函数来执行外部命令,实际上是通过 Redis 客户端工具(假设系统中有合适的配置来执行外部命令)来执行HMSET命令将新插入的产品数据同步到 Redis 中。不过这种方式可能会受到安全和性能的限制,在实际生产环境中需要谨慎使用。


(二)应用层双写


  1. 原理
  • 在应用程序代码中,当对 MySQL 进行数据操作(插入、更新、删除)时,同时对 Redis 进行相应的数据更新操作。这种方式的好处是灵活性高,开发者可以根据具体的业务逻辑来决定如何同步数据。
  1. 示例
  • 以 Python 的 Django 框架为例,假设我们有一个Product模型类,并且希望在保存产品数据时同步到 Redis。首先在models.py文件中定义模型:


from django.db import models
   class Product(models.Model):
       name = models.CharField(max_length=100)
       price = models.DecimalField(max_length=10, decimal_places=2, max_digits=10)


  • 然后在保存数据的方法中添加 Redis 同步代码。可以在views.py或者模型的save方法中添加:


import redis
   r = redis.Redis(host='localhost', port=6379, db=0)
   def save_product(request):
       product_name = request.POST.get('name')
       product_price = request.POST.get('price')
       new_product = Product(name=product_name, price=product_price)
       new_product.save()
       product_key = f"product:{new_product.id}"
       r.hset(product_key, "name", product_name)
       r.hset(product_key, "price", product_price)
       return HttpResponse("Product saved and synced to Redis")


  • 这种方式的缺点是代码耦合度较高,如果有多个地方需要对数据进行操作,就需要在每个地方都添加同步代码。


(三)使用消息队列


  1. 原理
  • 当 MySQL 中的数据发生变化时,通过消息队列发送一条消息,消息中包含数据变化的相关信息(如操作类型、表名、主键等)。然后有一个独立的消费者进程从消息队列中获取消息,并根据消息内容对 Redis 进行数据同步操作。这种方式解耦了数据的产生和处理过程,提高了系统的可扩展性和可靠性。
  1. 示例
  • 以 RabbitMQ 为例,首先在应用程序中,当 MySQL 数据发生变化时,发送消息到 RabbitMQ。假设我们使用 Python 的pika库来操作 RabbitMQ:


import pika
   def send_message_to_queue(data_change_info):
       connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
       channel = connection.channel()
       channel.queue_declare(queue='data_sync_queue')
       channel.basic_publish(exchange='', routing_key='data_sync_queue', body=data_change_info)
       connection.close()


  • 然后创建一个消费者来接收消息并同步数据到 Redis。同样使用pika库:


import pika
   import redis
   r = redis.Redis(host='localhost', port=6379, db=0)
   def callback(ch, method, properties, body):
       data_change_info = body.decode('utf - 8')
       # 根据消息内容进行Redis数据同步操作,这里只是示例,实际需要解析消息内容
       print("Received:", data_change_info)
       # 假设消息内容包含操作类型和产品ID,进行简单的同步
       operation_type, product_id = data_change_info.split(":")
       if operation_type == "insert":
           # 假设根据产品ID从MySQL中获取数据并同步到Redis,这里省略获取数据的过程
           product_name = "Sample Name"
           product_price = 10.0
           product_key = f"product:{product_id}"
           r.hset(product_key, "name", product_name)
           r.hset(product_key, "price", product_price)
   connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
   channel = connection.channel()
   channel.queue_declare(queue='data_sync_queue')
   channel.basic_consume(queue='data_sync_queue', on_message_callback=callback, auto_ack=True)
   channel.start_consuming()


  • 这种方式需要额外维护消息队列系统,但在高并发和复杂系统中能够更好地保证数据同步的稳定性和效率。


三、数据同步的注意事项


  1. 数据一致性问题的处理
  • 由于 Redis 和 MySQL 的数据同步可能存在延迟,在一些对数据一致性要求极高的场景下,需要考虑如何处理可能出现的数据不一致情况。例如,可以采用分布式事务或者补偿机制来尽量减少数据不一致带来的影响。
  1. 性能优化
  • 在进行数据同步时,要注意不要因为频繁的同步操作而影响系统的整体性能。例如,在使用消息队列时,要合理设置消息的消费速度,避免消息堆积影响系统的响应时间。同时,对于频繁读取但很少更新的数据,可以适当延长同步周期,以减少不必要的同步操作。
  1. 异常处理
  • 在数据同步过程中,可能会出现网络故障、Redis 或 MySQL 服务故障等情况。需要在代码中添加完善的异常处理机制,例如,当 Redis 连接失败时,可以尝试重新连接或者将数据同步操作放入重试队列中,等待服务恢复后再进行同步。
相关实践学习
自建数据库迁移到云数据库
本场景将引导您将网站的自建数据库平滑迁移至云数据库RDS。通过使用RDS,您可以获得稳定、可靠和安全的企业级数据库服务,可以更加专注于发展核心业务,无需过多担心数据库的管理和维护。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
6月前
|
缓存 NoSQL 关系型数据库
MySQL 与 Redis 如何保证双写一致性?
我是小假 期待与你的下一次相遇 ~
670 7
|
9月前
|
关系型数据库 应用服务中间件 nginx
Docker一键安装中间件(RocketMq、Nginx、MySql、Minio、Jenkins、Redis)
本系列脚本提供RocketMQ、Nginx、MySQL、MinIO、Jenkins和Redis的Docker一键安装与配置方案,适用于快速部署微服务基础环境。
|
11月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
6月前
|
NoSQL 算法 Redis
【Docker】(3)学习Docker中 镜像与容器数据卷、映射关系!手把手带你安装 MySql主从同步 和 Redis三主三从集群!并且进行主从切换与扩容操作,还有分析 哈希分区 等知识点!
Union文件系统(UnionFS)是一种**分层、轻量级并且高性能的文件系统**,它支持对文件系统的修改作为一次提交来一层层的叠加,同时可以将不同目录挂载到同一个虚拟文件系统下(unite several directories into a single virtual filesystem) Union 文件系统是 Docker 镜像的基础。 镜像可以通过分层来进行继承,基于基础镜像(没有父镜像),可以制作各种具体的应用镜像。
723 8
|
11月前
|
消息中间件 缓存 NoSQL
基于Spring Data Redis与RabbitMQ实现字符串缓存和计数功能(数据同步)
总的来说,借助Spring Data Redis和RabbitMQ,我们可以轻松实现字符串缓存和计数的功能。而关键的部分不过是一些"厨房的套路",一旦你掌握了这些套路,那么你就像厨师一样可以准备出一道道饕餮美食了。通过这种方式促进数据处理效率无疑将大大提高我们的生产力。
339 32
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
|
消息中间件 缓存 NoSQL
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)
|
缓存 NoSQL 关系型数据库
Redis与MySQL的数据一致性
在高并发环境下,保持 Redis 和 MySQL 的数据一致性是一个复杂但重要的问题。通过采用读写穿透、写穿透、分布式锁、双写一致性保障和延时双删策略,可以有效地减少数据不一致的风险,确保系统的稳定性和可靠性。通过合理的缓存策略和数据同步机制,可以显著提升系统的性能和用户体验。
715 22
|
NoSQL 关系型数据库 Redis
《docker高级篇(大厂进阶):1.Docker复杂安装详说》包括:安装mysql主从复制、安装redis集群
《docker高级篇(大厂进阶):1.Docker复杂安装详说》包括:安装mysql主从复制、安装redis集群
391 14
|
关系型数据库 MySQL 应用服务中间件
《docker基础篇:8.Docker常规安装简介》包括:docker常规安装总体步骤、安装tomcat、安装mysql、安装redis
《docker基础篇:8.Docker常规安装简介》包括:docker常规安装总体步骤、安装tomcat、安装mysql、安装redis
457 7

推荐镜像

更多