Redis 单数据多源超高并发下的解决方案

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
云原生多模数据库 Lindorm,多引擎 多规格 0-4节点
简介: Redis 是目前最流行的KV缓存数据库,它简单易用,安全稳定,在互联网行业有着非常广泛的应用。 本文主要给大家分享一下 Redis 在单数据多源访问下的解决思路和方案。

Redis 是目前最流行的KV缓存数据库,它简单易用,安全稳定,在互联网行业有着非常广泛的应用。
本文主要给大家分享一下 Redis 在单数据多源超高并发访问下的解决思路和方案。

前言

Redis 主要解决两个问题:

image
当遇到日活千万,同时百万在线的业务场景时,前端访问直接加载到后台数据库的话,可能顺间压垮底层数据库,导致业务停摆。又或者随着查询条件变多,结合条件复杂化,查询结果的响应时间也无法得到保证,导致用户体验下降,用户流失。为了解决高并发,低延迟的业务场景, Redis 应运而生。

下面我们来看两个场景

image
这是一个线上找房的业务场景,超多的查询条件导致后台必然是一个复杂的查询 SQL,这种场景下是否必须使用 Redis 呢?
答案是否定的,由于线上找房业务并发量低,客户对于业务响应时间要求也没有那么苛刻,大部分的请求可以直接通过动态 SQL 临时查询。当然为了提升用户体验,可以将一些热点的查询结果预缓存到 Redis 里提升用户体验。

我们再来看下这个场景

image
视频应用的查片系统,跟找房系统几乎是一模一样的业务场景,但是并发量要高几个数量级,这个场景就非常适合使用 Redis 作为缓存提升并发访问量,降低响应时间,满足几十万甚至上百万的并发访问需求。由此可见决定是否使用 Redis 的根本要素就是并发量和延迟要求。
下面我们来看一下 Redis 是如何解决互联网极端场景下的并发访问需求的。

超高并发访问下的缓存解决方案

image

这是一个典型的媒体类缓存架构图,发文系统不定期更新媒体库,通过分布式缓存服务将各个最新文章同步到 Redis 缓存,前端应用通过路由层找到相应的数据源访问。各个缓存服务数据不同步。当发生热点事件时,路由层可能将不通地区的访问路由到热点数据所在的缓存服务器,带来瞬间的流量暴涨,极端情况下可能导致服务器宕机,业务受损。那么这种不定期突发流量的场景要如何解决呢?

这里有几个思路:
image

  • 将热点 Key 加前缀打散,实现热数据复制
  • 路由层追加本地缓存,通过多级缓存提升缓存能力
  • 缓存层提供数据副本,提高并发访问能力

第一种方案,可以有效打散热数据,但是热点事件是不定期随机发生,运维压力大,成本高,这只是个头痛医头脚痛医脚的方案。
第二种方案,可以通过追加本地缓存提升缓存能力,但是本地缓存设置多大,刷新频率多高,业务是否能容忍脏读,这些都是无法绕开的问题。
第三种方案,可以追加只读副本来实现数据的复制,但是同样也会带来成本高企,主库负载高等问题。

image
上面这个架构图是一个优化的解决方案,通过主库拉取多个只读从库的分支,对不同的请求源,划分独立的缓存服务。比如手机应用就固定路由到APP数据资源组,WEB 访问就路由到WEB 数据资源组等,并且每个资源组可以提供N个只读副本,提高同源访问下的并发访问能力。这种架构可以提升不同访问源的资源隔离能力,提升多源访问下业务的稳定性和可用性。

这个方案的问题也比较明显:

  • 主库读写性能差
  • 只读副本多,成本高
  • 只读链路过长,管理维护难,运维成本高

我们的客户里最夸张的用到过 1主40只读的架构,来满足类似的业务场景。

阿里云Redis是如何解决这种超高并发访问的问题呢?

image

阿里云重磅推出Redis性能增强版本,通过提升网络IO的并发处理能力,极大的提升了Redis单节点的读写性能,对比社区版本,性能提升3倍。由于保持单 Worker 的处理模式,100% 兼容 Redis 协议。上面的单数据百万QPS 的访问能力轻松达成。本文介绍的媒体类场景可以通过开通性能增强版1主5只读实例实现单数据200w+ QPS,有效缓解突发热点事件带来的流量激增,超高并发访问等行业痛点问题。相比较自建1主40只读的社区版本,同样性能标准的阿里云Redis性能增强版1主5只读架构更稳定,管理更便捷,使用也更方便。

目前阿里云性能增强版已经上线,期待您的使用。

目录
相关文章
|
7月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
7月前
|
数据采集 存储 NoSQL
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
380 67
|
6月前
|
存储 缓存 NoSQL
告别数据僵尸!Redis实现自动清理过期键值对
在数据激增的时代,Redis如同内存管理的智能管家,支持键值对的自动过期功能,实现“数据保鲜”。通过`EXPIRE`设定生命倒计时、`TTL`查询剩余时间,结合惰性删除与定期清理策略,Redis高效维护内存秩序。本文以Python实战演示其过期机制,并提供最佳实践指南,助你掌握数据生命周期管理的艺术,让数据优雅退场。
395 0
|
8月前
|
存储 NoSQL Redis
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 + 无锁架构 + EDA架构 + 异步日志 + 集群架构
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 + 无锁架构 + EDA架构 + 异步日志 + 集群架构
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 +  无锁架构 +  EDA架构  + 异步日志 + 集群架构
|
9月前
|
存储 NoSQL 算法
Redis分片集群中数据是怎么存储和读取的 ?
Redis集群采用的算法是哈希槽分区算法。Redis集群中有16384个哈希槽(槽的范围是 0 -16383,哈希槽),将不同的哈希槽分布在不同的Redis节点上面进行管理,也就是说每个Redis节点只负责一部分的哈希槽。在对数据进行操作的时候,集群会对使用CRC16算法对key进行计算并对16384取模(slot = CRC16(key)%16383),得到的结果就是 Key-Value 所放入的槽,通过这个值,去找到对应的槽所对应的Redis节点,然后直接到这个对应的节点上进行存取操作
|
9月前
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
|
9月前
|
NoSQL Redis
Redis的数据淘汰策略有哪些 ?
Redis 提供 8 种数据淘汰策略: 淘汰易失数据(具有过期时间的数据) 1. volatile-lru(least recently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰 2. volatile-lfu(least frequently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最不经常使用的数据淘汰 3. volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰 4. volatile-random:从已设置过期
|
9月前
|
NoSQL Redis
Redis的数据持久化策略有哪些 ?
Redis 提供了两种方式,实现数据的持久化到硬盘。 1. RDB 持久化(全量),是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 2. AOF持久化(增量),以日志的形式记录服务器所处理的每一个写、删除操作 RDB和AOF一起使用, 在Redis4.0版本支持混合持久化方式 ( 设置 aof-use-rdb-preamble yes )
|
9月前
|
存储 NoSQL Redis
Redis的数据过期策略有哪些 ?
1. 惰性删除 :只会在取出 key 的时候才对数据进行过期检查。这样对 CPU 最友好,但是可能会造成太多过期 key 没有被删除。数据到达过期时间,不做处理。等下次访问该数据时,我们需要判断 a. 如果未过期,返回数据 b. 发现已过期,删除,返回nil 2. 定期删除 : 每隔一段时间抽取一批 key 执行删除过期 key 操作。并且,Redis 底层会通过限制删除操作执行的时长和频率来减少删除操作对 CPU 时间的影响。默认情况下 Redis 定期检查的频率是每秒扫描 10 次,用于定期清除过期键。当然此值还可以通过配置文件进行设置,在 redis.conf 中修改配置“hz”
|
12月前
|
缓存 NoSQL Redis
Redis经典问题:数据并发竞争
数据并发竞争是大流量系统(如火车票系统、微博平台)中常见的问题,可能导致用户体验下降甚至系统崩溃。本文介绍了两种解决方案:1) 加写回操作加互斥锁,查询失败快速返回默认值;2) 保持多个缓存备份,减少并发竞争概率。通过实践案例展示,成功提高了系统的稳定性和性能。

相关产品

  • 云数据库 Tair(兼容 Redis)