Redis学习笔记-高性能IO模型&Redis6.0多线程

本文涉及的产品
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介: Redis学习笔记-高性能IO模型&Redis6.0多线程

前面的文章简单介绍了 Redis 的底层数据结构,合理地使用底层数据结构可以提升 Redis 读写速度,而 Redis 很快的原因主要有 内存(大部分操作是在内存完成的)、数据结构、IO多路复用机制,这篇文章主要探讨一下 Redis高性能IO模型,为什么单线程 Redis 能每秒处理数十万级的数据,以及 Redis6.0 的多线程解决是什么问题。

1.笔记图


2.Redis 单线程含义


  • Redis 的网络 IO 和键值对读写是由一个线程来完成的
  • Redis 其他功能,如持久化、异步删除、集群数据同步等其实都是由额外线程执行

3.Redis单线程设计

3.1 多线程需要解决的问题

  • 多线程设计合理会增加吞吐量(每秒处理的请求),若设计不良好甚至可能会出现吞吐率下降的情况
  • 系统中通常会存在被多线程共享访问的资源
  • 多线程编程模式面临共享资源并发访问控制问题

3.2 单线程 Redis 为什么那么快?

  • 通常单线程处理能力要比多线程差很多,但 Redis 却能使用单线程模型有每秒处理数十万数据级别的能力
  • Redis 大部分操作是在内存完成的
  • Redis 底层数据结构,如 哈希表、跳表、双向链表
  • 多路复用机制

4.多路复用机制

       Redis 多路复用机制在网络 IO 操作中能并发处理大量的客户端请求,实现高吞吐率(每秒处理的请求数)。

4.1 IO 模型

  • 监听客户端请求(bind/listen)
  • 和客户端建立连接(accept)
  • 从socket中读取请求(recv)
  • 解析客户端发送请求(parse)
  • 根据请求类型读取键值数据(get)
  • 返回给客户端(send)

4.2 潜在阻塞点

  • accept:当 Redis 监听到一个客户端有连接请求,但一直未能成功建立起连接时,会阻塞其他客户端和 Redis 建立连接
  • recv:当 Redis 通过 recv() 从一个客户端读取数据时,如果一直没有到达,Redis 也会一直阻塞在 recv()

4.3 socket网络模型非阻塞模式

  • socket()方法:socket()方法会返回主动套接字,然后调用 listen() 方法
  • listen()方法:将主动套接字转化为监听套接字,此时可以用来监听来自客户端的连接请求,可设置 accept() 非阻塞模式
  • accept()方法:最后调用 accept() 方法接收到达的客户端连接,并返回连接套接字,可设置 send()/recv() 非阻塞模式

4.4 基于多路复用的高性能 IO 模型 select/epoll

  • 虽然 Redis 线程可以不用继续等待,但是总得有机制继续在监听套接字上等待后续连接请求,并在有请求时通知 Redis
  • 该机制允许内核中同时存在多个监听套接字和已连接套接字
  • Redis 网络框架调用 epoll 机制,让内核监听这些套接字
  • Redis 线程不会阻塞在某一个特定的监听或已连接的套接字上(即不会阻塞在某个请求)
  • 为了在请求到达时能通知到 Redis 线程,select/epoll 提供了事件的回调机制,针对不同事件的发生调用相应的处理函数
  • 避免 Redis 轮询是否有请求,避免造成CPU资源浪费,select/epoll 一旦监测到 FD 上有请求到达时,就会触发相应的事件

5.Redis 6.0 多线程

5.1 使用多线程原因

  • 随着网络硬件的性能提升,Redis 的性能瓶颈有时会出现在网络 IO 的处理上
  • 单个主线程处理网络请求的速度跟不上底层网络硬件的速度

5.2 对应网络 IO 瓶颈方法

  • 用户态网络协议栈(例如 DPDK)取代内核网络协议栈,让网络请求的处理不用在内核里执行,直接在用户态完成处理就行,该方法需要修改网络源码,可能引入新BUG,导致不稳定,该方法没有采用
  • 采用多个IO线程处理网络请求
  • 阶段一:服务端和客户端建立 Socket 连接,并分配处理线程
  • 阶段二:IO 线程读取并解析请求(有多个 IO 线程在并行处理)
  • 阶段三:主线程执行请求操作
  • 阶段四:IO 线程回写 Socket 和主线程清空全局队列

5.3 Redis6.0 多线程开启方式

  • 需要在 redis.conf 中设置 io-thread-do-reads 配置项为 yes,表示启用多线程
  • 需要在 redis.conf 中设置线程个数。一般来说,线程个数要小于 Redis 实例所在机器的 CPU 核个数,例如,对于一个 8 核的机器来说,Redis 官方建议配置 6IO 线程

5.4 优化建议

       如果你在实际应用中,发现 Redis 实例的 CPU 开销不大,吞吐量却没有提升,可以考虑使用 Redis 6.0 的多线程机制,加速网络处理,进而提升实例的吞吐量。

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
算法 数据处理 Python
Python并发编程:解密异步IO与多线程
本文将深入探讨Python中的并发编程技术,重点介绍异步IO和多线程两种常见的并发模型。通过对比它们的特点、适用场景和实现方式,帮助读者更好地理解并发编程的核心概念,并掌握在不同场景下选择合适的并发模型的方法。
|
2月前
|
存储 缓存 NoSQL
Redis单线程已经很快了6.0引入多线程
Redis单线程已经很快了6.0引入多线程
31 3
|
3月前
|
Java
网络 I/O:单 Selector 多线程(单线程模型)
网络 I/O:单 Selector 多线程(单线程模型)
|
2月前
|
人工智能 JSON 前端开发
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
|
2月前
|
NoSQL 数据处理 调度
【Redis深度专题】「踩坑技术提升」探索Redis 6.0为何必须启用多线程以提升性能与效率
【Redis深度专题】「踩坑技术提升」探索Redis 6.0为何必须启用多线程以提升性能与效率
245 0
|
1天前
|
监控 安全 Java
【多线程学习】深入探究阻塞队列与生产者消费者模型和线程池常见面试题
【多线程学习】深入探究阻塞队列与生产者消费者模型和线程池常见面试题
|
2天前
|
并行计算 数据处理 开发者
Python并发编程:解析异步IO与多线程
本文探讨了Python中的并发编程技术,着重比较了异步IO和多线程两种常见的并发模型。通过详细分析它们的特点、优劣势以及适用场景,帮助读者更好地理解并选择适合自己项目需求的并发编程方式。
|
7天前
|
存储 缓存 NoSQL
为什么Redis使用单线程 性能会优于多线程?
在计算机领域,性能一直都是一个关键的话题。无论是应用开发还是系统优化,我们都需要关注如何在有限的资源下,实现最大程度的性能提升。Redis,作为一款高性能的开源内存数据库,因其出色的单线程性能而备受瞩目。那么,为什么Redis使用单线程性能会优于多线程呢?
20 1
|
2月前
|
NoSQL Java Linux
【Linux IO多路复用 】 Linux 网络编程 认知负荷与Epoll:高性能I-O多路复用的实现与优化
【Linux IO多路复用 】 Linux 网络编程 认知负荷与Epoll:高性能I-O多路复用的实现与优化
66 0
|
2月前
|
NoSQL Java Redis
【问题篇】解决Unable to connect to Redis; nested exception is io.lettuce.core.RedisConnectionException
【问题篇】解决Unable to connect to Redis; nested exception is io.lettuce.core.RedisConnectionException
348 0