redis,memcached,nginx网络组件

简介: redis,memcached,nginx网络组件

网络编程主要关注3个半事件:连接建立(client连接/连接第三方服务);连接断开,消息达到,消息发送完毕。

1 阻塞,非阻塞区别:

1 阻塞io阻塞在哪? 阻塞在网络线程

2 什么决定阻塞?fcntl函数设置阻塞

3 具体内部差异: 网络io分为两个流程,数据准备阶段(网卡拷贝到内核空间),数据拷贝阶段(内核空间拷贝到用户空间),非阻塞是在数据准备阶段返回,但是在第二个阶段也还是阻塞的。

2 epoll

1 为何又多路复用?用一个线程检查多个io事件。

水平触发:io即可是阻塞也可以是非阻塞

边沿触发:只能是非阻塞

2 流程图:

3 epoll数据结构:

struct eventpoll { 
  // ... 
  struct rb_root rbr; // 管理 epoll 监听的事件
  struct list_head rdllist; // 保存着 epoll_wait 返回满⾜条件的事件 
   // ...
}; 
struct epitem { 
  // ... 
  struct rb_node rbn; // 红⿊树节点 
  struct list_head rdllist; // 双向链表节点 
  struct epoll_filefd ffd; // 事件句柄信息 
  struct eventpoll *ep; // 指向所属的eventpoll对象 
  struct epoll_event event; // 注册的事件类型 
  // ...
};  
struct epoll_event { 
  __uint32_t events; 
  epoll_data_t data; // 保存 关联数据
};  
typedef union epoll_data { 
  void *ptr; 
  int fd; 
  uint32_t u32; 
  uint64_t u64;
}epoll_data_t;

4 接口

int epoll_create(int size);

size参数告诉内核这个epoll对象会处理的事件⼤致数量,⽽不是能够处理的事件的最⼤数。在现在linux版本中,这个size参数已经没有意义了;返回:epoll对象句柄;之后针对该epoll的操作需要通过该句柄来标识该epoll对象;

int epoll_ctl(int epfd, int op, int fd, struct epoll_event* event);

epoll_ctl向epoll对象添加、修改或删除事件;返回:0表示成功,-1表示错误,根据errno错误码判断错误类型。

op类型:EPOLL_CTL_ADD 添加新的事件到epoll中

EPOLL_CTL_MOD 修改epoll中的事件

EPOLL_CTL_DEL 删除epoll中的事件

event.events 取值

EPOLLIN 表示该连接上有数据可读(tcp连接远端主动关闭连接,也是可读事件,因为需要处理发送来的FIN包;FIN包就是read 返回 0)

EPOLLOUT 表示该连接上可写发送(主动向上游服务器发起⾮阻塞tcp连接,连接建⽴成功事件相当于可写事件)EPOLLRDHUP 表示tcp连接的远端关闭或半关闭连接

EPOLLPRI 表示连接上有紧急数据需要读

EPOLLERR 表示连接发⽣错误

EPOLLHUP 表示连接被挂起

EPOLLET 将触发⽅式设置为边缘触发,系统默认为⽔平触发

EPOLLONESHOT 表示该事件只处理⼀次,下次需要处理时需重新加⼊epoll

int epoll_wait(int epfd, struct epoll_event* events, int maxevents, int timeout);

收集 epoll 监控的事件中已经发⽣的事件,如果 epoll 中没有任何⼀个事件发⽣,则最多等待 timeout 毫秒后返回。返回:表示当前发⽣的事件个数返回0表示本次没有事件发⽣;返回-1表示出现错误,需要检查errno错误码判断错误类型。

events 这个数组必须在⽤户态分配内存,内核负责把就绪事件复制到该数组中;maxevents 表示本次可以返回的最⼤事件数⽬,⼀般设置为  events  数组的⻓度;timeout表示在没有检测到事件发⽣时最多等待的时间;如果设置为0,检测到rdllist为空⽴刻返回;如果设置为-1,⼀直等待;

5 原理图

3 reactor

定义:

组成:⾮阻塞的io + io多路复⽤;

特征:基于事件循环,以事件驱动或者事件回调的⽅式来实现业务逻辑;

表述:将连接的io处理转化为事件处理;

1 单reactor模型

代表:redis 内存数据库 操作redis当中的数据结构

redis 6.0 多线程

2 单reactor模型 + 任务队列 + 线程池

代表 skynet

3 多reactor

应⽤: memcached accept(fd, backlog) one eventloop per thread

4 多进程

nginx

5 多reactor + 消息队列 + 线程池

业务场景中⽐较多 ⽹络密集型 + 业务密集型

4 tcp转态图

5 epoll处理细节

目录
相关文章
|
6月前
|
网络协议 算法 Java
基于Reactor模型的高性能网络库之Tcpserver组件-上层调度器
TcpServer 是一个用于管理 TCP 连接的类,包含成员变量如事件循环(EventLoop)、连接池(ConnectionMap)和回调函数等。其主要功能包括监听新连接、设置线程池、启动服务器及处理连接事件。通过 Acceptor 接收新连接,并使用轮询算法将连接分配给子事件循环(subloop)进行读写操作。调用链从 start() 开始,经由线程池启动和 Acceptor 监听,最终由 TcpConnection 管理具体连接的事件处理。
242 2
|
6月前
基于Reactor模型的高性能网络库之Tcpconnection组件
TcpConnection 由 subLoop 管理 connfd,负责处理具体连接。它封装了连接套接字,通过 Channel 监听可读、可写、关闭、错误等
191 1
|
9月前
|
NoSQL 安全 Java
深入理解 RedisConnectionFactory:Spring Data Redis 的核心组件
在 Spring Data Redis 中,`RedisConnectionFactory` 是核心组件,负责创建和管理与 Redis 的连接。它支持单机、集群及哨兵等多种模式,为上层组件(如 `RedisTemplate`)提供连接抽象。Spring 提供了 Lettuce 和 Jedis 两种主要实现,其中 Lettuce 因其线程安全和高性能特性被广泛推荐。通过手动配置或 Spring Boot 自动化配置,开发者可轻松集成 Redis,提升应用性能与扩展性。本文深入解析其作用、实现方式及常见问题解决方法,助你高效使用 Redis。
971 4
|
6月前
基于Reactor模型的高性能网络库之Poller(EpollPoller)组件
封装底层 I/O 多路复用机制(如 epoll)的抽象类 Poller,提供统一接口支持多种实现。Poller 是一个抽象基类,定义了 Channel 管理、事件收集等核心功能,并与 EventLoop 绑定。其子类 EPollPoller 实现了基于 epoll 的具体操作,包括事件等待、Channel 更新和删除等。通过工厂方法可创建默认的 Poller 实例,实现多态调用。
353 60
|
6月前
基于Reactor模型的高性能网络库之Channel组件篇
Channel 是事件通道,它绑定某个文件描述符 fd,注册感兴趣的事件(如读/写),并在事件发生时分发给对应的回调函数。
306 60
|
6月前
|
安全 调度
基于Reactor模型的高性能网络库之核心调度器:EventLoop组件
它负责:监听事件(如 I/O 可读写、定时器)、分发事件、执行回调、管理事件源 Channel 等。
366 57
|
6月前
|
缓存 索引
基于Reactor模式的高性能网络库之缓冲区Buffer组件
Buffer 类用于处理 Socket I/O 缓存,负责数据读取、写入及内存管理。通过预分配空间和索引优化,减少内存拷贝与系统调用,提高网络通信效率,适用于 Reactor 模型中的异步非阻塞 IO 处理。
236 3
|
6月前
高性能网络库设计之日志组件
高性能网络库设计之日志组件
207 2
|
5月前
|
运维 监控 安全
计算机网络及其安全组件纲要
本文主要介绍了 “计算机网络及常见组件” 的基本概念,涵盖网卡、IP、MAC、OSI模型、路由器、交换机、防火墙、WAF、IDS、IPS、域名、HTTP、HTTPS、网络拓扑等内容。
325 0
|
7月前
|
安全 Java 程序员
分析Muduo网络库源码中的TcpServer组件工作原理
简言之,TcpServer 在 Muduo 中的角色,就是一位终极交通指挥员,它利用现代计算机网络的魔法,确保数据如同车辆一般,在信息高速公路上自由、安全、高效地流动。
96 0