redis,memcached,nginx网络组件

简介: redis,memcached,nginx网络组件

网络编程主要关注3个半事件:连接建立(client连接/连接第三方服务);连接断开,消息达到,消息发送完毕。

1 阻塞,非阻塞区别:

1 阻塞io阻塞在哪? 阻塞在网络线程

2 什么决定阻塞?fcntl函数设置阻塞

3 具体内部差异: 网络io分为两个流程,数据准备阶段(网卡拷贝到内核空间),数据拷贝阶段(内核空间拷贝到用户空间),非阻塞是在数据准备阶段返回,但是在第二个阶段也还是阻塞的。

2 epoll

1 为何又多路复用?用一个线程检查多个io事件。

水平触发:io即可是阻塞也可以是非阻塞

边沿触发:只能是非阻塞

2 流程图:

3 epoll数据结构:

struct eventpoll { 
  // ... 
  struct rb_root rbr; // 管理 epoll 监听的事件
  struct list_head rdllist; // 保存着 epoll_wait 返回满⾜条件的事件 
   // ...
}; 
struct epitem { 
  // ... 
  struct rb_node rbn; // 红⿊树节点 
  struct list_head rdllist; // 双向链表节点 
  struct epoll_filefd ffd; // 事件句柄信息 
  struct eventpoll *ep; // 指向所属的eventpoll对象 
  struct epoll_event event; // 注册的事件类型 
  // ...
};  
struct epoll_event { 
  __uint32_t events; 
  epoll_data_t data; // 保存 关联数据
};  
typedef union epoll_data { 
  void *ptr; 
  int fd; 
  uint32_t u32; 
  uint64_t u64;
}epoll_data_t;

4 接口

int epoll_create(int size);

size参数告诉内核这个epoll对象会处理的事件⼤致数量,⽽不是能够处理的事件的最⼤数。在现在linux版本中,这个size参数已经没有意义了;返回:epoll对象句柄;之后针对该epoll的操作需要通过该句柄来标识该epoll对象;

int epoll_ctl(int epfd, int op, int fd, struct epoll_event* event);

epoll_ctl向epoll对象添加、修改或删除事件;返回:0表示成功,-1表示错误,根据errno错误码判断错误类型。

op类型:EPOLL_CTL_ADD 添加新的事件到epoll中

EPOLL_CTL_MOD 修改epoll中的事件

EPOLL_CTL_DEL 删除epoll中的事件

event.events 取值

EPOLLIN 表示该连接上有数据可读(tcp连接远端主动关闭连接,也是可读事件,因为需要处理发送来的FIN包;FIN包就是read 返回 0)

EPOLLOUT 表示该连接上可写发送(主动向上游服务器发起⾮阻塞tcp连接,连接建⽴成功事件相当于可写事件)EPOLLRDHUP 表示tcp连接的远端关闭或半关闭连接

EPOLLPRI 表示连接上有紧急数据需要读

EPOLLERR 表示连接发⽣错误

EPOLLHUP 表示连接被挂起

EPOLLET 将触发⽅式设置为边缘触发,系统默认为⽔平触发

EPOLLONESHOT 表示该事件只处理⼀次,下次需要处理时需重新加⼊epoll

int epoll_wait(int epfd, struct epoll_event* events, int maxevents, int timeout);

收集 epoll 监控的事件中已经发⽣的事件,如果 epoll 中没有任何⼀个事件发⽣,则最多等待 timeout 毫秒后返回。返回:表示当前发⽣的事件个数返回0表示本次没有事件发⽣;返回-1表示出现错误,需要检查errno错误码判断错误类型。

events 这个数组必须在⽤户态分配内存,内核负责把就绪事件复制到该数组中;maxevents 表示本次可以返回的最⼤事件数⽬,⼀般设置为  events  数组的⻓度;timeout表示在没有检测到事件发⽣时最多等待的时间;如果设置为0,检测到rdllist为空⽴刻返回;如果设置为-1,⼀直等待;

5 原理图

3 reactor

定义:

组成:⾮阻塞的io + io多路复⽤;

特征:基于事件循环,以事件驱动或者事件回调的⽅式来实现业务逻辑;

表述:将连接的io处理转化为事件处理;

1 单reactor模型

代表:redis 内存数据库 操作redis当中的数据结构

redis 6.0 多线程

2 单reactor模型 + 任务队列 + 线程池

代表 skynet

3 多reactor

应⽤: memcached accept(fd, backlog) one eventloop per thread

4 多进程

nginx

5 多reactor + 消息队列 + 线程池

业务场景中⽐较多 ⽹络密集型 + 业务密集型

4 tcp转态图

5 epoll处理细节

目录
相关文章
|
1月前
|
XML 网络协议 物联网
基于surging的木舟IOT平台如何添加网络组件
【8月更文挑战第30天】在基于 Surging 的木舟 IOT 平台中添加网络组件需经历八个步骤:首先理解 Surging 及平台架构;其次明确组件需求,选择合适技术库;接着创建项目并配置;然后设计实现网络功能;再将组件集成至平台;接着进行详尽测试;最后根据反馈持续优化与维护。具体实施时应参照最新文档调整。
50 10
|
1天前
|
NoSQL 网络协议 Linux
Redis的实现一:c、c++的网络通信编程技术,先实现server和client的通信
本文介绍了使用C/C++进行网络通信编程的基础知识,包括创建socket、设置套接字选项、绑定地址、监听连接以及循环接受和处理客户端请求的基本步骤。
14 6
|
1月前
|
NoSQL 关系型数据库 Redis
mall在linux环境下的部署(基于Docker容器),Docker安装mysql、redis、nginx、rabbitmq、elasticsearch、logstash、kibana、mongo
mall在linux环境下的部署(基于Docker容器),docker安装mysql、redis、nginx、rabbitmq、elasticsearch、logstash、kibana、mongodb、minio详细教程,拉取镜像、运行容器
mall在linux环境下的部署(基于Docker容器),Docker安装mysql、redis、nginx、rabbitmq、elasticsearch、logstash、kibana、mongo
|
1天前
|
存储 监控 NoSQL
Redis的实现二: c、c++的网络通信编程技术,让服务器处理多个client
本文讨论了在C/C++中实现服务器处理多个客户端的技术,重点介绍了事件循环和非阻塞IO的概念,以及如何在Linux上使用epoll来高效地监控和管理多个文件描述符。
8 0
|
2月前
|
C++
C++ Qt开发:QUdpSocket网络通信组件
QUdpSocket是Qt网络编程中一个非常有用的组件,它提供了在UDP协议下进行数据发送和接收的能力。通过简单的方法和信号,可以轻松实现基于UDP的网络通信。不过,需要注意的是,UDP协议本身不保证数据的可靠传输,因此在使用QUdpSocket时,可能需要在应用层实现一些机制来保证数据的完整性和顺序,或者选择在适用的场景下使用UDP协议。
89 2
|
2月前
|
存储 NoSQL Redis
pyhon之对memcached及redis操作
pyhon之对memcached及redis操作
|
2月前
|
缓存 负载均衡 NoSQL
【Azure Redis】Azure Redis添加了内部虚拟网络后,其他区域的主机通过虚拟网络对等互连访问失败
【Azure Redis】Azure Redis添加了内部虚拟网络后,其他区域的主机通过虚拟网络对等互连访问失败
|
5月前
|
Linux Memcache
Linux - 安装memcached
Linux - 安装memcached
103 0
Linux - 安装memcached
|
4月前
|
缓存 Java Spring
SpringBoot配置第三方专业缓存技术Memcached 下载 安装 整合测试 2024年5000字详解
SpringBoot配置第三方专业缓存技术Memcached 下载 安装 整合测试 2024年5000字详解
41 0
|
11月前
|
Docker 容器
Docker下安装memcached
Docker下安装memcached
137 0