4.网络设计与redis、memcached、nginx组件(一)

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 4.网络设计与redis、memcached、nginx组件(一)

网络组件系列文章目录


第四章 网络设计与redis、memcached、nginx组件


文章的思维导图



前言


本文要介绍网络开发当中,常用的网络IO和网络IO处理的数据以及几种常用的reactor 模型


一、网络相关的问题,网络开发中要处理那些问题?


网络操作IO

1.连接建立

2.连接断开;

3.消息到达;

4.消息发送;


以上的四个问题,归根到底还是网络IO问题;网络IO 函数两大特性:IO函数检测状态;IO函数进行操作;

IO函数的检测: 该检测是精确的检测,它能过够通过函数返回值和errno 的值体现出函数的状态;

IO函数的操作: connect listen accept read write 等函数都能够操作对应的数据;


网络中IO 函数本身就被检测功能和操作功能。


连接建立

连接建立分为主动建立和被动建立连接; 主动建立连接,服务器和第三方通过connet 建立连接;被动建立连接,服务器 需要socket bind listen acceopt 监听客户端;


connect,listen accept是关于网络的连接建立。accept检测全连接队列中是否有tcb,如果有则从中取出一个节点,返回一个对象clientfd,以及客户端的IP地址。connect是对于客户端而言,如果客户端收到ACK,即连接建立成功。(对应三次握手)


连接断开

连接断开范围主动断开和被动断开; 主动断开: 主动调用 close() 或shutdown() 被动i断开: 通过read 和write返回值和状态检测


消息到达

网络中消息发送一般使用read() 读取数据; read 返回值为-1 且errno == EWOULDBLOCK 说明read buffer 为空。


消息发送

网络中消息发送一般使用write(); write 返回值为-1 且errno == EWOULDBLOCK 说明writebuf 满了。


read是把数据从内核态read buffe拷贝到用户态中,当期为0代表read buffer中读到EOF,通过read 返回值和errno 确定read buffer 状态

write是把数据从用户态拷贝到内核态write buffe中  通过write 返回值和errno 确定write buffer 状态。

网络设备中读写理解

以电脑CPU为中心。从外界的设备(键盘,磁盘等等)向CPU传递信息就是“读操作”,由CPU向外界设备(屏幕,磁盘等等)传递信息就是“写操作”。

客户端:读端 ----- -- 服务端:写端(write buffer);                           
客户端 写端--------服务端:读端(read buffer):


网络操作IO特性

操作IO函数分为阻塞和非阻塞。

阻塞位置: 阻塞在网络线程,连接的fd 阻塞属性决定了IO函数是否阻塞


阻塞非阻塞区别: 在数据准备阶段。阻塞IO在系统调用read 数据的时候,readbuffer 为空,则阻塞追到数据准备好。阻塞到内核当中。非阻塞 数据准备阶段无论是否有数据系统调用就立刻返回。

1e4bf8a9c2aaea7201b220560d2b8899_ee457110576d4d77a5a8d423c7423560.png


二、网络中IO检测


IO函数检测

IO函数本身可以检测 IO的状态;但是只能检测一个 fd 对应的状态;


IO MULTIPLXING

只检测IP的就绪状态,同时可以检测多条链路的就绪状态;可以检测多个IO的就绪状态,他从来不操作IO;

IO 多路复用的检测是笼统的检测只能检测出可读、可写、错误、断开等笼统的事件;

IO多路复用

IO多路复用是系统调用的数据准备阶段


EPOLL 原理图


调用 epoll_create 会创建一个 epoll 对象;调用epoll_ctl 添加到 epoll 中的事件都会与网卡驱动程序建立回

调关系,相应事件触发时会调用回调函数( ep_poll_callback ),将触发的事件拷贝到 rdlist 双向

链表中;调用 epoll_wait 将会把 rdlist 中就绪事件拷贝到用户态中;


EPOLL

代码如下(示例): epoll 中相关的结构

struct eventpoll {
// ...
struct rb_root rbr; // 管理 epoll 监听的事件
struct list_head rdllist; // 保存着 epoll_wait
返回满⾜条件的事件
// ...
};
struct epitem {
// ...
struct rb_node rbn; // 红⿊树节点
struct list_head rdllist; // 双向链表节点
struct epoll_filefd ffd; // 事件句柄信息
struct eventpoll *ep; // 指向所属的eventpoll对
struct epoll_event event; // 注册的事件类型
// ...
};
struct epoll_event {   // 事件结构体 把事件类型和句柄关联
__uint32_t events; // epollin epollout  epollet(边缘触发)
epoll_data_t data; // 保存 关联数据
};
typedef union epoll_data {
void *ptr;
int fd;
uint32_t u32;
uint64_t u64;
}epoll_data_t;


2.EPOLL 函数

  1. 创建epoll对象,每个线程当中只有一个epoll 对象
int epoll_create(int size);


该处使用的url网络请求的数据。


  1. 操作epoll 事件, 节点存储在红黑树中
    操作方法:
    EPOLL_CTL_ADD
    EPOLL_CTL_MOD
    EPOLL_CTL_DEL


操作的事件类型

event.events:

EPOLLIN 注册读事件

EPOLLOUT 注册写事件

EPOLLET 注册边缘触发模式,默认是水平触发


int epoll_ctl(int epfd, int op, int fd, struct epoll_event* event);
  1. 获取就绪事件,把就绪事件从内核中copy 到用户态度。内核中就绪事件存储在双向链表中
int epoll_wait(int epfd, struct epoll_event* events, int maxevents, int timeout);


获取就绪事件状态

events[i].events:

EPOLLIN 触发读事件

EPOLLOUT 触发写事件

EPOLLERR 连接发生错误

EPOLLRDHUP 连接读端关闭

EPOLLHUP 连接双端关闭


epfd: epoll 对象

struct epoll_event* events: 内核中copy 就绪事件存储在用户态地址

int maxevents 预取就绪事件的个数


timeout : 设置此值可以产生阻塞和非阻塞的性质, IO多路复用没有阻塞状态可以通过timeout 值设置出现对应的特性

timeout = -1 一直阻塞直到网络事件到达;

imeout = 0 不管是否有事件就绪立刻返回;

timeout = 1000 最多等待 1 s,如果1 s内没有事件触发则返回;


总结


提示:这里对文章进行总结:

略:二归的时候写感想

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
打赏
0
0
0
0
0
分享
相关文章
基于Reactor模型的高性能网络库之Tcpserver组件-上层调度器
TcpServer 是一个用于管理 TCP 连接的类,包含成员变量如事件循环(EventLoop)、连接池(ConnectionMap)和回调函数等。其主要功能包括监听新连接、设置线程池、启动服务器及处理连接事件。通过 Acceptor 接收新连接,并使用轮询算法将连接分配给子事件循环(subloop)进行读写操作。调用链从 start() 开始,经由线程池启动和 Acceptor 监听,最终由 TcpConnection 管理具体连接的事件处理。
32 2
|
9天前
基于Reactor模型的高性能网络库之Tcpconnection组件
TcpConnection 由 subLoop 管理 connfd,负责处理具体连接。它封装了连接套接字,通过 Channel 监听可读、可写、关闭、错误等
29 1
|
12天前
|
基于Reactor模式的高性能网络库之缓冲区Buffer组件
Buffer 类用于处理 Socket I/O 缓存,负责数据读取、写入及内存管理。通过预分配空间和索引优化,减少内存拷贝与系统调用,提高网络通信效率,适用于 Reactor 模型中的异步非阻塞 IO 处理。
41 3
|
13天前
基于Reactor模型的高性能网络库之Poller(EpollPoller)组件
封装底层 I/O 多路复用机制(如 epoll)的抽象类 Poller,提供统一接口支持多种实现。Poller 是一个抽象基类,定义了 Channel 管理、事件收集等核心功能,并与 EventLoop 绑定。其子类 EPollPoller 实现了基于 epoll 的具体操作,包括事件等待、Channel 更新和删除等。通过工厂方法可创建默认的 Poller 实例,实现多态调用。
146 60
|
13天前
|
基于Reactor模型的高性能网络库之核心调度器:EventLoop组件
它负责:监听事件(如 I/O 可读写、定时器)、分发事件、执行回调、管理事件源 Channel 等。
120 57
|
14天前
高性能网络库设计之日志组件
高性能网络库设计之日志组件
37 2
|
14天前
基于Reactor模型的高性能网络库之Channel组件篇
Channel 是事件通道,它绑定某个文件描述符 fd,注册感兴趣的事件(如读/写),并在事件发生时分发给对应的回调函数。
130 60
分析Muduo网络库源码中的TcpServer组件工作原理
简言之,TcpServer 在 Muduo 中的角色,就是一位终极交通指挥员,它利用现代计算机网络的魔法,确保数据如同车辆一般,在信息高速公路上自由、安全、高效地流动。
28 0
Vue加载网络组件(远程组件)
【10月更文挑战第23天】在 Vue 中实现加载网络组件(远程组件)可以通过多种方式来完成。
redis,memcached,nginx网络组件
redis,memcached,nginx网络组件
74 0
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问