零拷贝技术原理以及实现

简介: 零拷贝技术原理以及实现

内核态和用户态

内核态:指的是操作系统层面的资源调度,例如内存分配,进程/线程管理调度,硬件驱动,io中断等等.

用户态:指的是软件层面的,对变量的操作,运算等低权限操作,我们所有的软件都可以认为运行在用户态

用户态有着独立的虚拟地址映射,软件只能操作自身进程的变量内存. 由于软件层面也是需要去获取io数据,去创建进程线程的,这个时候,使用语言的函数调用,就会去调用系统的内核函数,从用户态转换成内核态执行.

例如以下代码:

<?php
/**
 * Created by PhpStorm.
 * User: tioncico
 * Date: 20-7-2
 * Time: 下午9:37
 */
$a = 1;//用户态,只能操作该进程的内存
$b = 2;
$c = $a + $b;//用户态,只调用cpu运算,并且结果保存在进程内存中
if (pcntl\_fork()) {//pcntl\_fork调用 内核 fork函数,由用户态转内核态,复制一个新的进程
    echo "hello world";//用户态转内核态,从用户态获取字符串,转到内核态缓冲区并输出.
} else {
    $data = file\_get\_contents("http://www.php20.cn");
    //1:首先程序将网址等,转换成http协议头
    //2:将http协议头字符串从程序缓冲区复制到系统内核socket缓冲区
    //3:从socket缓冲区复制到网卡发送
    //4:接收到数据之后,由网卡复制到系统内核socket缓冲区
    //5:系统内核socket缓冲区复制到程序内存中,并赋值到$data
}

在大部分时间,程序都会运行在用户态上,只有当程序需要获取高权限时,通过一些方法从用户态陷入到内核态执行:

- io相关操作,设置时钟指令,内存操作(申请内存,清理内存)

- 终端,异常,陷入等

- 进程/线程 管理

- 系统调用,调用硬件等

- 用户内存地址的转换,由程序地址转为物理地址映射

零拷贝

在上面,我们简单的了解了用户态和内核态的区别,在用户态中,所有的内存地址都是独立的虚拟地址,如果需要读取外部数据时,将由内核态的缓冲区复制一份到用户态内存中,例如下面的这个例子:

echo file\_get\_contents("./test.txt");//在fpm中执行

它的流程为:

1:从硬盘中读取数据到内核态缓冲区,第一次复制拷贝

2:内核态复制数据到用户态,第二次拷贝

3:用户态获取数据之后,echo 发送数据,复制数据到内核态,socket缓冲区中,第三次拷贝

4:内核态 socket缓冲区中数据复制到网卡中,转成网卡协议发送,第四次拷贝

可以看出,当我们通过http请求一个文件时,会出现4次拷贝.

为什么不直接将硬盘数据复制到用户态?

操作系统会根据读取的文件,预存储到内核态内存中,因为硬盘效率非常慢,所以当有多次相同文件读取请求时,可以将文件数据从内核态缓存中直接复制到用户态内存中,节省文件操作

零拷贝技术就是避免cpu将数据从一块存储位置拷贝到另一块位置,通过以下技术可以实现零拷贝:

mmap


mmap 可以将一个文件预加载到内核空间中,并于用户空间共享内存地址,这样就可以避免数据从内核态复制到用户态中,可节省一次拷贝.例如:

#include <sys/mman.h> /* for mmap and munmap */
#include <sys/types.h> /* for open */
#include <sys/stat.h> /* for open */
#include <fcntl.h>     /* for open */
#include <unistd.h>    /* for lseek and write */
#include <stdio.h>
int main(int argc, char **argv) {
    int fd;
    int file_length = 0;
    char *mmap_address;
    char file_name\[\] = "/Users/tioncico/CLionProjects/cTest/1.txt";
    fd = open(file\_name, O\_RDWR | O\_CREAT, S\_IRUSR | S_IWUSR);//打开文件
    file\_length = lseek(fd, 0L, SEEK\_END);
    mmap\_address = mmap(NULL, file\_length, PROT\_READ, MAP\_SHARED, fd, 0);//mmap映射文件地址
    printf("%s",mmap_address);//假设这里是发送数据
    close(fd);
    munmap(mmap\_address,file\_length);
    return 0;
}

它的流程为:

1:首先将磁盘文件数据读取  file_length 大小(注意,mmap这边大小应该为内核空间数据页大小的倍数,例如4k*2) 到内核空间中.第一次拷贝

2:通过mmap,将内核空间地址映射到用户态地址

3:通过printf(假设是socket网卡发送). 将内核框架数据拷贝到socket缓冲区,第二次拷贝

4:socket缓冲区数据复制到网卡中,第三次拷贝

sendfile

#include<sys/sendfile.h>
ssize\_t senfile(int out\_fd,int in\_fd,off\_t* offset,size_t count);

使用 sendfile函数流程为:

1:首先读取磁盘文件,将数据读取拷贝到内核空间中 ,第一次拷贝

2:将内核空间的内存地址以及偏移量传输到socket缓冲区中

3:socket直接从内核空间读取数据

4:将内核空间的数据通过socket复制到网卡中,第二次拷贝

sendfile只能实现文件->socket,不能由socket到文件

目录
相关文章
|
存储 监控 Linux
深入理解epoll:高效I/O多路复用的核心技术(上)
深入理解epoll:高效I/O多路复用的核心技术
|
1月前
|
存储 缓存 算法
零拷贝
零拷贝
25 1
零拷贝
|
2月前
|
安全 NoSQL Java
一文搞懂网络通信的基石✅IO模型与零拷贝
【10月更文挑战第1天】本文深入探讨了网络通信中的IO模型及其优化方法——零拷贝技术。首先介绍了IO模型的概念及五种常见类型:同步阻塞、同步非阻塞、多路复用、信号驱动和异步IO模型。文章详细分析了每种模型的特点和适用场景,特别是多路复用和异步IO在高并发场景中的优势。接着介绍了零拷贝技术,通过DMA直接进行数据传输,避免了多次CPU拷贝,进一步提升了效率。最后总结了各种模型的优缺点,并提供了相关的代码示例和资源链接。
一文搞懂网络通信的基石✅IO模型与零拷贝
|
2月前
|
前端开发 Java Linux
《Netty 底层技术魔法:揭秘高性能网络编程框架》
《Netty 底层技术魔法:揭秘高性能网络编程框架》深入解析 Netty 的核心技术,涵盖 Java NIO、非阻塞 I/O、事件循环、多路复用器、通道、处理器、管道、字节容器、线程模型、Future 和 Promise 以及零拷贝技术,助力构建高效、可靠的网络应用。
52 0
|
6月前
|
存储 监控 Linux
select/poll/epoll优缺点及应用场景
select/poll/epoll优缺点及应用场景
103 1
|
6月前
|
缓存 网络协议 安全
探秘Netty:打造高性能网络通信利器
探秘Netty:打造高性能网络通信利器
135 0
|
编解码 Java 应用服务中间件
“超越极限 - 如何使用 Netty 高效处理大型数据?“ - 掌握 Netty 技巧,轻松应对海量数据处理!
“超越极限 - 如何使用 Netty 高效处理大型数据?“ - 掌握 Netty 技巧,轻松应对海量数据处理!
226 0
|
7月前
|
消息中间件 Java Linux
面试官:说一下零拷贝技术的实现原理?
面试官:说一下零拷贝技术的实现原理?
558 2
面试官:说一下零拷贝技术的实现原理?
|
7月前
|
Linux 数据处理
什么是零拷贝
什么是零拷贝
|
缓存 Java
5.3 零拷贝
5.3 零拷贝
55 1