零拷贝技术原理以及实现

简介: 零拷贝技术原理以及实现

内核态和用户态

内核态:指的是操作系统层面的资源调度,例如内存分配,进程/线程管理调度,硬件驱动,io中断等等.

用户态:指的是软件层面的,对变量的操作,运算等低权限操作,我们所有的软件都可以认为运行在用户态

用户态有着独立的虚拟地址映射,软件只能操作自身进程的变量内存. 由于软件层面也是需要去获取io数据,去创建进程线程的,这个时候,使用语言的函数调用,就会去调用系统的内核函数,从用户态转换成内核态执行.

例如以下代码:

<?php
/**
 * Created by PhpStorm.
 * User: tioncico
 * Date: 20-7-2
 * Time: 下午9:37
 */
$a = 1;//用户态,只能操作该进程的内存
$b = 2;
$c = $a + $b;//用户态,只调用cpu运算,并且结果保存在进程内存中
if (pcntl\_fork()) {//pcntl\_fork调用 内核 fork函数,由用户态转内核态,复制一个新的进程
    echo "hello world";//用户态转内核态,从用户态获取字符串,转到内核态缓冲区并输出.
} else {
    $data = file\_get\_contents("http://www.php20.cn");
    //1:首先程序将网址等,转换成http协议头
    //2:将http协议头字符串从程序缓冲区复制到系统内核socket缓冲区
    //3:从socket缓冲区复制到网卡发送
    //4:接收到数据之后,由网卡复制到系统内核socket缓冲区
    //5:系统内核socket缓冲区复制到程序内存中,并赋值到$data
}

在大部分时间,程序都会运行在用户态上,只有当程序需要获取高权限时,通过一些方法从用户态陷入到内核态执行:

- io相关操作,设置时钟指令,内存操作(申请内存,清理内存)

- 终端,异常,陷入等

- 进程/线程 管理

- 系统调用,调用硬件等

- 用户内存地址的转换,由程序地址转为物理地址映射

零拷贝

在上面,我们简单的了解了用户态和内核态的区别,在用户态中,所有的内存地址都是独立的虚拟地址,如果需要读取外部数据时,将由内核态的缓冲区复制一份到用户态内存中,例如下面的这个例子:

echo file\_get\_contents("./test.txt");//在fpm中执行

它的流程为:

1:从硬盘中读取数据到内核态缓冲区,第一次复制拷贝

2:内核态复制数据到用户态,第二次拷贝

3:用户态获取数据之后,echo 发送数据,复制数据到内核态,socket缓冲区中,第三次拷贝

4:内核态 socket缓冲区中数据复制到网卡中,转成网卡协议发送,第四次拷贝

可以看出,当我们通过http请求一个文件时,会出现4次拷贝.

为什么不直接将硬盘数据复制到用户态?

操作系统会根据读取的文件,预存储到内核态内存中,因为硬盘效率非常慢,所以当有多次相同文件读取请求时,可以将文件数据从内核态缓存中直接复制到用户态内存中,节省文件操作

零拷贝技术就是避免cpu将数据从一块存储位置拷贝到另一块位置,通过以下技术可以实现零拷贝:

mmap


mmap 可以将一个文件预加载到内核空间中,并于用户空间共享内存地址,这样就可以避免数据从内核态复制到用户态中,可节省一次拷贝.例如:

#include <sys/mman.h> /* for mmap and munmap */
#include <sys/types.h> /* for open */
#include <sys/stat.h> /* for open */
#include <fcntl.h>     /* for open */
#include <unistd.h>    /* for lseek and write */
#include <stdio.h>
int main(int argc, char **argv) {
    int fd;
    int file_length = 0;
    char *mmap_address;
    char file_name\[\] = "/Users/tioncico/CLionProjects/cTest/1.txt";
    fd = open(file\_name, O\_RDWR | O\_CREAT, S\_IRUSR | S_IWUSR);//打开文件
    file\_length = lseek(fd, 0L, SEEK\_END);
    mmap\_address = mmap(NULL, file\_length, PROT\_READ, MAP\_SHARED, fd, 0);//mmap映射文件地址
    printf("%s",mmap_address);//假设这里是发送数据
    close(fd);
    munmap(mmap\_address,file\_length);
    return 0;
}

它的流程为:

1:首先将磁盘文件数据读取  file_length 大小(注意,mmap这边大小应该为内核空间数据页大小的倍数,例如4k*2) 到内核空间中.第一次拷贝

2:通过mmap,将内核空间地址映射到用户态地址

3:通过printf(假设是socket网卡发送). 将内核框架数据拷贝到socket缓冲区,第二次拷贝

4:socket缓冲区数据复制到网卡中,第三次拷贝

sendfile

#include<sys/sendfile.h>
ssize\_t senfile(int out\_fd,int in\_fd,off\_t* offset,size_t count);

使用 sendfile函数流程为:

1:首先读取磁盘文件,将数据读取拷贝到内核空间中 ,第一次拷贝

2:将内核空间的内存地址以及偏移量传输到socket缓冲区中

3:socket直接从内核空间读取数据

4:将内核空间的数据通过socket复制到网卡中,第二次拷贝

sendfile只能实现文件->socket,不能由socket到文件

目录
相关文章
|
1月前
|
存储 缓存 算法
零拷贝
服务器在提供文件传输功能时,传统实现方式是通过读取磁盘文件内容,将其加载到用户空间的缓冲区,再通过网络 API 发送至客户端,这个过程涉及多次上下文切换和内存拷贝,导致性能下降。。。
|
2月前
|
存储 监控 Linux
select/poll/epoll优缺点及应用场景
select/poll/epoll优缺点及应用场景
33 1
|
2月前
|
缓存 网络协议 安全
探秘Netty:打造高性能网络通信利器
探秘Netty:打造高性能网络通信利器
54 0
|
3月前
|
消息中间件 Java Linux
面试官:说一下零拷贝技术的实现原理?
面试官:说一下零拷贝技术的实现原理?
527 2
面试官:说一下零拷贝技术的实现原理?
|
3月前
|
Dubbo Java 应用服务中间件
【分布式技术专题】「探索高性能远程通信」基于Netty的分布式通信框架实现(附通信协议和代码)(上)
今天,我要向大家实现一个基于Netty实现的高性能远程通信框架!这个框架利用了 Netty 的强大功能,提供了快速、可靠的远程通信能力。 无论是构建大规模微服务架构还是实现分布式计算,这个分布式通信框架都是一个不可或缺的利器。
121 2
【分布式技术专题】「探索高性能远程通信」基于Netty的分布式通信框架实现(附通信协议和代码)(上)
|
3月前
|
Linux 数据处理
什么是零拷贝
什么是零拷贝
|
9月前
|
消息中间件 存储 Kafka
超硬核,基于mmap和零拷贝实现高效的内存共享(上)
超硬核,基于mmap和零拷贝实现高效的内存共享
|
9月前
|
消息中间件 存储 网络协议
超硬核,基于mmap和零拷贝实现高效的内存共享(下)
超硬核,基于mmap和零拷贝实现高效的内存共享
|
11月前
|
缓存 Java
5.3 零拷贝
5.3 零拷贝
45 1
|
缓存 网络协议 Linux
【计算机操作系统】高性能的奥秘——零拷贝
【计算机操作系统】高性能的奥秘——零拷贝
131 2