【Linux】基础IO(一) :文件描述符,文件流指针,重定向(上)

简介: 【Linux】基础IO(一) :文件描述符,文件流指针,重定向

重新认识文件


是不是只有C/C++有文件操作呢?python、java、go等文件接口操作的方法是不太一样的,那如何理解这种现象?有没有统一的视角去看待所有的语言文件操作呢?—我们今天从系统视角去理解 ---- 实际都是通过系统调用来访问

文件=内容+属性 — 针对文件的操作:对内容的操作,对属性的操作,对内容和属性的操作

文件可以分为两大类:磁盘文件 和 被打开的文件(内存文件)

当文件没有被操作的时候,文件一般放在磁盘位置。空文件也在磁盘中占据空间,因为文件属性也是数据,保存数据就需要空间。

我们在文件操作的时候,文件需要在哪里?—内存,依据冯诺依曼体系的规定

所以我们在文件操作的时候,文件需要提前load到内存,那load是内容还是属性?至少有属性吧!那是不是只有你一个人在load呢?当然不是,内存中一定存在大量的不同文件的属性

所以,打开文件的本质就是将需要的文件加载到内存中,OS内部一定会同时存在大量的被打开的文件,那操作系统需不需要管理呢?怎么管理?— 先描述,在组织!

先描述 — 构建在内存中的文件结构体 struct file (文件从磁盘中来,struct file* next连接下一个文件信息)。在组织 — struct file结构体利用某种数据结构链接起来。在OS内部,对被打开的文件进行管理,就转换成了对类似链表的增删查改

结论:文件被打开,OS要为被打开的文件,创建对应的内核数据结构

所有文件操作的本质就是进程和被打开文件的关系。 — struct task_struct 和 struct file


系统内部的文件操作


库函数底层必须调用系统调用接口,因为无论什么进程想访问文件,都必须按照操作系统提供的方式来进行访问,所以就算文件操作相关函数千变万化,但是底层是不变的,这些函数最后都会调用系统调用接口,按照操作系统的意愿来合理的访问磁盘上的文件。


我们不能用语言绕过操作系统去操纵硬件,所以必须通过系统调用通过操作系统来进行文件操作!不管什么编程语言,只是不同语言对系统调用进行了各自不同的封装,所以对这些文件操作接口的理解,其实就要落实到对系统调用接口的理解! 也就是说所有的只要要访问硬件或者操作系统内部的资源,都要通过系统调用!避不开的!


我们C语言的文件操作


C语言文件操作接口主要包括以下几类:


打开和关闭文件的接口,如fopen(), fclose()等。这些接口用于创建或打开一个文件,并返回一个FILE类型的指针,以及关闭一个已打开的文件,并释放相关资源。

顺序读写数据的接口,如fgetc(), fputc(), fgets(), fputs(), fprintf(), fscanf()等。这些接口用于从文件中读取或写入字符、字符串或格式化数据,并自动移动文件指针。

随机读写数据的接口,如fread(), fwrite(), fseek(), ftell()等。这些接口用于从文件中读取或写入二进制数据块,并根据指定位置移动或获取文件指针。

其他辅助功能的接口,如feof(), ferror(), clearerr()等。这些接口用于检测文件是否到达末尾、是否发生错误、以及清除错误标志。


文件的打开方式:


r:以只读的方式打开文件,若文件不存在就会出错。

w:以只写的方式打开文件,文件若存在则清空文件内容重新开始写入,若不存在则创建一个文件。

a:以只写的方式打开文件,文件若存在则从文件尾部以追加的方式进行写入,若不存在则创建一个文件。

r+:以可读写的方式打开文件,若文件不存在就会出错。

w+:以可读写的方式打开文件,其他与w一样。

a+:以可读写的方式打开文件,其他与a一样。


fopen, fread, fwrite, fseek, fclose等函数的使用


需要注意的是,当向文件中写入数据后,想要重新读取到数据,要么需要关闭文件重新打开,要么就要跳转读写位置到文件起始位置,然后再开始读取文件数据。


#include <stdio.h>
#include <string.h>
int main()
{
    FILE *fp = fopen("./bite", "wb+");
    if (fp == NULL) {
        perror("fopen error");
        return -1; 
    }   
    fseek(fp, 0, SEEK_SET);
    char *data = "linux so easy!\n";
    //size_t fwrite(const void *ptr, size_t size, size_t nmemb, FILE *stream);
    size_t ret = fwrite(data, 1, strlen(data), fp);
    if (ret != strlen(data)) {
        perror("fwrite error");
        return -1; 
    }   
    fseek(fp, 0, SEEK_SET);//跳转读写位置到,从文件起始位置开始偏移0个字节
    char buf[1024] = {0};
    //size_t fread(void *ptr, size_t size, size_t nmemb, FILE *stream);
    ret = fread(buf, 1, 1023, fp);//因为设置读取块大小位1,块个数为1023因此fread返回值为实际读取到的数据长度
    if (ret == 0) {
        if (ferror(fp)) //判断上一次IO操作是否正确
            printf("fread error\n");
        if (feof(fp)) //判断是否读取到了文件末尾
            printf("read end of file!\n");
        return -1; 
    }   
    printf("%s", buf);
    fclose(fp);
    return 0;
}


当然这些也都是C库提供的函数,是对系统调用的上层封装,在系统级别文件操作我们是通过系统调用实现的


系统内部的文件操作


文件操作系统调用接口是指Linux内核提供的一组用于对文件进行打开、读写、关闭等操作的函数。它们包括以下几个常用的函数:


open:打开一个文件,返回一个文件描述符,可以指定文件的打开方式和权限。

write:向一个已打开的文件中写入数据,返回实际写入的字节数。

read:从一个已打开的文件中读取数据,返回实际读取的字节数。

lseek:改变一个已打开文件的读写位置,返回新的偏移量。

close:关闭一个已打开的文件,释放资源。


这些函数都需要传入一个文件描述符作为参数,它是一个非负整数,用于标识不同的打开文件。每个进程都有自己独立的一组文件描述符,并且默认有三个预定义的描述符:0代表标准输入,1代表标准输出,2代表标准错误输出。


这些函数都有可能失败,并返回-1,并设置errno变量为相应的错误码。因此,在调用这些函数后,需要检查返回值和错误码来判断是否成功。


我们主要介绍前三个:


OS一般会如何让用户给自己传递标志位的?多个标志位怎么实现呢? — 位图


其实是通过位操作实现的:

#include <stdio.h>
#define ONE 0x1
#define TWO 0x2
#define THREE 0x4
#define FOUR 0x8
#define FIVE 0x10
// 0000 0000 0000 0000 0000 0000 0000 0000
void Print(int flags)
{
    if(flags & ONE) printf("hello 1\n"); //充当不同的行为
    if(flags & TWO) printf("hello 2\n");
    if(flags & THREE) printf("hello 3\n");
    if(flags & FOUR) printf("hello 4\n");
    if(flags & FIVE) printf("hello 5\n");
}
int main()
{
    printf("--------------------------\n");
    Print(ONE);
    printf("--------------------------\n");
    Print(TWO);
    printf("--------------------------\n");
    Print(FOUR);
    printf("--------------------------\n");
    Print(ONE|TWO);
    printf("--------------------------\n");
    Print(ONE|TWO|THREE);
    printf("--------------------------\n");
    Print(ONE|TWO|THREE|FOUR|FIVE);
    printf("--------------------------\n");
    return 0;
}


open:打开一个文件,返回一个文件描述符,可以指定文件的打开方式和权限


open有两种调用方式:


一种是只传入文件名和访问模式,另一种是还传入创建权限(如果需要创建新文件)。访问模式有必需部分和可选部分,必需部分是 O_RDONLY(只读)、O_WRONLY(只写)或 O_RDWR(读写),可选部分有 O_APPEND(追加)、O_TRUNC(截断)、O_CREAT(创建)、O_EXCL(排他)等。创建权限是由几个标志按位或得到的,如 S_IRUSR(用户读)、S_IWUSR(用户写)、S_IXUSR(用户执行)等。


字符串/0 问题: 系统调用不需要这个!

0c8c01f87a644c77baae1f7a6206b406.png

b180334525c44707a7e67794f70e3c96.png

使用 open 函数打开一个文件,如果不存在则创建一个新文件,并设置访问模式为读写和追加,创建权限为用户读写和组读写:

#include <stdio.h>
#include <stdlib.h>
#include <fcntl.h>
#include <sys/stat.h>
int main() {
    // 打开或创建一个文件
    int fd = open("test.txt", O_RDWR | O_APPEND | O_CREAT, S_IRUSR | S_IWUSR | S_IRGRP | S_IWGRP);
    if (fd == -1) {
        // 打开失败,打印错误信息
        perror("open error");
        exit(1);
    }
    // 打开成功,打印文件描述符
    printf("open success, fd = %d\n", fd);
    // 关闭文件
    close(fd);
    return 0;
}



创建目录的命令mkdir,目录起始权限默认是0777,创建文件的命令touch,文件起始权限是0666,这些命令的实现实际上是要调用系统接口open的,并且在创建文件或目录的时候要在open的第三个参数中设置文件的起始权限。


 25 int main()
 26 {
 27     umask(0);//将进程的umask值设置为0000
 28 
 29     // C语言中的w选项实际上底层需要调用这么多的选项O_WRONLY O_CREAT O_TRUNC 0666
 30     // C语言中的a选项需要将O_TRUNC替换为O_APPEND
 31     int fd = open(FILE_NAME,O_WRONLY | O_CREAT,0666);//设置文件起始权限为0666
 32     if(fd < 0)
 33     {
 34         perror("open");
 35         return 1;//退出码设置为1
 36     }
 37     close(fd);   
 38 }
### write:向一个已打开的文件中写入数据,返回实际写入的字节数
**write:向一个已打开的文件中写入数据,返回实际写入的字节数。需要传入文件描述符、数据缓冲区和数据长度。如果返回值小于请求的字节数,可能是因为错误或者设备驱动程序对数据块长度敏感。如果返回值为 0,表示没有写入任何数据;如果返回值为 -1,则表示出现错误。**
使用 write 函数向一个已打开的文件中写入一段字符串,并检查返回值是否正确:
```c
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
int main() {
    // 要写入的字符串和长度
    char *str = "Hello world!\n";
    int len = 13;
    // 向标准输出(文件描述符为1)写入字符串
    int ret = write(1, str, len);
    if (ret == -1) {
        // 写入失败,打印错误信息
        perror("write error");
        exit(1);
    }
    if (ret != len) {
        // 写入字节数不正确,打印警告信息
        fprintf(stderr, "write warning: expected %d bytes, but got %d bytes\n", len, ret);
    }
    // 写入成功,打印返回值
    printf("write success, ret = %d\n", ret);
}

read:从一个已打开的文件中读取数据,返回实际读取的字节数

read:从一个已打开的文件中读取数据,返回实际读取的字节数。需要传入文件描述符、数据缓冲区和数据长度。如果返回值小于请求的字节数,可能是因为错误或者已到达文件尾。如果返回值为 0,表示没有读取任何数据;如果返回值为 -1,则表示出现错误。

使用 read 函数从一个已打开的文件中读取一定长度的数据,并存储到一个缓冲区中,并

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
int main() {
   // 要读取的字节数和缓冲区大小 
   int len = 100;
   char buf[100];
   // 从标准输入(文件描述符为0)读取数据到缓冲区中
   int ret = read(0, buf, len);
   if (ret == -1) {
       // 读取失败,打印错误信息
       perror("read error");
       exit(1);
   }
   if (ret == 0) {
       // 读取到文件尾,没有数据可读,打印提示信息
       printf("read end of file\n");
   }
   // 读取成功,打印返回值和缓冲区内容(注意添加结束符)
   printf("read success, ret = %d\n", ret);
  buf[ret] = '\0';
   printf("buf: %s\n", buf);
}

使用这些接口时,有一些事项需要注意:


在调用 open 函数时,要根据文件的用途和状态选择合适的访问模式和创建权限。如果使用了 O_CREAT 标志,要指定创建权限,否则可能导致文件权限不正确。如果使用了 O_EXCL 标志,要检查返回值是否为 -1,否则可能导致覆盖已有文件。如果打开的是设备文件或符号链接,要注意一些特殊的访问模式,如 O_NONBLOCK、O_NOCTTY、O_NOFOLLOW 等。

在调用 write 函数时,要保证数据缓冲区的有效性和长度正确性。如果写入的是文本文件,要注意添加换行符或结束符。如果写入的是二进制文件,要注意字节序和对齐问题。如果写入的是设备文件或网络套接字,要注意数据块长度和超时问题。

在调用 read 函数时,要保证数据缓冲区的有效性和大小足够。如果读取的是文本文件,要注意处理换行符或结束符。如果读取的是二进制文件,要注意字节序和对齐问题。如果读取的是设备文件或网络套接字,要注意数据块长度和超时问题。

在调用这些接口后,都要检查返回值是否为 -1,并根据 errno 变量来判断错误原因,并进行相应的处理或提示。有些错误可能是暂时性的或可恢复的,如 EINTR、EAGAIN、EWOULDBLOCK 等;有些错误可能是严重性的或不可恢复的,如 EACCES、EBADF、EFAULT、EINVAL 等。


综合使用:


fopen, fread, fwrite, fseek, fclose等函数的使用

需要注意的是,当向文件中写入数据后,想要重新读取到数据,要么需要关闭文件重新打开,要么就要跳转读写位置到文件起始位置,然后再开始读取文件数据。

#include <stdio.h>
#include <string.h>
int main()
{
    FILE *fp = fopen("./bite", "wb+");
    if (fp == NULL) {
        perror("fopen error");
        return -1; 
    }   
    fseek(fp, 0, SEEK_SET);
    char *data = "linux so easy!\n";
    //size_t fwrite(const void *ptr, size_t size, size_t nmemb, FILE *stream);
    size_t ret = fwrite(data, 1, strlen(data), fp);
    if (ret != strlen(data)) {
        perror("fwrite error");
        return -1; 
    }   
    fseek(fp, 0, SEEK_SET);//跳转读写位置到,从文件起始位置开始偏移0个字节
    char buf[1024] = {0};
    //size_t fread(void *ptr, size_t size, size_t nmemb, FILE *stream);
    ret = fread(buf, 1, 1023, fp);//因为设置读取块大小位1,块个数为1023因此fread返回值为实际读取到的数据长度
    if (ret == 0) {
        if (ferror(fp)) //判断上一次IO操作是否正确
            printf("fread error\n");
        if (feof(fp)) //判断是否读取到了文件末尾
            printf("read end of file!\n");
        return -1; 
    }   
    printf("%s", buf);
    fclose(fp);
    return 0;
}

综合使用:

open, read, write, lseek, close等函数的使用

#include <stdio.h>
#include <unistd.h>//是close, write这些接口的头文件
#include <string.h>
#include <fcntl.h>//是 O_CREAT 这些宏的头文件
#include <sys/stat.h>//umask接口头文件
int main()
{
    //将当前进程的默认文件创建权限掩码设置为0--- 并不影响系统的掩码,仅在当前进程内生效
    umask(0);
    //int open(const char *pathname, int flags, mode_t mode);
    int fd = open("./bite", O_CREAT|O_RDWR, 0664);
    if(fd < 0) {
        perror("open error");
        return -1; 
    }   
    char *data = "i like linux!\n";
    //ssize_t write(int fd, const void *buf, size_t count);
    ssize_t ret = write(fd, data, strlen(data));
    if (ret < 0) {
        perror("write error");
        return -1; 
    }   
    //off_t lseek(int fd, off_t offset, int whence);
    lseek(fd, 0, SEEK_SET);
    char buf[1024] = {0};
    //ssize_t read(int fd, void *buf, size_t count);
    ret = read(fd, buf, 1023);
    if (ret < 0) {
        perror("read error");
        return -1; 
    }else if (ret == 0) {
        printf("end of file!\n");
        return -1; 
    }   
    printf("%s", buf);
    close(fd);
    return 0;
}


看看Linux内核源代码是怎么说的


d2ec5a31c3584160ac829757c1c6cff4.png


可以看到内核源代码的设计内容跟我们所说的基本一致


理解文件控制块&&文件描述符&&文件指针的关系


在进程中每打开一个文件,都会创建有相应的文件描述信息struct file,这个描述信息被添加在pcb的struct files_struct中,以数组的形式进行管理,随即向用户返回数组的下标作为文件描述符,用于操作文件


进程可以打开多个文件,对于大量的被打开文件,操作系统一定是要进行管理的,也就是先描述再组织,所以操作系统会为被打开的文件创建对应的内核数据结构,也就是文件控制块FCB,在linux源码中是struct file{}结构体,包含了文件的大部分属性

 #include <assert.h>
#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>
#define FILE_NAME(number) "log.txt"#number
int main()
{
    int fd0 = open(FILE_NAME(1),O_WRONLY | O_CREAT | O_TRUNC,0666);//设置文件起始权限为0666
    int fd1 = open(FILE_NAME(2),O_WRONLY | O_CREAT | O_TRUNC,0666);//设置文件起始权限为0666
    int fd2 = open(FILE_NAME(3),O_WRONLY | O_CREAT | O_TRUNC,0666);//设置文件起始权限为0666
    int fd3 = open(FILE_NAME(4),O_WRONLY | O_CREAT | O_TRUNC,0666);//设置文件起始权限为0666
    int fd4 = open(FILE_NAME(5),O_WRONLY | O_CREAT | O_TRUNC,0666);//设置文件起始权限为0666
    printf("fd:%d\n",fd0);
    printf("fd:%d\n",fd1);
    printf("fd:%d\n",fd2);
    printf("fd:%d\n",fd3);
    printf("fd:%d\n",fd4);
    close(fd0);
    close(fd1);
    close(fd2);
    close(fd3);
    close(fd4);  
}

结果:


4282e2a0595448e2a39154600047e4dc.png


通过上述讲解,我们知道open系统调用会返回文件描述符,那它为什么是从3开始呢??


其实main函数会默认打开这三个标准文件

这三个标准文件是:


标准输入(stdin):用于从键盘或其他输入设备读取数据,通常对应文件描述符0。可以使用C语言的scanf、getchar等函数或者Linux的read系统调用来读取标准输入。

标准输出(stdout):用于向屏幕或其他输出设备写入数据,通常对应文件描述符1。可以使用C语言的printf、putchar等函数或者Linux的write系统调用来写入标准输出。

标准错误输出(stderr):用于向屏幕或其他输出设备写入错误信息,通常对应文件描述符2。可以使用C语言的fprintf、perror等函数或者Linux的write系统调用来写入标准错误输出。


这三个标准文件在程序启动时就被自动打开,并且在程序结束时被自动关闭,无需手动操作。它们也可以被重定向到其他文件或设备,例如使用 > 或 < 符号。


61543d6b47e6446f9fb2d0d05c653349.png

12f42bd5861a449582ad7d63da9c7cd4.png



所以为什么open文件操作后返回值 是3? 因为 0 1 2 已经被占用了 ---- 本质是数组下标


内存中文件描述符,文件描述符表,文件控制块,进程控制块的关系如下图所示,文件描述符表,说白了就是一个存储指向文件控制块的指针的指针数组,而文件描述符就是这个指针数组的索引,进程控制块中会有一个指向文件描述符表的指针。通过文件描述符就可以找到对应的被打开的文件。

操作系统通过这些内核数据结构,将被打开的文件和进程联系起来。



5f09fbfa52e44a7a9f48cebb413f5fb2.png


相关文章
|
29天前
|
网络协议 安全 Linux
Linux C/C++之IO多路复用(select)
这篇文章主要介绍了TCP的三次握手和四次挥手过程,TCP与UDP的区别,以及如何使用select函数实现IO多路复用,包括服务器监听多个客户端连接和简单聊天室场景的应用示例。
86 0
|
29天前
|
存储 Linux C语言
Linux C/C++之IO多路复用(aio)
这篇文章介绍了Linux中IO多路复用技术epoll和异步IO技术aio的区别、执行过程、编程模型以及具体的编程实现方式。
66 1
Linux C/C++之IO多路复用(aio)
|
3月前
|
缓存 安全 Linux
Linux 五种IO模型
Linux 五种IO模型
|
29天前
|
Linux C++
Linux C/C++之IO多路复用(poll,epoll)
这篇文章详细介绍了Linux下C/C++编程中IO多路复用的两种机制:poll和epoll,包括它们的比较、编程模型、函数原型以及如何使用这些机制实现服务器端和客户端之间的多个连接。
22 0
Linux C/C++之IO多路复用(poll,epoll)
|
2月前
|
Linux
在Linux内核中根据函数指针输出函数名称
在Linux内核中根据函数指针输出函数名称
|
3月前
|
Unix 数据处理 Perl
|
3月前
|
小程序 Linux 开发者
Linux之缓冲区与C库IO函数简单模拟
通过上述编程实例,可以对Linux系统中缓冲区和C库IO函数如何提高文件读写效率有了一个基本的了解。开发者需要根据应用程序的具体需求来选择合适的IO策略。
30 0
|
3月前
|
存储 IDE Linux
Linux源码阅读笔记14-IO体系结构与访问设备
Linux源码阅读笔记14-IO体系结构与访问设备
|
4月前
|
Linux 数据处理 C语言
【Linux】基础IO----系统文件IO & 文件描述符fd & 重定向(下)
【Linux】基础IO----系统文件IO & 文件描述符fd & 重定向(下)
72 0
|
4月前
|
Linux 编译器 C语言
【Linux】基础IO----理解缓冲区
【Linux】基础IO----理解缓冲区
60 0
【Linux】基础IO----理解缓冲区