基础IO详解(二)

简介: 基础IO详解

四、C语言IO深入底层

相较于C库函数或其他语言的库函数而言,系统调用接口更为底层,语言层的库函数实际上都是对系统接口进行的封装。


在Linux环境下的C库底层使用的就是Linux操作系统提供的接口,在Windows环境下的C库底层使用的便是Windows操作系统给提供的接口,再通过条件编译即可实现跨平台


4.1 C语言中默认打开的三个流

前面提到任何进程在运行的时候都会默认打开三个流,即标准输入流、标准输出流以及标准错误流,对应到C语言当中就是stdin、stdout以及stderr。


extern FILE *stdin;
extern FILE *stdout;
extern FILE *stderr;

stdin、stdout以及stderr都是属于FILE*类型的,与使用fopen()打开文件时获得的文件指针相同


注意: 不止是C语言当中stdin、stdout和stderr,C++当中也有对应的cin、cout和cerr,其他语言中也有类似的概念。这种特性并不是某种语言所特有的,而是由操作系统所支持的。


标准输出流和标准错误流对应的都是显示器,它们有什么区别?

#include <stdio.h>
int main()
{
  printf("hello printf\n"); //stdout
  perror("perror"); //stderr
  fprintf(stdout, "stdout:hello fprintf\n"); //stdout
  fprintf(stderr, "stderr:hello fprintf\n"); //stderr
  return 0;
}

911d1274274e4f65aad01d0e5ddc08e7.png

从上面的结果来看,好像并没有什么区别,但是将程序运行结果重定向输出到文件log.txt当中后,可以发现log.txt文件当中只有向标准输出流输出的两行字符串,而向标准错误流输出的两行数据并没有重定向到文件当中,而是仍然输出到了显示器上。

2d480248f1d04d9396ad54907b08cfd4.png



使用命令进行重定向时,默认重定向的是文件描述符为1的标准输出流,而并不会对文件描述符为2的标准错误流进行重定向。当然也可以显示指定重定向标准错误流。


f344f8afd55e4683a7af2f565b4a011b.png


4.2 FILE

因为库函数是对系统调用接口的封装,本质上访问文件都是通过文件描述符fd进行访问的,所以C库当中的FILE结构体内部必定封装了文件描述符fd。


在/usr/include/stdio.h头文件中可以看到下面这句代码,也就是说FILE实际上就是struct _IO_FILE结构体的一个别名。


typedef struct _IO_FILE FILE;

而在/usr/include/libio.h头文件中可以找到struct _IO_FILE结构体的定义,在该结构体的众多成员当中,我们可以看到一个名为_fileno的成员,这个成员实际上就是封装的文件描述符。

struct _IO_FILE {
  int _flags;       /* High-order word is _IO_MAGIC; rest is flags. */
#define _IO_file_flags _flags
  //缓冲区相关
  /* The following pointers correspond to the C++ streambuf protocol. */
  /* Note:  Tk uses the _IO_read_ptr and _IO_read_end fields directly. */
  char* _IO_read_ptr;   /* Current read pointer */
  char* _IO_read_end;   /* End of get area. */
  char* _IO_read_base;  /* Start of putback+get area. */
  char* _IO_write_base; /* Start of put area. */
  char* _IO_write_ptr;  /* Current put pointer. */
  char* _IO_write_end;  /* End of put area. */
  char* _IO_buf_base;   /* Start of reserve area. */
  char* _IO_buf_end;    /* End of reserve area. */
  /* The following fields are used to support backing up and undo. */
  char *_IO_save_base; /* Pointer to start of non-current get area. */
  char *_IO_backup_base;  /* Pointer to first valid character of backup area */
  char *_IO_save_end; /* Pointer to end of non-current get area. */
  struct _IO_marker *_markers;
  struct _IO_FILE *_chain;
  int _fileno; //封装的文件描述符
#if 0
  int _blksize;
#else
  int _flags2;
#endif
  _IO_off_t _old_offset; /* This used to be _offset but it's too small.  */
#define __HAVE_COLUMN /* temporary */
  /* 1+column number of pbase(); 0 is unknown. */
  unsigned short _cur_column;
  signed char _vtable_offset;
  char _shortbuf[1];
  /*  char* _save_gptr;  char* _save_egptr; */
  _IO_lock_t *_lock;
#ifdef _IO_USE_OLD_IO_FILE
};


C库文件IO函数的具体流程理解


例:fopen函数在上层为用户申请FILE结构体变量,并返回该结构体的地址(FILE*)。在底层通过系统接口open打开对应的文件,得到文件描述符fd,并把fd填充到FILE结构体当中的_fileno变量中,至此便完成了文件的打开操作。

而C语言当中的其他文件操作函数,比如fread、fwrite、fputs、fgets等,都是先根据我们传入的文件指针找到对应的FILE结构体,然后在FILE结构体当中找到文件描述符,最后通过文件描述符对文件进行的一系列操作。


4.3 用户层缓冲区

#include <stdio.h>
#include <unistd.h>
int main()
{
  printf("hello printf\n");
  fputs("hello fputs\n", stdout);
  write(1, "hello write\n", 12);
  fork();
  return 0;
}

7d9c7a8a385e47c2b7dd0cfeac0c9e53.png


查看上述代码,貌似并没有什么奇特的地方,甚至这个fork()十分的多余。但是将程序执行结果重定向到log.txt之后会得到这种情况。


f91558eee5f442f191b21ee5d3e1e2b6.png


用户层的缓冲区,通常有以下三种缓冲策略:


无缓冲

行缓冲。(常见于对显示器进行刷新数据)

全缓冲。(常见于对磁盘文件写入数据)

当直接执行可执行程序,将数据打印到显示器时所采用的就是行缓冲,又因为代码当中每个字符串后都有'\n',所以当执行完对应代码后就立即将数据刷新到了显示器上。

但是将运行结果重定向到log.txt文件后,用户层缓冲区的刷新策略就变为了全缓冲,此时使用printf和fputs函数打印的数据都进入了C语言的缓冲区中,之后当我们使用fork函数创建子进程时,由于进程间具有独立性,而之后当父进程或是子进程对要刷新缓冲区内容时,本质就是对父子进程共享的数据进行了修改,此时就需要对数据进行写时拷贝,至此缓冲区当中的数据就变成了两份,一份父进程的,一份子进程的,所以重定向到log.txt文件当中printf和puts函数打印的数据就有两份。但由于write函数是系统接口,不存在用户层缓冲区,因此write函数打印的数据就只有一份。


用户层缓冲区由谁提供?在哪?


由C语言库实现提供。用户层的输出缓冲区就存在stdout中,stdout是一个FILE*的指针。在FILE结构体当中还有一大部分成员是用于记录缓冲区相关的信息的。

//缓冲区相关
/* The following pointers correspond to the C++ streambuf protocol. */
/* Note:  Tk uses the _IO_read_ptr and _IO_read_end fields directly. */
char* _IO_read_ptr;   /* Current read pointer */
char* _IO_read_end;   /* End of get area. */
char* _IO_read_base;  /* Start of putback+get area. */
char* _IO_write_base; /* Start of put area. */
char* _IO_write_ptr;  /* Current put pointer. */
char* _IO_write_end;  /* End of put area. */
char* _IO_buf_base;   /* Start of reserve area. */
char* _IO_buf_end;    /* End of reserve area. */

操作系统是否存在缓冲区?


操作系统实际上也是存在缓冲区的,当刷新用户缓冲区的数据时,并不是直接将用户缓冲区的数据刷新到磁盘或是显示器上,而是先将数据刷新到操作系统缓冲区,然后再由操作系统将数据刷新到磁盘或是显示器上。(操作系统有自己的刷新机制,我们不必关系操作系统缓冲区的刷新规则)


五、理解"一切皆文件"思想

"一切皆文件"是Linux的设计哲学,体现在os的软件设计层面。


Linux是C语言编写的,但是如何使用C语言实现面向对象?


面向对象语言中的类大致由成员属性和成员方法构成,C语言中可以包含成员属性但是并不可以包含成员方法,但是可以使用函数指针指向函数来代替成员方法。


1f677a40cd18470d90a5b87b2744524c.png


通过这个设计方式,消除了上层处理硬件的差异,统一了看待文件的方式,一切皆文件。


六、文件系统

文件可以分为内存文件和磁盘文件,之前谈论的都是内存文件,接下开始讲解磁盘文件


6.1 认识inode

磁盘文件由两部分构成,分别是文件内容和文件属性(都存储在磁盘中)。文件内容就是文件当中存储的数据,文件属性就是文件的一些基本信息,例如文件名、文件大小以及文件创建时间等信息都是文件属性,文件属性又被称为元信息。


2e07339739704705b4174adf306957d5.png


在Linux操作系统中,文件的元信息和内容是分离存储的,其中保存元信息的结构被称之为inode。因为系统当中存在大量的文件,所以需要给每个文件的属性集起一个唯一的编号,即inode号。即inode是一个文件的属性集合,Linux中每个文件都对应一个inode,为了区分系统中大量inode,我们为每个inode设置了inode编号。


1f8011d7b56c4e06b7f0f0939dab7fab.png


ls命令添加 -i 选项即可查看文件的inode编号


struct inode {
  struct hlist_node i_hash;
  struct list_head  i_list;   /* backing dev IO list */
  struct list_head  i_sb_list;
  struct list_head  i_dentry;
  unsigned long   i_ino;
  atomic_t    i_count;
  unsigned int    i_nlink;
  uid_t     i_uid;
  gid_t     i_gid;
  dev_t     i_rdev;
  u64     i_version;
  loff_t      i_size;
#ifdef __NEED_I_SIZE_ORDERED
  seqcount_t    i_size_seqcount;
#endif
  struct timespec   i_atime;
  struct timespec   i_mtime;
  struct timespec   i_ctime;
  blkcnt_t    i_blocks;
  unsigned int    i_blkbits;
  unsigned short          i_bytes;
  umode_t     i_mode;
  spinlock_t    i_lock; /* i_blocks, i_bytes, maybe i_size */
  struct mutex    i_mutex;
  struct rw_semaphore i_alloc_sem;
  const struct inode_operations *i_op;
  const struct file_operations  *i_fop; /* former ->i_op->default_file_ops */
  struct super_block  *i_sb;
  struct file_lock  *i_flock;
  struct address_space  *i_mapping;
  struct address_space  i_data;
#ifdef CONFIG_QUOTA
  struct dquot    *i_dquot[MAXQUOTAS];
#endif
  struct list_head  i_devices;
  union {
    struct pipe_inode_info  *i_pipe;
    struct block_device *i_bdev;
    struct cdev   *i_cdev;
  };
  __u32     i_generation;
#ifdef CONFIG_FSNOTIFY
  __u32     i_fsnotify_mask; /* all events this inode cares about */
  struct hlist_head i_fsnotify_mark_entries; /* fsnotify mark entries */
#endif
#ifdef CONFIG_INOTIFY
  struct list_head  inotify_watches; /* watches on this inode */
  struct mutex    inotify_mutex;  /* protects the watches list */
#endif
  unsigned long   i_state;
  unsigned long   dirtied_when; /* jiffies of first dirtying */
  unsigned int    i_flags;
  atomic_t    i_writecount;
#ifdef CONFIG_SECURITY
  void      *i_security;
#endif
#ifdef CONFIG_FS_POSIX_ACL
  struct posix_acl  *i_acl;
  struct posix_acl  *i_default_acl;
#endif
  void      *i_private; /* fs or device private pointer */
};

6.2 磁盘概念

内存是掉电易失存储介质,而磁盘是一种永久性存储介质。在计算机中,磁盘几乎是唯一的机械设备。磁盘在冯诺依曼体系结构当中既可以充当输入设备,又可以充当输出设备。

c2cd4bb873e54befbe977c6e0d000adc.png



磁盘寻址方案(CHS寻址)


确定读写信息在磁盘的哪个盘面

确定读写信息在磁盘的哪个柱面(磁道)

确定读写信息在磁盘的哪个扇区

6.3 磁盘分区与格式化

若要理解文件系统,先将磁盘想象成一个线性的存储介质。譬如磁带,当磁带被卷起来时就像磁盘一样是圆形的,但当将磁带拉直后就是线性的。


6.3.1 磁盘分区

磁盘通常被称为块设备,一般以扇区为单位,一个扇区的大小通常为512字节。计算机为了更好的管理磁盘,对磁盘进行了分区。磁盘分区就是使用分区编辑器在磁盘上划分几个逻辑部分,盘片一旦划分成数个分区,不同的目录与文件就可以存储进不同的分区。分区越多,就可以将文件的性质区分得越细,按照更为细分的性质,存储在不同的地方以管理文件。譬如在Windows操作系统下磁盘一般被分为C盘和D盘两个区域。


b7927bf6388444779345c4554eb7315c.png


6.3.2 磁盘格式化

当磁盘完成分区后,还需对磁盘进行格式化。磁盘格式化就是对磁盘中的分区进行初始化的一种操作,这种操作通常会导致现有的磁盘或分区中所有的文件被清除。其实磁盘格式化就是对分区后的各个区域写入对应的管理信息。


写入的管理信息是什么是由文件系统决定的,不同的文件系统格式化时写入的管理信息是不同的,常见的文件系统有EXT2、EXT3、XFS、NTFS等。


6.4 EXT2文件系统的存储方案

对于每一个分区来说,分区的头部会包括一个启动块(Boot Block),对于该分区的其余区域,EXT2文件系统会根据分区的大小将其划分为一个个的块组(Block Group)


注意: 启动块的大小是确定的,而块组的大小是由格式化的时候确定的,且不可随意更改

ba4f7ef70b6c4a3bb2408bb97e0bd5ac.png



而每个组块都有着相同的组成结构,每个组块都由超级块(Super Block)、块组描述符表(Group Descriptor Table)、块位图(Block Bitmap)、inode位图(inode Bitmap)、inode表(inode Table)以及数据表(Data Block)组成


4a17b0c1c2ec40c4b1ea1ffe4b49f000.png


  1. Super Block: 存放文件系统本身的结构信息。记录的信息主要有:Data Block和inode的总量、未使用的Data Block和inode的数量、一个Data Block和inode的大小、最近一次挂载的时间、最近一次写入数据的时间、最近一次检验磁盘的时间等其他文件系统的相关信息。Super Block的信息被破坏,可以说整个文件系统结构就被破坏了。
  2. Group Descriptor Table: 块组描述符表,描述该分区当中块组的属性信息
  3. Block Bitmap: 块位图当中记录着Data Block中数据块是否被占用
  4. inode Bitmap: inode位图当中记录着每个inode是否空闲可用
  5. inode Table: 存放文件属性,即每个文件的inode
  6. Data Blocks: 存放文件内容

注意


  1. 组块中会存在冗余的Super Block,当某个Super Block被破坏后可以通过该块组中的其他Super Block进行恢复
  2. 磁盘分区并格式化后,每个分区的inode个数就确定了
  3. 一个文件使用的数据块和inode结构的对应关系,通过一个数组进行维护。该数组一般可以存储15个元素,其中前12个元素分别对应该文件使用的12个数据块,剩余的三个元素分别是一级索引、二级索引和三级索引。当该文件使用数据块的个数超过12个时,可以用这三个索引进行数据块扩充

如何创建一个文件?


  1. 通过遍历inode位图的方式,找到一个空闲的inode
  2. 在inode表当中找到对应的inode,并将文件的属性信息填充进inode结构中
  3. 将该文件的文件名和inode指针添加到目录文件的数据块中

如何对文件写入信息?


  1. 通过文件的inode编号找到对应的inode结构
  2. 通过inode结构找到存储该文件内容的数据块,并将数据写入数据块
  3. 若不存在数据块或申请的数据块已被写满,则通过遍历块位图的方式找到一个空闲的块号,并在数据区当中找到对应的空闲块,再将数据写入数据块,最后还需要建立数据块和inode结构的映射关系

如何删除文件?


  1. 将该文件对应的inode在inode位图当中置为无效。
  2. 将该文件申请过的数据块在块位图当中置为无效。

此操作并不会真正将文件对应的信息删除,而只是将其inode号和数据块号置为了无效,所以当删除文件后短时间内是可以恢复的。但后续创建其他文件或是对其他文件进行写入操作申请数据块号时,可能会将该置为无效了的inode号和数据块号分配出去,此时删除文件的数据就会被覆盖,就无法恢复文件了。


为什么拷贝文件较慢,而删除文件较快呢?


因为拷贝文件需要先创建文件,然后再对该文件进行写入操作,该过程需要先申请inode号并填入文件的属性信息,之后还需要再申请数据块号,最后才能进行文件内容的数据拷贝,而删除文件只需将对应文件的inode号和数据块号置为无效即可,无需真正的删除文件。


对目录的认识


  1. Linux中一切皆文件,目录也被看作是文件
  2. 目录有自己的属性信息,目录的inode结构当中存储的就是目录的属性信息
  3. 目录的数据块当中存储的就是该目录下的文件名以及对应文件的inode指针

6.5 软硬链接

6.5.1 软链接

Linux环境下的软链接就类似与Windows环境下的快捷方式


2ae53545b3444f7794db5ce9e33f6b45.png


软链接又称符号链接,软链接文件相对于源文件来说是一个独立的文件,该文件有自己的inode号,但是该文件包含源文件的路径名。


但软链接文件只是其源文件的一个标记,当删除了源文件后,链接文件不能独立存在,虽然仍保留文件名,但却不能执行或是查看软链接的内容了。


6.5.2 硬链接

硬链接文件的inode号与源文件的inode号是相同的,并且硬链接文件的大小与源文件的大小也是相同的。且当创建了一个硬链接文件后,该硬链接文件和源文件的硬链接数都变成了2。


7e2d71d7d9dc4cee923cf649e2d38107.png


硬链接文件就是源文件的一个别名,一个文件有几个文件名,该文件的硬链接数就是几。且当硬链接的源文件被删除后,硬链接文件仍能正常执行,只是文件的链接数减少了一个,因为此时该文件的文件名少了一个。


为什么新建目录的的硬链接数是2?

5b670a08874c481b9e15c12db84af08f.png



因为每个目录创建后,该目录下默认会有两个隐含文件.和..,分别代表当前目录和上级目录。因此这里创建的目录有两个名字,一个是dir另一个就是该目录下的.,所以刚创建的目录硬链接数是2。

f84f78c52e31485689070edaa5566823.png


通过上图也可以看出dir和该目录下的.的inode号相同,也可以说明它们代表的实际是同一个文件


目录
相关文章
|
8月前
|
缓存 Linux API
文件IO和标准IO的区别
文件IO和标准IO的区别
98 2
|
6月前
|
存储 Linux 编译器
基础IO(下)
文件系统管理不仅涉及打开的文件,未打开的文件也需要管理,核心是快速定位文件以便通过路径访问。操作系统管理磁盘时,通过选择磁头、磁道和扇区进行寻址。磁盘逻辑上被抽象为数组,通过下标定位。文件系统将大磁盘分割管理,如分区、块组,每个文件对应唯一的inode,存储属性和内容。文件创建和删除涉及inode和数据块的分配与回收。文件查找通过路径确定分区,挂载将文件系统与分区关联。软链接通过路径引用,硬链接共享inode。静态库在编译时链接,动态库在运行时加载,动态链接节省资源。文件系统和库管理涉及内存、磁盘和程序执行的复杂交互。
63 2
基础IO(下)
|
6月前
|
存储 Linux 开发工具
基础IO(上)
本文主要讲述了文件描述符、重定向以及缓冲区的概念和运用。
48 1
基础IO(上)
|
缓存
标准IO和直接IO
标准IO和直接IO
96 0
day26-系统IO(2022.2.23)
day26-系统IO(2022.2.23)
|
存储 Linux 块存储
基础IO+文件(二)
基础IO+文件
95 0
|
编译器 Linux vr&ar
基础IO+文件(三)
基础IO+文件
87 0
|
缓存 Linux C语言
基础IO+文件(一)
基础IO+文件
103 0
|
存储 Linux 文件存储
基础IO详解(一)
基础IO详解
121 0
|
存储 资源调度 Kubernetes
Garden.io:它是什么以及为什么要使用它?
Garden.io:它是什么以及为什么要使用它?
161 0

热门文章

最新文章

下一篇
开通oss服务