四、C语言IO深入底层
相较于C库函数或其他语言的库函数而言,系统调用接口更为底层,语言层的库函数实际上都是对系统接口进行的封装。
在Linux环境下的C库底层使用的就是Linux操作系统提供的接口,在Windows环境下的C库底层使用的便是Windows操作系统给提供的接口,再通过条件编译即可实现跨平台
4.1 C语言中默认打开的三个流
前面提到任何进程在运行的时候都会默认打开三个流,即标准输入流、标准输出流以及标准错误流,对应到C语言当中就是stdin、stdout以及stderr。
extern FILE *stdin; extern FILE *stdout; extern FILE *stderr;
stdin、stdout以及stderr都是属于FILE*类型的,与使用fopen()打开文件时获得的文件指针相同
注意: 不止是C语言当中stdin、stdout和stderr,C++当中也有对应的cin、cout和cerr,其他语言中也有类似的概念。这种特性并不是某种语言所特有的,而是由操作系统所支持的。
标准输出流和标准错误流对应的都是显示器,它们有什么区别?
#include <stdio.h> int main() { printf("hello printf\n"); //stdout perror("perror"); //stderr fprintf(stdout, "stdout:hello fprintf\n"); //stdout fprintf(stderr, "stderr:hello fprintf\n"); //stderr return 0; }
从上面的结果来看,好像并没有什么区别,但是将程序运行结果重定向输出到文件log.txt当中后,可以发现log.txt文件当中只有向标准输出流输出的两行字符串,而向标准错误流输出的两行数据并没有重定向到文件当中,而是仍然输出到了显示器上。
使用命令进行重定向时,默认重定向的是文件描述符为1的标准输出流,而并不会对文件描述符为2的标准错误流进行重定向。当然也可以显示指定重定向标准错误流。
4.2 FILE
因为库函数是对系统调用接口的封装,本质上访问文件都是通过文件描述符fd进行访问的,所以C库当中的FILE结构体内部必定封装了文件描述符fd。
在/usr/include/stdio.h头文件中可以看到下面这句代码,也就是说FILE实际上就是struct _IO_FILE结构体的一个别名。
typedef struct _IO_FILE FILE;
而在/usr/include/libio.h头文件中可以找到struct _IO_FILE结构体的定义,在该结构体的众多成员当中,我们可以看到一个名为_fileno的成员,这个成员实际上就是封装的文件描述符。
struct _IO_FILE { int _flags; /* High-order word is _IO_MAGIC; rest is flags. */ #define _IO_file_flags _flags //缓冲区相关 /* The following pointers correspond to the C++ streambuf protocol. */ /* Note: Tk uses the _IO_read_ptr and _IO_read_end fields directly. */ char* _IO_read_ptr; /* Current read pointer */ char* _IO_read_end; /* End of get area. */ char* _IO_read_base; /* Start of putback+get area. */ char* _IO_write_base; /* Start of put area. */ char* _IO_write_ptr; /* Current put pointer. */ char* _IO_write_end; /* End of put area. */ char* _IO_buf_base; /* Start of reserve area. */ char* _IO_buf_end; /* End of reserve area. */ /* The following fields are used to support backing up and undo. */ char *_IO_save_base; /* Pointer to start of non-current get area. */ char *_IO_backup_base; /* Pointer to first valid character of backup area */ char *_IO_save_end; /* Pointer to end of non-current get area. */ struct _IO_marker *_markers; struct _IO_FILE *_chain; int _fileno; //封装的文件描述符 #if 0 int _blksize; #else int _flags2; #endif _IO_off_t _old_offset; /* This used to be _offset but it's too small. */ #define __HAVE_COLUMN /* temporary */ /* 1+column number of pbase(); 0 is unknown. */ unsigned short _cur_column; signed char _vtable_offset; char _shortbuf[1]; /* char* _save_gptr; char* _save_egptr; */ _IO_lock_t *_lock; #ifdef _IO_USE_OLD_IO_FILE };
C库文件IO函数的具体流程理解
例:fopen函数在上层为用户申请FILE结构体变量,并返回该结构体的地址(FILE*)。在底层通过系统接口open打开对应的文件,得到文件描述符fd,并把fd填充到FILE结构体当中的_fileno变量中,至此便完成了文件的打开操作。
而C语言当中的其他文件操作函数,比如fread、fwrite、fputs、fgets等,都是先根据我们传入的文件指针找到对应的FILE结构体,然后在FILE结构体当中找到文件描述符,最后通过文件描述符对文件进行的一系列操作。
4.3 用户层缓冲区
#include <stdio.h> #include <unistd.h> int main() { printf("hello printf\n"); fputs("hello fputs\n", stdout); write(1, "hello write\n", 12); fork(); return 0; }
查看上述代码,貌似并没有什么奇特的地方,甚至这个fork()十分的多余。但是将程序执行结果重定向到log.txt之后会得到这种情况。
用户层的缓冲区,通常有以下三种缓冲策略:
无缓冲
行缓冲。(常见于对显示器进行刷新数据)
全缓冲。(常见于对磁盘文件写入数据)
当直接执行可执行程序,将数据打印到显示器时所采用的就是行缓冲,又因为代码当中每个字符串后都有'\n',所以当执行完对应代码后就立即将数据刷新到了显示器上。
但是将运行结果重定向到log.txt文件后,用户层缓冲区的刷新策略就变为了全缓冲,此时使用printf和fputs函数打印的数据都进入了C语言的缓冲区中,之后当我们使用fork函数创建子进程时,由于进程间具有独立性,而之后当父进程或是子进程对要刷新缓冲区内容时,本质就是对父子进程共享的数据进行了修改,此时就需要对数据进行写时拷贝,至此缓冲区当中的数据就变成了两份,一份父进程的,一份子进程的,所以重定向到log.txt文件当中printf和puts函数打印的数据就有两份。但由于write函数是系统接口,不存在用户层缓冲区,因此write函数打印的数据就只有一份。
用户层缓冲区由谁提供?在哪?
由C语言库实现提供。用户层的输出缓冲区就存在stdout中,stdout是一个FILE*的指针。在FILE结构体当中还有一大部分成员是用于记录缓冲区相关的信息的。
//缓冲区相关 /* The following pointers correspond to the C++ streambuf protocol. */ /* Note: Tk uses the _IO_read_ptr and _IO_read_end fields directly. */ char* _IO_read_ptr; /* Current read pointer */ char* _IO_read_end; /* End of get area. */ char* _IO_read_base; /* Start of putback+get area. */ char* _IO_write_base; /* Start of put area. */ char* _IO_write_ptr; /* Current put pointer. */ char* _IO_write_end; /* End of put area. */ char* _IO_buf_base; /* Start of reserve area. */ char* _IO_buf_end; /* End of reserve area. */
操作系统是否存在缓冲区?
操作系统实际上也是存在缓冲区的,当刷新用户缓冲区的数据时,并不是直接将用户缓冲区的数据刷新到磁盘或是显示器上,而是先将数据刷新到操作系统缓冲区,然后再由操作系统将数据刷新到磁盘或是显示器上。(操作系统有自己的刷新机制,我们不必关系操作系统缓冲区的刷新规则)
五、理解"一切皆文件"思想
"一切皆文件"是Linux的设计哲学,体现在os的软件设计层面。
Linux是C语言编写的,但是如何使用C语言实现面向对象?
面向对象语言中的类大致由成员属性和成员方法构成,C语言中可以包含成员属性但是并不可以包含成员方法,但是可以使用函数指针指向函数来代替成员方法。
通过这个设计方式,消除了上层处理硬件的差异,统一了看待文件的方式,一切皆文件。
六、文件系统
文件可以分为内存文件和磁盘文件,之前谈论的都是内存文件,接下开始讲解磁盘文件
6.1 认识inode
磁盘文件由两部分构成,分别是文件内容和文件属性(都存储在磁盘中)。文件内容就是文件当中存储的数据,文件属性就是文件的一些基本信息,例如文件名、文件大小以及文件创建时间等信息都是文件属性,文件属性又被称为元信息。
在Linux操作系统中,文件的元信息和内容是分离存储的,其中保存元信息的结构被称之为inode。因为系统当中存在大量的文件,所以需要给每个文件的属性集起一个唯一的编号,即inode号。即inode是一个文件的属性集合,Linux中每个文件都对应一个inode,为了区分系统中大量inode,我们为每个inode设置了inode编号。
ls命令添加 -i 选项即可查看文件的inode编号
struct inode { struct hlist_node i_hash; struct list_head i_list; /* backing dev IO list */ struct list_head i_sb_list; struct list_head i_dentry; unsigned long i_ino; atomic_t i_count; unsigned int i_nlink; uid_t i_uid; gid_t i_gid; dev_t i_rdev; u64 i_version; loff_t i_size; #ifdef __NEED_I_SIZE_ORDERED seqcount_t i_size_seqcount; #endif struct timespec i_atime; struct timespec i_mtime; struct timespec i_ctime; blkcnt_t i_blocks; unsigned int i_blkbits; unsigned short i_bytes; umode_t i_mode; spinlock_t i_lock; /* i_blocks, i_bytes, maybe i_size */ struct mutex i_mutex; struct rw_semaphore i_alloc_sem; const struct inode_operations *i_op; const struct file_operations *i_fop; /* former ->i_op->default_file_ops */ struct super_block *i_sb; struct file_lock *i_flock; struct address_space *i_mapping; struct address_space i_data; #ifdef CONFIG_QUOTA struct dquot *i_dquot[MAXQUOTAS]; #endif struct list_head i_devices; union { struct pipe_inode_info *i_pipe; struct block_device *i_bdev; struct cdev *i_cdev; }; __u32 i_generation; #ifdef CONFIG_FSNOTIFY __u32 i_fsnotify_mask; /* all events this inode cares about */ struct hlist_head i_fsnotify_mark_entries; /* fsnotify mark entries */ #endif #ifdef CONFIG_INOTIFY struct list_head inotify_watches; /* watches on this inode */ struct mutex inotify_mutex; /* protects the watches list */ #endif unsigned long i_state; unsigned long dirtied_when; /* jiffies of first dirtying */ unsigned int i_flags; atomic_t i_writecount; #ifdef CONFIG_SECURITY void *i_security; #endif #ifdef CONFIG_FS_POSIX_ACL struct posix_acl *i_acl; struct posix_acl *i_default_acl; #endif void *i_private; /* fs or device private pointer */ };
6.2 磁盘概念
内存是掉电易失存储介质,而磁盘是一种永久性存储介质。在计算机中,磁盘几乎是唯一的机械设备。磁盘在冯诺依曼体系结构当中既可以充当输入设备,又可以充当输出设备。
磁盘寻址方案(CHS寻址)
确定读写信息在磁盘的哪个盘面
确定读写信息在磁盘的哪个柱面(磁道)
确定读写信息在磁盘的哪个扇区
6.3 磁盘分区与格式化
若要理解文件系统,先将磁盘想象成一个线性的存储介质。譬如磁带,当磁带被卷起来时就像磁盘一样是圆形的,但当将磁带拉直后就是线性的。
6.3.1 磁盘分区
磁盘通常被称为块设备,一般以扇区为单位,一个扇区的大小通常为512字节。计算机为了更好的管理磁盘,对磁盘进行了分区。磁盘分区就是使用分区编辑器在磁盘上划分几个逻辑部分,盘片一旦划分成数个分区,不同的目录与文件就可以存储进不同的分区。分区越多,就可以将文件的性质区分得越细,按照更为细分的性质,存储在不同的地方以管理文件。譬如在Windows操作系统下磁盘一般被分为C盘和D盘两个区域。
6.3.2 磁盘格式化
当磁盘完成分区后,还需对磁盘进行格式化。磁盘格式化就是对磁盘中的分区进行初始化的一种操作,这种操作通常会导致现有的磁盘或分区中所有的文件被清除。其实磁盘格式化就是对分区后的各个区域写入对应的管理信息。
写入的管理信息是什么是由文件系统决定的,不同的文件系统格式化时写入的管理信息是不同的,常见的文件系统有EXT2、EXT3、XFS、NTFS等。
6.4 EXT2文件系统的存储方案
对于每一个分区来说,分区的头部会包括一个启动块(Boot Block),对于该分区的其余区域,EXT2文件系统会根据分区的大小将其划分为一个个的块组(Block Group)
注意: 启动块的大小是确定的,而块组的大小是由格式化的时候确定的,且不可随意更改
而每个组块都有着相同的组成结构,每个组块都由超级块(Super Block)、块组描述符表(Group Descriptor Table)、块位图(Block Bitmap)、inode位图(inode Bitmap)、inode表(inode Table)以及数据表(Data Block)组成
- Super Block: 存放文件系统本身的结构信息。记录的信息主要有:Data Block和inode的总量、未使用的Data Block和inode的数量、一个Data Block和inode的大小、最近一次挂载的时间、最近一次写入数据的时间、最近一次检验磁盘的时间等其他文件系统的相关信息。Super Block的信息被破坏,可以说整个文件系统结构就被破坏了。
- Group Descriptor Table: 块组描述符表,描述该分区当中块组的属性信息
- Block Bitmap: 块位图当中记录着Data Block中数据块是否被占用
- inode Bitmap: inode位图当中记录着每个inode是否空闲可用
- inode Table: 存放文件属性,即每个文件的inode
- Data Blocks: 存放文件内容
注意:
- 组块中会存在冗余的Super Block,当某个Super Block被破坏后可以通过该块组中的其他Super Block进行恢复
- 磁盘分区并格式化后,每个分区的inode个数就确定了
- 一个文件使用的数据块和inode结构的对应关系,通过一个数组进行维护。该数组一般可以存储15个元素,其中前12个元素分别对应该文件使用的12个数据块,剩余的三个元素分别是一级索引、二级索引和三级索引。当该文件使用数据块的个数超过12个时,可以用这三个索引进行数据块扩充
如何创建一个文件?
- 通过遍历inode位图的方式,找到一个空闲的inode
- 在inode表当中找到对应的inode,并将文件的属性信息填充进inode结构中
- 将该文件的文件名和inode指针添加到目录文件的数据块中
如何对文件写入信息?
- 通过文件的inode编号找到对应的inode结构
- 通过inode结构找到存储该文件内容的数据块,并将数据写入数据块
- 若不存在数据块或申请的数据块已被写满,则通过遍历块位图的方式找到一个空闲的块号,并在数据区当中找到对应的空闲块,再将数据写入数据块,最后还需要建立数据块和inode结构的映射关系
如何删除文件?
- 将该文件对应的inode在inode位图当中置为无效。
- 将该文件申请过的数据块在块位图当中置为无效。
此操作并不会真正将文件对应的信息删除,而只是将其inode号和数据块号置为了无效,所以当删除文件后短时间内是可以恢复的。但后续创建其他文件或是对其他文件进行写入操作申请数据块号时,可能会将该置为无效了的inode号和数据块号分配出去,此时删除文件的数据就会被覆盖,就无法恢复文件了。
为什么拷贝文件较慢,而删除文件较快呢?
因为拷贝文件需要先创建文件,然后再对该文件进行写入操作,该过程需要先申请inode号并填入文件的属性信息,之后还需要再申请数据块号,最后才能进行文件内容的数据拷贝,而删除文件只需将对应文件的inode号和数据块号置为无效即可,无需真正的删除文件。
对目录的认识
- Linux中一切皆文件,目录也被看作是文件
- 目录有自己的属性信息,目录的inode结构当中存储的就是目录的属性信息
- 目录的数据块当中存储的就是该目录下的文件名以及对应文件的inode指针
6.5 软硬链接
6.5.1 软链接
Linux环境下的软链接就类似与Windows环境下的快捷方式
软链接又称符号链接,软链接文件相对于源文件来说是一个独立的文件,该文件有自己的inode号,但是该文件包含源文件的路径名。
但软链接文件只是其源文件的一个标记,当删除了源文件后,链接文件不能独立存在,虽然仍保留文件名,但却不能执行或是查看软链接的内容了。
6.5.2 硬链接
硬链接文件的inode号与源文件的inode号是相同的,并且硬链接文件的大小与源文件的大小也是相同的。且当创建了一个硬链接文件后,该硬链接文件和源文件的硬链接数都变成了2。
硬链接文件就是源文件的一个别名,一个文件有几个文件名,该文件的硬链接数就是几。且当硬链接的源文件被删除后,硬链接文件仍能正常执行,只是文件的链接数减少了一个,因为此时该文件的文件名少了一个。
为什么新建目录的的硬链接数是2?
因为每个目录创建后,该目录下默认会有两个隐含文件.和..,分别代表当前目录和上级目录。因此这里创建的目录有两个名字,一个是dir另一个就是该目录下的.,所以刚创建的目录硬链接数是2。
通过上图也可以看出dir和该目录下的.的inode号相同,也可以说明它们代表的实际是同一个文件