linux文件合并、去重、拆分

一、两个文件的交集、并集（前提条件：每个文件中不得有重复行）

1. 取出两个文件的并集（重复的行只保留一份）

 cat file1 file2 | sort | uniq > file3

2. 取出两个文件的交集（只留下同时存在于两个文件中的文件）

 cat file1 file2 | sort | uniq -d > file3

3. 删除交集，留下其他的行

 cat file1 file2 | sort | uniq -u > file3

二、两个文件合并

1. 一个文件在上，一个文件在下

 cat file1 file2 > file3

2. 一个文件在左，一个文件在右

 paste file1 file2 > file3

三、一个文件去掉重复的行

1. 重复的多行记为一行

 sort file |uniq

2. 重复的行全部去掉

 sort file |uniq -u

四、文件拆分

1.split 命令

 使用方式：split [OPTION] [INPUT [PREFIX]

OPTION 有

　　- l<行数>或-l<行数> 　指定每多少行就要切成一个小文件。

　　-b<字节> 　指定每多少字就要切成一个小文件。支持单位:m,k

　　-C<字节> 　与-b参数类似，但切割时尽量维持每行的完整性。

如：

a>按照 指定分割后文件行数

  对于文本文件，可以通过指定分割后文件的行数来进行文件分割。

  命令：split -l 300 large_file.log new_file_prefi

b>按照 指定分割后文件大小

  对于文本文件，可以通过指定分割后文件的行数来进行文件分割。

  命令：split -l 300 large_file.log new_file_prefix