linux中最为常用的三大文本(grep,sed,awk)处理工具

简介: linux中最为常用的三大文本(grep,sed,awk)处理工具

一。sed


1. sed定义


Sed is a stream editor.


sed全称是:stream editor 流编辑器


对文件的操作无非就是”增删改查“,sed命令就是实现对文件的”增删改查“。


1.1 man sed //man 的解释


sed - stream editor for filtering and transforming text


用于过滤和转换文本的流编辑器


2. 功能


Sed 主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等。


sed 本身是一个非常复杂的工具,有专门的书籍讲解 sed 的具体用法


作为linux中最为常用的三大文本(awk,sed,grep)处理工具之一


2.1 注意-sed 不会直接修改源文件数据


sed 默认不会直接修改源文件数据,而是会将数据复制到缓冲区中,修改也仅限于缓冲区中的数据


3. sed 与 vi 的区别


vi 采用的是交互式文本编辑模式,你可以用键盘命令来交互性地插入、删除或替换数据中的文本。


sed 采用的是流编辑模式,最明显的特点是,在 sed 处理数据之前,需要预先提供一组规则,sed 会按照此规则来编辑数据。


sed 是一种非交互式编辑器(即用户不必参与编辑过程),它使用预先设定好的编辑指令对输入的文本进行编辑,完成之后再输出编辑结构


4. sed工作原理


  1. sed 会一次处理一行内容。


  1. 处理时,把当前处理的行存储在临时缓冲区中,成为"模式空间",接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。


  1. 文件内容并没有改变,除非你使用重定向存储输出。


5. 语法


sed [-hnV] [ -e<script>] [-f<script文件>] [文本文件]


sed [选项] [脚本命令] 文件名


选项部分,常见选项包括 -n,-e,-i,-f,-r选项。


脚本命令,常见包括: 增a 删d 改s(替换) 插入i 打印p 取代c


5.1 选项说明:


选项 含义


  1. -e 如果需要用sed对文本内容进行多种操作,则需要执行多条子命令来进行操作。


  1. -f 指定sed脚本的文件名


如果命令操作比较多的时候就会比较麻烦,这时候把多个子命令操作写入脚本文件,然后使用 -f 选项来指定该脚本


  1. -n 取消默认的输出


默认情况下,sed 会在所有的脚本指定执行完毕后,会自动输出处理后的内容,

而该选项会屏蔽启动输出,需使用 print 命令来完成输出。


  1. -i 此选项会直接修改源文件,要慎用。


5.2 动作/脚本命令说明:


a :新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~


c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!


d :删除,因为是删除啊,所以 d 后面通常不接任何咚咚;


i :插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);


p :打印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行~只输出被替换命令修改过的行


s :取代,可以直接进行取代的工作. s 的动作可以搭配正规表示法!例如 1,20s/old/new/g 就是啦!


6. 示例及说明


下面所有例子都以 test 文件为例子说明


hello world,hello hani.
hello world,hello hani.
hani is a good man,hani is handsome.
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.1 sed s 字符串替换


6.1.1 sed s 格式


s/pattern/replacement/flags


flags 标记 功能


  1. n 1~512 之间的数字


表示指定要替换的字符串出现第几次时才进行替换,例如,一行中有 6 个 A,但用户只想替换第二个 A,这是就用到这个标记;


  1. g 对数据中所有匹配到的内容进行替换


如果没有 g,则只会在第一次匹配成功时做替换操作。


sed ‘s/old/new/’ test 匹配每一行的第一个old替换为new


例如,一行数据中有 3 个 A,则只会替换第一个 A;


6.1.2 sed ‘s/is/are/2’ test [局部替换]


sed ‘s/old/new/’ test 匹配每一行的第一个old替换为new


sed 编辑器只替换每行中第 2 次出现的匹配模式


root@ubuntu-admin-a1:/home/sedTest# sed 's/hello/HELLO/2' test 
hello world,HELLO hani.
hello world,HELLO hani.
hani is a good man,hani is handsome.
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.1.3 sed ‘s/hani/HANI/g’ test [g 全部替换]


替换所有匹配的字符串


root@ubuntu-admin-a1:/home/sedTest# sed 's/hani/HANI/g' test 
hello world,hello HANI.
hello world,hello HANI.
HANI is a good man,HANI is handsome.
this is the test script of sed test.
linux sed
133456789
/aaa/bbb/ccc


6.1.4 sed -n ‘s/hani/HANI/p’ test [-n p 只输出修改的行]


-n 选项会禁止 sed 输出,但 p 标记会输出修改过的行,


将二者匹配使用的效果就是只输出被替换命令修改过的行


root@ubuntu-admin-a1:/home/sedTest# sed -n 's/hani/HANI/p' test 
hello world,hello HANI.
hello world,hello HANI.
HANI is a good man,hani is handsome.


6.1.5 其他常用


sed ‘s/old/new/’ test


匹配每一行的第一个old替换为new


sed ‘s/old/new/gi’ test


匹配所有old替换为new,g 代表一行多个,i 代表匹配忽略大小写


sed ‘3,9s/old/new/gi’ test


匹配第 3~9 行所有old替换为new


6.1.6 转换windows文件格式为unix,去除\r:sed -i ‘s/\r//’ test


sed -i 's/\r//' test


\r \n 回车换行符详解


\r \n 回车换行符详解_Hani_97的博客-CSDN博客_回车换行符


6.2 sed d 删除


格式为:


[#]d


6.2.1 sed ‘d’ test [d 删除全部]


root@ubuntu-admin-a1:/home/sedTest# sed 'd' test


6.2.2 sed ‘3d’ test [3d 删除指定行]


root@ubuntu-admin-a1:/home/sedTest# sed '3d' test 
hello world,hello hani.
hello world,hello hani.
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.2.3 sed ‘1,4d’ test [1,4d 删除区间]


root@ubuntu-admin-a1:/home/sedTest# sed '1,4d' test 
linux sed
123456789
/aaa/bbb/ccc


6.3 sed a 和 i 添加和插入


a 命令表示在指定行的后面附加一行,i 命令表示在指定行的前面插入一行,


它们的基本格式完全相同


格式为:


[#]a(或 i)\新文本内容


6.3.1 sed ‘3i you are beautiful’ test [3i 指定行之前插入]


root@ubuntu-admin-a1:/home/sedTest# sed '3i you are beautiful' test 
hello world,hello hani.
hello world,hello hani.
you are beautiful
hani is a good man,hani is handsome.
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.3.2 sed ‘3a you are more beautiful’ test [3a 指定行之后添加]


root@ubuntu-admin-a1:/home/sedTest# sed '3a you are more beautiful' test 
hello world,hello hani.
hello world,hello hani.
hani is a good man,hani is handsome.
you are more beautiful
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.3.3 sed ‘4i hani\ ……’ test [……\ 添加/插入多行]


root@ubuntu-admin-a1:/home/sedTest# sed '4i hani\
hani hani\
hani hani hani' test 
hello world,hello hani.
hello world,hello hani.
hani is a good man,hani is handsome.
hani
hani hani
hani hani hani
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.4 sed c 取代


6.4.1 sed ‘3c you are beautiful’ test [3c 取代指定行]


root@ubuntu-admin-a1:/home/sedTest# sed '3c you are beautiful' test 
hello world,hello hani.
hello world,hello hani.
you are beautiful
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc


6.5 sed y 转换字符


y 转换命令是唯一可以处理单个字符的 sed 脚本命令


格式


[address]y/inchars/outchars/


6.5.1 sed ‘y/hani/HANI/’ test [每个字符进行映射替换]


  1. 转换命令会对 inchars 和 outchars 值进行一对一的映射,即 inchars 中的第一个字符会被转换为 outchars 中的第一个字符,


第二个字符会被转换成 outchars 中的第二个字符…


这个映射过程会一直持续到处理完指定字符。


如果 inchars 和 outchars 的长度不同,则 sed 会产生一条错误消息。


  1. 转换命令是一个全局命令,也就是说,它会文本行中找到的所有指定字符自动进行转换,而不会考虑它们出现的位置


root@ubuntu-admin-a1:/home/sedTest# sed ‘y/hani/HANI/’ test


Hello world,Hello HANI.


Hello world,Hello HANI.


HANI Is A good mAN,HANI Is HANdsome.


tHIs Is tHe test scrIpt of sed test.


lINux sed


123456789


/AAA/bbb/ccc


6.6 sed p 打印脚本命令


p 命令表示搜索符号条件的行,并输出该行的内容


格式为:


[address]p


6.6.1 sed -n ‘/hani/p’ test [只打印包含匹配文本模式的行]


root@ubuntu-admin-a1:/home/sedTest# sed -n '/hani/p' test 
hello world,hello hani.
hello world,hello hani.
hani is a good man,hani is handsome.


6.6.2 sed p 其他常用


sed ‘2p’ test 重复打印第 2 行


sed ‘1,3p’ test 重复打印第1~3行


sed -n ‘2p’ test 只打印第 2 行


sed -n ‘1,3p’ test 只打印第 1~3 行


sed -n ‘/hani/p’ test 打印匹配到 hani 的行,类似grep


sed -n ‘/hani/!p’ test ! 反选,打印没有匹配到 hani 的行


sed -n ‘s/old/new/gp’ test 只打印匹配替换的行


6.7 sed w 将所选的行写入文件


w 命令用来将文本中指定行的内容写入文件中


格式如下:


[address]w filename


6.7.1 sed ‘s/hani/HANI/w another’ test [w 写到另外文件]


w 标记会将匹配后的结果保存到指定文件中


root@ubuntu-admin-a1:/home/sedTest# sed  's/hani/HANI/w another' test 
hello world,hello HANI.
hello world,hello HANI.
HANI is a good man,hani is handsome.
this is the test script of sed test.
linux sed
123456789
/aaa/bbb/ccc
root@ubuntu-admin-a1:/home/sedTest# ls
another  test
root@ubuntu-admin-a1:/home/sedTest# cat another 
hello world,hello HANI.
hello world,hello HANI.
HANI is a good man,hani is handsome.
相关文章
|
2月前
|
Linux 开发工具
7种比较Linux中文本文件的最佳工具
7种比较Linux中文本文件的最佳工具
7种比较Linux中文本文件的最佳工具
|
2月前
|
Ubuntu 搜索推荐 Linux
详解Ubuntu的strings与grep命令:Linux开发的实用工具。
这就是Ubuntu中的strings和grep命令,透明且强大。我希望你喜欢这个神奇的世界,并能在你的Linux开发旅程上,通过它们找到你的方向。记住,你的电脑是你的舞台,在上面你可以做任何你想做的事,只要你敢于尝试。
144 32
|
4月前
|
自然语言处理 数据库 iOS开发
DBeaver Ultimate Edtion 25.0 Multilingual (macOS, Linux, Windows) - 通用数据库工具
DBeaver Ultimate Edtion 25.0 Multilingual (macOS, Linux, Windows) - 通用数据库工具
283 12
DBeaver Ultimate Edtion 25.0 Multilingual (macOS, Linux, Windows) - 通用数据库工具
|
3月前
|
运维 安全 Linux
试试Linux设备命令行运维工具——Wowkey
WowKey 是一款专为 Linux 设备设计的命令行运维工具,提供自动化、批量化、标准化、简单化的运维解决方案。它简单易用、高效集成且无依赖,仅需 WIS 指令剧本文件、APT 账号密码文件和 wowkey 命令即可操作。通过分离鉴权内容与执行内容,WowKey 让运维人员专注于决策,摆脱繁琐的交互与执行细节工作,大幅提升运维效率与质量。无论是健康检查、数据采集还是配置更新,WowKey 都能助您轻松应对大规模设备运维挑战。立即从官方资源了解更多信息:https://atsight.top/training。
|
3月前
|
数据采集 运维 安全
Linux设备命令行运维工具WowKey问答
WowKey 是一款用于 Linux 设备运维的工具,可通过命令行手动或自动执行指令剧本,实现批量、标准化操作,如健康检查、数据采集、配置更新等。它简单易用,只需编写 WIS 指令剧本和 APT 帐号密码表文件,学习成本极低。支持不同流派的 Linux 系统,如 RHEL、Debian、SUSE 等,只要使用通用 Shell 命令即可通吃Linux设备。
|
搜索推荐 Linux 开发工具
【Linux】深入理解awk命令
【Linux】深入理解awk命令
125 0
|
存储 Linux Shell
Linux awk命令
除了使用 sed 命令,Linux 系统中还有一个功能更加强大的文本数据处理工具,就是 awk。 曾有人推测 awk 命令的名字来源于 awkward 这个单词。其实不然,此命令的设计者有 3 位,他们的姓分别是 Aho、Weingberger 和 Kernighan,awk 就取自这 3 为大师姓的首字母。 和 sed 命令类似,awk 命令也是逐行扫描文件(从第 1 行到最后一行),寻找含有目标文本的行,如果匹配成功,则会在该行上执行用户想要的操作;反之,则不对行做任何处理。awk 命令的基本格式为: [root@localhost ~]# awk [选项] '脚本命令' 文件名
189 1
|
Unix 测试技术 Linux
|
Linux Perl
百度搜索:蓝易云【linux系统awk命令使用详解】
Awk是一种强大的文本处理工具,在Linux系统中广泛使用。它可以读取文件、处理数据并输出结果,通常与其他Linux命令一起使用。在本篇文章中,我们将详细讲解Awk的使用方法,帮助读者了解这个工具的基本原理和常见用法。
114 0
|
11月前
|
Linux Perl
在Linux中,如何使用请用 cut 或者 awk,sed命令取出 linux 中 eth0 的 IP 地址?
在Linux中,如何使用请用 cut 或者 awk,sed命令取出 linux 中 eth0 的 IP 地址?