Linux三剑客grep、sed、awk以及正则表达式

简介: $ 以...结尾^ 以...开头. 匹配任意一个字符\- 匹配前一个字符或子表达式任意次(例如:grep "g.*d" a.txt(过滤a.txt文件中的以g开头以d结尾*可以代表有任意多个字符或没有字符))

@[toc]

❀grep sed awk命令以及正则表达式

在这里插入图片描述

              总文章在:Linux常用命令
在这里插入图片描述

grep

语法:

grep 【选项】 '内容' 文件名
grep 以行为单位过滤
-i 不区分大小写
-v 取反
-w 以单词为单位进行过滤
-B 指定行数,过滤指定内容以及上几行
-A 指定行数,过滤指定内容以及下几行
-C 指定行数,过滤指定内容以及上下各几行
-o 只输出过滤的内容
-c 统计过滤的行数
-n 显示行号
-E 使用扩展正则

正则表达式:

基础正则表达式 -->grep可以直接使用
$ 以...结尾
^ 以...开头
. 匹配任意一个字符
- 匹配前一个字符或子表达式任意次(例如:grep "g. d" a.txt(过滤a.txt文件中的以g开头以d结尾可以代表有任意多个字符或没有字符))
[A-Z] [a-z] [0-9] [A-Za-z0-9]
1 取反

扩展正则表达式 egrep =grep -E
{n,m} 匹配前一个字符或子表达式n到m次
{n, } 匹配前一个字符或子表达式最少n次
{ ,m} 匹配前一个字符或表达式最少m次
{n} 匹配前一个字符或子表达式n次

+ 匹配前一个字符或子表达式1次以上(*包括0+不包括,至少)
? 匹配前一个字符或子表达式0次或1次以上
| 或
() 分组(例如:(g|f)ood)

\ 转义,取消一个字符的特殊含义

想要查看更多的正则表达式就去👉正则表达式(全)👈

查找/root这层目录有多少个普通文件?
find ./ -maxdepth 1 -type f ! -name ".*" | wc -l | ll | grep -c "^_"

在这里插入图片描述

sed

语法:

sed [选项] ‘[操作地址]sed内置操作’ 文件

常用选项

sed 流文件处理工具
-n 只输出处理的行
-i 修改文件内容,编辑文件
-e 指定多个sed内置操作,现在不常用,多个sed内置操作可以使用分号隔开
-r 支持扩展正则表达式

操作地址

2 代表处理文件的第2行
1,5 代表处理文件的第1到5行
1;5 代表处理文件的第1行和第5行
1~2 代表指定步长为2,处理的是1,3,5…行
2,~2 代表处理文件的第2行开始,到2的倍数行结束。(2,~2=2,4 ;4,~4=4,8行)
4,$ 代表处理文件第4行到最后一行
1,+2 代表处理文件的第1行到第1+2行,也就是1到3行

举例:

sed -n '2p' a.txt 打印第二行 (2)
sed -n '2,5p' a.txt 打印第二行到第五行(2,3,4,5)
sed -n '2p;5p' a.txt 打印第二行和第五行(2,5)
sed -n '3,$p' a.txt 打印第三行到最后一行(3,4,5,6,7,8,9,10)
sed -n '1~2p' a.txt 打印指定步长为2,所以打印的是1、3、5、7......行 (1,3,5,7,9)
sed -n '1,+2p' a.txt 打印第1行到第1+2行,也就是1到3行(1,2,3)

内置操作

p 打印
a 在指定行后追加数据
i 在指定行前插入行前
d 删除指定行
c 替换指定整行
s 替换指定字符,默认替换每行第一个字符
g 通常与s组合使用,替换全部指定字符
n 获取下一行
y 字符转换,类似于tr命令(正则不能使用)
r 将文件读入指定行后
w 将指定行另存为文件
q 结束sed操作
N 不会清空模式空间内的内容,将下一行追加到模式空间,两行数据以换行符

举例:

sed -i '2a abcabc' a.txt 修改文件
sed '2a abcabc' a.txt 输出一下但不修改文件
sed '3d' a.txt 删除第三行
sed 's/abc/ABC/g' a.txt 把a.txt中的所有abc修改成ABC
sed -n 'n,p' a.txt (2,4,6,8,10)
sed -n 'N,p' a.txt (1,2,3,4,5,6,7,8,9,10)
sed '3r a.txt' b.txt 把a.txt里面的数据放到b.txt的第三行的后面
sed '3,5w a.txt' b.txt 把a.txt的第三行到第五行放到b.txt里面
sed -n '3!p' a.txt 除了第三行其他都打印出来

在sed内置操作前加!,表示除了指定地址外,其余行执行该命令
s替换的两个特殊用法&和\1

使用正则:/字符或表达式/
想要查看更多的正则表达式就去👉正则表达式(全)👈

echo "http://www.baidu.com/1.mp3" | sed -r 's#(.)//(.)/(.*)#\2#'

在这里插入图片描述

awk

语法:

awk [选项] ‘BEGIN{command}匹配模式{command}END{command}’ 文件

执行流程:

执行BEGIN{commands}语句块中的语句;
从文件或标准输入中读取第1行;
如果没有匹配模式,则执行{}中的语句;
若有匹配模式,则检查该整行与匹配模式是否匹配;
若匹配, 则执行{}中的语句;
若不匹配则不执行{}中的语句,接着读取下一行;
重复这个过程, 直到所有行被读取完毕;
执行END{commands}语句块中的语句。

awk格式书写:

awk的指令一定要用单引号括起
awk的动作一定要用花括号括起
匹配模式可以是正则表达式、条件表达式或两种组合
如果模式是正则表达式要用/做分割符
多个动作之间用;号分开

**<font
color=orange>内置操作**

$0 文件的整行
&dollar;1~$n awk处理的列,以FS为分隔符
NF 查看一共有多少列
$NF 查看文件的最后一列
NR 表示处理的行数(一共有多少行) 外:指定输出第几行
FNR 表示处理当前文件的行数
FS 输入字段的分隔符,默认空格或制表符
RS 输入记录的分隔符,默认是换行
OFS 输出字段的分隔符,默认空格
ORS 输出行的分隔符,默认换行
FILENAME awk处理的文件名
PATH 文件路径
ARGC 命令行参数个数
ARGV 命令行参数数组
ENVIRON 获取Linux系统中的环境变量

awk进阶用法(内置)举例:

awk 'END{print FILENAME}' dName.txt 输出文件名加个END输出一个文件名,否则文件有多少行就输出多少个文件名
awk 'END {print ENVIRON["PATH"]}' dName.txt 掉用系统中的环境变量
head -1 a.txt | awk 'BEGIN{OFS="-"}{print $1,$2}' 查看a.txt第一行,用内置分隔符OFS指定以-分割(1.1.1.1-11)
head -1 a.txt | awk 'BEGIN{ORS="-"}{print $1,$2}' 查看a.txt第一行,用内置分隔符ORS指定以-在最后面分割(1.1.1.1 11-)
awk 'length($0)==2 {print}' h.txt 如果h.txt里面有长度等于2的就输出
echo "abc123abc" | awk '{print toupper($0)}' 把abc换成ABC
echo "ABC123ABC" | awk '{print tolower($0)}' 把ABC换成abc
getline 获取下一行
split("字符串","数组名称","分隔符") 按指定分隔符将字符串切割为数组
length("字符串") 求字符串长度
sub("原字符","替换字符","字符串") 默认替换一次,返回的是替换次数,该字符串内容 发生变化
gsub 全局替换
-F 指定分隔符
toupper 小写换大写
tolower 大写换小写


举例:

awk -F ":" 'END {print NR}' /etc/passwd 打印一共有多少行
awk -F ":" 'NR\==3{print}' /etc/passwd 打印第三行
awk -F ":" 'NR\==3 {print $2}'/etc/passwd 打印第三行第二段,以:为分隔符
awk 'NR<=3 {print }' /etc/passwd 打印前三行
awk 'NR\==3||NR==5 {print }' /etc/passwd 打印第三行和第五行

时间函数:strftime()时间 systime()时间戳

awk 'BEGIN {print strftime()}' 输出年月日时分秒(四 3月 3 09:35:34 CST 2022)
awk 'BEGIN {print strftime("%Y")}' 输出年(2022)
awk 'BEGIN {print strftime("%F")}' 输出年月日(2022-03-03)
awk 'BEGIN {print strftime("%T")}' 输出时分秒(09:36:16)
awk 'BEGIN {print systime()}' 输出时间戳(1646271406)

awk运算:

echo a | awk '{print 1/3}' 小数 (0.33333)
echo a | awk 'print int(1/3)' 整数(0)
echo a | awk '{print int (1/3*100)}' 向小数点后面移两位(33)

占位符:

%f 输出小数
%d 输出整数
%s 输出字符串

字符串格式化输出:

echo a | awk '{printf "使用率为%.2f\n",(1/3)}' 输出(使用率为0.33)
echo a | awk '{printf "使用率为%d\n",(1/3)}' 输出(使用率为0)
echo a | awk '{printf "使用率为%s\n","xiaoming"}' 输出(使用率为xiaoming)

查看内存占用率:

free -m | awk 'NR==2 {printf "当前使用率是%d%\n",int($3/$2*100)"%"}' 输出(当前使用率是12%)

awk之if判断:

awk '{if ($1=="识别完成") {print 1} else {print 0}}'
如果$1的值等于识别完成这四个字,就输出1,否则输出0;

awk扩展正则:

awk '$3~/^41/ {print $1,$2,$3}' b.txt 取第三行以41开头的输出姓,名,编号

awk '$2~/^(D|X)/ {print $1,$2}' b.txt 取第二行以D或者X开头的名输出姓,名

awk '/^2/ {print $3}' /etc/fstab 取消以#号开头的行打印输出第三行

想要查看更多的正则表达式就去👉正则表达式(全)👈

awk 'BEGIN{FS=":";print "ARGC="ARGC;for(k in ARGV) {print k"="ARGV[k]; }}' /etc/passwd

awk 'BEGIN{print ENVIRON["PATH"];}' /etc/passwd

awk 'BEGIN{OFMT="%.3f";print 2/3,123.11111111;}' /etc/passwd

awk '{tmp=$0;getline;print tmp"="$0}' test.txt

  1. a-z
  2. #
目录
相关文章
|
2月前
|
监控 Linux
linux之grep详解
linux之grep详解
|
2月前
|
机器学习/深度学习 Linux Perl
Linux文本处理三剑客之sed详解
这篇博客详细讲解了Linux中的文本处理工具sed的使用方法和常用命令。
170 9
Linux文本处理三剑客之sed详解
|
2月前
|
Linux Perl
Linux之sed命令
Linux之sed命令
|
2月前
|
存储 Linux Shell
linux查找技巧: find grep xargs
linux查找技巧: find grep xargs
38 13
|
2月前
|
人工智能 监控 Shell
常用的 55 个 Linux Shell 脚本(包括基础案例、文件操作、实用工具、图形化、sed、gawk)
这篇文章提供了55个常用的Linux Shell脚本实例,涵盖基础案例、文件操作、实用工具、图形化界面及sed、gawk的使用。
445 2
|
2月前
|
机器学习/深度学习 存储 Linux
linux中强大且常用命令:find、xargs、grep
linux中强大且常用命令:find、xargs、grep
102 9
|
2月前
|
SQL 移动开发 Linux
linux下find、grep命令详解
linux下find、grep命令详解
171 8
|
2月前
|
Linux Perl
6-20|linux sed命令
6-20|linux sed命令
|
5月前
|
数据库 Python
Python网络数据抓取(8):正则表达式
Python网络数据抓取(8):正则表达式
54 2
|
5月前
|
自然语言处理 JavaScript 前端开发
Python高级语法与正则表达式(二)
正则表达式描述了一种字符串匹配的模式,可以用来检查一个串是否含有某种子串、将匹配的子串做替换或者从某个串中取出符合某个条件的子串等。