@[toc]
❀grep sed awk命令以及正则表达式
总文章在:Linux常用命令
grep
语法:
grep 【选项】 '内容' 文件名
grep | 以行为单位过滤 |
---|---|
-i | 不区分大小写 |
-v | 取反 |
-w | 以单词为单位进行过滤 |
-B | 指定行数,过滤指定内容以及上几行 |
-A | 指定行数,过滤指定内容以及下几行 |
-C | 指定行数,过滤指定内容以及上下各几行 |
-o | 只输出过滤的内容 |
-c | 统计过滤的行数 |
-n | 显示行号 |
-E | 使用扩展正则 |
正则表达式:
基础正则表达式 -->grep可以直接使用
$ 以...结尾
^ 以...开头
. 匹配任意一个字符
- 匹配前一个字符或子表达式任意次(例如:grep "g. d" a.txt(过滤a.txt文件中的以g开头以d结尾可以代表有任意多个字符或没有字符))
[A-Z] [a-z] [0-9] [A-Za-z0-9]
1 取反
扩展正则表达式 egrep =grep -E
{n,m} 匹配前一个字符或子表达式n到m次
{n, } 匹配前一个字符或子表达式最少n次
{ ,m} 匹配前一个字符或表达式最少m次
{n} 匹配前一个字符或子表达式n次
+ 匹配前一个字符或子表达式1次以上(*包括0+不包括,至少)
? 匹配前一个字符或子表达式0次或1次以上
| 或
() 分组(例如:(g|f)ood)
\ 转义,取消一个字符的特殊含义
想要查看更多的正则表达式就去👉正则表达式(全)👈
查找/root这层目录有多少个普通文件?
find ./ -maxdepth 1 -type f ! -name ".*" | wc -l | ll | grep -c "^_"
sed
语法:
sed [选项] ‘[操作地址]sed内置操作’ 文件
常用选项
sed | 流文件处理工具 |
---|---|
-n | 只输出处理的行 |
-i | 修改文件内容,编辑文件 |
-e | 指定多个sed内置操作,现在不常用,多个sed内置操作可以使用分号隔开 |
-r | 支持扩展正则表达式 |
操作地址
2 | 代表处理文件的第2行 |
1,5 | 代表处理文件的第1到5行 |
1;5 | 代表处理文件的第1行和第5行 |
1~2 | 代表指定步长为2,处理的是1,3,5…行 |
2,~2 | 代表处理文件的第2行开始,到2的倍数行结束。(2,~2=2,4 ;4,~4=4,8行) |
4,$ | 代表处理文件第4行到最后一行 |
1,+2 | 代表处理文件的第1行到第1+2行,也就是1到3行 |
举例:
sed -n '2p' a.txt 打印第二行 (2)
sed -n '2,5p' a.txt 打印第二行到第五行(2,3,4,5)
sed -n '2p;5p' a.txt 打印第二行和第五行(2,5)
sed -n '3,$p' a.txt 打印第三行到最后一行(3,4,5,6,7,8,9,10)
sed -n '1~2p' a.txt 打印指定步长为2,所以打印的是1、3、5、7......行 (1,3,5,7,9)
sed -n '1,+2p' a.txt 打印第1行到第1+2行,也就是1到3行(1,2,3)
内置操作
p | 打印 |
a | 在指定行后追加数据 |
i | 在指定行前插入行前 |
d | 删除指定行 |
c | 替换指定整行 |
s | 替换指定字符,默认替换每行第一个字符 |
g | 通常与s组合使用,替换全部指定字符 |
n | 获取下一行 |
y | 字符转换,类似于tr命令(正则不能使用) |
r | 将文件读入指定行后 |
w | 将指定行另存为文件 |
q | 结束sed操作 |
N | 不会清空模式空间内的内容,将下一行追加到模式空间,两行数据以换行符 |
举例:
sed -i '2a abcabc' a.txt 修改文件
sed '2a abcabc' a.txt 输出一下但不修改文件
sed '3d' a.txt 删除第三行
sed 's/abc/ABC/g' a.txt 把a.txt中的所有abc修改成ABC
sed -n 'n,p' a.txt (2,4,6,8,10)
sed -n 'N,p' a.txt (1,2,3,4,5,6,7,8,9,10)
sed '3r a.txt' b.txt 把a.txt里面的数据放到b.txt的第三行的后面
sed '3,5w a.txt' b.txt 把a.txt的第三行到第五行放到b.txt里面
sed -n '3!p' a.txt 除了第三行其他都打印出来
在sed内置操作前加!,表示除了指定地址外,其余行执行该命令
s替换的两个特殊用法&和\1
使用正则:/字符或表达式/
想要查看更多的正则表达式就去👉正则表达式(全)👈
echo "http://www.baidu.com/1.mp3" | sed -r 's#(.)//(.)/(.*)#\2#'
awk
语法:
awk [选项] ‘BEGIN{command}匹配模式{command}END{command}’ 文件
执行流程:
执行BEGIN{commands}语句块中的语句;
从文件或标准输入中读取第1行;
如果没有匹配模式,则执行{}中的语句;
若有匹配模式,则检查该整行与匹配模式是否匹配;
若匹配, 则执行{}中的语句;
若不匹配则不执行{}中的语句,接着读取下一行;
重复这个过程, 直到所有行被读取完毕;
执行END{commands}语句块中的语句。
awk格式书写:
awk的指令一定要用单引号括起
awk的动作一定要用花括号括起
匹配模式可以是正则表达式、条件表达式或两种组合
如果模式是正则表达式要用/做分割符
多个动作之间用;号分开
**<font
color=orange>内置操作**
$0 | 文件的整行 |
$1~$n | awk处理的列,以FS为分隔符 |
NF | 查看一共有多少列 |
$NF | 查看文件的最后一列 |
NR | 表示处理的行数(一共有多少行) 外:指定输出第几行 |
FNR | 表示处理当前文件的行数 |
FS | 输入字段的分隔符,默认空格或制表符 |
RS | 输入记录的分隔符,默认是换行 |
OFS | 输出字段的分隔符,默认空格 |
ORS | 输出行的分隔符,默认换行 |
FILENAME | awk处理的文件名 |
PATH | 文件路径 |
ARGC | 命令行参数个数 |
ARGV | 命令行参数数组 |
ENVIRON | 获取Linux系统中的环境变量 |
awk进阶用法(内置)举例:
awk 'END{print FILENAME}' dName.txt 输出文件名加个END输出一个文件名,否则文件有多少行就输出多少个文件名
awk 'END {print ENVIRON["PATH"]}' dName.txt 掉用系统中的环境变量
head -1 a.txt | awk 'BEGIN{OFS="-"}{print $1,$2}' 查看a.txt第一行,用内置分隔符OFS指定以-分割(1.1.1.1-11)
head -1 a.txt | awk 'BEGIN{ORS="-"}{print $1,$2}' 查看a.txt第一行,用内置分隔符ORS指定以-在最后面分割(1.1.1.1 11-)
awk 'length($0)==2 {print}' h.txt 如果h.txt里面有长度等于2的就输出
echo "abc123abc" | awk '{print toupper($0)}' 把abc换成ABC
echo "ABC123ABC" | awk '{print tolower($0)}' 把ABC换成abc
getline | 获取下一行 |
split("字符串","数组名称","分隔符") | 按指定分隔符将字符串切割为数组 |
length("字符串") | 求字符串长度 |
sub("原字符","替换字符","字符串") | 默认替换一次,返回的是替换次数,该字符串内容 发生变化 |
gsub | 全局替换 |
-F | 指定分隔符 |
toupper | 小写换大写 |
tolower | 大写换小写 |
举例:
awk -F ":" 'END {print NR}' /etc/passwd 打印一共有多少行
awk -F ":" 'NR\==3{print}' /etc/passwd 打印第三行
awk -F ":" 'NR\==3 {print $2}'/etc/passwd 打印第三行第二段,以:为分隔符
awk 'NR<=3 {print }' /etc/passwd 打印前三行
awk 'NR\==3||NR==5 {print }' /etc/passwd 打印第三行和第五行
时间函数:strftime()时间 systime()时间戳
awk 'BEGIN {print strftime()}' 输出年月日时分秒(四 3月 3 09:35:34 CST 2022)
awk 'BEGIN {print strftime("%Y")}' 输出年(2022)
awk 'BEGIN {print strftime("%F")}' 输出年月日(2022-03-03)
awk 'BEGIN {print strftime("%T")}' 输出时分秒(09:36:16)
awk 'BEGIN {print systime()}' 输出时间戳(1646271406)
awk运算:
echo a | awk '{print 1/3}' 小数 (0.33333)
echo a | awk 'print int(1/3)' 整数(0)
echo a | awk '{print int (1/3*100)}' 向小数点后面移两位(33)
占位符:
%f | 输出小数 |
%d | 输出整数 |
%s | 输出字符串 |
字符串格式化输出:
echo a | awk '{printf "使用率为%.2f\n",(1/3)}' 输出(使用率为0.33)
echo a | awk '{printf "使用率为%d\n",(1/3)}' 输出(使用率为0)
echo a | awk '{printf "使用率为%s\n","xiaoming"}' 输出(使用率为xiaoming)
查看内存占用率:
free -m | awk 'NR==2 {printf "当前使用率是%d%\n",int($3/$2*100)"%"}' 输出(当前使用率是12%)
awk之if判断:
awk '{if ($1=="识别完成") {print 1} else {print 0}}'
如果$1的值等于识别完成这四个字,就输出1,否则输出0;
awk扩展正则:
awk '$3~/^41/ {print $1,$2,$3}' b.txt 取第三行以41开头的输出姓,名,编号awk '$2~/^(D|X)/ {print $1,$2}' b.txt 取第二行以D或者X开头的名输出姓,名
awk '/^2/ {print $3}' /etc/fstab 取消以#号开头的行打印输出第三行
想要查看更多的正则表达式就去👉正则表达式(全)👈
awk 'BEGIN{FS=":";print "ARGC="ARGC;for(k in ARGV) {print k"="ARGV[k]; }}' /etc/passwd
awk 'BEGIN{print ENVIRON["PATH"];}' /etc/passwd
awk 'BEGIN{OFMT="%.3f";print 2/3,123.11111111;}' /etc/passwd
awk '{tmp=$0;getline;print tmp"="$0}' test.txt