Linux shell基础(六)awk命令 ver0.2

简介:

一、awk命令

awk是一种编程语言,用于在linux/unix下对文本和数据进行处理(gawk - pattern scanning and processing language)。centos7中的awk是gawk的链接。它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。前面的grep、sed只是单纯的工具,而awk已经是一门语言了,可见awk的功能将比较强大

用法:
awk -F '分割记号' ‘script’ files
awk [options] 'script' var=value file(s) 
awk [options] -f scriptfile var=value file(s)

选项:
-F fs fs指定输入分隔符,fs可以是字符串或正则表达式,如-F:
-v var=value 赋值一个用户定义变量,将外部变量传递给awk
-f scripfile 从脚本文件中读取awk命令

二、对文本竖列的操作

awk命令能够方便的通过指定分隔记号将文本分成特定的列,然后在针对分出来的竖列进行操作

1、显示test.txt文档的第一列前5行。

awk -F ':' '{print $1}' test.txt | head -n 5

命令解释:-F ':' 就是说这个文件以:作为分隔符,我们做实验的是passwd文件,它本身就被:分割成了7段,'{}'中就是操作的描述,命令中的print $1 就是显示第1列。

Linux shell基础(六)awk命令 ver0.2

2、显示test.txt文件所有竖列的内容

awk -F ':' '{print $0}' test.txt
awk '{print $0}' test.txt

注意与上一条命令的区别,$1表示第一列,$0表示所有列。
Linux shell基础(六)awk命令 ver0.2

效果上其实和cat一样。

3、awk也可以
awk命令在没有指定-F 分割符号或分割字符串时,默认以空格或者空白段作为分隔符

我们先创建一个测试文档,以空格作为分隔符
Linux shell基础(六)awk命令 ver0.2

后我们输入下列命令

awk '{print $1}'
awk '{print $1,$3}'
awk '{print $1,$2}'

Linux shell基础(六)awk命令 ver0.2

可以看出awk自动把空格作为分段记号,不管是多少个空格。

4、指定#为显示分隔符显示特定列(注意不会影响原始文件,只是影响显示)

awk -F ':' '{print $1"#"$3"#"$7}' test.txt

Linux shell基础(六)awk命令 ver0.2

三、awk匹配功能举例

awk 搜索操作时与sed命令一样,awk默认支持正则,不需要像grep -E , sed -r 一样需要专门选项。
1、搜索含关键字root的行

awk '/root/' test.txt

Linux shell基础(六)awk命令 ver0.2

2、搜索第一竖列中含有oo字符的行。

sed -F ':' '$1 ~/oo/' test.txt

Linux shell基础(六)awk命令 ver0.2

注意这个波浪号~就是匹配的意思。

3、搜索root和test任意匹配其中一个所在的行的第一列和第三列

awk -F ':' '/root/{$1,$3} /test/{$1,$3}' test.txt
awk -F ':' '/root|test/ {print $0}' test.txt

Linux shell基础(六)awk命令 ver0.2

Linux shell基础(六)awk命令 ver0.2

4、搜索分割后第三段==0的行,也就是uid是零的行。

awk -F ':' '$3==0' test.txt

Linux shell基础(六)awk命令 ver0.2

这一列也可以拓展到其他数学表达式

awk -F ':' '$3>=1000' test.txt

Linux shell基础(六)awk命令 ver0.2

awk -F ':' '$3<=100' test.txt

Linux shell基础(六)awk命令 ver0.2

5、搜索分割后最后不是/sbin/nologin的行

awk -F ':' '$7!="/sbin/nologin" {print $1}' test.txt

Linux shell基础(六)awk命令 ver0.2

写正则时两个注意点:一是不是什么的表达式为!=,二是字符串匹配时要用双引号

6、搜索第三列大于第四列或者第七列==/sbin/nologin的行

awk -F ':' '$3>$4||$7=="sbin/nologin"' test.txt

Linux shell基础(六)awk命令 ver0.2

||表示或者,&&表示并且。

7、搜索第三列大于第四列和第七列==/sbin/nologin的行

awk -F ':' '$3>$4||$7&&"sbin/nologin"' test.txt

Linux shell基础(六)awk命令 ver0.2

四、awk内置变量功能举例

awk命令自带了一些变量:
OFS:系统分隔符
NR:总行数变量
NF:分割后最大段数数值

1、列出第三列大于1000数字或者第七段包含/bash/的行,打印这些行的1、3、7段,并且用#做显示分隔符。

awk -F ':' '{OFS="#"} $3>1000|| $7 ~ /bash/ {print $1,$3,$7}' test.txt
awk -F ':' '{OFS="#"} {if ($3>1000|| $7 ~ /bash/){print $1,$3,$7}}' test.txt

Linux shell基础(六)awk命令 ver0.2

Linux shell基础(六)awk命令 ver0.2
2、显示分段的最后一行

awk -F ':' '{print $NF}' test |head -n3

Linux shell基础(六)awk命令 ver0.2
$NF 表示末段 NF表示段数,是一个数字

3、显示文件,并在每一行前加上行号==grep -n

awk -F ':' {print NR":"$0} test.txt
grep -n '' test.txt

Linux shell基础(六)awk命令 ver0.2
Linux shell基础(六)awk命令 ver0.2

4、显示前10行,同时复习sed写法。

awk -F':' 'NR<=10 {print $0}' test.txt
sed -n '1,10'p test.txt

Linux shell基础(六)awk命令 ver0.2

Linux shell基础(六)awk命令 ver0.2
同时复习sed写法

5、利用awk命令给$1f赋值

head -n3 test.txt| awk -F ':' '{OFS=":"} $1="root"' test.txt

Linux shell基础(六)awk命令 ver0.2

注意与head -n3 test.txt| awk -F ':' '{OFS=":"} $1=="root"' test.txt的区别
Linux shell基础(六)awk命令 ver0.2

五、awk数学运算举例

1、计算第三段的值的和

awk -F ':' '{(tot=tot+$3)}; END {print tot}' test.txt

Linux shell基础(六)awk命令 ver0.2

 本文转自 whytl 51CTO博客,原文链接:http://blog.51cto.com/11934539/2062116


相关文章
|
2月前
|
Linux 应用服务中间件 Shell
二、Linux文本处理与文件操作核心命令
熟悉了Linux的基本“行走”后,就该拿起真正的“工具”干活了。用grep这个“放大镜”在文件里搜索内容,用find这个“探测器”在系统中寻找文件,再用tar把东西打包带走。最关键的是要学会使用管道符|,它像一条流水线,能把这些命令串联起来,让简单工具组合出强大的功能,比如 ps -ef | grep 'nginx' 就能快速找出nginx进程。
376 1
二、Linux文本处理与文件操作核心命令
|
2月前
|
Linux
linux命令—stat
`stat` 是 Linux 系统中用于查看文件或文件系统详细状态信息的命令。相比 `ls -l`,它提供更全面的信息,包括文件大小、权限、所有者、时间戳(最后访问、修改、状态变更时间)、inode 号、设备信息等。其常用选项包括 `-f` 查看文件系统状态、`-t` 以简洁格式输出、`-L` 跟踪符号链接,以及 `-c` 或 `--format` 自定义输出格式。通过这些选项,用户可以灵活获取所需信息,适用于系统调试、权限检查、磁盘管理等场景。
281 137
|
2月前
|
安全 Ubuntu Unix
一、初识 Linux 与基本命令
玩转Linux命令行,就像探索一座新城市。首先要熟悉它的“地图”,也就是/根目录下/etc(放配置)、/home(住家)这些核心区域。然后掌握几个“生存口令”:用ls看周围,cd去别处,mkdir建新房,cp/mv搬东西,再用cat或tail看文件内容。最后,别忘了随时按Tab键,它能帮你自动补全命令和路径,是提高效率的第一神器。
631 57
|
5月前
|
JSON 自然语言处理 Linux
linux命令—tree
tree是一款强大的Linux命令行工具,用于以树状结构递归展示目录和文件,直观呈现层级关系。支持多种功能,如过滤、排序、权限显示及格式化输出等。安装方法因系统而异常用场景包括:基础用法(显示当前或指定目录结构)、核心参数应用(如层级控制-L、隐藏文件显示-a、完整路径输出-f)以及进阶操作(如磁盘空间分析--du、结合grep过滤内容、生成JSON格式列表-J等)。此外,还可生成网站目录结构图并导出为HTML文件。注意事项:使用Tab键补全路径避免错误;超大目录建议限制遍历层数;脚本中推荐禁用统计信息以优化性能。更多详情可查阅手册mantree。
476 143
linux命令—tree
|
1月前
|
存储 安全 Linux
Linux卡在emergency mode怎么办?xfs_repair 命令轻松解决
Linux虚拟机遇紧急模式?别慌!多因磁盘挂载失败。本文教你通过日志定位问题,用`xfs_repair`等工具修复文件系统,三步快速恢复。掌握查日志、修磁盘、验重启,轻松应对紧急模式,保障系统稳定运行。
328 2
|
2月前
|
缓存 监控 Linux
Linux内存问题排查命令详解
Linux服务器卡顿?可能是内存问题。掌握free、vmstat、sar三大命令,快速排查内存使用情况。free查看实时内存,vmstat诊断系统整体性能瓶颈,sar实现长期监控,三者结合,高效定位并解决内存问题。
207 0
Linux内存问题排查命令详解
|
2月前
|
Unix Linux 程序员
Linux文本搜索工具grep命令使用指南
以上就是对Linux环境下强大工具 `grep` 的基础到进阶功能介绍。它不仅能够执行简单文字查询任务还能够处理复杂文字处理任务,并且支持强大而灵活地正则表达规范来增加查询精度与效率。无论您是程序员、数据分析师还是系统管理员,在日常工作中熟练运用该命令都将极大提升您处理和分析数据效率。
229 16
|
4月前
|
监控 Linux 网络安全
Linux命令大全:从入门到精通
日常使用的linux命令整理
783 13
|
5月前
|
Linux 网络安全 数据安全/隐私保护
使用Linux系统的mount命令挂载远程服务器的文件夹。
如此一来,你就完成了一次从你的Linux发车站到远程服务器文件夹的有趣旅行。在这个技术之旅中,你既探索了新地方,也学到了如何桥接不同系统之间的距离。
857 21
|
5月前
|
监控 Linux
Linux系统中使用df命令详解磁盘使用情况。
`df`命令是Linux系统管理员和用户监控和管理磁盘空间使用的重要工具。掌握它的基本使用方法和选项可以帮助在必要时分析和解决空间相关问题。简洁但功能丰富,`df`命令确保了用户可以快速有效地识别和管理文件系统的空间使用情况。
385 13