Linux 三剑客 grep、sed、awk

简介: Linux三剑客`grep`、`sed`和`awk`是强大的文本处理工具。`grep`用正则表达式搜索匹配行;`sed`是流式编辑器,处理文本流而不直接修改原文件;`awk`则用于灵活的文本分析和报告生成。例如,`grep`可查找匹配模式,`sed`可以删除文件内容,而`awk`能提取特定字段。通过组合使用,它们能高效解决复杂文本任务。

在 Linux 的命令行世界里,有三个强大的文本处理工具:grepsedawk。它们被统称为 "Linux 三剑客",它们各自拥有独特的功能,可以帮助我们高效地进行各种文本处理任务。让我们一一了解它们。

grep

grep 的全称为 "global regular expression print",意味着它可以通过正则表达式来搜索文本,并把匹配的行打印出来。

grep 命令常用选项及含义

选项 含义
-c 仅列出文件中包含匹配模式的行数
-i 忽略模式中的字母大小写
-l 列出包含匹配行的文件名
-n 在每一行的最前面列出行号
-v 列出不匹配模式的行
-w 仅匹配整个单词,忽略部分匹配的行

示例

# 查找 demo.txt 文件中含有 "alex" 字符串的行
grep "alex" demo.txt

# 查找 demo.txt 文件中有多少行出现了 "alex" 字符串
grep -c "alex" demo.txt
# 假设输出是 50

sed

sed(stream editor)是一种强大的流式文本编辑器。它可以根据脚本命令来处理文本文件中的数据。这些命令可以直接在命令行中输入,也可以存储在一个脚本文件中。

sed 使用方式

  1. 每次仅读取一行内容;
  2. 根据提供的规则命令匹配并修改数据。注意,sed 默认不会直接修改源文件数据,而是会将数据复制到缓冲区中,修改也仅在缓冲区中进行;
  3. 输出执行结果。

当一行数据匹配并处理完成后,sed 会继续读取下一行数据,并重复这个过程,直到将文件中所有数据处理完毕。

示例

清空掉文件中所有的内容

# 不会直接修改源文件 demo.txt,而是在终端显示修改后的结果,即不显示任何内容,因为所有行都被删除了
sed 'd' demo.txt

awk

awk 是一个用于文本分析的编程语言和工具。它非常擅长列出数据和报表,而且它的语法十分灵活,功能强大。

awk 的基本使用

awk 通过对数据进行模式扫描和处理来达到文本处理的目的。它默认以空格为字段分隔符,将一行划分为多个字段。

示例

输出文件的每一行的第二个字段

# 假设 demo.txt 是以空格分隔的字段的文本文件
awk '{print $2}' demo.txt

分析日志文件并汇总信息

假设有一个日志文件 access.log,记录了网站的访问信息。我们想要统计出现次数最多的 IP 地址。

awk '{print $1}' access.log | sort | uniq -c | sort -nr | head -n 10

解释:

  • awk '{print $1}' access.log:使用 awk 打印出日志中每行的第一个字段(一般是 IP 地址)。
  • sort:对 IP 地址进行排序。
  • uniq -c:压缩连续重复的行并计数。
  • sort -nr:根据次数逆序排序。
  • head -n 10:展示前 10 行。

grep、sed 和 awk 是 Linux 系统中文本处理的三大法宝。grep 用于搜索文本,sed 用于编辑文本,而 awk 则用于更复杂的文本分析和处理。

通过组合使用 grepsedawk,我们可以轻松地处理复杂的文本数据,有效提高我们的工作效率。

希望本文能帮助你入门并熟练掌握这些工具。

相关文章
|
2月前
|
Linux Perl
Linux awk命令使用技巧
【10月更文挑战第16天】Linux awk命令使用技巧
40 4
|
2月前
|
存储 安全 Linux
Linux文件管理命令md5sum awk
通过结合 `md5sum`和 `awk`,不仅可以高效地进行文件完整性校验,还能灵活地处理和分析校验结果,为系统管理、数据审计等工作提供强大的支持。
80 2
|
3月前
|
监控 Linux
linux之grep详解
linux之grep详解
|
3月前
|
Linux Perl
Linux之sed命令
Linux之sed命令
|
3月前
|
存储 Linux Shell
linux查找技巧: find grep xargs
linux查找技巧: find grep xargs
43 13
|
3月前
|
人工智能 监控 Shell
常用的 55 个 Linux Shell 脚本(包括基础案例、文件操作、实用工具、图形化、sed、gawk)
这篇文章提供了55个常用的Linux Shell脚本实例,涵盖基础案例、文件操作、实用工具、图形化界面及sed、gawk的使用。
758 2
|
3月前
|
机器学习/深度学习 存储 Linux
linux中强大且常用命令:find、xargs、grep
linux中强大且常用命令:find、xargs、grep
159 9
|
3月前
|
Linux Perl
6-20|linux sed命令
6-20|linux sed命令
|
Unix Linux 测试技术
|
4月前
|
Linux Perl
在Linux中,如何使用请用 cut 或者 awk,sed命令取出 linux 中 eth0 的 IP 地址?
在Linux中,如何使用请用 cut 或者 awk,sed命令取出 linux 中 eth0 的 IP 地址?
下一篇
DataWorks