文本处理三剑客之grep&正则表达式

简介: grep是一个文本过滤工具,它支持正则表达式,能把搜索匹配到的行打印出来。grep的全称是Global Regular Expression Print(全局正则表达式)使用权限是所有用户。一、grep作用:按照用户指定的模式对目标进行搜索后输出模式:正则表达式与文本字符按照指定的...

img_938aced6c7c25f648007accd935f2679.png

grep是一个文本过滤工具,它支持正则表达式,能把搜索匹配到的行打印出来。grep的全称是Global Regular Expression Print(全局正则表达式)使用权限是所有用户。

一、grep

作用:按照用户指定的模式对目标进行搜索后输出
模式:正则表达式与文本字符

  • 按照指定的字符搜索

    #单引号只是字符串,双引号识别变量、反单引号识别变量识别命令
    grep "$USER" /etc/passwd
    grep '$USER' /etc/passwd
    grep`whoami` /etc/passwd
  • 各项参数

     --color=auto: 对匹配到的文本着色显示
     -v: 显示不被pattern匹配到的行
    -i: 忽略字符大小写
    -n:显示匹配的行号
    -c: 统计匹配的行数
    -o: 仅显示匹配到的字符串
    -q: 静默模式,不输出任何信息
    -A #: after, 后#行
    -B #: before, 前#行
    -C #:context, 前后各#行
    -e:实现多个选项间的逻辑or关系
    -w:匹配整个单词
    -E:使用ERE
    -F:相当于fgrep,不支持正则表达式
    -e:或
    grep -e 'root' -e 'admin'  file

二、正则表达式

由一类特殊字符及文本字符所编写的模式,其中的某些字符不是字面意义,而是用来表示其规定范围内的内容。

  • 基本正则表达式 BRE -----grep
  • 扩展正则表达式 ERE-----egrep或者grep -E

  • 基本与扩展正则表达式区别在于两者元字符不同

    元字符:一个字符出现以后,它并不表示文件本身,
    而是用来匹配一定范围内的或者指定符合条件的字符;
  • 元字符分为 字符匹配、次数匹配、位置锚定、分组

1. 字符匹配

.    匹配任意单个字符
[]   匹配任意范围内的任意单个字符
[^]  匹配指定范围外的任意单个字符
[:alnum:]   字母和数字
[:alpha:]   匹配大小写字母
[:lower:]   小写字母
[:upper:]   大写字母
[:blank:]   空白字符,包括空格与制表符
[:space:]   水平和垂直的空白字符(比[:blank:]包含的范围广)
[:cntrl:]   不可打印的控制字符(退格、删除、警铃...)
[:digit:]   十进制数字 [:xdigit:]十六进制数字
[:graph:]   可打印的非空白字符
[:print:]   可打印字符
[:punct:]   标点符号

2. 次数匹配

*       匹配前字符任意次数,包括0次;贪婪模式,尽可能长的匹配
.*      任意长度任意字符。(点为任意单个,*为任意次)
\?      前一字符0次或者1次
\+      前一字符至少1次
\{n\}   前一字符n次
\{m,n\} 前一字符m到n次
\{,n\}  前一字符最多n次
\{m,\}  前字符最少m次

3. 位置锚定

^       行首锚定
$       行尾
^abc$   用于匹配正行只有abc字符
         ^$     匹配空行
         ^[[:space:]]*$   空白行
\<      词首锚定
\>      词首锚定
\<abc\> 匹配整个单词

4. 分组

\(\)     将多个字符捆绑在一起,当做一个整体
\1     \2    捆绑在一起的整体成为组,用 \1  \2 表示表示第一组第二组
从左起第一个括号,到与其匹配的括号为止为1组
  • 举例

    \(string1\+\(string2\)*\)
    \1 为string1\+\(string2\)*
    \2 为string2
    #
    分组的引用
    #当通过\1再次引用字符串是,\1表示之前()组内匹配的结果。
  • 或者

    a\|b:     a或者b
    \(C\|c\)at:     Cat或者cat

5. 正则表达式图片详解

img_dc65bb089fba533b54c05c0552aada96.jpe


三、 练习题

  1. proc/meminfo文件中以大小s开头的行(要求:使用两种方法)

    [root@centos7 app]# grep ^[S\|s] /proc/meminfo 
    SwapCached:            0 kB
    SwapTotal:       2097148 kB
    SwapFree:        2097148 kB
    Shmem:              7868 kB
    Slab:             110820 kB
    SReclaimable:      54148 kB
    SUnreclaim:        56672 kB
  2. 显示/etc/passwd文件中不以/bin/bash结尾的行

    [root@centos7 app]# grep -v "/bin/bash$" /etc/passwd  
  3. 显示用户rpc默认的shell程序

    [root@centos7 app]# grep  -w ^rpc /etc/passwd|cut -d: -f7
  4. 找出/etc/passwd中的两位或三位数

    [root@centos7 app]# grep -w "[[:digit:]]\{2,3\}" /etc/passwd
    [root@centos7 app]# grep -w "[0-9]\{2,3\}" /etc/passwd 
  5. 显示CentOS7的/etc/grub2.cfg文件中,至少以一个空白字符开头的且后面存非空白字符的行

    [root@centos7 app]# grep "^[[:space:]]\+[^[:space:]]" /etc/grub2.cfg
  6. 找出“netstat -tan”命令的结果中以‘LISTEN’后跟任意多个空白字符结尾的行

    [root@centos7 app]# netstat -tan | grep "LISTEN[[:space:]]\+"
  7. 显示CentOS7上所有系统用户的用户名和UID

    [root@centos7 app]# cut -d: -f1,3 /etc/passwd|grep -w "[[:digit:]]\{1,3\}$"|sort -t: -k2
  8. 添加用户bash、testbash、basher、sh、nologin(其shell为/sbin/nologin),找出/etc/passwd用户名同shell名的行

    [root@centos7 app]# grep -o "^\([[:alpha:]]\+\>\).*\<\1$" /etc/passwd
  9. 利用df和grep,取出磁盘各分区利用率,并从大到小排序

    [root@centos7 app]# df|grep "^/dev/sd"|tr -s ' '|cut -d ' ' -f1,5|sort -t' ' -k 2 -n

  1. 显示三个用户root、nologin的UID和默认shell
[root@centos7 ~]# cut -d: -f1,3,7 /etc/passwd | grep -E -e "^root" -e "^nologin"
root:0:/bin/bash
nologin:1102:/sbin/nologin
  1. 找出/etc/rc.d/init.d/functions文件中行首为某单词(包括下划线)后面跟一个小括号的行
[root@centos7 ~]# egrep "^(_|[[:alpha:]])+\(" /etc/rc.d/init.d/functions
  1. 使用egrep取出/etc/rc.d/init.d/functions中其基名
[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "[^/]+/?$" -o
  1. 使用egrep取出上面路径的目录名
[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "^/.*/\<"
  1. 统计last命令中以root登录的每个主机IP地址登录次数
[root@centos7 ~]# last|tr -s ' '| cut -d ' ' -f1,3| grep "\([[:digit:]]\+.\)\{3\}[[:digit:]]\+"|sort -r|uniq -c
  1. 利用扩展正则表达式分别表示0-9、10-99、100-199、200-249、250-255
[root@centos7 ~]# echo {1..100}| egrep -w [0-9]{1} -o
[root@centos7 ~]# echo {1..100}| egrep -w [1-9][0-9]
[root@centos7 ~]# echo {190..300}| egrep -w 2[0-4][0-9] 
[root@centos7 ~]# echo {190..300}| egrep -w 25[0-5]  
  1. 显示ifconfig命令结果中所有IPv4地址
[root@centos7 ~]# ifconfig | egrep  "([[:digit:]]+\.){3}[[:digit:]]+" -o
  1. 将此字符串:welcome to magedu linux 中的每个字符去重并排序,重复次数多的排到前面
[root@centos7 ~]# echo welcome to aubin linux|grep [[:alpha:]] -o|sort -n|uniq -c
目录
相关文章
|
5月前
|
监控 Unix Linux
强大的文本处理工具组合:egrep、正则表达式、awk、cut、xargs
了解Linux和Unix文本处理的关键工具:egrep(扩展正则表达式搜索)、正则表达式、awk(文本分析)、cut(剪切文本)和xargs(传递参数给命令)。这些工具组合使用可高效处理、分析大量数据,尤其在日志分析和文本查询中。例如,从Web服务器日志中查找404错误,先用egrep筛选,再用awk或cut提取IP和URL,最后用xargs配合其他命令执行操作。掌握这些工具能提升工作效率。
|
1月前
|
自然语言处理 前端开发 JavaScript
掌握正则表达式:前端开发中的文本处理利器
在前端开发中,处理文本是一项常见的任务。正则表达式提供了一种强大而灵活的方式来匹配、搜索和替换文本。本文将带你深入了解正则表达式的基本概念、语法规则以及在JavaScript中的应用。通过一系列实例,我们将探索如何使用正则表达式来验证表单输入、提取文本信息以及进行复杂的文本替换。无论你是前端新手还是老手,掌握正则表达式都将极大地提升你的文本处理能力。
|
2月前
|
存储 数据处理 Python
Python中利用正则表达式进行文本处理
【9月更文挑战第24天】本文通过深入浅出的方式,介绍如何在Python中使用正则表达式进行文本处理。我们将从基础语法开始,逐步深入到复杂匹配模式的构建,最后通过实际案例展示正则表达式在文本分析中的高效应用。文章旨在帮助读者掌握正则表达式的使用技巧,提高数据处理效率。
|
3月前
|
Python
Python中利用正则表达式进行文本处理的实用指南
【8月更文挑战第31天】在编程的世界里,文本处理是日常工作的一部分。就像厨师用刀切菜一样,我们用正则表达式来切割、匹配和修改字符串。这篇文章将教你如何像大厨一样使用Python中的正则表达式库,让你的文本处理技能更上一层楼。
|
6月前
|
机器学习/深度学习 Python
正则表达式(Regular Expression,常简写为regex或regexp)是一种强大的文本处理工具
【5月更文挑战第12天】正则表达式是文本处理工具,Python的re模块支持其使用。元字符如.、*、+、?等在正则表达式中具有特殊含义,用于指定匹配规则。示例中,通过正则表达式模式匹配字符串中的电子邮件地址,并使用re.findall()找出所有匹配项。
70 4
|
6月前
|
机器学习/深度学习 Shell 开发工具
正则表达式 与文本三剑客(sed grep awk)
正则表达式 与文本三剑客(sed grep awk)
|
6月前
|
数据安全/隐私保护 Python
Python正则表达式:强大的文本处理工具
Python正则表达式:强大的文本处理工具
51 1
|
6月前
|
Python
Python中的正则表达式以及如何使用它们进行文本处理
正则表达式(Regex)是处理字符串的利器,Python通过`re`模块支持Regex操作,包括匹配模式(`re.match()`),查找模式(`re.search()`),替换内容(`re.sub()`),分割内容(`re.split()`),分组提取(使用括号)以及利用特殊字符创建复杂模式。学习和熟练掌握正则表达式能有效提升文本处理效率。
33 1
|
6月前
|
Python
请解释Python中的正则表达式以及如何使用它们进行文本处理。
正则表达式(Regex)是处理字符串的工具,Python通过`re`模块支持Regex操作,如匹配、查找、替换和分割文本。`re.match()`检查字符串是否以指定模式开始,`re.search()`查找模式,`re.sub()`替换匹配内容,`re.split()`按模式分割字符串。使用括号进行分组提取,特殊字符如`.`、`*`、`+`、`?`、`^`和`$`可创建复杂模式。熟练掌握正则表达式需学习和实践。
26 0
|
6月前
|
运维 Unix Linux
grep正则表达式搜索
grep正则表达式搜索
52 3