三剑客

简介: 三剑客

sed:字符流的编辑工具 (行编辑工具)==按照每行中的字符进行处理操作

sed 命令作用说明:

1).擅长对行进行操作处理

2).擅长将文件的内容信息进行修改调整/删除

编写脚本:修改文件内容信息时

a  sed命令查询信息方法

根据文件内容的行号进行查询

test1:显示单行信息

# sed -n '2p' kang.txt

test2:根据行号信息,输出多行内容(连续)

# sed -n '1,3p' kang.txt

test3:根据内容信息,输出多行内容(不连续)

# sed -n '1p;3p' kang.txt

根据文件内容的信息进行查询

test1:根据内容信息,输出单行内容

# 将有kang 行的信息,输出单行内容

# sed -n '/kang/p' kang.txt

test2: 根据内容信息,输出多行内容(连续)

# 将有kang到he行的信息都输出出来

# sed -n '/kang/,/he/p' kang.txt

b sed命令添加信息方法

在文件第一行添加信息

kang2021

# sed '1ikang2021' kang.txt

在文件的最后一行添加信息

kang2022

# sed  '7akang2021' kang.txt

# sed '$akang,520' kang.txt

cat -n kang.txt  显示具体内容行号

总结: sed 命令的指令信息

pprint输出信息

i  insert   插入信息,在指定信息前面插入新的信息

aappend附加信息,在指定信息后面附加新的信息

ddelete删除指定信息

ssubstitute代替     g全局

test: 在有hehao 的行前面添加youxiu;在zhidaobu后面添加wohenbang

# sed -e '/hehao/iyouxiu' -e '/zhidaobu/awohenbang' kang.txt

# 添加多行信息

# sed '$a100\n101' kang.txt

总结: sed命令的参数信息

-n  取消默认输出

-r  识别扩展正则

-i  真实编辑文件(将内存中的信息覆盖到磁盘中)

-e  识别sed命令多个操作指令

文件中添加内容的方法:

1.vim/vi

2.cat>>xxx<EOF  ..EOF

3.echo-e"xxx\nxxx"

4.sed'na/ixxx\nxxx'

c sed命令删除信息方法

  1. 删除单行信息

# sed ‘2d’ kang.txt

  1. 删除多行信息

# sed '2,4d' kang.txt (2-4)

# sed '3d;6d' kang.txt (3和6)

  1. 删除有kang520信息的行

# sed '/kang520/d' kang.txt

  1. 取消空行显示

# sed '/^$/d' kang.txt

d sed命令修改信息方法

# sed 's#原内容#修改后内容#g' kang.txt

# sed  's#()#\n#g' 文件信息 后项引用前项

提取ip地址的方法

# ip a s ens33|sed -rn '3s#^.*t (.*)/24.*#\1#gp'

修改文件内容直接进行自动备份

# sed -i .bak 's#kang520#kang2020#g' kang.txt

批量修改文件的扩展名,将kangxxx.txt 扩展名修改为kang.bak

# ls kang*.txt|sed -r 's#(.*)txt#mv & \1bak#g'

专业命令:rename

rename .txt .bak kang*.txt

awk 擅长对列进行操作/进行数据信息的统计(数组)

作用特点:

  1. 排除信息
  2. 查询信息
  3. 统计信息
  4. 替换信息

语法格式

awk [参数] '模式-动作' 文件

[root@ansible ~]# cat awk.txt

Zhang   Dandan  2733885168      :250:100:175

Zhang   Xiaoyu  390320151       :155:90:201

Meng    Feixue  80042789        :250:60:50

Wu      Waiwai  70271111        :250:80:75

Liu     Bing    4117483         :250:100:175

Wang    Xiaoai  3515064655      :50:95:135

Zi      Gege    1986787350      :250:168:200

Lao     Nanhai  918391635       :250:100:300

命令查询信息方法:

按照行号查询信息:

# 单行

# awk 'NR==2' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

# 多行

# awk 'NR==2,NR==4' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

Meng    Feixue  80042789        :250:60:50

Wu      Waiwai  70271111        :250:80:75

# 多行(不连续)

# awk 'NR==2;NR==4' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

Wu      Waiwai  70271111        :250:80:75

按照字符查询

# awk 'Xiaoyu' awk.txt

# awk '/Xiaoyu/' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

# awk '/Xiaoyu/,/Waiwai/' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

Meng    Feixue  80042789        :250:60:50

Wu      Waiwai  70271111        :250:80:75

# awk '/Xiaoyu/;/Waiwai/' awk.txt

Zhang   Xiaoyu  390320151       :155:90:201

Wu      Waiwai  70271111        :250:80:75

指定列

# awk '/Xiaoyu/{print $1,$3}' awk.txt

Zhang 390320151

# awk '/Xiaoyu/{print $1","$3}' awk.txt

Zhang,390320151

# awk '/Zhang/{print $NF}' awk.txt

:250:100:175

:155:90:201

-F 指定分隔符

awk '/Zhang/{print $NF}' awk.txt| awk -F ":" '{print $3}'

100

90

# awk -F ":" '/Zhang/{print $3}' awk.txt

100

90

# awk -F "[ :]+" '/Zhang/{print $5}' awk.txt

100

90

# awk -F "[ :]+" '/Zhang/{print $(NF-1)}' awk.txt

100

90

显示所有以41开头的ID号码的人的全名和ID号码

# awk '$3~/^41/{print $1,$2,$3}' awk.txt

Liu Bing 4117483

Lao Nanhai 418391635

显示所有ID号码最后一位数字是1或5的人的全名

1)

# awk '$3~/[15]$/{print $1,$2}' awk.txt

Zhang Xiaoyu

Wu Waiwai

Wang Xiaoai

Lao Nanhai

2)

# awk '$3~/1$|5$/{print $1,$2}' awk.txt

Zhang Xiaoyu

Wu Waiwai

Wang Xiaoai

Lao Nanhai

3)

[root@ansible ~]# awk '$3~/(1|5)$/{print $1,$2}' awk.txt | column -t

Zhang  Xiaoyu

Wu     Waiwai

Wang   Xiaoai

Lao    Nanhai

gsub (/需要替换的信息/,"修改成什么信息",将哪列信息进行修改)

# awk '$2~/Xiaoyu/{gsub(/:/,"$",$NF);print$NF}' awk.txt

$155$90$201

文件中的空行进行排除/文件中注释信息进行排除

# grep -Ev "^#|^$" 文件信息

# sed -n '/^#|^$/!p' 文件信息

# awk '/^#|^$/' awk.txt

#

总结: awk命令中$符号的用法

$1 $2 $3 : 取第几列

$NF : 取最后一列信息

$(NF-n)  :取倒数第几列

$0           : 取所有列的信息

awk高级功能说明

a. 对日志信息进行统计(技术)


b. 对日志信息数值进行求和 客户端-下载  服务端-上传    (消耗网络流量)

c. (数组)进行排序分析

d. 脚本编写(循环语句 判断语句)

awk模式说明:匹配的条件信息

普通模式

  1. 正则表达式作为模式

# awk '/^oldboy/{print xx}'

  1. 利用比较匹配信息

NR==2

NR>=2

NR<=2

NR==3,NR==10 (范围)

  1. 特殊模式
    BEGIN{}

# awk 'BEGIN{print "姓","名","捐款记录"}{print $0}' awk.txt | column -t

姓     名      捐款记录

Zhang  Dandan  2733885168  :250:100:175

Zhang  Xiaoyu  390320151   :155:90:201

Meng   Feixue  80042789    :250:60:50

Wu     Waiwai  70271111    :250:80:75

#

Liu    Bing    4117483     :250:100:175

Wang   Xiaoai  3515064655  :50:95:135

Zi     Gege    1986787350  :250:168:200

Lao    Nanhai  418391635   :250:100:300

  1. END{}

# awk 'BEGIN{print "姓","名","捐款记录"}{print $0}END{print "操作结束"}' awk.txt | column -t

姓        名      捐款记录

Zhang     Dandan  2733885168  :250:100:175

Zhang     Xiaoyu  390320151   :155:90:201

Meng      Feixue  80042789    :250:60:50

Wu        Waiwai  70271111    :250:80:75

#

Liu       Bing    4117483     :250:100:175

Wang      Xiaoai  3515064655  :50:95:135

Zi        Gege    1986787350  :250:168:200

Lao       Nanhai  418391635   :250:100:300

操作结束

# awk -vFS=":" '{print $2}' awk.txt

250

155

250

250




250

50

250

250

# awk '/^$/{i=i+1;print i}' awk.txt

1

2

# awk '/^$/{i=i+1}END{print i}' awk.txt

2

  1. 统计系统中有多少个虚拟用户 普通用户



相关文章
|
1月前
|
人工智能 弹性计算 安全
阿里云无影云电脑价格:企业版费用、个人版收费及免费无影云电脑申请流程
阿里云无影云电脑提供企业版与个人版,企业版4核8G低至199元/年,支持办公及GPU设计;个人版黄金款14元/月起,最高黑金款149元/月,畅享云游戏与AI开发。另有免费试用1个月可申请。
838 158
|
1月前
|
存储 算法 关系型数据库
【Java架构师体系课 | MySQL篇】② 深入理解MySQL索引底层数据结构与算法
InnoDB索引为何采用B+树?本文由浅入深解析二叉树、红黑树、B树的缺陷,详解B+树的结构优势:非叶子节点不存数据、叶子节点有序且双向链接,支持高效范围查询与磁盘预读,三层即可存储两千多万数据,极大提升查询性能。
139 7
|
3月前
|
Linux 调度 iOS开发
Motrix高速下载工具软件,一款高效、稳定可替代迅雷的下载工具实用教程讲解!
Motrix是一款开源免费、无广告的全能下载工具,支持Windows、macOS、Linux三端。界面简洁,支持HTTP、FTP、BT、磁力等全协议下载,智能识别链接,最高64线程加速,支持断点续传、批量下载、剪贴板监听、任务分类及浏览器扩展联动,功能强大且易于管理,最大化提升下载效率。
741 0
|
2月前
|
分布式计算 并行计算 算法
《数据之美》:图结构的精妙世界与算法实践
图是表示多对多关系的非线性数据结构,由顶点和边组成,可建模社交网络、路径导航等复杂系统。核心算法包括BFS/DFS遍历、Dijkstra最短路径、Floyd-Warshall全源最短路径,以及Prim和Kruskal最小生成树算法,广泛应用于推荐系统、社交分析与路径规划。
|
3月前
|
消息中间件 canal 缓存
缓存与数据库一致性终极指南:从入门到放弃?不,到精通!下
本文探讨缓存一致性难题,从延时双删到重试机制,分析同步重试、异步重试、消息队列补偿及Binlog监听(Canal)等方案,结合优缺点与适用场景,最终提出根据业务需求权衡一致性与性能,选择合适策略。
|
11月前
|
存储 人工智能 安全
《鸿蒙NEXT中人工智能与区块链技术的协同创新之路》
鸿蒙NEXT是一款创新性操作系统,基于微内核架构,具备高可扩展性和分布式特性,为人工智能与区块链的协同创新提供了广阔舞台。通过数据安全共享、去中心化模型训练、智能合约结合及可信计算等路径,鸿蒙NEXT助力构建更智能、安全的应用生态,推动供应链金融、能源管理和数字版权保护等领域的技术进步与社会发展。
406 10
|
10月前
|
XML JSON Java
Java中Log级别和解析
日志级别定义了日志信息的重要程度,从低到高依次为:TRACE(详细调试)、DEBUG(开发调试)、INFO(一般信息)、WARN(潜在问题)、ERROR(错误信息)和FATAL(严重错误)。开发人员可根据需要设置不同的日志级别,以控制日志输出量,避免影响性能或干扰问题排查。日志框架如Log4j 2由Logger、Appender和Layout组成,通过配置文件指定日志级别、输出目标和格式。
|
机器学习/深度学习 数据可视化 数据挖掘
Python数据分析工具有哪些
【7月更文挑战第3天】Python数据分析工具有哪些
576 58