sed概念
是一种流编辑器,它是文本处理中非常好的工具,能够完美的配合正则表达式使用,功能不同凡响。
处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命
令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,
直到文件末尾。
选项:
-e :直接在命令行模式上进行sed动作编辑,此为默认选项;
-f :将sed的动作写在一个文件内,用–f filename 执行filename内的sed动作;
-i :直接修改文件内容;
-n :只打印模式匹配的行;
-r :支持扩展表达式;
-h或--help:显示帮助;
-V或--version:显示版本信息。
sed常用命令:
vi
a 在当前行下面插入文本; o
i 在当前行上面插入文本; O
c 把选定的行改为新的文本;
d 删除,删除选择的行; dd
D 删除模板块的第一行;
s 替换指定字符; :%s /root/abc
h 拷贝模板块的内容到内存中的缓冲区;
H 追加模板块的内容到内存中的缓冲区;
g 获得内存缓冲区的内容,并替代当前模板块中的文本;
G 获得内存缓冲区的内容,并追加到当前模板块文本的后面;
l 列表不能打印字符的清单;
n 读取下一个输入行,用下一个命令处理新的行而不是用第一个命令;
N 追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码;
p 打印模板块的行。 P(大写) 打印模板块的第一行;
q 退出Sed;
b lable 分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾;
r file 从file中读行;
t label if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾;
T label 错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾;
w file 写并追加模板块到file末尾;
W file 写并追加模板块的第一行到file末尾;
! 表示后面的命令对所有没有被选定的行发生作用;
= 打印当前行号;
# 把注释扩展到下一个换行符以前;
sed替换标记:
g 表示行内全面替换; :%s /root/abc/g
p 表示打印行;
w 表示把行写入一个文件;
x 表示互换模板块中的文本和缓冲区中的文本;
y 表示把一个字符翻译为另外的字符(但是不用于正则表达式);
\1 子串匹配标记;
& 已匹配字符串标记;
sed元字符集:
^ 匹配行开始,如:/^sed/匹配所有以sed开头的行;
$ 匹配行结束,如:/sed$/匹配所有以sed结尾的行;
. 匹配一个非换行符的任意字符,如:/s.d/匹配s后接一个任意字符,最后是d;
* 匹配0个或多个字符,如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行;
[] 匹配一个指定范围内的字符,如/[sS]ed/匹配sed和Sed;
[^] 匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行;
..
.
.
匹配子串,保存匹配的字符,如s/love
�
�
�
�
able/\1rs,loveable被替换成lovers;
& 保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**;
\< 匹配单词的开始
\> 匹配单词的结束,如/love\>/匹配包含以love结尾的单词的行;
x\{m\} 重复字符x,m次,如:/0\{5\}/匹配包含5个0的行;
x\{m,\} 重复字符x,至少m次,如:/0\{5,\}/匹配至少有5个0的行;
x\{m,n\} 重复字符x,至少m次,不多于n次,如:/0\{5,10\}/匹配5~10个0的行;
sed用户实例
1.替换操作:s命令
替换文本中的字符串:
sed 's/book/books/' file 只替代第一个字符串
sed 's/book/books/g' file 替代行中所有满足的字符串
-n选项和p命令一起使用表示只打印那些发生替换的行:
sed -n 's/test/TEST/p' file
直接编辑文件选项-i,会匹配file文件中每一行的第一个book替换为books:
sed -i 's/book/books/g' file
全面替换标记g:
使用后缀 /g 标记会替换每一行中的所有匹配:
sed 's/book/books/g' file
当需要从第N处匹配开始替换时,可以使用 /Ng:
echo sksksksksksk | sed 's/sk/SK/2g'
以上命令中字符 / 在sed中作为定界符使用,也可以使用任意的定界符
sed 's:test:TEXT:g'
sed 's|test|TEXT|g'
定界符出现在样式内部时,需要进行转义:
echo "/bin /bin /bin" |sed 's/\/bin/\/usr\/local\/bin/g'
echo "/bin /bin /bin" |sed 's|/bin|/usr/local/bin|g'
2.删除操作:d命令
删除空白行:
sed '/^$/d' file
sed '/^#/d' /etc/profile
删除文件的第2行:
sed '2d' file
删除文件的第2行到末尾所有行:
sed '2,$d' file
删除文件第2行和末尾行
sed '2d;$d' file
删除文件最后一行:
sed '$d' file
删除文件中所有开头是test的行:
sed '/^test/d' file
3.已匹配字符串标记&
正则表达式 \w\+ 匹配每一个单词,使用 [&] 替换它,& 对应于之前所匹配到的单词:
echo this is a test line | sed 's/\w\+/[&]/g'
[this] [is] [a] [test] [line]
所有以192.168.0.1开头的行都会被替换成它自已加localhost:
sed 's/^192.168.0.1/&localhost/' file
4.组合多个表达式
sed '表达式' | sed '表达式' 等价于:
sed '表达式; 表达式'
5.选定行的范围:,(逗号)
打印从第5行开始到第一个包含以test开始的行之间的所有行:
sed -n '5,/^test/p' file
6.多点编辑:e命令
-e选项允许在同一行里执行多条命令:
sed -e '1,5d' -e 's/test/check/' file
7.从文件读入:r命令
file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面:
sed '/test/r file1' file
8.写入文件:w命令
在file1中所有包含test的行都被写入file里(覆盖写入,默认-i):
sed -n '/test/w file' file1
9.追加(行下):a\命令
将 this is a test line 追加到 以test 开头的行后面:
sed '/^test/a\this is a test line' file
在 test.conf 文件第2行之后插入 this is a test line:
sed -i '2a\this is a test line' test.conf
10.插入(行上):
i\命令 将 this is a test line 追加到以test开头的行前面:
sed '/^test/i\this is a test line' file
在file文件第5行之前插入this is a test line:
sed -i '5i\this is a test line' file
11.下一个:n命令
如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续:
sed '/test/{ n; s/aa/bb/; }' file
12.变形:y命令
把1~10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令:
sed '1,10y/abcde/ABCDE/' file
13.退出:q命令
打印完前10行后,退出
sed '10q' file
14.保持和获取:h命令和G命令
任何包含test的行都被复制并追加到该文件的末尾。
sed -e '/test/h' -e '$G' file
15.保持和互换:h命令和x命令
互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换:
sed -e '/test/h' -e '/check/x' file
16.脚本scriptfile
sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,
在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。
以#开头的行为注释行,且不能跨行。
sed [options] -f scriptfile file(s)
17.打印奇数行或偶数行
方法1:
sed -n 'p;n' file #奇数行
sed -n 'n;p' file #偶数行
方法2:
sed -n '1~2p' file #奇数行
sed -n '2~2p' file #偶数行
18. 打印ip地址
ifconfig ens33|sed -n '2p' |sed 's/.*inet//' |sed 's/netmask.*//'
===================================
总结:
显示
sed -n 'Np;Mp;Xp' FILE 显示行号为N,M,X的多行
sed -n '$p' FILE 显示最后一行
sed -n '/str/p'FILE 显示包括str的所有行
sed -n 'N,Mp' FILE 显示第N行到第M行
删除
sed 'N,Md' FILE 显示删除第N行到第M行剩下的内容
sed '/str1/,/str2/d’ FILE 显示删除包含str1的行到包含str2的行剩下内容
sed '/str/,Nd' FILE 显示删除包含strt的行到第N行剩下的内容
sed '/str/d' FILE 显示删除包含str的行剩下的内容
sed '/^$/d' FILE 显示删除空白行剩下的内容
增加
sed -i 'Na str' FILE 第N行后增加一行字符
sed -i 'Na str1\nstr2' FILE 第N行后增加二行字符
sed -i 'N,Ma str' FILE 第N行到第M行的每行后都增加一行字符
sed -i 'Ni str' FILE 第N行前增加一行字符
sed -i 'Ni str1\nstr2' FILE 第N行前增加二行字符
sed -i 'N,Mi str' FILE 第N行到第M行的每行前都增加一行字符
替代
sed -i 'Nc str' FILE 将第N行的内容替换为str
sed -i 'N,Mc str' FILE 将第N行到第M行的内容替换为str
sed -i 's/str1/newstr/g' FILE 将所有的str1替换为newstr
sed -i 's/str1/newstr2/gw FILE1' FILE2 将处理过的行另存到文件1
sed -i 's/str1/newstr/g' FILE2 >FILE1 将处理后的内容重定向至文件1
案例1:每隔30秒监控httpd服务是否启动,如果没启动就启动httpd服务
vim /sh/http.sh #!/bin/bash sleeptime=30 while true do if killall -0 httpd &> /dev/null;then true else systemctl restart httpd time=`date +"%F %T" ` echo "httpd service at "$time" is restarted" >> /app/http.log fi sleep "$sleeptime" done nohup /sh/http.sh & 案例2:将连接服务器次数很多次的客户端IP加入防火墙 *** while true do ss -nt | grep ESTAB | tr -s " " ":" | cut -d: -f6 | sort | uniq -c | while read num ip do if [ "$num" -gt 2 ];then iptables -A INPUT -s "$ip" -j REJECT fi done sleep 3 done