通过例子学习sed的用法
1,sed介绍
sed可删除(delete)、改变(change)、添加(append)、插入(insert)、合、交换文件中的资料行,或读入其它档的资料到 文>件中,也可替换(substuite)它们其中的字串、或转换(tranfer)其中的字母等等。例如将文件中的连续空白行删成一 行、"local"字串替换成"remote"、"t"字母转换成"T"、将第10行资料与第11资料合等.
总合上述所言,当sed由标准输入读入一行资料并放入pattern space时,sed依照sed script 的编辑指令逐一对pattern space内的资料执行编辑,之後,再由pattern space内的结果送到标准输出,接着再将下一行资料读入.如此重执行上述动作,直至读>完所有资料行为止.
小结,记住:
(1)sed总是以行对输入进行处理
(2)sed处理的不是原文件而是原文件的拷贝
命令行概述:
sed 编辑指令的格式如下 :
[address1[,address2]]function[argument]
其中 , 位址参数 address1 、address2 为行数或 regular expression 字串 , 表示所执行编辑的资料行; 函数参数 function[argument] 为 sed 的内定函数 , 表示执行的编辑动作。
有那些函数(function)参数
下页表中介绍所有 sed 的函数参数(参照[chapter 4])的功能。
函数参数 功能
: label 建立 script file 内指令互相参考的位置。
# 建立解
{ } 集合有相同位址参数的指令。
! 不执行函数参数。
= 印出资料行数( line number )。
a/ 添加使用者输入的资料。
b label 将执行的指令跳至由 : 建立的参考位置。
c/ 以使用者输入的资料取代资料。
d 删除资料。
D 删除 pattern space 内第一个 newline 字母 / 前的资料。
g 拷贝资料从 hold space。
G 添加资料从 hold space 至 pattern space 。
h 拷贝资料从 pattern space 至 hold space 。
H 添加资料从 pattern space 至 hold space 。
l 印出 l 资料中的 nonprinting character 用 ASCII 码。
i/ 插入添加使用者输入的资料行。
n 读入下一笔资料。
N 添加下一笔资料到 pattern space。
p 印出资料。
P 印出 pattern space 内第一个 newline 字母 / 前的资料。
q 跳出 sed 编辑。
r 读入它档内容。
s 替换字串。
t label 先执行一替换的编辑指令 , 如果替换成牛p>则将编辑指令跳至 : label 处执行。
w 写资料到它档内。
x 交换 hold space 与 pattern space 内容。
y 转换(transform)字元。
虽然 , sed 只有上表所述几个拥有基本编辑功能的函数 , 但由指令中位址参数和指令与指令间的配合 , 也能使sed 完成大部份的编辑任务。
2,1 删除
(1) sed -e '1d' inputfile (删除第一行)
那么删除第x行呢?删除第x1,x2,x3行呢?
sed -e 'xd' inputfile
sed -e 'x1d' -e 'x2d' -e 'x3d' inputfile
当然也许还有更好的办法。
(2) sed -e '1,3d' file (删除第一到第三行)
思考:删除第n行到第m行?也就是
sed -e 'n,md' file
删除第一行到最后一行
sed -e '1,$d' file #$ 最后一行和一行的最后
(3) sed -e '/#/d' file (删除含有'#'号的行)
思考:删除含有字母xx的行
sed -e '/xx/d' file
思考: 删除除含有字符串xx的所有行
sed -e '/xx/!d' file
(4) sed -e '/word1/, /word2/d' file (删除从含有单词word1到含有单词word2的行)
sed -e '10,/word1/d' file
删除文件中从第10行到含有word1的行
sed -e '/word1/,10/d' file
和上面的匹配相反,删除从含有word1的行到第10行
(5) sed -e '/t.*t/d' file (删除含有两个t的行)
思考:删除含有指定正在表达式匹配的行。
2.2 替换
Sed 可替换文件中的字串、资料行、甚至资料区。其中,表示替换字串的指令中的函数参数为s;表示替换资料行、或资料区>的指令中的函数参数为c。上述情况以下面三个例子说明。
*行的替换
(1) sed -e '1c/#!/bin/more' file (把第一行替换成#!/bin/more)
思考: 把第n行替换成just do it
sed -e 'nc/just do it' file
(2) sed -e '1,10c/I can do it' file (把1到10行替换成一行:I can do it)
思考: 换成两行(I can do it! Let's start)
sed -e '1,10c/I can do it!/nLet'"/'"'s start' file
*字符的替换
(3) sed -e 's/word1/& word2/' file (将每一行的word1单词替换成s参数最多与两个位置参数相结合,函数参数s中有两个特殊的符号:
& : 代表pattern
/n : 代表 pattern 中被第 n 个 /( 、/)(参照[附录 A]) 所括起来的字串。例如
sed -e 's/w1/& w2/' file # w1的地方输出 w1 w2
sed -e 's//(test/) /(my/) /(car/)/[/2 /3 /1]/' file #结果: [my car test]
*flag 参数举例
sed -e 's/w1/& w2/g' file
g : 代表替换所有匹配项目;这里,文件中所有字符串w1都会被替换成字串w1 w2
sed -e 's/w1/& w2/10' file
m(10) : 替换行内第m个符合的字串; 记住,是行内的第m个匹配的字串
sed -e 's/w1/& w2/p' file
p : 替换第一个和w1匹配的字符串为w1 w2,并输出到标准输出.
sed -e 's/w1/& w2/w w2file' file
w filename : 该参数会将替换过的内容写入到文件w2file并输出替换后的整个文件。注意w2file里写的只是替换过的行。 sed 'e 's/w1/& w2/' file
这里的flag 为空, 这样就只是将第一个w1匹配的字符串替换成w1 w2而后面的不进行替换。
*位置参数应用举例
sed -e '/machine/s/phi/beta/g' file
将文件中含"machine"字串的资料行中的"phi"字串,替换成为"beta"字串
sed -e '1,10 s/w1/& w2/g' file
把1到10内的w1字符串替换成w1 w2字符串。
sed -e '1,/else/ s/w1/& w2/g' file
把1到字符串else内的w1字符串替换成w1 w2字符串。
其它位置参数的应用与前面的相同。
2.3 内容的插入
i
基本格式:
[address] i/ 插入内容 filename
word2)
说明:
函数参数 s 表示替换(substitute)文件内字串。其指令格式如下 :
[address1[ ,address2]] s/pattern/replacemen/[flag]
sed -e '/#/i/words' file #在#字符的前面插入一行words
说明:
这里的函数参数是i,它只能有一个地址参数。
sed -e '1/i/words' file
在第一行前加一行words
cat "word" | sed -e '/$/.doc/g' #输出word.doc
在word后面加上后缀名,从而输出word.doc
i 参数正好与a参数相反,它是插入到所给内容的前面.
a
a参数的使用格式如下:
[address] a/ <插入内容> filename
sed -e '/unix/a/ haha' test.txt #在含有unix的行后添加"haha"
#输出结果为:
unix
haha
另外: sed -e '1 a/ hh' test.txt #在第一行后添加hh字符.
2.4 文本的打印: p
基本格式:
[address1,[address2]] p
(1) sed -e '/then/ p' filename #打印所有行并重复打印含有then 的行
(2) sed -n '/then/ p' filename #只打印含有then的行
(3) sed -e '1,3 p' filename # 打印所有行并重复1-3行
(4) sed -n '1,3 p' filename # 打印1-3行
(5) sed -n '/if/,/fi/ p' filename #打印字符if和fi之间的内容
p函数为sed的打印函数,在这里要注意-e 和-n 参数的区别。一般使用-n参数。
2.5 字元的替换: y
例如:
(1)sed -e 'y/abc../xyz../' filename
把文件中的a字母替换成x, b替换成y, c替换成z。
(2) sed -e 'y/abc/ABC' filename
把小写的abc转换成大写的ABC
2.6 反相执行命令 : !
基本格式:
[address1[ , address2]] ! 函数参数
sed -e '/1996/!d' filename
删除除了含有1996的所有行。
2.7 改变文件中的资料: c
基本格式:
[address1[ ,address2]]c/ filename
函数参数 c 紧接着 "/" 字元用来表示此行结束 , 使用者所输入的资料必须从下一行输入。如果资料超过一行 , 则须在>每行的结尾加入"/"
sed -e '/zhengxh/c hhhh' filename
表示把含有字符串zhengxh的行,该成hhhh。
2.8 读入下一行资料: n
基本格式:
[address1[ ,address2]] n
sed -n -e '/echo/n' -e 'p' temp
表示输出文件,但如果一行含有字符串echo,则输出包含该字符串的下一行。
sed -n -e 'n' -e 'p' filename
输出文中的偶数行
3, 命令的复用
一次执行多个命令的方式有三种:
(1) sed 's/w1/& w2/g; 1/i/words' filename (使用;号把命令隔开,注意前面不加-e参数)
(2) sed -e 'cmd1' -e 'cmd2' filename (使用多个-e参数)
===================================================
Unix系统里,每行结尾只有“<换行>”,即“\n”;Windows系统里面,每行结尾是“<换行><回 车>”,即“\n\r”。一个直接后果是,Unix系统下的文件在Windows里打开的话,所有文字会变成一行;而Windows里的文件在 Unix下打开的话,在每行的结尾可能会多出一个^M符号。
好了,所以我的问题就出在被处理的文件的每行末尾都有^M符号,而这通常是看不出来的。可以用"cat -A test.file"命令查看。因此当我想在行尾添加字符的时候,它总是添加在行首且会覆盖掉原来行首的字符。
要把文件转换一下,有两种方法:
1.命令dos2unix test.file
2.去掉"\r" ,用命令sed -i 's/\r//' test.file
好了,这样处理完,就OK啦!!!
awk函数的定义方法如下: function 函数名(参数表){ 函数体 }
sed -e 's/123/1234/' a.txt
将a.txt文件中所有行中的123用1234替换(-e表示命令以命令行的方式执行;参数s,表示执行替换操作)
# sed -e '3,5 a4' a.txt
将a.txt文件中的3行到5行之间所有行的后面添加一行内容为4的行(参数a,表示添加行,参数a后面指定添加的内容)
# sed -e '1 s/12/45/' a.txt
把第一行的12替换成45
sed -i "s/oldstring/newstring/g" `grep oldstring -rl yourdir`
批量处理通过grep搜索出来的所有文档,将这些文档中所有的oldstring用newstring替换(-i参数表示直接对目标文件操作)
$ sed -n 's/^test/mytest/p' example.file
(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。(^这是正则表达式中表示开头,该符号后面跟的就是开头的字符串)(参数p表示打印行)
$ sed 's/^wangpan/&19850715/' example.file
表示被替换换字符串被找到后,被替换的字符串通过&符号连接给出的字符串组成新字符传替换被替换的字符串,所有以wangpan开头的行都会被替换成它自已加19850715,变成wangpan19850715
$ sed -n 's/\(love\)able/\1rs/p' example.file
love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。需要将这条命令分解,s/是表示替换操作,\(love\)表示选中love字符串,\(love\)able/表示包含loveable的行,\(love\)able/\l表示love字符串标记为1,表示在替换过程中不变。rs/表示替换的目标字符串。这条命令的操作含义:只打印替换了的行
$ sed 's#10#100#g' example.file
不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。
$ sed -n '/love/,/unlove/p' example.file
只打印包含love字符串行到包含unlove字符串行之间的所有行(确定行的范围就是通过逗号实现的)
$ sed -n '5,/^wang/p' example
只打印从第五行开始到第一个包含以wang开始的行之间的所有行
$ sed '/love/,/unlove/s/$/wangpan/' example.file
对于包含love字符串的行到包含unlove字符串之间的行,每行的末尾用字符串wangpan替换。
字符串$/表示以字符串结尾的行,$/表示每一行的结尾,s/$/wangpan/表示每一行的结尾添加wangpan字符串
$ sed -e '11,53d' -e 's/wang/pan/' example.file
(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除11至53行,第二条命令用pan替换wang。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。(参数d,表示删除指定的行)
$ sed --expression='s/wang/pan/' --expression='/love/d' example.file
一个比-e更好的命令是--expression。它能给sed表达式赋值。
$ sed '/wangpan/r file' example.file
file里的内容被读进来,显示在与wangpan匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。参数r,表示读出文件,后面空格紧跟文件名称
$ sed -n '/test/w file' example.file
在example.file中所有包含test的行都被写入file里。参数w,表示将匹配的行写入到指定的文件file中
$ sed '/^test/a\oh! My god!' example.file
'oh! My god!'被追加到以test开头的行的后面,sed要求参数a后面有一个反斜杠。
$ sed '/test/i\oh! My god!' example.file
'oh! My god!'被追加到包含test字符串行的前面,参数i表示添加指定内容到匹配行的前面,sed要求参数i后面有一个反斜杠
$ sed '/test/{ n; s/aa/bb/; }' example.file
如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb。参数n,表示读取匹配行的下一个输入行,用下一个命令处理新的行而不是匹配行。Sed要求参数n后跟分号
$ sed '1,10y/abcde/ABCDE/' example.file
把1—10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。参数y,表示把一个字符翻译为另外的字符(但是不用于正则表达式)
$ sed -i 's/now/right now/g' test_sed_command.txt
表示直接操作文件test_sed_command.txt,将文件test_sed_command.txt中所有的now用right now替换。参数-i,表示直接操作修改文件,不输出。
$ sed '2q' test_sed_command.txt
在打印完第2行后,就直接退出sed。参数q,表示退出
$ sed -e '/old/h' -e '/girl-friend/G' test_sed_command.txt
首先了解参数h,拷贝匹配成功行的内容到内存中的缓冲区。在了解参数G,获得内存缓冲区的内容,并追加到当前模板块文本的后面。上面命令行的含义:将包含old字符串的行的内容保存在缓冲区中,然后将缓冲区的内容拿出来添加到包含girl-friend字符串行的后面。隐含要求搜集到缓冲区的匹配行在需要添加行的前面。
$ sed -e '/test/h' -e '/wangpan/x' example.file
将包含test字符串的行的内容保存在缓冲区中,然后再将缓冲区的内容替换包含wangpan字符串的行。参数x,表示行替换操作。隐含要求搜集到缓冲区的匹配行在需要被替换行的前面。