一、AWK基本知识普及
|
1
2
3
4
5
6
7
8
|
awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan
姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ，
三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，
这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报
表，还有无数其他的功能。
awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。
awk是一个强大的文本分析工具，在数据分析及格式化报告输出非常强大；通过文本逐行读入，
分域处理，然后进行分析。
|
二，术语介绍
|
1
2
3
4
5
6
|
awk语法两种：
awk
'{pattern + action}{pattern + action}.....'
awk
'pattern {action}'
pattern模式，action采取动作，两者是可选的，如果没有模式，则action应用到全部记录，
如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，
但用户可通过RS变量指定不同的行分隔符进行分隔。
|
模式可以是以下任意一个：
|
1
2
3
4
5
6
7
|
/正则表达式/：使用通配符的扩展集。如 /^root/ 模式root开头
关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，
如 $
2
>$
1
选择第二个字段比第一个字段长的行。
模式匹配表达式：用运算符~(匹配)和~!(不匹配)。如 $
1
~/root/ 第一个域匹配root
模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
END：让用户在最后一条输入记录被读取之后发生的动作，通常可在这里设置全局变量。
|
动作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：
变量或数组赋值 输出命令 内置函数 控制流命令
如awk -F ":" '/^root/{print $0}' /etc/passwd
/^root/即为模式，print $0即为action
内置的环境
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
|
$n 当前记录的第n个字段，字段间由FS分隔。
$
0
完整的输入记录。
ARGC 命令行参数的数目。
ARGIND 命令行中当前文件的位置(从
0
开始算)。
ARGV 包含命令行参数的数组。
CONVFMT 数字转换格式(默认值为%.6g)
ENVIRON 环境变量关联数组。
ERRNO 最后一个系统错误的描述。
FIELDWIDTHS 字段宽度列表(用空格键分隔)。
FILENAME 当前文件名。
FNR 当前记录的行数（对于一个文件同NR），不同文件是叠加。
FS 字段分隔符(默认是任何空格)。
IGNORECASE 如果为真，则进行忽略大小写的匹配。
NF 当前记录中的字段数（指的是处理的当前行的字段数）。
NR 当前记录数。
OFMT 数字的输出格式(默认值是%.6g)。
OFS 输出字段分隔符(默认值是一个空格)。
ORS 输出记录分隔符(默认值是一个换行符)。
RLENGTH 由match函数所匹配的字符串的长度。
RS 记录分隔符(默认是一个换行符)。
RSTART 由match函数所匹配的字符串的第一个位置。
SUBSEP 数组下标分隔符(默认值是\
034
)。
|
记录及记录分割符
|
1
2
3
4
5
6
|
记录：awk把每一个以换行符（默认）结束的行称为一个记录。
记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中，
可以通过ORS/RS决定输入输出行分割符。$
0
变量：它指的是整条记录。
如$ awk
'{print $0}'
test将输出test文件中的所有记录。变量NR：一个计数器，
每处理完一条记录，NR的值就增加
1
。如$ awk
'{print NR,$0}'
test将输出test文件中所有记录，
并在记录前显示记录号。
|
域及域分割符
|
1
2
3
4
5
6
7
8
9
|
域：记录中每个单词称做“域”，默认情况下以空格或tab分隔。
awk可跟踪域的个数，并在内建变量NF中保存该值。
如$ awk
'{print $1,$3}'
test将打印test文件中第一和第三个以空格分开的列(域)。
域分隔符：内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。
如$ awk -F:
'{print $1,$5}'
test将打印以冒号为分隔符的第一，
第五列的内容。可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，
如$awk -F
'[:\t]'
'{print $1,$3}'
test，表示以空格、冒号和tab作为分隔符。
输出域的分隔符默认是一个空格，保存在OFS中。
如$ awk -F:
'{print $1,$5}'
test，$
1
和$
5
间的逗号就是OFS的值。
|
匹配操作符(~)
|
1
2
|
用来在记录或者域内匹配正则表达式。如$ awk
'$1 ~/^root/'
test将显示test文件第一列中以root开头的行。
|
比较表达式
|
1
2
3
4
5
|
conditional expression1 ? expression2: expression3，
例如：$ awk
'{(max = ($1 > $3)? $1: $3);print max}'
test。
如果第一个域大于第三个域，$
1
就赋值给max，否则$
3
就赋值给max。
$ awk
'$1 + $2 < 100'
test。如果第一和第二个域相加大于
100
，则打印这些行。
$ awk
'$1 > 5 && $2 < 10'
test,如果第一个域大于
5
，并且第二个域小于
10
，则打印这些行。
|
范围模板
|
1
2
3
|
范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。
如果有一个模板没出现，则匹配到开头或末尾。如$ awk
'/root/,/mysql/'
test将显示root第一次出现到mysql第一次出现之间的所有行。
|
条件语句
awk中的条件语句是从C语言中借鉴过来的，可控制程序的流程。
|
1
2
3
4
5
6
7
8
9
10
|
if
语句
格式：
{
if
(expression){
statement; statement; ...
}
}
$ awk -F
":"
'{if ($1 <$2) print $2 "too high"}'
/etc/passwd。
如果第一个域小于第二个域则打印。
$ awk -F
":"
'{if ($1 < $2) {count++; print "ok"}}'
/etc/passwd
如果第一个域小于第二个域，则count加一，并打印ok。
|
if/else语句，用于双重判断。
|
1
2
3
4
5
6
7
8
9
10
11
12
|
格式：
{
if
(expression){
statement; statement; ...
}
else
{
statement; statement; ...
}
}
$ awk
'{if ($1 > 100) print $1 "bad" ; else print "ok"}'
test。
如果$
1
大于
100
则打印$
1
bad,否则打印ok。
$ awk
'{if ($1 > 100){ count++; print $1} else {count--; print $2}'
test。
如果$
1
大于
100
，则count加一，并打印$
1
，否则count减一，并打印$
1
。
|
if/else else if语句，用于多重判断。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
格式：
{
if
(expression){
statement; statement; ...
}
else
if
(expression){
statement; statement; ...
}
else
if
(expression){
statement; statement; ...
}
else
{
statement; statement; ...
}
}
|
循环
awk有三种循环:while循环；for循环；special for循环。
|
1
2
3
4
|
$ awk
'{ i = 1; while ( i <= NF ) { print NF,$i; i++}}'
test。
变量的初始值为
1
，若i小于可等于NF(记录中域的个数),则执行打印语句，且i增加
1
。
直到i的值大于NF.
$ awk
'{for (i = 1; i<NF; i++) print NF,$i}'
test。作用同上。
|
breadk continue语句。break用于在满足条件的情况下跳出循环；continue用于在满足条件的情况下忽略后面的语句，直接返回循环的顶端。如：
|
1
2
3
4
5
6
7
8
|
{
for
( x=
3
; x<=NF; x++)
if
($x<
0
){print
"Bottomed out!"
;
break
}}
{
for
( x=
3
; x<=NF; x++)
if
($x==
0
){print
"Get next item"
;
continue
}}
next语句从输入文件中读取一行，然后从头开始执行awk脚本。如：
{
if
($
1
~/test/){next}
else
{print}
}
|
exit语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。
数组
awk中的数组的下标可以是数字和字母，称为关联数组。
下标与关联数组
|
1
2
3
4
5
6
7
8
9
|
用变量作为数组下标。如：$ awk {name[x++]=$
2
};END{
for
(i=
0
;i<NR;i++) print i,name[i]}' test。
数组name中的下标是一个自定义变量x，awk初始化x的值为
0
，在每次使用后增加
1
。
第二个域的值被赋给name数组的各个元素。在END 模块中，
for
循环被用于循环整个数组，从下标为
0
的元素开始，
打印那些存储在数组中的值。因为下标是关健字，所以它不一定从
0
开始，可以从任何值开始。
special
for
循环用于读取关联数组中的元素。格式如下：
{
for
(item
in
arrayname){
print arrayname[item]
}
}
|
$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test。
打印有值的数组元素。打印的顺序是随机的。
|
1
2
3
4
5
6
|
用字符串作为下标。如：count[
"test"
]
用域值作为数组的下标。一种新的
for
循环方式，
for
(index_value
in
array) statement。
如:$ awk
'{count[$1]++} END{for(name in count) print name,count[name]}'
test。
该语句将打印$
1
中字符串出现的次数。它首先以第一个域作数组count的下标，
第一个域变化，索引就变化。
|
delete 函数用于删除数组元素。如：$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test。分配给数组line的是第一个域的值，所有记录处理完成后，special for循环将删除每一个元素。delete array[key]可以删除，对应数组key的，序列值。if(key in array) 通过这种方法判断数组中是否包含”key”键值。awk数组是关联数组，只要通过数组引用它的key，就会自动创建改序列.
变量
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
在awk中，变量不需要定义就可以直接使用，变量类型可以是数字或字符串。
赋值格式：Variable = expression，如$ awk
'$1 ~/test/{count = $2 + $3; print count}'
test,
上 式的作用是,awk先扫描第一个域，一旦test匹配，就把第二个域的值加上第三个域的值，
并把结果赋值给变量count，最后打印出来。
awk 可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。
如$ awk -F: -f awkscript month=
4
year=
2004
test，上式的month和year都是自定义变量，
分别被赋值为
4
和
2004
。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。
注意，如果参数前面出现test，那么在BEGIN语句中的变量就不能被使用。
域变量也可被赋值和修改，如$ awk
'{$2 = 100 + $1; print }'
test,上式表示，
如果第二个域不存在，awk将计算表达式
100
加$
1
的值，并将其赋值给$
2
，
如果第二个域存在，则用表达式的值覆盖$
2
原来的值。
再例如：$ awk
'$1 == "root"{$1 ="test";print}'
test，
如果第一个域的值是“root”，则把它赋值为“test”，注意，字符串一定要用双引号。
内建变量的使用。变量列表在前面已列出，现在举个例子说明一下。
$ awk -F:
'{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'
test，
把IGNORECASE设为
1
代表忽略大小写，打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。
|
|
1
2
3
4
|
BEGIN 模块后紧跟着动作块，这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。
它通常用来改变内建变量的值，如 OFS,RS和FS等，以及打印标题。如：$ awk 'BEGIN{FS=
":"
; OFS=
"\t"
; ORS=
"\n\n"
}{print $
1
,$
2
,$
3
} test。
上式表示，在处理输入文件以前，域分隔符(FS)被设为冒号，输出文件分隔符(OFS)被设置为制表符，输出记录分隔符(ORS)被设置为两个 换行符。
$ awk 'BEGIN{print
"TITLE TEST"
}只打印标题。
|
13. END模块
|
1
2
|
END不匹配任何的输入文件，但是执行动作块中的所有动作，它在整个输入文件处理完成后被执行。
如$ awk
'END{print "The number of records is" NR}'
test，上式将打印所有被处理的记录数。
|
14. 重定向和管道 >> > 与shell中>> > 区别
awk 可使用shell的重定向符进行重定向输出，如：$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100，则把它输出到output_file中。也可以用>>来重定向输出，但不清空文件，只做追加 操作。
输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件 获得输入。它负责从输入获得下一行的内容，并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返 回0，如果出现错误，例如打开文件失败，就返回-1。如：
$ awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量d，并打印它。
$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给d，split函数把变量d转 化成数组mon，然后打印数组mon的第二个元素。
$ awk 'BEGIN{while( "ls" | getline) print}'，命令ls的输出传递给geline作为输入，循环使getline从ls的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为 BEGIN块在打开输入文件前执行，所以可以忽略输入文件。
$ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后，getline函数从终端接收该行输入，并把它储存在自定义变量name中。如果第一个域匹配变量 name的值，print函数就被执行，END块打印See you和name的值。
$ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk将逐行读取文件/etc/passwd的内容，在到达文件末尾前，计数器lc一直增加，当到末尾时，打印lc的值。注意，如果文件不存 在，getline返回-1，如果到达文件的末尾就返回0，如果读到一行，就返回1，所以命令 while (getline < "/etc/passwd")在文件不存在的情况下将陷入无限循环，因为返回-1表示逻辑真。
可以在awk中打开一个管 道，且同一时刻只能有一个管道存在。通过close()可关闭管道。如：$ awk '{print $1, $2 | "sort" }' test END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。
system函数可以在awk中执行linux的命令。如：$ awk 'BEGIN{system("clear")'。
fflush函数用以刷新输出缓冲区，如果没有参数，就刷新标准输出的缓冲区，如果以空字符串为参数，如fflush(""),则刷新所有文件和管道的输出缓冲区。
15 awk的内建函数
字符串函数
|
1
2
3
4
5
6
7
|
sub函数匹配记录中最大、最靠左边的子字符串的正则表达式，并用替换字符串替换这些字符串。
如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下：
sub (regular expression, substitution string):
sub (regular expression, substitution string, target string)
实例：
$ awk
'{ sub(/test/, "mytest"); print }'
testfile
$ awk
'{ sub(/test/, "mytest"); $1}; print }'
testfile
|
第一个例子在整个记录中匹配，替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub
第二个例子在整个记录的第一个域中进行匹配，替换只发生在第一次匹配发生的时候。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
[root@hack ~]# awk
'{sub(/x/,"replace test",$2);print $2}'
awk.txt
replace test
replace test
[root@hack ~]# awk
'{sub(/x/,"replace test");print $2}'
awk.txt
replace
replace
[root@hack ~]# awk
'{sub(/x/,"replace test");print $2,NR}'
awk.txt
replace
1
replace
2
[root@hack ~]# awk
'{sub(/x/,"replace test",$2);print $2,NR}'
awk.txt
replace test
1
replace test
2
[root@hack ~]# awk
'{sub(/x/,"replace test",$2);print $0,$2,NR}'
awk.txt
root replace test
0
replace test
1
bin replace test
1
replace test
2
[root@hack ~]#
|
在没有指定替换的域时，域会重新划分
|
1
2
3
4
5
6
|
gsub函数作用如sub，但它在整个文档中进行匹配。格式如下：
gsub (regular expression, substitution string)
gsub (regular expression, substitution string, target string)
实例：
$ awk
'{ gsub(/test/, "mytest"); print }'
testfile
$ awk
'{ gsub(/test/, "mytest"), $1 }; print }'
testfile
|
第一个例子在整个文档中匹配test，匹配的都被替换成mytest。
第二个例子在整个文档的只第一个域中匹配，所有匹配的都被替换成mytest。
|
1
2
3
4
5
6
7
8
9
10
11
|
[root@hack ~]# awk
'{gsub(/x/,"replace test",$2);print $0,"\n"$2,NR}'
awk.txt
root replace test
0
x
0
a x
replace test
1
bin replace test 1x
replace test
2
[root@hack ~]# awk
'{gsub(/x/,"replace test");print $0,"\n"$2,NR}'
awk.txt
root replace test
0
replace test
0
a replace test
replace
1
bin replace test 1replace test
replace
2
[root@hack ~]#
|
同样在没有指定替换的域时，域会重新划分
|
1
2
3
4
5
|
index函数返回子字符串第一次被匹配的位置，偏移量从位置
1
开始。格式如下：
index(string, substring)
实例：
$ awk
'{ print index("test", "mytest") }'
testfile
实例返回test在mytest的位置，结果应该是
3
。
|
length函数返回记录的字符数。格式如下：
|
1
2
3
4
5
6
7
|
length( string )
length
实例：
$ awk
'{ print length( "test" ) }'
$ awk
'{ print length }'
testfile
第一个实例返回test字符串的长度。
第二个实例返回testfile文件中第一条记录的字符数。
|
substr函数返回从位置1开始的子字符串，如果指定长度超过实际长度，就返回整个字符串。格式如下：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
substr( string, starting position )
substr( string, starting position, length of string )
实例：
$ awk
'{ print substr( "hello world", 7,11 ) }'
上例截取了world子字符串。
match函数返回在字符串中正则表达式位置的索引，如果找不到指定的正则表达式则返回
0
。
match函数会设置内建变量RSTART为字符串中子字符串的开始位置，RLENGTH为到子字符串末尾的字符个数。
substr可利于这些变量来截取字符串。函数格式如下：
match( string, regular expression )
实例：
$ awk
'{start=match("this is a test",/[a-z]+$/); print start}'
$ awk
'{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'
第一个实例打印以连续小写字符结尾的开始位置，这里是
11
。
第二个实例还打印RSTART和RLENGTH变量，这里是
11
(start)，
11
(RSTART)，
4
(RLENGTH)。
toupper和tolower函数可用于字符串大小间的转换，该功能只在gawk中有效。格式如下：
toupper( string )
tolower( string )
实例：
$ awk
'{ print toupper("test"), tolower("TEST") }'
|
split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供，则按当前FS值进行分割，注意Split函数切割的数组下标从1开始，0永远为空。格式如下：
|
1
2
3
4
5
6
|
split( string, array, field separator )
split( string, array )
实例：
$ awk
'{ split( "20:18:00", time, ":" ); print time[2] }'
上例把时间按冒号分割到time数组内，并显示第二个数组元素
18
。
时间函数
|
systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下：
systime()
实例：
|
1
2
3
|
$ awk
'{ now = systime(); print now }'
strftime函数使用C库中的strftime函数格式化时间。格式如下：
strftime( [format specification][,timestamp] )
|
Table 3. 日期和时间格式说明符
格式描述
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
%a星期几的缩写(Sun)
%A星期几的完整写法(Sunday)
%b月名的缩写(Oct)
%B月名的完整写法(October)
%c本地日期和时间
%d十进制日期
%D日期
08
/
20
/
99
%e日期，如果只有一位会补上一个空格
%H用十进制表示
24
小时格式的小时
%I用十进制表示
12
小时格式的小时
%j从
1
月
1
日起一年中的第几天
%m十进制表示的月份
%M十进制表示的分钟
%p12小时表示法(AM/PM)
%S十进制表示的秒
%U十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
%w十进制表示的星期几(星期天是
0
)
%W十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
%x重新设置本地日期(
08
/
20
/
99
)
%X重新设置本地时间(
12
：
00
：
00
)
%y两位数字表示的年(
99
)
%Y当前月份
%Z时区(PDT)
%%百分号(%)
|
实例：
$ awk '{ now=strftime( "%D", systime() ); print now }'
$ awk '{ now=strftime("%m/%d/%y"); print now }'
rand函数生成一个大于或等于0，小于1的浮点数随机数
|
1
2
3
4
5
|
gawk
'{print rand() }'
filename
当多次执行上面的脚本，每次都生成相同的数字
srand函数，以当前时刻为rand()生成一个种子
srand(x)把x设置为种子，通常，程序应该在运行过程中不断
的改变x的值
|
gawk 'BEGIN{srand()}; {print rand()} ' filename
内建数学函数 Table 4.
函数名称返回值
|
1
2
3
4
5
6
7
8
9
10
11
|
atan2(x,y)y,x范围内的余切
cos(x)余弦函数
exp(x)求幂
int
(x)取整
log(x)自然对数
rand()随机数
sin(x)正弦
sqrt(x)平方根
srand(x)x是rand()函数的种子
int
(x)取整，过程没有舍入
rand()产生一个大于等于
0
而小于
1
的随机数
|
自定义函数
|
1
2
3
4
5
|
在awk中还可自定义函数，格式如下：
function
name ( parameter, parameter, parameter, ... ) {
statements
return
expression # the
return
statement and expression are optional
}
|
http://www.blogjava.net/jasmine214--love/archive/2011/01/25/343478.html
本文转自 aklaus 51CTO博客，原文链接:http://blog.51cto.com/aklaus/1698392
