[TOC]
# awk简介
free | awk '/^Mem:/{print $4}'
ps -ef | grep Up | awk '{print $NF}' ###打印最后一列字段
awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。
awk 是一种很棒的语言，它适合文本处理和报表生成，其语法较为常见，借鉴了某些语言的一些精华，如 C 语言等。在 linux 系统日常处理工作中，发挥很重要的作用，掌握了 awk将会使你的工作变的高大上。 awk 是三剑客的老大，利剑出鞘，必会不同凡响。
## 使用方法
awk '{pattern + action}' {filenames}
尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。
## awk 的原理
通过一个简短的命令，我们来了解其工作原理。
```
[root@Gin scripts]# awk '{print $0}' /etc/passwd
...
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
...
[root@localhost opt]# echo "ha1233" | awk '{print "this is a test"}'
this is a test
[root@localhost opt]# echo -e "ha1233\nha1344" | awk '{print "this is a test"}'
this is a test
this is a test
```
你将会见到/etc/passwd 文件的内容出现在眼前。现在，解释 awk 做了些什么。调用 awk时，我们指定/etc/passwd 作为输入文件。执行 awk 时，它依次对/etc/passwd 中的每一行执行 print 命令。
所有输出都发送到 stdout，所得到的结果与执行 cat /etc/passwd 完全相同。
现在，解释{ print }代码块。在 awk 中，花括号用于将几块代码组合到一起，这一点类似于 C 语言。在代码块中只有一条 print 命令。在 awk 中，如果只出现 print 命令，那么将打印当前行的全部内容。
再次说明， awk 对输入文件中的每一行都执行这个脚本。
$ awk -F":" '{ print $1 }' /etc/passwd$ awk -F":" '{ print $1 $3 }' /etc/passwd$ awk -F":" '{ print $1 " " $3 }' /etc/passwd$ awk -F":" '{ print "username: " $1 "\t\tuid:" $3" }' /etc/passwd
\-F参数：指定分隔符，可指定一个或多个
print 后面做字符串的拼接
下面通过几实例来了解下awk的工作原理：
* 实例一：只查看test.txt文件（100行）内第5到第15行的内容（企业面试）
```
[root@localhost opt]# awk '{if(NR>=5 && NR<=15) print $1}' test.txt
5
6
7
8
9
10
11
12
13
14
15
```
* 实例二：已知test.txt文件内容为：
```
[root@Gin scripts]# cat test.txt
I am Poe,my qq is 33794712
```
请从该文件中过滤出'Poe'字符串与33794712，最后输出的结果为：Poe 33794712
```
[root@Gin scripts]# awk -F '[" ",]+' '{print $3" "$7}' test.txt
Poe 33794712
```
## BEGIN 和 END 模块
通常，对于每个输入行， awk 都会执行每个脚本代码块一次。然而，在许多编程情况中，可能需要在 awk 开始处理输入文件中的文本之前执行初始化代码。对于这种情况， awk 允许您定义一个 BEGIN 块。
因为 awk 在开始处理输入文件之前会执行 BEGIN 块，因此它是初始化 FS（字段分隔符）变量、打印页眉或初始化其它在程序中以后会引用的全局变量的极佳位置。
awk 还提供了另一个特殊块，叫作 END 块。 awk 在处理了输入文件中的所有行之后执行这个块。通常， END 块用于执行最终计算或打印应该出现在输出流结尾的摘要信息。
* 实例一：统计/etc/passwd的账户人数
```
awk '{count++;print $0;} END{print "user count is ",count}' /etc/passwd
...
apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin
zabbix:x:995:993:Zabbix Monitoring System:/var/lib/zabbix:/sbin/nologin
geoclue:x:994:992:User for geoclue:/var/lib/geoclue:/sbin/nologin
im_user:x:1000:1000::/home/im_user:/bin/bash
user count is 27
```
count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:
```
awk 'BEGIN{count=0;print "[start] user count is ",count} {count=count+1;print $0} END{print "[end] user count is ",count}' /etc/
passwd
[start] user count is 0
...
mysql:x:27:27:MariaDB Server:/var/lib/mysql:/sbin/nologin
apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin
zabbix:x:995:993:Zabbix Monitoring System:/var/lib/zabbix:/sbin/nologin
geoclue:x:994:992:User for geoclue:/var/lib/geoclue:/sbin/nologin
im_user:x:1000:1000::/home/im_user:/bin/bash
[end] user count is 27
```
## awk运算符
### awk 赋值运算符：a+5;等价于： a=a+5;其他同类
```
[root@Gin scripts]# awk 'BEGIN{a=5;a+=5;print a}'
10
```
### awk逻辑运算符：
```
awk 'BEGIN{a=1;b=2;print (a>2 && b>1,a=1 || b>1)}'
0 1
```
判断表达式 a>2&&b>1为真还是为假，后面的表达式同理
### awk正则运算符：
```
[root@Gin scripts]# awk 'BEGIN{a="100testaa";if(a~/100/) {print "ok"}}'
ok
[root@Gin scripts]# echo | awk 'BEGIN{a="100testaaa"}a~/test/{print "ok"}'
ok
```
### 关系运算符：
如： > < 可以作为字符串比较，也可以用作数值比较，关键看操作数如果是字符串就会转换为字符串比较。**两个都为数字 才转为数值比较**。字符串比较：按照ascii码顺序比较。
常见ASCII码的大小规则，0－9＜[A－Z]＜[a－z]
```
[root@Gin scripts]# awk 'BEGIN{a="11";if (a>=9) {print "ok"}}' #无输出
[root@Gin scripts]# awk 'BEGIN{a="11";if (a>="9") {print "ok";}}' #无输出
[root@Gin scripts]# awk 'BEGIN{a="11";if (a<="9") {print "ok";}}'
ok
[root@Gin scripts]# awk 'BEGIN{a=11;if(a>=9){print "ok"}}'
ok
[root@Gin scripts]# awk 'BEGIN{a;if(a>=b){print "ok"}}'
ok
```
### awk 算术运算符：
说明，所有用作算术运算符进行操作，操作数自动转为数值，所有非数值都变为0。
```
[root@Gin scripts]# awk 'BEGIN{a="b";print a++,++a}'
0 2
[root@Gin scripts]# awk 'BEGIN{a="20";print a++,++a}'
20 22
```
这里的a++ , ++a与javascript语言一样：a++是先赋值加++；++a是先++再赋值
### 三目运算符 ?:
```
[root@Gin scripts]# awk 'BEGIN{a="b";print a=="b"?"ok":"err"}'
ok
[root@Gin scripts]# awk 'BEGIN{a="b";print a=="c"?"ok":"err"}'
err
```
## 常用 awk 内置变量
|属性 |说明|
| --- | --- |
|$0 |当前记录（作为单个变量）|
|$1~$n |当前记录的第n个字段，字段间由FS分隔|
|FS |输入字段分隔符 默认是空格|
|NF |当前记录中的字段个数，就是有多少列|
|NR |已经读出的记录数，就是行号，从1开始|
|RS |输入的记录他隔符默 认为换行符|
|OFS |输出字段分隔符 默认也是空格|
|ORS |输出的记录分隔符，默认为换行符|
|ARGC |命令行参数个数|
|ARGV |命令行参数数组|
|FILENAME |当前输入文件的名字|
|IGNORECASE |如果为真，则进行忽略大小写的匹配|
|ARGIND |当前被处理文件的ARGV标志符|
|CONVFMT |数字转换格式 %.6g|
|ENVIRON |UNIX环境变量|
|ERRNO |UNIX系统错误消息|
|FIELDWIDTHS |输入字段宽度的空白分隔字符串|
|FNR |当前记录数|
|OFMT |数字的输出格式 %.6g|
|RSTART |被匹配函数匹配的字符串首|
|RLENGTH |被匹配函数匹配的字符串长度|
|SUBSEP |\034|
### 字段分隔符 FS
> FS="\\t" 一个或多个 Tab 分隔
```
[root@Gin scripts]# cat tab.txt
ww CC IDD
[root@Gin scripts]# awk 'BEGIN{FS="\t+"}{print $1,$2,$3}' tab.txt
ww CC IDD
```
> FS="\[\[:space:\]+\]" 一个或多个空白空格，**默认的**
```
[root@Gin scripts]# cat space.txt
we are studing awk now!
[root@Gin scripts]# awk -F [[:space:]+] '{print $1,$2,$3,$4,$5}' space.txt
we are
[root@Gin scripts]# awk -F [[:space:]+] '{print $1,$2}' space.txt
we are
```
> FS="\[" ":\]+" 以一个或多个空格或：分隔
```
[root@Gin scripts]# cat hello.txt
root:x:0:0:root:/root:/bin/bash
[root@Gin scripts]# awk -F [" ":]+ '{print $1,$2,$3}' hello.txt
root x 0
```
### 字段数量 NF
```
[root@Gin scripts]# cat hello.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin:888
[root@Gin scripts]# awk -F ":" 'NF==8{print $0}' hello.txt
bin:x:1:1:bin:/bin:/sbin/nologin:888
[root@Gin scripts]# awk -F ":" 'NF==7{print $0}' hello.txt
root:x:0:0:root:/root:/bin/bash
```
** NF==7只会取出字段为7的行**
### 记录数量 NR
```
[root@localhost opt]# ifconfig enp1s0
enp1s0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.0.166 netmask 255.255.255.0 broadcast 192.168.0.255
inet6 fe80::428d:5cff:fe7d:9c95 prefixlen 64 scopeid 0x20<link>
ether 40:8d:5c:7d:9c:95 txqueuelen 1000 (Ethernet)
RX packets 14921658 bytes 2812237063 (2.6 GiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 1072435 bytes 425047270 (405.3 MiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
[root@localhost opt]# ifconfig enp1s0 | awk 'NR==2{print $2}'
192.168.0.166
```
### RS 记录分隔符变量
### OFS 输出字段分隔符
```
[root@Gin scripts]# cat hello.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin:888
[root@Gin scripts]# awk 'BEGIN{FS=":"}{print $1","$2","$3}' hello.txt
root,x,0
bin,x,1
[root@Gin scripts]# awk 'BEGIN{FS=":";OFS="#"}{print $1,$2,$3}' hello.txt
root#x#0
bin#x#1
```
### ORS 输出记录分隔符
```
[root@localhost opt]# awk -F ":" 'BEGIN{ORS="\n"} {print $1,$2,$3}' test
root x 0
bin x 1
[root@localhost opt]# awk -F ":" 'BEGIN{ORS="\n\n"} {print $1,$2,$3}' test
root x 0
bin x 1
[root@localhost opt]
```
## awk 正则
正则应用
### 规则表达式
awk '/REG/{action} ' file,/REG/为正则表达式，可以将$0 中，满足条件的记录送入到：action 进行处理
[root@Gin scripts]# awk '/root/{print $0}' passwd ##匹配所有包含root的行root:x:0:0:root:/root:/bin/bashoperator:x:11:0:operator:/root:/sbin/nologin [root@Gin scripts]# awk -F: '$5~/root/{print $0}' passwd ## 以分号作为分隔符，匹配第5个字段是root的行root:x:0:0:root:/root:/bin/bash [root@Gin scripts]# ifconfig eth0|awk 'BEGIN{FS="[[:space:]:]+"} NR==2{print $4}'192.168.17.129
### 布尔表达式
awk '布尔表达式{action}' file 仅当对前面的布尔表达式求值为真时， awk 才执行代码块。
[root@Gin scripts]# awk -F: '$1=="root"{print $0}' passwdroot:x:0:0:root:/root:/bin/bash[root@Gin scripts]# awk -F: '($1=="root")&&($5=="root") {print $0}' passwdroot:x:0:0:root:/root:/bin/bash
## awk 的 if、循环和数组
### 条件语句
awk 提供了非常好的类似于 C 语言的 if 语句。
```
{
if ($1=="foo"){
if($2=="foo"){
print "uno"
}else{
print "one"
}
}elseif($1=="bar"){
print "two"
}else{
print "three"
}
}
```
使用 if 语句还可以将代码：
```
! /matchme/ { print $1 $3 $4 }
```
转换成：
```
{
if ( $0 !~ /matchme/ ) {
print $1 $3 $4
}
}
```
### 循环结构
我们已经看到了 awk 的 while 循环结构，它等同于相应的 C 语言 while 循环。 awk 还有"do...while"循环，它在代码块结尾处对条件求值，而不像标准 while 循环那样在开始处求值。
它类似于其它语言中的"repeat...until"循环。以下是一个示例：
#### do...while 示例
```
{
count=1do {
print "I get printed at least once no matter what"
} while ( count !=1 )
}
```
与一般的 while 循环不同，由于在代码块之后对条件求值， "do...while"循环永远都至少执行一次。换句话说，当第一次遇到普通 while 循环时，如果条件为假，将永远不执行该循环。
#### for 循环
awk 允许创建 for 循环，它就象 while 循环，也等同于 C 语言的 for 循环：
```
for ( initial assignment; comparison; increment ) {
code block
}
```
以下是一个简短示例：
```
for ( x=1;x<=4;x++ ) {
print "iteration", x
}
```
此段代码将打印：
```
iteration1
iteration2
iteration3
iteration4
```
#### break 和 continue
此外，如同 C 语言一样， awk 提供了 break 和 continue 语句。使用这些语句可以更好地控制 awk 的循环结构。以下是迫切需要 break 语句的代码片断：
```
while 死循环
while (1) {
print "forever and ever..."
}
while 死循环 1 永远代表是真，这个 while 循环将永远运行下去。
```
以下是一个只执行十次的循环：
```
#break 语句示例
x=1
while(1) {
print "iteration", x
if ( x==10 ) {
break
}
x++
}
```
这里， break 语句用于“逃出”最深层的循环。 "break"使循环立即终止，并继续执行循环代码块后面的语句。
continue 语句补充了 break，其作用如下：
```
x=1while (1) {
if ( x==4 ) {
x++
continue
}
print "iteration", x
if ( x>20 ) {
break
}
x++
}
```
这段代码打印"iteration1"到"iteration21"， "iteration4"除外。如果迭代等于 4，则增加 x并调用 continue 语句，该语句立即使 awk 开始执行下一个循环迭代，而不执行代码块的其余部分。如同 break 一样，
continue 语句适合各种 awk 迭代循环。在 for 循环主体中使用时， continue 将使循环控制变量自动增加。以下是一个等价循环：
for ( x=1;x<=21;x++ ) { if ( x==4 ) { continue } print "iteration", x}
在while 循环中时，在调用 continue 之前没有必要增加 x，因为 for 循环会自动增加 x。
## 数组
AWK 中的数组都是关联数组,数字索引也会转变为字符串索引
```
{
cities[1]=”beijing”
cities[2]=”shanghai”
cities[“three”]=”guangzhou”
for( c in cities) {
print cities[c]
}
print cities[1]
print cities[“1”]
print cities[“three”]
}
```
for…in 输出，因为数组是关联数组，默认是无序的。所以通过 for…in 得到是无序的数组。如果需要得到有序数组，需要通过下标获得。
数组的典型应用
用 awk 中查看服务器连接状态并汇总
```
netstat -an|awk '/^tcp/{++s[$NF]}END{for(a in s)print a,s[a]}'
ESTABLISHED 1
LISTEN 20
```
统计 web 日志访问流量，要求输出访问次数，请求页面或图片，每个请求的总大小，总访问流量的大小汇总
```
awk '{a[$7]+=$10;++b[$7];total+=$10}END{for(x in a)print b[x],x,a[x]|"sort -rn -k1";print
"total size is :"total}' /app/log/access_log
total size is :172230
21 /icons/poweredby.png 83076
14 / 70546
8 /icons/apache_pb.gif 18608
a[$7]+=$10 表示以第 7 列为下标的数组（ $10 列为$7 列的大小），把他们大小累加得到
$7 每次访问的大小，后面的 for 循环有个取巧的地方， a 和 b 数组的下标相同，所以一
条 for 语句足矣
```
## 常用字符串函数
字符串函数的应用
### 替换
```
awk 'BEGIN{info="this is a test2010test!";gsub(/[0-9]+/,"!",info);print info}' this is a test!test!
在 info 中查找满足正则表达式， /[0-9]+/ 用”!”替换，并且替换后的值，赋值给 info 未
给 info 值，默认是$0
```
### 查找
```
awk 'BEGIN{info="this is a test2010test!";print index(info,"test")?"ok":"no found";}'
ok #未找到，返回 0
```
### 匹配查找
```
awk 'BEGIN{info="this is a test2010test!";print match(info,/[0-9]+/)?"ok":"no found";}'
ok #如果查找到数字则匹配成功返回 ok，否则失败，返回未找到
```
### 截取
```
awk 'BEGIN{info="this is a test2010test!";print substr(info,4,10);}'
s is a tes #从第 4 个 字符开始，截取 10 个长度字符串
```
### 分割
```
awk 'BEGIN{info="this is a test";split(info,tA," ");print length(tA);for(k in tA){print k,tA[k];}}' 4
4 test 1 this 2 is 3 a
#分割 info,动态创建数组 tA,awk for …in 循环，是一个无序的循环。 并不是从数组下标
1…n 开始
```
