浅析 awk 文本分析

作用

awk 逐行读取文件,以空格为分隔符将每行切片,切开的部分再进行各种分析处理

格式

awk {option} 'pattern + {action}' {filenames}

option:
  • -F 自定义每行切片时的分隔符,默认空格,也可以使用 fs 定义空格符
  • -v 变量赋值(例:awk -v path=$PATH)
  • -f 从脚本文件中读取awk命令
pattern(不能被{ }包裹):
  • 正则表达式 例:cat 111 | awk ' /^li/ {print $0}' 匹配每行以li开头的记录
  • 关系表达式 例:cat 111 | awk 'NR==2 {print $0}' 只输出第二条记录
  • 模式匹配表达式 例:cat 111 | awk ':' '$1~/zarafa/ {print $0}' 匹配第一列包含zarafa的记录,与关系表达式相比,只是模糊比较,不是精确比较(~匹配 ~!不匹配)
  • BEGIN END 模块,awk 'BEGIN{ commands } pattern{ commands } END{ commands }',先执行BEGIN后面的 commands 语句,一般用作自定义变量,输入表头等,只执行一次,再逐行扫描文件,从第一行到最后一行重复执行 pattern{ commands } 语句,最后执行END后面的 commands 语句,只执行一次,一般用作分析结果、数据汇总的输出
  • awk也是一种编程语言,pattern中完美支持do whilewhileforcontinuebreak以及数组等语法
action:
  • print 一般的行为就是打印结果,真正的分析处理数据过程在pattern中
  • 存在多个action时结尾必须用;分隔

常用内置变量

  • $n 当前读取行的第n个字段
  • $0 当前行的所有内容
  • FILENAME 当前输入文件名
  • NF 当前行的字段数
  • NR 当前行的行号
  • FS 字段分隔符(和-F参数作用相同,可自定义字段分隔符)
  • OFS 自定义输出字段分隔符(加O表示outfile)
  • RS 行间分隔符(可自定义行与行输出时的分隔符)
  • ORS 自定义输出行间分隔符(加O表示outfile)

基础实例(基础案例引用自 linux awk命令详解 - ggjucheng

  • last -n 5 | awk '{print $1}' 显示最近登录的5个账户
  • cat /etc/passwd | awk -F ':' '{print $1}' 显示 /etc/passwd 的账户
  • cat /etc/passwd | awk -F ':' '{print $1"\t"$7}' 显示 /etc/passwd 的账户和shell,以Tab键分割
  • cat /etc/passwd | awk -F ':' 'BEGIN{print "start"} {print $1","$7} END {print "over"}' 显示 /etc/passwd 的账户和shell,以逗号分割,并且在数据的首尾增加start、over标识
  • cat /etc/passwd | awk '/root/ {print $0}' 输出 /etc/passwd 有 root 关键字的行
  • cat /etc/passwd | awk -F ":" ' {count++;} END {print count;}'
    cat /etc/passwd | awk -F ':' 'END {print NR}'
    统计 /etc/passwd 账户人数
  • ls -l | awk '{sum=sum+$5} END {print sum}' 统计某个文件夹下文件占用字节数
  • ls -l | awk '$5>5120 {print $0}' 输出某个文件夹下文件字节数大于5K的文件
  • cat /etc/passwd | awk -F ":" '{print $1,$3}' OFS="---" 将输出的分隔符改为---

运维案例(运维案例引用自 Awk使用案例总结(运维必会)

处理文件

Nginx日志 /usr/local/nginx1.2.2/logs/access.log

文件格式
127.0.0.1  [31/Aug/2017:00:01:01 +0800] "POST /index.php HTTP/1.1" 200 1540 "-" "-" "xxxxxx" xxxxxx"
具体案例
  • 统计日志中访问最多的10个IP
    awk '{a[$1]++;} END {for(i in a) print a[i] "\t" i | "sort -k1 -nr | head -n10 "}' access.log
    利用a[$1]++;,实现IP去重,并且统计IP出现的次数,之后再利用sort命令,按照第一列的数值倒叙排序,输出前10行

  • 统计日志中访问大于100次的IP
    awk '{a[$1]++;} END {for(i in a) if(a[i]>100) print a[i]"\t"i | "sort -k1 -nr | head -n 10" }' access.log

  • 倒叙列打印文件

倒叙列转化

cat 222.txt | awk '{for(i=NF; i>=1; i--) {printf "%s ",$i}print s}'(print s 打印一个换行符)

  • 从第2列打印到最后

从第2列打印到最后

cat 222 | awk '{for(i=2;i<=NF;i++) {printf"%s ",$i}print s}'

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,716评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,558评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,431评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,127评论 0 209
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,511评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,692评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,915评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,664评论 0 202
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,412评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,616评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,105评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,424评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,098评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,096评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,869评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,748评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,641评论 2 271

推荐阅读更多精彩内容

  • awk:报告生成器,格式化文本输出 内容: awk介绍 awk基本用法 awk变量 awk格式化 awk操作符 a...
    BossHuang阅读 1,434评论 0 9
  • 简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤...
    花丶小伟阅读 476评论 0 0
  • 本章主要学习内容awk介绍 awk基本用法 awk变量 awk格式化 awk操作符 awk条件判断 a...
    楠人帮阅读 1,216评论 0 8
  • awk介绍awk变量printf命令:实现格式化输出操作符awk patternawk actionawk数组aw...
    哈喽别样阅读 1,488评论 0 4
  • awk命令的基本使用 [root@shellscript ~]# head -n 3 /etc/passwd | ...
    古寒飞阅读 1,041评论 0 2