linux 三剑客(awk、sed、grep)

linux 三剑客,处理文本文件三个强大的命令。awk 处理格式文本非常有效率;sed 通过逐行遍历文件,能有效完成文件查找和修改;grep 通过正则表达式匹配,实现文件的模式查找。

awk

https://www.runoob.com/linux/linux-comm-awk.html

可以根据文件指定分隔符,像处理表格一样处理文本或序列。通常来处理字段,并基于字段进行过滤,或进行模式匹配。

语法

awk [选项参数] 'script' var=value file(s)
或
awk [选项参数] -f scriptfile var=value file(s)

常用的内建变量
NF:记录的字段数
NR:记录的行号
OFS:输出字段分隔符,默认值与输入字段分隔符一致。
ORS:输出记录分隔符(默认值是一个换行符)
$n:当前记录的第n个字段,字段间由FS分隔
$0:完整的输入记录
ARGV:包含命令行参数的数组
ARGC:命令行参数的数目

基本用法

  1. 案例一
    输出字段1,4
    awk '{print $1,$4}' log.txt

  2. 案例二
    指定分隔符
    awk -F, '{print $1,$2}' log.txt

  3. 案例三
    设置变量
    awk -va=1 '{print $1,$1+a}' log.txt

  4. 案例四
    执行awk 脚本
    awk -f {awk脚本} {文件名}

  5. 其他案例

awk '$1==2 {print $1,$3}' log.txt    #命令
awk '$1>2 && $2=="Are" {print $1,$2,$3}' log.txt    #命令
awk '$2 ~ /th/ {print $2,$4}' log.txt # 正则表达式匹配
awk '/re/ ' log.txt
awk '!/th/ {print $2,$4}' log.txt

awk 脚本
关于 awk 脚本,我们需要注意两个关键词 BEGIN 和 END。

BEGIN{ 这里面放的是执行前的语句 }
END {这里面放的是处理完所有的行后要执行的语句 }
{这里面放的是处理每一行时要执行的语句

ls -l *.txt | awk '{sum+=$5} END {print sum}'

以上的应用案例基本包括了常用的awk 的常用用法,更复杂的文本处理则可以通过awk 脚本完成。


sed

https://www.runoob.com/linux/linux-comm-sed.html
与awk 相比,sed在处理文本的行具有更好的效率。

基本语法

sed [-hnV][-e<script>][-f<script文件>][文本文件]

参数说明

  • -e<script> 或 --expression=<script> 以选项中指定的script来处理输入的文本文件。
  • -f<script文件> 或--file=<script文件> 以选项中指定的script文件来处理输入的文本文件。
  • -n或--quiet或--silent 仅显示script处理后的结果。

sed 文件处理命令
包括增加、删除、打印、替换行的内容

  • a :新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~
  • c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
  • d :删除,因为是删除啊,所以 d 后面通常不接任何咚咚;
  • i :插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
  • p :打印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行~
  • s :取代,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示法!例如 1,20s/old/new/g 就是啦!

应用案例

  1. 案例一
sed -e 4a\newline testfile #使用sed 在第四行后添加新字符串  
nl /etc/passwd | sed '2a drink tea' ## 第二行末尾添加内容。nl 显示行号。
nl /etc/passwd | sed '2i drink tea'  # 第二行前添加内容
nl /etc/passwd | sed '2a Drink tea or ......
drink beer ?' \  # 在第二行后面加入两行字,'\'符号
  1. 案例二
    nl /etc/passwd | sed '2,5d'

  2. 案例三
    将第2-5行的内容取代成为『No 2-5 number』

nl /etc/passwd | sed '2,5c No 2-5 number' 
  1. 案例四
    -n 只打印包含模式匹配的行。
nl /etc/passwd | sed -n '/root/p'
  1. 其他
nl /etc/passwd | sed  '/root/d'
nl /etc/passwd | sed -n '/root/{s/bash/blueshell/;p;q}'    
/sbin/ifconfig eth0 | grep 'inet addr' | sed 's/^.*addr://g' ## 替换
nl /etc/passwd | sed -e '3,$d' -e 's/bash/blueshell/' # 多点编辑
sed -i 's/\.$/\!/g' regular_express.txt # 直接修改命令

以上的案例表明,sed 的一些操作可以放在行的末尾,或者放在模式匹配的末尾,或者在大括号内以分号分隔,或者通过-e 命令,实现多点编辑。


grep

https://www.runoob.com/linux/linux-comm-grep.html

grep 查找文件里符合条件的字符串。

语法

grep [-abcEFGhHilLnqrsvVwxy][-A<显示行数>][-B<显示列数>][-C<显示列数>][-d<进行动作>][-e<范本样式>][-f<范本文件>][--help][范本样式][文件或目录...]

应用案例

grep "被查找的字符串" 文件名
grep test *file  # 在当前目录中,查找后缀有 file 字样的文件中包含 test 字符串的文件
grep -v test *test*  #查找文件名中包含 test 的文件中不包含test 的行,此时,使用的命令为
grep –e "正则表达式" 文件名 

grep 除了可以查找单个文件中匹配的模式,也可以在目录中包含特定字符的文件查找匹配模式的行。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,835评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,598评论 1 295
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,569评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,159评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,533评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,710评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,923评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,674评论 0 203
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,421评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,622评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,115评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,428评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,114评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,097评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,875评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,753评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,649评论 2 271

推荐阅读更多精彩内容