文本处理之sed

简介

  • sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。

参数

[root@www ~]# sed [-nefr] [动作]

选项与参数:
-n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
-e:直接在命令列模式上进行 sed 的动作编辑;
-f :直接将 sed 的动作写在一个文件内, -f filename 则可以运行 filename 内的 sed 动作;
-r :sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
-i :直接修改读取的文件内容,而不是输出到终端。

动作说明: [n1[,n2]]function
n1, n2 :不见得会存在,一般代表『选择进行动作的行数』,举例来说,如果我的动作是需要在 10 到 20 行之间进行的,则『 10,20[动作行为] 』

function:
a :新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~
c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
d :删除,因为是删除啊,所以 d 后面通常不接任何咚咚;
i :插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
p :列印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行~
s :取代,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示法!例如 1,20s/old/new/g 就是啦!

范例

1 p命令 ->打印
命令p用于显示模式空间的内容。默认情况下,sed把输入行打印在屏幕上,选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。

sed '/my/p' datafile

  • 默认情况下,sed把所有输入行都打印在标准输出上。如果某行匹配模式my,p命令将把该行另外打印一遍。

sed -n '/my/p' datafile

  • 选项-n取消sed默认的打印,p命令把匹配模式my的行打印一遍。
2 d命令 ->删除

命令d用于删除输入行。sed先将输入行从文件复制到模式空间里,然后对该行执行sed命令,最后将模式空间里的内容显示在屏幕上。如果发出的是命令d,当前模式空间里的输入行会被删除,不被显示。

sed '$d' datafile

  • 删除最后一行,其余的都被显示

sed '/my/d' datafile

  • 删除包含my的行,其余的都被显示
3 s命令 ->替换

sed 's/^My/You/g' datafile

  • 命令末端的g表示在行内进行全局替换,也就是说如果某行出现多个My,所有的My都被替换为You。

sed -n '1,20s/My$/You/gp' datafile

  • 取消默认输出,处理1到20行里匹配以My结尾的行,把行内所有的My替换为You,并打印到屏幕上。

sed 's#My#Your#g' datafile

  • 紧跟在s命令后的字符就是查找串和替换串之间的分隔符。分隔符默认为正斜杠,但可以改变。无论什么字符(换行符、反斜线除外),只要紧跟s命令,就成了新的串分隔符。
4 e选项 ->编辑

-e是编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。

sed -e '1,10d' -e 's/My/Your/g' datafile

  • 选项-e用于进行多重编辑。第一重编辑删除第1-3行。第二重编辑将出现的所有My替换为Your。因为是逐行进行这两项编辑(即这两个命令都在模式空间的当前行上执行),所以编辑命令的顺序会影响结果。
5 r命令 ->读

r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。

sed '/My/r introduce.txt' datafile

  • 如果在文件datafile的某一行匹配到模式My,就在该行后读入文件introduce.txt的内容。如果出现My的行不止一行,则在出现My的各行后都读入introduce.txt文件的内容。
6 w命令

sed -n '/hrwang/w me.txt' datafile

7 a 命令

a\ 命令是追加命令,追加将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。

sed '/^hrwang/a\

hrwang and mjfan are husband
and wife' datafile

  • 如果在datafile文件中发现匹配以hrwang开头的行,则在该行下面追加hrwang and mjfan are husband and wife
8 i 命令

i 命令是在当前行的前面插入新的文本。

9 c 命令

sed使用该命令将已有文本修改成新的文本。

10 y命令

该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。

sed '1,20y/hrwang12/HRWANG^$/' datafile

  • 将1到20行内,所有的小写hrwang转换成大写,将1转换成^,将2转换成$。
  • 正则表达式元字符对y命令不起作用。与s命令的分隔符一样,斜线可以被替换成其它的字符。
11 q命令

q命令将导致sed程序退出,不再进行其它的处理。

sed '/hrwang/{s/hrwang/HRWANG/;q;}' datafile

常用示例:

sed -i 's/\t/,/g' filename //把tab 替换成 “,”
cat filename | sed 's/[ ][ ]/,/g' cat lse | sed 's/\s+/,/g' 替换空格
cat lse | sed -e 's/[[:space:]][[:space:]]
/,/g' 如果空格与tab共存时用

1:把文件filename中的a字符换成A字符
sed -i "s/a/A/g" filename
2:替换为空格 将tab替换为空格
sed -i "s/\t/ /g" filename

二、实例
1)替换:s命令

sed -e 's/123/1234/' a.txt

将a.txt文件中所有行中的123用1234替换(-e表示命令以命令行的方式执行;参数s,表示执行替换操作)

sed -e '1 s/12/45/' a.txt

把第一行的12替换成45

sed -n 's/^test/mytest/p' example.file

(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。(^这是正则表达式中表示开头,该符号后面跟的就是开头的字符串)(参数p表示打印行)

sed -n 's/loveable/\1rs/p' example.file

love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。需要将这条命令分解,s/是表示替换操作,love表示选中love字符串,loveable/表示包含loveable的行,loveable/\l表示love字符串标记为1,表示在替换过程中不变。rs/表示替换的目标字符串。这条命令的操作含义:只打印替换了的行

sed 's#10#100#g' example.file

不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100

sed -i 's/now/right now/g' test_sed_command.txt

表示直接操作文件test_sed_command.txt,将文件test_sed_command.txt中所有的now用right now替换。参数-i,表示直接操作修改文件,不输出

echo 112.111 | sed -e 's/..*//g'

将小数点及之后的内容清除,以上输出是112(.表示匹配"."符号,之后跟着.表示1个到多个字符,如果只是.的话,只会匹配"."字符,因为*号是0个到多个)

echo aaaa.mpg.bak | sed -e 's;.∗..∗..*;\1;g'

输出:aaaa.mpg

sed 's/^wangpan/&19850715/' example.file

表示被替换换字符串被找到后,被替换的字符串通过&符号连接给出的字符串组成新字符传替换被替换的字符串,所有以wangpan开头的行都会被替换成它自已加19850715,变成wangpan19850715

2)选定行范围,逗号

sed -e '3,5 a4' a.txt

将a.txt文件中的3行到5行之间所有行的后面添加一行内容为4的行(参数a,表示添加行,参数a后面指定添加的内容)

sed -n '/love/,/unlove/p' example.file

只打印包含love字符串行到包含unlove字符串行之间的所有行(确定行的范围就是通过逗号实现的)

sed -n '5,/^wang/p' example

只打印从第五行开始到第一个包含以wang开始的行之间的所有行

3)编辑 e命令

sed --expression='s/test/check/' --expression='/love/d' example.file

一个比-e更好的命令是--expression。它能给sed表达式赋值。

sed -e '11,53d' -e 's/wang/pan/' example.file

(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除11至53行,第二条命令用pan替换wang。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。(参数d,表示删除指定的行)

4)从文件读写:r命令和w命令

sed '/wangpan/r file' example.file

file里的内容被读进来,显示在与wangpan匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。参数r,表示读出文件,后面空格紧跟文件名称

sed -n '/test/w file' example.file

在example.file中所有包含test的行都被写入file里。参数w,表示将匹配的行写入到指定的文件file中

5)追加和插入命令:a命令和i命令

sed '/^test/a\this is a example' example.file

'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。

sed '/test/i\oh! My god!' example.file
'oh! My god!'被追加到包含test字符串行的前面,参数i表示添加指定内容到匹配行的前面,sed要求参数i后面有一个反斜杠(也可以不加)

6)变形:y命令

sed '1,10y/abcde/ABCDE/' example.file

把1-10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。参数y,表示把一个字符翻译为另外的字符(但是不用于正则表达式)

7)保持和获取:h命令和G命令

sed -e '/old/h' -e '/girl-friend/G' test_sed_command.txt

首先了解参数h,拷贝匹配成功行的内容到内存中的缓冲区。在了解参数G,获得内存缓冲区的内容,并追加到当前模板块文本的后面。上面命令行的含义:将包含old字符串的行的内容保存在缓冲区中,然后将缓冲区的内容拿出来添加到包含girl-friend字符串行的后面。隐含要求搜集到缓冲区的匹配行在需要添加行的前面

8)保持和互换:h命令和x命令

sed -e '/test/h' -e '/wangpan/x' example.file

将包含test字符串的行的内容保存在缓冲区中,然后再将缓冲区的内容替换包含wangpan字符串的行。参数x,表示行替换操作。隐含要求搜集到缓冲区的匹配行在需要被替换行的前面

三、收集

  1. sed -e 's/123/1234/' a.txt
    将a.txt文件中所有行中的123用1234替换,每行只匹配第一次(-e表示命令以命令行的方式执行;参数s,表示执行替换操作,不改变原文件)

2.#sed -e 's/123/1234/g' a.txt
将a.txt文件中所有行中的123用1234替换,每行匹配多次(-e表示命令以命令行的方式执行;参数s,表示执行替换操作;参数g,表示每行匹配多次,不改变原文件)

3.# sed -e '3,5 a4' a.txt
将a.txt文件中的3行到5行之间所有行的后面添加一行内容为4的行(参数a,表示添加行,参数a后面指定添加的内容,不改变原文件)

4.# sed -e '1 s/12/45/' a.txt
把第一行的12替换成45(不改变原文件)

5.#sed -i "s/456aaa/444aaa/" grep 456aaa -lr /mnt/
在/mnt/share目录下所有的文件及所有子目录下的文件中找出包括aaa456的文件(不包括文件夹),将找出来的文件中的456aaa替换成444aaa(-i表示直接改变文件)

6.#sed -n 's/^test/mytest/p' example.file
(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。(^这是正则表达式中表示开头,该符号后面跟的就是开头的字符串)(参数p表示打印行)

7.#sed 's/^wangpan/&19850715/' example.file
表示被替换换字符串被找到后,被替换的字符串通过&符号连接给出的字符串组成新字符传替换被替换的字符串,所有以wangpan开头的行都会被替换成它自已加19850715,变成wangpan19850715

8.#sed -n 's/loveable/\1rs/p' example.file
love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。需要将这条命令分解,s/是表示替换操作,love表示选中love字符串,loveable/表示包含loveable的行,loveable/\1表示love字符串标记为1,表示在替换过程中不变。rs/表示替换的目标字符串。这条命令的操作含义:只打印替换了的行,如果替换字符和被替换字符有部分内容相同,则可用这种标记方法

9.#sed 's#10#100#g' example.file
不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符,但是在一个表达示中,不能把不同字符混合用作分隔符。表示把所有10替换成100。

10.#sed -n '/love/,/unlove/p' example.file
只打印包含love字符串行到包含unlove字符串行之间的所有行,如果找不到unlove,则一直到最后一行(确定行的范围就是通过逗号实现的)

11.#sed -n '5,/^wang/p' example
只打印从第五行开始到第一个包含以wang开始的行之间的所有行

12.#sed '/love/,/unlove/s/$/jeffery/p' example.file
对于包含love字符串的行到包含unlove字符串之间的行,每行的末尾用字符串jeffery替换。
字符串$/表示以字符串结尾的行,$/表示每一行的结尾,s/$/jeffery/表示每一行的结尾添加jeffery字符串

13.#sed -e '11,53d' -e 's/wang/pan/' example.file
(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除11至53行,第二条命令用pan替换wang。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。(参数d,表示删除指定的行)

14.# sed --expression='s/wang/pan/' --expression='/love/d' example.file
一个比-e更好的命令是--expression。它能给sed表达式赋值。

15.#sed '/wangpan/r file' example.file
file里的内容被读进来,显示在与wangpan匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。参数r,表示读出文件,后面空格紧跟文件名称

16.# sed -n '/test/w file' example.file
在example.file中所有包含test的行都被写入file里。参数w,表示将匹配的行写入到指定的文件file中

17.sed '/test/i\oh! My god!' example.file
'oh! My god!'被追加到包含test字符串行的前面,参数i表示添加指定内容到匹配行的前面一行,sed要求参数i后面有一个反斜杠

18.#sed '1,10y/abcde/ABCDE/' example.file
把1—10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。参数y,表示把一个字符翻译为另外的字符(但是不用于正则表达式)

19.#find . -name "*.log" -exec rm -f {} ;
查找当前目录及子目录里所有的文件,删除文件名以log为后缀的文件 -exec可以对find出来的结果执行命令, {} ;代表find出来的结果,除了-name参数外,经常用的还有:
1)-mtime,-ctime,atime都是指按时间查找,-mtime是文件的修改时间,-ctime是文件的创建时间,atime是后找开文件时间;
2)-type 指定查找的文件的类型,它有d,l,b,p,f,c等文件类型,d是查找目录,l是查找链接档,b是查找块文件,p是查找管道文件,f是普通文件,c是字符设备文件;
3)-perm 0700 查权限为700的文件或目录;
4)-size +512k 查大于512k的文件 ;-size -512k 查小于512k的文件;
5)-mtime +2 两天以前修改过的文件; -mtime -2 两天内修改过的文件;-atime -2 两天内访问过的文件;-ctime -2 两天内创建的文件

  1. 合并文件里所有行到一行
    sed ':a;N;s/\r\n/ /;ta' file # 注意有些是"\r\n",有些只有"\n", 可以用文件编辑器16进制查看是哪种
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,298评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,701评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,078评论 0 237
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,687评论 0 202
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,018评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,410评论 1 211
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,729评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,412评论 0 194
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,124评论 1 239
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,379评论 2 242
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,903评论 1 257
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,268评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,894评论 3 233
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,014评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,770评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,435评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,312评论 2 260

推荐阅读更多精彩内容