搬运
一、主要内容
- shell编程
- sed命令
- awk命令
- crontab定时器
二、简介
- Shell是用户与内核进行交互操作的一种接口，目前最流行的Shell称为bash Shell
- Shell也是一门编程语言<解释型的编程语言>，即shell脚本
- 一个系统可以存在多个shell，可以通过cat /etc/shells命令查看系统中安装的shell，不同的shell可能支持的命令语法是不相同的
三、Shell脚本的执行方式
- 第一种：输入脚本的绝对路径或相对路径
- 首先要赋予+x权限
chmod u+x /root/helloWorld.sh - 然后以以下方式运行：
/root/helloWorld.sh ./helloWorld.sh - 不用赋予+x权限，而用解释器解释执行
sh helloworld.sh
- 首先要赋予+x权限
- 第二种：bash或sh +脚本
sh /root/helloWorld.sh sh helloWorld.sh - 第三种：在脚本的路径前再加". "
. /root/helloWorld.sh . ./helloWorld.sh
- 区别：第一种和第二种会新开一个bash，不同bash中的变量无法共享
四、Shell中的变量
- 简介
- Linux Shell中的变量分为“系统变量”和“用户自定义变量”，可以通过set命令查看那系统变量
- 系统变量：
$HOME、$PWD、$SHELL、$USER等等 - 显示当前shell中所有变量 :
set
- 定义变量
- 变量＝值 （例如STR=abc）
- 等号两侧不能有空格
- 变量名称一般习惯为大写
- 双引号和单引号有区别，双引号仅将空格脱意，单引号会将所有特殊字符脱意
- 单引号会将所有的转义字符转义，而双引号会原样输出
- 单引号中的变量会被替换，但是双引号中的变量会原样输出
- unset A 撤销变量 A
- readonly B=2 声明静态的变量 B=2 ，不能 unset
- export 变量名 可把变量提升为全局环境变量，可供其他shell程序使用
- 将命令的返回值赋给变量
- A=`ls -la` 反引号，运行里面的命令，并把结果返回给变量A
- A=$(ls -la) 等价于反引号
- Shell中的预定义变量
-
$?表示上一个命令退出的状态：- 上一个命令的返回值，不是输出结果，即成功或者失败，一般0表示成功，非0表示失败
- true：0，false：1
-
$$表示当前进程编号 -
$0表示当前脚本带有路径名称显示一个文件路径的文件名 -
$<n>位置变量, 表示n位置的输入参数（<n>代表数字，n>=1） -
$#表示参数的个数，常用于循环 -
$*和$@都表示参数列表@区别
- $* 和 $@ 都表示传递给函数或脚本的所有参数，不被双引号" "包含时，都以$1 $2 … $n 的形式输出所有参数
- 当它们被双引号" "包含时，"$*" 会将所有的参数作为一个整体，以"$1 $2 … $n"的形式输出所有参数；"$@" 会将各个参数分开，以"$1" "$2" … "$n" 的形式输出所有参数
-
$!表示上一个后台(&)进程的PID
-
- 执行脚本的时候等待与用户输入
$ read[ -p <tip-text>] <variable-name>
五、运算符
- 格式 :expr m + n 或$((m+n)) 注意expr运算符间要有空格，例如计算(2+3)×4的值
- 分步计算
S=\`expr 2 + 3\` expr \$S \* 4 - 一步完成计算
expr `expr 2 + 3 ` \* 4 echo `expr \`expr 2 + 3\` \* 4` 或 $(((2+3)*4))
- 分步计算
六、for循环
- 第一种：
或for N in 1 2 3 do echo $N done
或for N in 1 2 3; do echo $N; donefor N in {1..3}; do echo $N; done - 第二种：
或for ((i = 0; i <= 5; i++)) do echo "welcome $i times" donefor ((i = 0; i <= 5; i++)); do echo "welcome $i times"; done
七、while循环
- 第一种
while expression do command … done - 第二种
i=1 while ((i<=3)) do echo $i let i++ done
八、case语句
- 格式
case $1 in start) echo "starting" ;; stop) echo "stoping" ;; *) echo "Usage: {start|stop}" esac
九、read命令
- 格式
- read -p(提示语句) -n(字符个数) -t(等待时间) 如：
read -p "please input your name: " NAME
- read -p(提示语句) -n(字符个数) -t(等待时间) 如：
十、if判断
- 语法
if condition then statements [elif condition then statements. ..] [else statements ] fi - 如：
#!/bin/bash read -p "please input your name:" NAME #printf '%s\n' $NAME if [ $NAME = root ] then echo "hello ${NAME}, welcome !" elif [ $NAME = itcast ] then echo "hello ${NAME}, welcome !" else echo "SB, get out here !" fi
image.png
十一、注意点
- 判断语句
-
[ condition ](注意condition前后要有空格) - 方括号中间非空返回true，可使用
$?验证（0为true，>1为false） - 方括号中间空返回false
-
[ condition ] && echo OK || echo notok：条件满足，执行后面的语句
-
- 常用判断条件
-
=字符串比较 -
-lt小于 -
-le小于等于 -
-eq等于 -
-gt大于 -
-ge大于等于 -
-ne不等于 -
-r有读的权限 -
-w有写的权限 -
x有执行的权限 -
-f文件存在并且是一个常规的文件 -
-s文件存在且不为空 -
-d文件存在并是一个目录 -
-b文件存在并且是一个块设备 -
-L文件存在并且是一个链接
-
- 示例
[ -f test.txt ]
十二、Shell自定义函数
- 定义语法
[ function ] funname [()] { action; [return int;] }- 三种定义格式
function start() / function start / start() - 示例
#!/bin/bash fSum 3 2; function fSum() { echo $1, $2; return $(($1 + $2)); } fSum 5 7; total=$?; echo $total,$?;
- 三种定义格式
- 注意
- 必须在调用函数地方之前，先声明函数，shell脚本是逐行运行。不会像其它语言一样先预编译
- 函数返回值，只能通过$? 系统变量获得，可以显示加：return 返回，如果不加，将以最后一条命令运行结果，作为返回值。 return后跟数值n(0-255)
- 脚本调试
sh -vx helloWorld.sh- 或者在脚本中增加set -x
十三、sed命令
- sed全称是：Stream EDitor即流编辑器，是一个很好的文本处理工具，本身是一个管道命令，处理时，把当前处理的行存储在临时缓冲区中，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行。它是以行为单位进行处理，可以将数据行进行替换、删除、新增、选取等特定工作。
- sed选项
-
-n：使用安静(silent)模式。在一般 sed 的用法中，所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后，则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。 -
-e：直接在命令列模式上进行 sed 的动作编辑； -
-i：直接修改读取的文件内容，而不是输出到终端。
-
- sed function
-
a：新增， a 的后面可以接字串，而这些字串会在新的一行出现(目前的下一行) -
d：删除，因为是删除啊，所以 d 后面通常不接任何内容 -
i：插入， i 的后面可以接字串，而这些字串会在新的一行出现(目前的上一行) -
p：列印，亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行 -
s：取代，可以直接进行取代的工作！通常这个 s 的动作可以搭配正规表示法！例如 1,20s/old/new/g
-
-
Sed简介
- sed 是一种在线编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有 改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。
-
定址
- 可以通过定址来定位你所希望编辑的行，该地址用数字构成，用逗号分隔的两个行数表示以这两行为起止的行的范围（包括行数表示的那两行）。如1，3表示1，2，3行，美元符号($)表示最后一行。范围可以通过数据，正则表达式或者二者结合的方式确定 。
-
Sed命令
-
调用sed命令有两种形式：
- sed [options] 'command' file(s)
- sed [options] -f scriptfile file(s)
-
相关参数：
- a: 在当前行后面加入一行文本。
- b lable: 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。
- c: 用新的文本改变本行的文本。
- d: 从模板块（Pattern space）位置删除行。
- D: 删除模板块的第一行。
- i: 在当前行上面插入文本。
- h: 拷贝模板块的内容到内存中的缓冲区。
- H: 追加模板块的内容到内存中的缓冲区
- g: 获得内存缓冲区的内容，并替代当前模板块中的文本。
- G: 获得内存缓冲区的内容，并追加到当前模板块文本的后面。
- l: 列表不能打印字符的清单。
- n: 读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。
- N: 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。
- p: 打印模板块的行。
- P(大写): 打印模板块的第一行。
- q: 退出Sed。
- r file: 从file中读行
- t label: if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
- T label: 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
-
w file: 写并追加模板块到file末尾。 -
W file: 写并追加模板块的第一行到file末尾。 -
!: 表示后面的命令对所有没有被选定的行发生作用。 -
s/re/string: 用string替换正则表达式re。 -
=: 打印当前行号码。 -
#: 把注释扩展到下一个换行符以前。
-
以下的是替换标记
- g表示行内全面替换。
- p表示打印行。
- w表示把行写入一个文件。
- x表示互换模板块中的文本和缓冲区中的文本。
- y表示把一个字符翻译为另外的字符（但是不用于正则表达式）
-
-
选项
-
-ecommand, --expression=command: 允许多台编辑。 -
-h, --help 打印帮助，并显示bug列表的地址。 -
-n, --quiet, --silent 取消默认输出。 -
-f, --filer=script-file 引导sed脚本文件名。 -
-V, --version 打印版本和版权信息。
-
-
元字符集
-
^锚定行的开始 如：/^sed/匹配所有以sed开头的行。 -
$锚定行的结束 如：/sed$/匹配所有以sed结尾的行。 -
.匹配一个非换行符的字符 如：/s.d/匹配s后接一个任意字符，然后是d。 -
*匹配零或多个字符 如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 -
[]匹配一个指定范围内的字符，如/[Ss]ed/匹配sed和Sed。 -
[^]匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。 -
\(..\)保存匹配的字符，如s/(love)able/\1rs，loveable被替换成lovers。 -
&保存搜索字符用来替换其他字符，如s/love/&/，love这成love。 -
\<锚定单词的开始，如:/<love/匹配包含以love开头的单词的行。 -
\>锚定单词的结束，如/love>/匹配包含以love结尾的单词的行。 -
x\{m\}重复字符x，m次，如：/o{5}/匹配包含5个o的行。 -
x\{m,\}重复字符x,至少m次，如：/o{5,}/匹配至少有5个o的行。 -
x\{m,n\}重复字符x，至少m次，不多于n次，如：/o{5,10}/匹配5--10个o的行。
-
-
实例
- 删除：d命令
- 删除example文件的第二行
$ sed '2d' example - 删除example文件的第二行到末尾所有行
$ sed '2,$d' example - 删除example文件的最后一行
$ sed '$d' example - 删除example文件所有包含test的行
$ sed '/test/'d example
- 删除example文件的第二行
- 替换：s命令
- 在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest
$ sed 's/test/mytest/g' example - (-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印它
$ sed -n 's/^test/mytest/p' example - &符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost
$ sed 's/^192.168.0.1/&localhost/' example - love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来
$ sed -n 's/\(love\)able/\1rs/p' example - 不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替换成100
$ sed 's#10#100#g' example
- 在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest
- 选定行的范围：逗号
- 所有在模板test和check所确定的范围内的行都被打印
$ sed -n '/test/,/check/p' example - 打印从第五行开始到第一个包含以test开始的行之间的所有行
$ sed -n '5,/^test/p' example - 对于模板test和west之间的行，每行的末尾用字符串sed test替换
$ sed '/test/,/check/s/$/sed test/' example
- 所有在模板test和check所确定的范围内的行都被打印
- 多点编辑：e命令
- (-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果
$ sed -e '1,5d' -e 's/test/check/' example - 一个比-e更好的命令是--expression。它能给sed表达式赋值
$ sed --expression='s/test/check/' --expression='/love/d' example
- (-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果
- 从文件读入：r命令
- file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面
$ sed '/test/r file' example
- file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面
- 写入文件：w命令
- 在example中所有包含test的行都被写入file里
$ sed -n '/test/w file' example
- 在example中所有包含test的行都被写入file里
- 追加命令：a命令
- '----->this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠
$ sed '/^test/a\\--->this is a example' example
- '----->this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠
- 插入：i命令
- 如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面
$ sed '/test/i\
new line
-------------------------' example
- 如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面
- 下一个：n命令
- 如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续
$ sed '/test/{ n; s/aa/bb/; }' example
- 如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续
- 变形：y命令
- 把1--10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令
$ sed '1,10y/abcde/ABCDE/' example
- 把1--10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令
- 退出：q命令
- 打印完第10行后，退出sed
$ sed '10q' example
- 打印完第10行后，退出sed
- 保持和获取：h命令和G命令
- 在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾
$ sed -e '/test/h' -e '$G example
- 在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾
- 保持和互换：h命令和x命令
- 互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换
$ sed -e '/test/h' -e '/check/x' example
- 互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换
- 删除：d命令
-
脚本
- Sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行
十四、awk命令
- AWK是一种优良的文本处理工具。其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母，AWK 提供了极其强大的功能：可以进行样式装入、流控制、数学运算符、进程控制语句甚至于内置的变量和函数。它具备了一个完整的语言所应具有的几乎所有精美特性。实际上 AWK 的确拥有自己的语言：AWK 程序设计语言， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。
- awk命令格式
awk 'pattern1 {action1} pattern2 {action2} ...' filename
AWK基础
-
简介
- awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
- awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。
- awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。
-
使用方法
awk '{pattern + action}' {filenames}- 尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
- awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
- 通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。
-
有三种方式调用awk
-
命令行方式
awk [-F field-separator] 'commands' input-file(s)- 其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
- 在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。
-
shell脚本方式
- 将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。
- 相当于shell脚本首行的：#!/bin/sh
- 可以换成：#!/bin/awk
-
将所有的awk命令插入一个单独文件，然后调用：
- awk -f awk-script-file input-file(s)
- 其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。
-
-
入门实例
- 假设last -n 5的输出如下
[root@www ~]# last -n 5 <==仅取出前五行 root pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in root pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41) root pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48) dmtsai pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00) root tty1 Fri Sep 5 14:09 - 14:10 (00:01) - 如果只是显示最近登录的5个帐号
#last -n 5 | awk '{print $1}' root root root dmtsai root- awk工作流程是这样的：读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户，$3表示登录用户ip,以此类推。
- 如果只是显示/etc/passwd的账户
#cat /etc/passwd |awk -F ':' '{print $1}' root daemon bin sys- 这种是awk+action的示例，每行都会执行action{print $1}。
- -F指定域分隔符为':'。
- 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割
#cat /etc/passwd |awk -F ':' '{print $1"\t"$7}' root /bin/bash daemon /bin/sh bin /bin/sh sys /bin/sh - 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。
cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}' name,shell root,/bin/bash daemon,/bin/sh bin,/bin/sh sys,/bin/sh .... blue,/bin/nosh- awk工作流程是这样的：先执行BEGING，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。
- 搜索/etc/passwd有root关键字的所有行
#awk -F: '/root/' /etc/passwd root:x:0:0:root:/root:/bin/bash- 这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。
- 搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd
- 搜索/etc/passwd有root关键字的所有行，并显示对应的shell
# awk -F: '/root/{print $7}' /etc/passwd /bin/bash- 这里指定了action{print $7}
- 假设last -n 5的输出如下
-
awk内置变量
-
awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量
ARGC 命令行参数个数 ARGV 命令行参数排列 ENVIRON 支持队列中系统环境变量的使用 FILENAME awk浏览的文件名 FNR 浏览文件的记录数 FS 设置输入域分隔符，等价于命令行 -F选项 NF 浏览记录的域的个数 NR 已读的记录数 OFS 输出域分隔符 ORS 输出记录分隔符 RS 控制记录分隔符- 此外,
1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。
- 此外,
-
统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:
#awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh -
使用printf替代print,可以让代码更加简洁，易读
awk -F ':' '{printf("filename:%s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd
-
-
print和printf
- awk中同时提供了print和printf两种打印输出的函数。
- print函数的参数可以是变量、数值或者字符串。字符串必须用双引号引用，参数用逗号分隔。如果没有逗号，参数就串联在一起而无法区分。这里，逗号的作用与输出文件的分隔符的作用是一样的，只是后者是空格而已。
- printf函数，其用法和c语言中printf基本相似,可以格式化字符串,输出复杂时，printf更加好用，代码更易懂。
- awk中同时提供了print和printf两种打印输出的函数。
awk编程
- 变量和赋值
- 除了awk的内置变量，awk还可以自定义变量。
- 下面统计/etc/passwd的账户人数
awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd root:x:0:0:root:/root:/bin/bash ...... user count is 40- count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。
- 这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:
awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd [start]user count is 0 root:x:0:0:root:/root:/bin/bash ... [end]user count is 40
- 统计某个文件夹下的文件占用的字节数
- 实例：
ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}' [end]size is 8657198 - 如果以M为单位显示:
ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}' [end]size is 8.25889 M- 注意，统计不包括文件夹的子目录。
- 实例：
- 条件语句
-
awk中的条件语句是从C语言中借鉴来的，见如下声明方式：
if (expression) { statement; statement; ... ... } if (expression) { statement; } else { statement2; } if (expression) { statement1; } else if (expression1) { statement2; } else { statement3; } -
统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):
ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}' [end]size is 8.22339 M
-
- 循环语句
- awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。
- 数组
- 因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。
- 显示/etc/passwd的账户
awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd 0 root 1 daemon 2 bin 3 sys 4 sync 5 games ......- 这里使用for循环遍历数组
- awk编程的内容极多，这里只罗列简单常用的用法，更多请参考 http://www.gnu.org/software/gawk/manual/gawk.html
常用的shell命令
- wc -c(--bytes)|m(--chars)|l(--lines)|L(--max-line-length)|w(--words) <file>
- wordcount = `wc -c hello.txt | cut -d ' ' -f 1`：取出统计结果前面的数字赋值给变量wordcount
- cat /etc/passwd | sort -t ":" -k 3n -u
- -t: 按照哪个分隔符进行分割
- -k：按照分割后的那一列进行排序
- 3n：第三列按照数字排序，不加n表示第三列按照字典序排序
- -u：去重
常用文件
- 用户信息：/etc/passwd
- 用户名:密码占位符:用户id:所属组:用户别名:Home目录:shell解析器
- 普通用户的id从500开始，小于500的就是一些特殊身份的用户
- 组信息：/etc/group
自制脚本
- shell 重启进程脚本
#!/bin/sh kill -9 `ps -ef | grep flume-kafka-hdfs- | grep -v grep | grep -v kill | awk '{print $2}'` start-flume-enterprise.sh start-flume-eventreport.sh start-flume-online.sh start-flume-platform.sh start-flume-wechat.sh tail -f /usr/libra/flume/logs/flume-wechat.log- 注意:
.sh文件是启动的脚本, 最后的 tail 是快速切换到 log 下
- 注意:
