Wetts's blog

Stay Hungry, Stay Foolish.

0%

grep:显示匹配一个或多个模式的文本行

语法:grep [options] pattern-spec [files]

选项:

  • E 使用扩展正则表达式进行匹配。可取代传动的egrep
  • F 使用固定字符串进行匹配。可取代传统的fgrep
  • e pat-list 通常,第一个非选项的参数会指定要匹配的模式,-e可以指定其参数为模式
  • f pat-file 从pat-file文件读取模式
  • i 模式匹配时忽略字符大小写
  • l 列出匹配模式的文件名称,而不是打印匹配行
  • q 静默地。如果模式匹配匹配,则grep会成功地离开,而不将匹配的行写入标准输出;否则不成功
  • s 不显示错误信息
  • v 显示不匹配模式的行

一般情况下,Spring通过反射机制利用bean的class属性指定实现类来实例化bean 。在某些情况下,实例化bean过程比较复杂,如果按照传统的方式,则需要在中提供大量的配置信息,配置方式的灵活性是受限的,这时采用编码的方式可能会得到一个简单的方案。Spring为此提供了一个org.Springframework.bean.factory.FactoryBean的工厂类接口,用户可以通过实现该接口定制实例化bean的逻辑。

阅读全文 »

  • ps:查看进程
  • kill:关掉进程
  • top:提供一组占用cpu最多的进程

wc:计算行数、字数以及字符数

选项:

  • c 计算字节数
  • l 计算行数
  • w 计算字数

举例:

1
ps -ef | wc

uniq

选项:

  • c 可在每个输入行之前加上该行重复的次数
  • d 仅显示重复的行
  • u 仅显示未重复的行

举例:

1
ps -ef | uniq -d

sort:将输入行按照键值字段与数据类型以及locale排序

语法:sort [options] [file(s)]

选项:

  • b 忽略开头的空白
  • c 检查输入是否正确地排序
  • d 字典顺序:仅文字数字与空白才有意义
  • g 一般数值:以浮点数字类型比较字段
  • f 将混用的字母都看作相同的大小写
  • i 忽略无法打印的字符
  • k 定义排序键值字段
  • m 将已排序的输入文件,合并为一个排序后的输出数据流
  • n 以证书类型比较字段
  • o outfile 将输出写到指定额文件,而非标准输出
  • r 倒置排序的顺序由大到小
  • t char 使用单个字符char作为默认的字段分隔字符
  • u 只有惟一的记录:丢弃所有具有相同键值的记录,只保留其中的第一条

1
2
3
4
# 得到端口8080的进程号
netstat -aon|findstr "8080"
# 得到进程映像名称
tasklist|findstr "4060"

简介

awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。

awk有3个不同版本: awk、nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本。

awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言: AWK 程序设计语言 , 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序,这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表,还有无数其他的功能。

语法

awk '{pattern + action}' {filenames}(没有指定action,默认输出每行的内容)

尽管操作可能会很复杂,但语法总是这样,其中 pattern 表示 AWK 在数据中查找的内容,而 action 是在找到匹配内容时所执行的一系列命令。花括号({})不需要在程序中始终出现,但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式,用斜杠括起来。
awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息,awk抽取信息后,才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。

通常,awk是以文件的一行为处理单位的。awk每接收文件的一行,然后执行相应的命令,来处理文本。

处理过程

awk是行处理器: 相比较屏幕处理的优点,在处理庞大文件时不会出现内存溢出或是处理缓慢的问题,通常用来格式化文本信息

awk处理过程: 依次对每一行进行处理,然后输出

awk命令形式:
awk [-F|-f|-v] 'BEGIN{} //{command1; command2} END{}' file

读取顺序为:先读文本第一行,分隔,执行BEGIN,command,第二行,command,⋯,END

  • [-F|-f|-v] 大参数,-F指定分隔符,-f调用脚本,-v定义变量 var=value
  • ‘ ‘ 引用代码块
  • BEGIN 初始化代码块,在对每一行进行处理之前,初始化代码,主要是引用全局变量,设置FS分隔符
  • // 匹配代码块,可以是字符串或正则表达式
  • {} 命令代码块,包含一条或多条命令
  • ; 多条命令使用分号分隔
  • END 结尾代码块,在对每一行进行处理之后再执行的代码块,主要是进行最终计算或输出结尾摘要信息

特殊要点:

  • $0 表示整个当前行
  • $1 每行第一个字段
  • NF 字段数量变量
  • NR 每行的记录号,多文件记录递增
  • FNR 与NR类似,不过多文件记录不递增,每个文件都从1开始
  • \t 制表符
  • \n 换行符
  • FS BEGIN时定义分隔符
  • RS 输入的记录分隔符, 默认为换行符(即文本是按一行一行输入)
  • ~ 匹配,与==相比不是精确比较
  • !~ 不匹配,不精确比较
  • == 等于,必须全部相等,精确比较
  • != 不等于,精确比较
  • &&  逻辑与
  • || 逻辑或
    •        匹配时表示1个或1个以上
      
  • /[0-9][0-9]+/ 两个或两个以上数字
  • /[0-9][0-9]*/ 一个或一个以上数字
  • FILENAME 文件名
  • OFS 输出字段分隔符, 默认也是空格,可以改为制表符等
  • ORS 输出的记录分隔符,默认为换行符,即处理结果也是一行一行输出到屏幕
  • -F'[:#/]' 定义三个分隔符

调用方式

有三种方式调用awk

命令行方式

awk [-F field-separator] 'commands' input-file(s)

其中,commands 是真正awk命令,[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
在awk中,文件的每一行中,由域分隔符分开的每一项称为一个域。通常,在不指名-F域分隔符的情况下,默认的域分隔符是空格。

shell脚本方式

将所有的awk命令插入一个文件,并使awk程序可执行,然后awk命令解释器作为脚本的首行,一遍通过键入脚本名称来调用。

相当于shell脚本首行的:#!/bin/sh

可以换成:#!/bin/awk

将所有的awk命令插入一个单独文件,然后调用:

awk -f awk-script-file input-file(s)

其中,-f选项加载awk-script-file中的awk脚本,input-file(s)跟上面的是一样的。

内置变量

awk有许多内置变量用来设置环境信息,这些变量可以被改变,下面给出了最常用的一些变量。

  • ARGC 命令行参数个数
  • ARGV 命令行参数排列
  • ENVIRON 支持队列中系统环境变量的使用
  • FILENAME awk浏览的文件名
  • FNR 浏览文件的记录数
  • FS 设置输入域分隔符,等价于命令行 -F选项
  • NF 浏览记录的域的个数
  • NR 已读的记录数
  • OFS 输出域分隔符
  • ORS 输出记录分隔符
  • RS 控制记录分隔符

1
2
3
4
5
6
7
8
cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/bin/sh
bin,/bin/sh
sys,/bin/sh
....
blue,/bin/nosh

Sed简介

sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。

定址

可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。

Sed命令

调用sed命令有两种形式:

  • sed [options] ‘command’ file(s)
  • sed [options] -f scriptfile file(s)

参数:

  • a\:在当前行后面加入一行文本。
  • b lable:分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。
  • c\:用新的文本改变本行的文本。
  • d:从模板块(Pattern space)位置删除行。
  • D:删除模板块的第一行。
  • i\:在当前行上面插入文本。
  • h:拷贝模板块的内容到内存中的缓冲区。
  • H:追加模板块的内容到内存中的缓冲区
  • g:获得内存缓冲区的内容,并替代当前模板块中的文本。
  • G:获得内存缓冲区的内容,并追加到当前模板块文本的后面。
  • l:列表不能打印字符的清单。
  • n:读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。
  • N:追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。
  • p:打印模板块的行。
  • P(大写):打印模板块的第一行。
  • q:退出Sed。
  • r file:从file中读行。
  • t label:if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
  • T label:错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
  • w file:写并追加模板块到file末尾。
  • W file:写并追加模板块的第一行到file末尾。
  • !:表示后面的命令对所有没有被选定的行发生作用。
  • s/re/string:用string替换正则表达式re。
  • =:打印当前行号码。
  • #:把注释扩展到下一个换行符以前。

以下的是替换标记

  • g表示行内全面替换。
  • p表示打印行。
  • w表示把行写入一个文件。
  • x表示互换模板块中的文本和缓冲区中的文本。
  • y表示把一个字符翻译为另外的字符(但是不用于正则表达式)

选项

  • -e command, –expression=command:允许多台编辑。
  • -h, –help:打印帮助,并显示bug列表的地址。
  • -n, –quiet, –silent:取消默认输出。
  • -f, –filer=script-file:引导sed脚本文件名。
  • -V, –version:打印版本和版权信息。

元字符集

  • ^:锚定行的开始 如:/^sed/匹配所有以sed开头的行。
  • $:锚定行的结束 如:/sed$/匹配所有以sed结尾的行。
  • .:匹配一个非换行符的字符 如:/s.d/匹配s后接一个任意字符,然后是d。
  • *:匹配零或多个字符 如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。
  • []:匹配一个指定范围内的字符,如/[Ss]ed/匹配sed和Sed。
  • [^]:匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。
  • \(..\):保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers。
  • &:保存搜索字符用来替换其他字符,如s/love/**&**/,love这成love
  • \<:锚定单词的开始,如:/\<love/匹配包含以love开头的单词的行。
  • \>:锚定单词的结束,如/love\>/匹配包含以love结尾的单词的行。
  • x\{m\}:重复字符x,m次,如:/o\{5\}/匹配包含5个o的行。
  • x\{m,\}:重复字符x,至少m次,如:/o\{5,\}/匹配至少有5个o的行。
  • x\{m,n\}:重复字符x,至少m次,不多于n次,如:/o\{5,10\}/匹配5–10个o的行。

实例

删除:d命令

1
2
3
4
5
6
7
$ sed '2d' example-----删除example文件的第二行。  
*
$ sed '2,$d' example-----删除example文件的第二行到末尾所有行。
*
$ sed '$d' example-----删除example文件的最后一行。
*
$ sed '/test/'d example-----删除example文件所有包含test的行。

替换:s命令

1
2
3
4
5
6
7
8
9
$ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。  
*
$ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。
*
$ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost,变成192.168.0.1localhost。
*
$ sed -n 's/\(love\)able/\1rs/p' example-----love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
*
$ sed 's#10#100#g' example-----不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。

选定行的范围:逗号

1
2
3
4
5
$ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。  
*
$ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
*
$ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行,每行的末尾用字符串sed test替换。

多点编辑:e命令

1
2
3
$ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。  
*
$ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。

从文件读入:r命令

1
$ sed '/test/r file' example-----file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。

写入文件:w命令

1
$ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。

追加命令:a命令

1
$ sed '/^test/a\\--->this is a example' example<-----'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。

插入:i命令

1
2
3
4
$ sed '/test/i\\  
new line
-------------------------' example
如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。

下一个:n命令

1
$ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。  

变形:y命令

1
$ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。  

###退出:q命令

1
$ sed '10q' example-----打印完第10行后,退出sed。  

保持和获取:h命令和G命令

1
2
3
4
5
$ sed -e '/test/h' -e '$G example-----在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。

保持和互换:h命令和x命令
*
$ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

脚本

Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。

shell上:

  • 0表示标准输入
  • 1表示标准输出
  • 2表示标准错误输出
1
2
3
> 默认为标准输出重定向,与 1> 相同
2>&1 意思是把 标准错误输出 重定向到 标准输出.
&>file 意思是把 标准输出 和 标准错误输出 都重定向到文件file中