shell 中匹配正则字符串处理

矫情吗；* 2023-10-05 08:24 12阅读 0赞

**很实用，建议收藏**

shell里一个正则表达式就是由普通字符（例如字符 a 到 z）以及特殊字符（称为元字符）组成的文字模式。该模式描述在查找文字主体时待匹配的一个或多个字符串。正则表达式作为一个模板，将某个字符模式与所搜索的字符串进行匹配。  
/  
将下一个字符标记为一个特殊字符、或一个原义字符、或一个 后向引用、或一个八进制转义符。例如，‘n’ 匹配字符 “n”。’/n’ 匹配一个换行符。序列 ‘//’ 匹配 “/” 而 “/(” 则匹配 “(”。  
^  
匹配输入字符串的开始位置。  
$  
匹配输入字符串的结束位置。  
\*  
匹配前面的子表达式零次或多次。例如，zo\* 能匹配 “z” 以及 “zoo”。 \* 等价于\{0,\}。  
\+  
匹配前面的子表达式一次或多次。例如，‘zo+’ 能匹配 “zo” 以及 “zoo”，但不能匹配 “z”。+ 等价于 \{1,\}。  
?  
匹配前面的子表达式零次或一次。例如，“do(es)?” 可以匹配 “do” 或 “does” 中的"do" 。? 等价于 \{0,1\}。  
\{n\}  
n 是一个非负整数。匹配确定的 n 次。例如，‘o\{2\}’ 不能匹配 “Bob” 中的 ‘o’，但是能匹配 “food” 中的两个 o。  
\{n,\}  
n 是一个非负整数。至少匹配n 次。例如，‘o\{2,\}’ 不能匹配 “Bob” 中的 ‘o’，但能匹配 “foooood” 中的所有 o。‘o\{1,\}’ 等价于 ‘o+’。‘o\{0,\}’ 则等价于 ‘o\*’。  
\{n,m\}  
m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。 “o\{1,3\}” 将匹配 “fooooood” 中的前三个 o。‘o\{0,1\}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。  
?  
当该字符紧跟在任何一个其他限制符 (\*, +, ?, \{n\}, \{n,\}, \{n,m\}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 “oooo”，‘o+?’ 将匹配单个 “o”，而 ‘o+’ 将匹配所有 ‘o’。  
.  
匹配除 “/n” 之外的任何单个字符。要匹配包括 ‘/n’ 在内的任何字符，请使用象 ‘\[./n\]’ 的模式。  
(pattern)  
匹配pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在Visual Basic Scripting Edition 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 ‘/(’ 或 ‘/)’。  
(?:pattern)  
匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 “或” 字符 (|) 来组合一个模式的各个部分是很有用。例如， ‘industr(?:y|ies) 就是一个比 ‘industry|industries’ 更简略的表达式。  
(?=pattern)  
正向预查，在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如， ‘Windows (?=95|98|NT|2000)’ 能匹配 “Windows 2000” 中的 “Windows” ，但不能匹配 “Windows 3.1” 中的 “Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。  
(?!pattern)  
负向预查，在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如’Windows (?!95|98|NT|2000)’ 能匹配 “Windows 3.1” 中的 “Windows”，但不能匹配 “Windows 2000” 中的 “Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

x|y  
匹配 x 或 y。例如，‘z|food’ 能匹配 “z” 或 “food”。’(z|f)ood’ 则匹配 “zood” 或 “food”。  
\[xyz\]  
字符集合。匹配所包含的任意一个字符。例如， ‘\[abc\]’ 可以匹配 “plain” 中的 ‘a’。  
\[^xyz\]  
负值字符集合。匹配未包含的任意字符。例如， ‘\[^abc\]’ 可以匹配 “plain” 中的’p’。  
\[a-z\]  
字符范围。匹配指定范围内的任意字符。例如，’\[a-z\]’ 可以匹配 ‘a’ 到 ‘z’ 范围内的任意小写字母字符。  
\[^a-z\]  
负值字符范围。匹配任何不在指定范围内的任意字符。例如，’\[^a-z\]’ 可以匹配任何不在 ‘a’ 到 ‘z’ 范围内的任意字符。  
/b  
匹配一个单词边界，也就是指单词和空格间的位置。例如， ‘er/b’ 可以匹配"never" 中的 ‘er’，但不能匹配 “verb” 中的 ‘er’。  
/B  
匹配非单词边界。‘er/B’ 能匹配 “verb” 中的 ‘er’，但不能匹配 “never” 中的 ‘er’。  
/cx  
匹配由x指明的控制字符。例如， /cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 ‘c’ 字符。  
/d  
匹配一个数字字符。等价于 \[0-9\]。  
/D  
匹配一个非数字字符。等价于 \[^0-9\]。  
/f  
匹配一个换页符。等价于 /x0c 和 /cL。  
/n  
匹配一个换行符。等价于 /x0a 和 /cJ。  
/r  
匹配一个回车符。等价于 /x0d 和 /cM。  
/s  
匹配任何空白字符，包括空格、制表符、换页符等等。等价于 \[ /f/n/r/t/v\]。  
/S  
匹配任何非空白字符。等价于 \[^ /f/n/r/t/v\]。  
/t  
匹配一个制表符。等价于 /x09 和 /cI。  
/v  
匹配一个垂直制表符。等价于 /x0b 和 /cK。  
/w  
匹配包括下划线的任何单词字符。等价于’\[A-Za-z0-9\_\]’。  
/W  
匹配任何非单词字符。等价于 ‘\[^A-Za-z0-9\_\]’。  
/xn  
匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如， ‘/x41’ 匹配 “A”。’/x041’ 则等价于 ‘/x04’ & “1”。正则表达式中可以使用 ASCII 编码。.  
/num  
匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，’(.)/1’ 匹配两个连续的相同字符。  
/n  
标识一个八进制转义值或一个后向引用。如果 /n 之前至少 n 个获取的子表达式，则 n 为后向引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。  
/nm  
标识一个八进制转义值或一个后向引用。如果 /nm 之前至少有is preceded by at least nm 个获取得子表达式，则 nm 为后向引用。如果 /nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 /nm 将匹配八进制转义值 nm。  
/nml  
如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。  
/un  
匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， /u00A9 匹配版权符号 (?)。

Grep正则表达式

要用好grep这个工具，其实就是要写好正则表达式，所以这里不对grep的所有功能进行实例讲解，只列几个例子，讲解一个正则表达式的写法。  
$ ls -l | grep ‘^a’  
通过管道过滤ls -l输出的内容，只显示以a开头的行。  
$ grep ‘test’ d\*  
显示所有以d开头的文件中包含test的行。  
$ grep ‘test’ aa bb cc  
显示在aa，bb，cc文件中匹配test的行。  
$ grep ‘\[a-z\]/\{5/\}’ aa  
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。  
$ grep 'w/(es/)t.*/1’ aa  
如果west被匹配，则es就被存储到内存中，并标记为1，然后搜索任意个字符（.*），这些字符后面紧跟着另外一个es（/1），找到就显示该行。如果用egrep或grep -E，就不用"/"号进行转义，直接写成’w(es)t.\*/1’就可以了。

grep正则表达式元字符集（基本集）  
^  
锚定行的开始 如：’^grep’匹配所有以grep开头的行。  
$  
锚定行的结束 如：‘grep$‘匹配所有以grep结尾的行。  
.  
匹配一个非换行符的字符 如：‘gr.p’匹配gr后接一个任意字符，然后是p。  
\*  
匹配零个或多个先前字符 如：’\*grep’匹配所有一个或多个空格后紧跟grep的行。 .\*一起用代表任意字符。  
\[\]  
匹配一个指定范围内的字符，如’\[Gg\]rep’匹配Grep和grep。  
\[^\]  
匹配一个不在指定范围内的字符，如：’\[^A-FH-Z\]rep’匹配不包含A-R和T-Z的一个字母开头，紧跟rep的行。  
/(…/)  
标记匹配字符，如’/(love/)’，love被标记为1。  
/<  
锚定单词的开始，如:’/  
/>  
锚定单词的结束，如’grep/>'匹配包含以grep结尾的单词的行。

x/\{m/\}  
重复字符x，m次，如：'0/\{5/\}'匹配包含5个o的行。

x/\{m,/\}  
重复字符x,至少m次，如：'o/\{5,/\}'匹配至少有5个o的行。

x/\{m,n/\}  
重复字符x，至少m次，不多于n次，如：'o/\{5,10/\}'匹配5–10个o的行。  
/w  
匹配文字和数字字符，也就是\[A-Za-z0-9\]，如：'G/w\*p’匹配以G后跟零个或多个文字或数字字符，然后是p。  
/W  
/w的反置形式，匹配一个或多个非单词字符，如点号句号等。  
/b  
单词锁定符，如: '/bgrepb/'只匹配grep。

Shell字符串处理

1.  构造字符串  
    直接构造  
    STR\_ZERO=hello  
    STR\_FIRST=“i am a string”  
    STR\_SECOND=‘success’  
    重复多次  
    \#repeat the first parm($1) by $2 times  
    strRepeat()  
    \{  
    local x= 2 i f \[ " 2 if \[ " 2if\["x" == “” \]; then  
    x=0  
    fi  
    local STR\_TEMP=""  
    while \[  x − g e 1 \] ; d o S T R T E M P = ‘ p r i n t f " x -ge 1 \]; do STR\_TEMP=\`printf "%s%s" " x−ge1\];doSTRTEMP=‘printf"STR\_TEMP" "$1"`x=`expr $x - 1`done echo $STR_TEMP } 举例： STR_REPEAT=`strRepeat “$USER\_NAME” 3\`  
    echo “repeat = $STR\_REPEAT”
2.  赋值与拷贝  
    直接赋值  
    与构造字符串一样  
    USER\_NAME=terry  
    从变量赋值  
    ALIASE\_NAME=$USER\_NAME
3.  联接  
    直接联接两个字符串  
    STR\_TEMP=`printf "%s%s" "$STR_ZERO" "$USER_NAME"`  
    使用printf可以进行更复杂的联接
4.  求长  
    求字符数(char)  
    COUNT\_CHAR=`echo "$STR_FIRST" | wc -m`  
    echo  C O U N T C H A R 求 字 节 数 ( b y t e ) C O U N T B Y T E = ‘ e c h o " COUNT\_CHAR 求字节数(byte) COUNT\_BYTE=\`echo " COUNTCHAR求字节数(byte)COUNTBYTE=‘echo"STR\_FIRST" | wc -c`echo $COUNT_BYTE 求字数(word) COUNT_WORD=`echo “$STR\_FIRST” | wc -w\`  
    echo $COUNT\_WORD
5.  比较  
    相等比较  
    str1 = str2  
    不等比较  
    str1 != str2  
    举例：  
    if \[ “$USER\_NAME” = “terry” \]; then  
    echo “I am terry”  
    fi  
    小于比较

## return 0 if the two string is equal, return 1 if $1 < $2, else 2 strCompare() \{ local x=0 if \[ “$1” != “$2” \]; then x=2 local TEMP=`printf "%s/n%s" "$1" "$2"` local TEMP2=`(echo "$1"; echo "$2") | sort` if \[ “ T E M P " = " TEMP" = " TEMP"="TEMP2” \]; then x=1 fi fi echo $x \} ##

1.  测试  
    判空  
    \-z str  
    判非空  
    \-n str  
    是否为数字

## return 0 if the string is num, otherwise 1 ##

strIsNum()  
\{  
local RET=1  
if \[ -n “$1” \]; then  
local STR\_TEMP=`echo "$1" | sed 's/[0-9]//g'`  
if \[ -z “$STR\_TEMP” \]; then  
RET=0  
fi  
fi  
echo KaTeX parse error: Expected 'EOF', got '\}' at position 6: RET \}̲ 举例： if \[ -n …USER\_NAME" \]; then  
echo “my name is NOT empty”  
fi  
echo `strIsNum "9980"`  
7. 分割  
以符号＋为准，将字符分割为左右两部分  
使用sed  
举例：  
命令 date --rfc-3339 seconds 的输出为  
2007-04-14 15:09:47+08:00  
取其＋左边的部分  
date --rfc-3339 seconds | sed ‘s/+\[0-9\]\[0-9\]:\[0-9\]\[0-9\]//g’  
输出为  
2007-04-14 15:09:47  
取+右边的部分  
date --rfc-3339 seconds | sed ‘s/.\*+//g’  
输出为  
08:00  
以空格为分割符的字符串分割  
使用awk  
举例：  
STR\_FRUIT=“Banana 0.89 100”  
取第3字段  
echo $STR\_FRUIT | awk ‘\{ print $3; \}’  
8. 子字符串  
字符串1是否为字符串2的子字符串

## return 0 is $1 is substring of $2, otherwise 1 ##

strIsSubstring()  
\{  
local x=1  
case “$2” in  
*$1*) x=0;;  
esac  
echo $x  
\}

shell 编程中使用到得if语句内判断参数

–b 当file存在并且是块文件时返回真  
　　-c 当file存在并且是字符文件时返回真  
　　-d 当pathname存在并且是一个目录时返回真  
　　-e 当pathname指定的文件或目录存在时返回真  
　　-f 当file存在并且是正规文件时返回真  
　　-g 当由pathname指定的文件或目录存在并且设置了SGID位时返回为真  
　　-h 当file存在并且是符号链接文件时返回真，该选项在一些老系统上无效  
　　-k 当由pathname指定的文件或目录存在并且设置了“粘滞”位时返回真  
　　-p 当file存在并且是命令管道时返回为真  
　　-r 当由pathname指定的文件或目录存在并且可读时返回为真  
　　-s 当file存在文件大小大于0时返回真  
　　-u 当由pathname指定的文件或目录存在并且设置了SUID位时返回真  
　　-w 当由pathname指定的文件或目录存在并且可执行时返回真。一个目录为了它的内容被访问必然是可执行的。  
　　-o 当由pathname指定的文件或目录存在并且被子当前进程的有效用户ID所指定的用户拥有时返回真。

UNIX Shell 里面比较字符写法：  
　　-eq 等于  
　　-ne 不等于  
　　-gt 大于  
　　-lt 小于  
　　-le 小于等于  
　　-ge 大于等于  
　　-z 空串  
　　= 两个字符相等  
　　!= 两个字符不等  
　　-n 非空串  
　　-------------------------------------------------------------------------

更为详细的说明：  
　　运算符 描述 示例  
　　文件比较运算符  
　　-e filename 如果 filename 存在，则为真 \[ -e /var/log/syslog \]  
　　-d filename 如果 filename 为目录，则为真 \[ -d /tmp/mydir \]  
　　-f filename 如果 filename 为常规文件，则为真 \[ -f /usr/bin/grep \]  
　　-L filename 如果 filename 为符号链接，则为真 \[ -L /usr/bin/grep \]  
　　-r filename 如果 filename 可读，则为真 \[ -r /var/log/syslog \]  
　　-w filename 如果 filename 可写，则为真 \[ -w /var/mytmp.txt \]  
　　-x filename 如果 filename 可执行，则为真 \[ -L /usr/bin/grep \]  
　　filename1 -nt filename2 如果 filename1 比 filename2 新，则为真 \[ /tmp/install/etc/services -nt /etc/services \]  
　　filename1 -ot filename2 如果 filename1 比 filename2 旧，则为真 \[ /boot/bzImage -ot arch/i386/boot/bzImage \]

字符串比较运算符 （请注意引号的使用，这是防止空格扰乱代码的好方法）  
\-z string 如果 string 长度为零，则为真 \[ -z $myvar \]  
　　-n string 如果 string 长度非零，则为真 \[ -n $myvar \]  
　　string1 = string2 如果 string1 与 string2 相同，则为真 \[ $myvar = one two three \]  
　　string1 != string2 如果 string1 与 string2 不同，则为真 \[ $myvar != one two three \]

算术比较运算符  
　　num1 -eq num2 等于 \[ 3 -eq $mynum \]  
　　num1 -ne num2 不等于 \[ 3 -ne $mynum \]  
　　num1 -lt num2 小于 \[ 3 -lt $mynum \]  
　　num1 -le num2 小于或等于 \[ 3 -le $mynum \]  
　　num1 -gt num2 大于 \[ 3 -gt $mynum \]  
　　num1 -ge num2 大于或等于 \[ 3 -ge $mynum \]

脚本示例：  
　　\#!/bin/bash  
　　\# This script prints a message about your weight if you give it your  
　　\# weight in kilos and hight in centimeters.  
　　if \[ ! $\# == 2 \]; then  
　　echo “Usage: $0 weight\_in\_kilos length\_in\_centimeters”  
　　exit  
　　fi  
　　weight="$1"  
　　height=" 2 " 　 　 i d e a l w e i g h t = 2" 　　idealweight= 2"　　idealweight=\[$height - 110\]  
　　if \[ $weight -le $idealweight \] ; then  
　　echo “You should eat a bit more fat.”  
　　else  
　　echo “You should eat a bit more fruit.”  
　　fi  
　　\# weight.sh 70 150  
　　You should eat a bit more fruit.  
　　\# weight.sh 70 150 33  
　　Usage: ./weight.sh weight\_in\_kilos length\_in\_centimeters  
　　位置参数 $1， $2,…,  N ， N， N，\#代表了命令行的参数数量， $0代表了脚本的名字，  
　　第一个参数代表$1，第二个参数代表 2 ， 以 此 类 推 ， 参 数 数 量 的 总 数 存 在 2，以此类推，参数数量的总数存在 2，以此类推，参数数量的总数存在\#中，上面的例子显示了怎么改变脚本，如果参数少于或者多余2个来打印出一条消息。  
　　执行，并查看情况。  
　　\# bash -x tijian.sh 60 170  
　　+ weight=60  
　　+ height=170  
　　+ idealweight=60  
　　+ ‘\[’ 60 -le 60 ‘\]’  
　　+ echo ‘You should eat a bit more fat.’  
　　You should eat a bit more fat.  
　　其中-x用来检查脚本的执行情况