正則表達(dá)式之道

正則表達(dá)式之道原著：SteveMansour

sman@

Revised:June5,1999

(copiedbyjm/at/from/%7esman/regexp.htm,afterthe

originaldisappeared!)翻譯：NeoLee

neo.lee@

2004年10月16日英文版原文譯者按：原文因?yàn)槟甏眠h(yuǎn)，文中很多鏈接早已過(guò)期（主要是關(guān)于vi、sed等工具的介紹和手冊(cè)），本譯文中已將此類(lèi)鏈接刪除，如需檢查這些鏈接可以查看上面鏈接的原文。除此之外基本照原文直譯，括號(hào)中有“譯者按”的部分是譯者補(bǔ)充的說(shuō)明。如有內(nèi)容方面的問(wèn)題請(qǐng)直接和SteveMansor聯(lián)系，當(dāng)然，如果你只寫(xiě)中文，也可以和我聯(lián)系。什么是正則表達(dá)式范例簡(jiǎn)單中級(jí)（神奇的咒語(yǔ)）困難（不可思議的象形文字）不同工具中的正則表達(dá)式什么是正則表達(dá)式一個(gè)正則表達(dá)式，就是用某種模式去匹配一類(lèi)字符串的一個(gè)公式。很多人因?yàn)樗鼈兛瓷先ケ容^古怪而且復(fù)雜所以不敢去使用一一很不幸，這篇文章也不能夠改變這一點(diǎn)，不過(guò)，經(jīng)過(guò)一點(diǎn)點(diǎn)練習(xí)之后我就開(kāi)始覺(jué)得這些復(fù)雜的表達(dá)式其實(shí)寫(xiě)起來(lái)還是相當(dāng)簡(jiǎn)單的，而且，一旦你弄懂它們，你就能把數(shù)小時(shí)辛苦而且易錯(cuò)的文本處理工作壓縮在幾分鐘（甚至幾秒鐘）內(nèi)完成。正則表達(dá)式被各種文本編輯軟件、類(lèi)庫(kù)（例如RogueWave的tools.h++）、腳本工具（像awk/grep/sed）廣泛的支持，而且像Microsoft的VisualC++這種交互式IDE也開(kāi)始支持它了。我們將在如下的章節(jié)中利用一些例子來(lái)解釋正則表達(dá)式的用法，絕大部分的例子是基于vi中的文本替換命令和grep文件搜索命令來(lái)書(shū)寫(xiě)的，不過(guò)它們都是比較典型的例子，其中的概念可以在sed、awk、perl和其他支持正則表達(dá)式的編程語(yǔ)言中使用。你可以看看不同工具中的正則表達(dá)式這一節(jié)，其中有一些在別的工具中使用正則表達(dá)式的例子。還有一個(gè)關(guān)于vi中文本替換命令（s）的簡(jiǎn)單說(shuō)明附在文后供參考。正則表達(dá)式基礎(chǔ)正則表達(dá)式由一些普通字符和一些元字符（metacharacter）組成。普通字符包括大小寫(xiě)的字母和數(shù)字，而元字符則具有特殊的含義，我們下面會(huì)給予解釋。在最簡(jiǎn)單的情況下，一個(gè)正則表達(dá)式看上去就是一個(gè)普通的查找串。例如，正則表達(dá)式"testing〃中沒(méi)有包含任何元字符，，它可以匹配"testing〃和"123testing〃等字符串，但是不能匹配"Testing"。要想真正的用好正則表達(dá)式，正確的理解元字符是最重要的事情。下表列出了所有的元字符和對(duì)它們的一個(gè)簡(jiǎn)短的描述。元字符描述匹配任何單個(gè)字符。例如正則表達(dá)式r.t匹配這些字符串：rat、rut、rt，但是不匹配root。$匹配行結(jié)束符。例如正則表達(dá)式weasel$能夠匹配字符串"He'sawease"的末尾，但是不能匹配字符串"Theyareabunchofweasels"。匹配一行的開(kāi)始。例如正則表達(dá)式"Whenin能夠匹配字符串"Wheninthecourseofhumanevents的開(kāi)始，但是不能匹配"WhatandWheninthe"*匹配0或多個(gè)正好在它之前的那個(gè)字符。例如正則表達(dá)式.*意味著能夠匹配任意數(shù)量的任何字符。\引用府，用來(lái)將這里列出的這些元字符當(dāng)作普通的字符來(lái)進(jìn)行匹配。例如正則表達(dá)式\$被用來(lái)匹配美元符號(hào)，而不是行尾，類(lèi)似的，正則表達(dá)式'.用來(lái)匹配點(diǎn)字符，而不是任何字符的通配符。[]匹配括號(hào)中的任何一個(gè)字符。例如正則表達(dá)式r[aou]t匹配rat、rot和rut，但是不匹配ret。[c1-c2]可以在括號(hào)中使用連字符-來(lái)指定字符的區(qū)間。例如正則表達(dá)式[0-9]可以匹配任何數(shù)字字符；還可以制定多個(gè)區(qū)間，例如正則表達(dá)式[A-Za-z]可以匹配任何大小寫(xiě)字母。

LC1-C2]另一個(gè)重要的用法是“排除”，要想匹配除了指定區(qū)間之外的字符——也就是所謂的補(bǔ)集——在左邊的括號(hào)和第一個(gè)字符之間使用”字符，例如正則表達(dá)式「269A-Z]將匹配除了2、6、9和所有大寫(xiě)字母之外的任何字符。\<\>匹配詞（word）的開(kāi)始（\<）和結(jié)束（\>）。例如正則表達(dá)式\<the能夠匹配字符串"forthewis"中的"the”，但是不能匹配字符串"otherwise’中的"the”。注意：這個(gè)元字符不是所有的軟件都支持的。\（\）將\（和\）之間的表達(dá)式定義為“組”（group），并且將匹配這個(gè)表達(dá)式的字符保存到一個(gè)臨時(shí)區(qū)域（一個(gè)正則表達(dá)式中最多可以保存9個(gè)），它們可以用\1到\9的符號(hào)來(lái)引用。I將兩個(gè)匹配條件進(jìn)行邏輯“或”（Or）運(yùn)算。例如正則表達(dá)式（him|her）匹配"itbelongstohim和"itbelongstohe"但是不能匹配"itbelongstothem”。注意:這個(gè)元字符不是所有的軟件都支持的。+匹配1或多個(gè)正好在它之前的那個(gè)字符。例如正則表達(dá)式9+匹配9、99、999等。注意：這個(gè)元字符不是所有的軟件都支持的。匹配0或1個(gè)正好在它之前的那個(gè)字符。注意：這個(gè)元字符不是所有的軟件都支持的。\{i\{i\}例如正則表達(dá)式A[0-9]\{3\}能夠匹配字符”A”后面跟著正好3\{i,J\}個(gè)數(shù)字字符的串，例如A123、A348等，但是不匹配A1234。而正則表達(dá)式[0-9]\{4,6\}匹配連續(xù)的任意4個(gè)、5個(gè)或者6個(gè)數(shù)字字符。注意：這個(gè)元字符不是所有的軟件都支持的。最簡(jiǎn)單的元字符是點(diǎn)，它能夠匹配任何單個(gè)字符（注意不包括新行符）。假定有個(gè)文件test.txt包含以下幾行內(nèi)容：heisaratheisinarutthefoodisRottenIlikerootbeer我們可以使用grep命令來(lái)測(cè)試我們的正則表達(dá)式，grep命令使用正則表達(dá)式去嘗試匹配指定文件的每一行，并將至少有一處匹配表達(dá)式的所有行顯示出來(lái)。命令grepr.ttest.txt

在test.txt文件中的每一行中搜索正則表達(dá)式r.t,并打印輸出匹配的行。正則表達(dá)式r.t匹配一個(gè)r接著任何一個(gè)字符再接著一個(gè)t。所以它將匹配文件中的rat和rut，而不能匹配Rotten中的Rot，因?yàn)檎齽t表達(dá)式是大小寫(xiě)敏感的。要想同時(shí)匹配大寫(xiě)和小寫(xiě)字母，應(yīng)該使用字符區(qū)間元字符（方括號(hào)）。正則表達(dá)式[Rr]能夠同時(shí)匹配R和r。所以，要想匹配一個(gè)大寫(xiě)或者小寫(xiě)的r接著任何一個(gè)字符再接著一個(gè)t就要使用這個(gè)表達(dá)式：[Rr]?t。要想匹配行首的字符要使用抑揚(yáng)字符O——又是也被叫做插入符。例如，想找到text.txt中行首〃he〃打頭的行，你可能會(huì)先用簡(jiǎn)單表達(dá)式he，但是這會(huì)匹配第三行的the，所以要使用正則表達(dá)式"he，它只匹配在行首出現(xiàn)的h。有時(shí)候指定“除了XXX都匹配”會(huì)比較容易達(dá)到目的，當(dāng)抑揚(yáng)字符（"）出現(xiàn)在方括號(hào)中是，它表示“排除”，例如要匹配he，但是排除前面是tors的情性（也就是the和she），可以使用：["st]he?？梢允褂梅嚼ㄌ?hào)來(lái)指定多個(gè)字符區(qū)間。例如正則表達(dá)式[A-Za-z]匹配任何字母，包括大寫(xiě)和小寫(xiě)的；正則表達(dá)式[A-Za-z][A-Za-z]*匹配一個(gè)字母后面接著0或者多個(gè)字母（大寫(xiě)或者小寫(xiě)）。當(dāng)然我們也可以用元字符+做到同樣的事情，也就是：[A-Za-z]+，和[A-Za-z][A-Za-z]*完全等價(jià)。但是要注意元字符+并不是所有支持正則表達(dá)式的程序都支持的。關(guān)于這一點(diǎn)可以參考后面的回表達(dá)式語(yǔ)法支持情況。要指定特定數(shù)量的匹配，要使用大括號(hào)（注意必須使用反斜杠來(lái)轉(zhuǎn)義）。想匹配所有100和1000的實(shí)例而排除10和10000，可以使用：10\{2,3\}，這個(gè)正則表達(dá)式匹配數(shù)字1后面跟著2或者3個(gè)0的模式。在這個(gè)元字符的使用中一個(gè)有用的變化是忽略第二個(gè)數(shù)字，例如正則表達(dá)式0\{3,\}將匹配至少3個(gè)連續(xù)的0。簡(jiǎn)單的例子這里有一些有代表性的、比較簡(jiǎn)單的例子。vi命令:%s/*//g:%s/vi命令:%s/*//g:%s/*$//:%s/A//:%s/人[0-9][0-9]*//:%s/b[aeio]g/bug/g把一個(gè)或者多個(gè)空格替換為一個(gè)空格。去掉行尾的所有空格。在每一行頭上加入一個(gè)空格。去掉行首的所有數(shù)字字符。將所有的bag、beg、big和bog改為bug。將所有tag、tog和tug分別改為hat、hot:%s/t\（[aou]\）g/h\1t/g和hug（注意用group的用法和使用\1引用前面被匹配的字符）。

中級(jí)的例子(神奇的咒語(yǔ))例1將所有方法foo(a,b,c)的實(shí)例改為foo(b,a,c)。這里a、b和c可以是任何提供給方法foo()的參數(shù)。也就是說(shuō)我們要實(shí)現(xiàn)這樣的轉(zhuǎn)換：之前之后foo(10,7,2)foo(7,10,2)foo(x+13,y-2,10)foo(y-2,x+13,10)foo(bar(8),x+y+z,5)foo(x+y+z,bar(8),5)下面這條替換命令能夠?qū)崿F(xiàn)這一魔法：:%s/foo(\(［A,］*\),\(L,］*\),\(L)］*\))/foo(\2,\1,\3)/g現(xiàn)在讓我們把它打散來(lái)加以分析。寫(xiě)出這個(gè)表達(dá)式的基本思路是找出foo()和它的括號(hào)中的三個(gè)參數(shù)的位置。第一個(gè)參數(shù)是用這個(gè)表達(dá)式來(lái)識(shí)別的：：\(［人，］*\)，我們可以從里向外來(lái)分析它：C］

［人，］*\（［人，］*\）除了逗號(hào)之外的任何字符0或者多個(gè)非逗號(hào)字符將這些非逗號(hào)字符標(biāo)記為\1，這樣可以在之后的替換模式表達(dá)式中引用它\(［人，］*\),我們必須找到0或者多個(gè)非逗號(hào)字符后面跟著一個(gè)逗號(hào)，并且非C］

［人，］*\（［人，］*\）現(xiàn)在正是指出一個(gè)使用正則表達(dá)式常見(jiàn)錯(cuò)誤的最佳時(shí)機(jī)。為什么我們要使用［人，］*這樣的一個(gè)表達(dá)式，而不是更加簡(jiǎn)單直接的寫(xiě)法，例如：?*，來(lái)匹配第一個(gè)參數(shù)呢？設(shè)想我們使用模式,*來(lái)匹配字符串〃10,7,2〃，它應(yīng)該匹配"10,"還是"10,7,"？為了解決這個(gè)兩義性(ambiguity)，正則表達(dá)式規(guī)定一律按照最長(zhǎng)的串來(lái)，在上面的例子中就是"10,7,"，顯然這樣就找出了兩個(gè)參數(shù)而不是我們期望的一個(gè)。所以，我們要使用［人，］*來(lái)強(qiáng)制取出第一個(gè)逗號(hào)之前的部分。這個(gè)表達(dá)式我們已經(jīng)分析到了：foo(\([\]*\)，這一段可以簡(jiǎn)單的翻譯為“當(dāng)你找到foo(就把其后直到第一個(gè)逗號(hào)之前的部分標(biāo)記為\1”。然后我們使用同樣的辦法標(biāo)記第二個(gè)參數(shù)為\2。對(duì)第三個(gè)參數(shù)的標(biāo)記方法也是一樣，只是我們要搜索所有的字符直到右括號(hào)。我們并沒(méi)有必要去搜索第三個(gè)參數(shù)，因?yàn)槲覀儾恍枰{(diào)整它的位置，但是這樣的模式能夠保證我們只去替換那些有三個(gè)參數(shù)的foo()方法調(diào)用，在foo()是一個(gè)重載(overoading)方法時(shí)這種明確的模式往往是比較保險(xiǎn)的。然后，在替換部分，我們找到foo()的對(duì)應(yīng)實(shí)例，然后利用標(biāo)記好的部分進(jìn)行替換，是的第一和第二個(gè)參數(shù)交換位置。例2假設(shè)有一個(gè)CSV(commaseparatedvalue)文件，里面有一些我們需要的信息，但是格式卻有問(wèn)題，目前數(shù)據(jù)的列順序是：姓名，公司名，州名縮寫(xiě)，郵政編碼，現(xiàn)在我們希望講這些數(shù)據(jù)重新組織，以便在我們的某個(gè)軟件中使用，需要的格式為：姓名，州名縮寫(xiě)-郵政編碼，公司名。也就是說(shuō)，我們要調(diào)整列順序，還要合并兩個(gè)列來(lái)構(gòu)成一個(gè)新列。另外，我們的軟件不能接受逗號(hào)前后面有任何空格(包括空格和制表符)所以我們還必須要去掉逗號(hào)前后的所有空格。這里有幾行我們現(xiàn)在的數(shù)據(jù)：BillJones,HI-TEKCorporation,CA,95011SharonLeeSmith,DesignWorksIncorporated,CA,95012B.Amos,HillStreetCafe,CA,95013AlexanderWeatherworth,TheCraftsStore,CA,95014...我們希望把它變成這個(gè)樣子：BillJones,CA95011,HI-TEKCorporationSharonLeeSmith,CA95012,DesignWorksIncorporatedB.Amos,CA95013,HillStreetCafeAlexanderWeatherworth,CA95014,TheCraftsStore...我們將用兩個(gè)正則表達(dá)式來(lái)解決這個(gè)問(wèn)題。第一個(gè)移動(dòng)列和合并列，第二個(gè)用來(lái)去掉空格。下面就是第一個(gè)替換命令：:%s/\([A,]*\),\([A,]*\),\([A,]*\),\(.*\)/\1,\3\4,\2/這里的方法跟例1基本一樣，第一個(gè)列(姓名)用這個(gè)表達(dá)式來(lái)匹配：\([人，]*\)，即第一個(gè)逗號(hào)之前的所有字符，而姓名內(nèi)容被用\1標(biāo)記下來(lái)。公司名和州名縮寫(xiě)字段用同樣的方法標(biāo)記為\2和'3,而最后一個(gè)字段用\(?*\)來(lái)匹配(〃匹配所有字符直到行末〃)。替換部分則引用上面標(biāo)記的那些內(nèi)容來(lái)進(jìn)行構(gòu)造。下面這個(gè)替換命令則用來(lái)去除空格：:%s/[\t]*,[\t]*/,/g我們還是分解來(lái)看：[\t]匹配空格/制表符，[\t]*匹配0或多個(gè)空格/制表符，[\t]*,匹配0或多個(gè)空格/制表符后面再加一個(gè)逗號(hào)，最后，[\t]*,[\t]*匹配0或多個(gè)空格/制表符接著一個(gè)逗號(hào)再接著0或多個(gè)空格/制表符。在替換部分，我們簡(jiǎn)單的我們找到的所有東西替換成一個(gè)逗號(hào)。這里我們使用了結(jié)尾的可選的g參數(shù)，這表示在每行中對(duì)所有匹配的串執(zhí)行替換(而不是缺省的只替換第一個(gè)匹配串)。例3假設(shè)有一個(gè)多字符的片斷重復(fù)出現(xiàn)，例如：BillytriedreallyhardSallytriedreallyreallyhardTimmytriedreallyreallyreallyhardJohnnytriedreallyreallyreallyreallyhard而你想把"really”、"reallyreally"，以及任意數(shù)量連續(xù)出現(xiàn)的"really〃字符串換成一個(gè)簡(jiǎn)單的"very”(simpleisgood!)，那么以下命令：:%s/\(really\)\(really\)*/very/就會(huì)把上述的文本變成：BillytriedveryhardSallytriedveryhardTimmytriedveryhardJohnnytriedveryhard表達(dá)式\(really\)*匹配0或多個(gè)連續(xù)的"really〃(注意結(jié)尾有個(gè)空格)，而\(really\)\(really\)*匹配1個(gè)或多個(gè)連續(xù)的"really”實(shí)例。困難的例子(不可思議的象形文字)Comingsoon.不同工具中的正則表達(dá)式

OK,你已經(jīng)準(zhǔn)備使用RE（regularexpressions,正則表達(dá)式），但是你并準(zhǔn)備使用vi。所以，在這里我們給出一些在其他工具中使用RE的例子。另外，我還會(huì)總結(jié)一下你在不同程序之間使用RE可能發(fā)現(xiàn)的區(qū)別。當(dāng)然，你也可以在VisualC++編輯器中使用RE。選擇Edit->Replace，然后選擇"Regularexpression〃選擇框，F(xiàn)indWhat輸入框?qū)?yīng)上面介紹的vi命令:％s/pat1/pat2/g中的pat1部分，而Replace輸入框?qū)?yīng)pat2部分。但是，為了得到vi的執(zhí)行范圍和g選項(xiàng)，你要使用ReplaceAll或者適當(dāng)?shù)氖止indNextandReplace（譯者按：知道為啥有人罵微軟弱智了吧，雖然VC中可以選中一個(gè)范圍的文本，然后在其中執(zhí)行替換，但是總之不夠vi那么靈活和典雅）。sedSed是StreamEDitor的縮寫(xiě)，是Unix下常用的基于文件和管道的編輯工具，可以在宇冊(cè)中得到關(guān)于sed的詳細(xì)信息。這里是一些有趣的sed腳本，假定我們正在處理一個(gè)叫做price.txt的文件。注意這些編輯并不會(huì)改變?cè)次募?，sed只是處理源文件的每一行并把結(jié)果顯示在標(biāo)準(zhǔn)輸出中（當(dāng)然很容易使用重定向來(lái)定制）：描述sed's/"$/d'price.txtsed描述sed's/"$/d'price.txtsed's/"[\t]*$/d'price.txtsed's/"http://g'price.txt刪除所有空行刪除所有只包含空格或者制表符的行刪除所有引號(hào)awkawk是一種編程語(yǔ)言，可以用來(lái)對(duì)文本數(shù)據(jù)進(jìn)行復(fù)雜的分析和處理?？梢栽谑謨?cè)中得到關(guān)于awk的詳細(xì)信息。這個(gè)古怪的名字是它作者們的姓的縮寫(xiě)（Aho，Weinberger和Kernighan）。在Aho，Weinberger和Kernighan的書(shū)TheAWKProgrammingLanguage中有彳艮多很好的awk的例子，請(qǐng)不要讓下面這些微不足道的腳本例子限制你對(duì)awk強(qiáng)大能力的理解。我們同樣假定我們針對(duì)price.txt文件進(jìn)行處理，跟sed一樣，awk也只是把結(jié)果顯示在終端上。awk腳本描述awk'$0!~/"$/'price.txtawk'NF>0'price.txt刪除所有空行awk中一個(gè)更好的刪除

awk'$2~/"[JT]/{print$3}'price.txtawk'$2!~/[Mm]isc/{print$3+$4}'price.txt'$3

price.txtawk!~廠(chǎng)[0-9]+\.[0-9]*$/{print$0}'awkawk'$0!~/"$/'price.txtawk'NF>0'price.txt刪除所有空行awk中一個(gè)更好的刪除awk'$2~/"[JT]/{print$3}'price.txtawk'$2!~/[Mm]isc/{print$3+$4}'price.txt'$3

price.txtawk!~廠(chǎng)[0-9]+\.[0-9]*$/{print$0}'awk'$2~/John|Fred/{print$0}'price.txt所有行的辦法打印所有第二個(gè)字段是'J'或者'T'打頭的行中的第三個(gè)字段針對(duì)所有第二個(gè)字段不包含'Misc'或者'misc'的行，打印第3和第4列的和（假定為數(shù)字）打印所有第三個(gè)字段不是數(shù)字的行，這里數(shù)字是指d.d或者d這樣的形式，其中d是0到9的任何數(shù)字如果第二個(gè)字段包含'John'或者'Fred'則打印整行下面的例子中我們假定在文件phone.txt中包含以下的文本，一一其格式是姓加一個(gè)逗號(hào)，然后是名，然后是一個(gè)制表符，然后是電話(huà)號(hào)碼：Francis,John5-3871Wong,Fred4-4123Jones,Thomas1-4122Salazar,Richard5-2522grep命令描述grep'\t5-...1'phone.txtgrepgrepgrep'“S["]*R'phone.txt'"[JW]'phone.txt',....\t'phone.txt把所有電話(huà)號(hào)碼以5開(kāi)頭以1結(jié)束的行打印出來(lái)，注意制表符是用\t表示的打印所有姓以S打頭和名以R打頭的行打印所有姓開(kāi)頭是J或者W的行打印所有姓是4個(gè)字符的行，注意制表符是用\t表示的

grep-v'"[JW]'phone.txtgrep'"[M-Z]'phone.txtgrep'"[M-Z].*[12]'phone.txt打印所有不以J或者grep'\t5-...1'phone.txtgrepgrepgrep'“S["]*R'phone.txt'"[JW]'phone.txt',....\t'phone.txt把所有電話(huà)號(hào)碼以5開(kāi)頭以1結(jié)束的行打印出來(lái)，注意制表符是用\t表示的打印所