天天看點

SED單行腳本快速參考

在以下位址可找到本文檔的最新(英文)版本:

http://sed.sourceforge.net/sed1line.txt

http://www.pement.org/sed/sed1line.txt

其他語言版本:

中文 - http://sed.sourceforge.net/sed1line_zh-CN.html

捷克語 - http://sed.sourceforge.net/sed1line_cz.html

荷語 - http://sed.sourceforge.net/sed1line_nl.html

法語 - http://sed.sourceforge.net/sed1line_fr.html

德語 - http://sed.sourceforge.net/sed1line_de.html

葡語 - http://sed.sourceforge.net/sed1line_pt-BR.html

文本間隔:

——–

# 在每一行後面增加一空行

sed G

# 将原來的所有空行删除并在每一行後面增加一空行。

# 這樣在輸出的文本中每一行後面将有且隻有一空行。

sed ‘/^$/d;G’

# 在每一行後面增加兩行空行

sed ‘G;G’

# 将第一個腳本所産生的所有空行删除(即删除所有偶數行)

sed ‘n;d’

# 在比對式樣“regex”的行之前插入一空行

sed ‘/regex/{x;p;x;}’

# 在比對式樣“regex”的行之後插入一空行

sed ‘/regex/G’

# 在比對式樣“regex”的行之前和之後各插入一空行

sed ‘/regex/{x;p;x;G;}’

編号:

# 為檔案中的每一行進行編号(簡單的左對齊方式)。這裡使用了“制表符”

# (tab,見本文末尾關于’\t’的用法的描述)而不是空格來對齊邊緣。

sed = filename | sed ‘N;s/\n/\t/’

# 對檔案中的所有行編号(行号在左,文字右端對齊)。

sed = filename | sed ‘N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /’

# 對檔案中的所有行編号,但隻顯示非空白行的行号。

sed ‘/./=’ filename | sed ‘/./N; s/\n/ /’

# 計算行數 (模拟 “wc -l”)

sed -n ‘$=’

文本轉換和替代:

# Unix環境:轉換DOS的新行符(CR/LF)為Unix格式。

sed ’s/.$//’ # 假設所有行以CR/LF結束

sed ’s/^M$//’ # 在bash/tcsh中,将按Ctrl-M改為按Ctrl-V

sed ’s/\x0D$//’ # ssed、gsed 3.02.80,及更高版本

# Unix環境:轉換Unix的新行符(LF)為DOS格式。

sed “s/$/`echo -e \\\r`/” # 在ksh下所使用的指令

sed ’s/$’”/`echo \\\r`/” # 在bash下所使用的指令

sed “s/$/`echo \\\r`/” # 在zsh下所使用的指令

sed ’s/$/\r/’ # gsed 3.02.80 及更高版本

# DOS環境:轉換Unix新行符(LF)為DOS格式。

sed “s/$//” # 方法 1

sed -n p # 方法 2

# DOS環境:轉換DOS新行符(CR/LF)為Unix格式。

# 下面的腳本隻對UnxUtils sed 4.0.7 及更高版本有效。要識别UnxUtils版本的

# sed可以通過其特有的“–text”選項。你可以使用幫助選項(“–help”)看

# 其中有無一個“–text”項以此來判斷所使用的是否是UnxUtils版本。其它DOS

# 版本的的sed則無法進行這一轉換。但可以用“tr”來實作這一轉換。

sed “s/\r//” infile >outfile # UnxUtils sed v4.0.7 或更高版本

tr -d \r outfile # GNU tr 1.22 或更高版本

# 将每一行前導的“空白字元”(空格,制表符)删除

# 使之左對齊

sed ’s/^[ \t]*//’ # 見本文末尾關于’\t’用法的描述

# 将每一行拖尾的“空白字元”(空格,制表符)删除

sed ’s/[ \t]*$//’ # 見本文末尾關于’\t’用法的描述

# 将每一行中的前導和拖尾的空白字元删除

sed ’s/^[ \t]*//;s/[ \t]*$//’

# 在每一行開頭處插入5個空格(使全文向右移動5個字元的位置)

sed ’s/^/ /’

# 以79個字元為寬度,将所有文本右對齊

sed -e :a -e ’s/^.\{1,78\}$/ &/;ta’ # 78個字元外加最後的一個空格

# 以79個字元為寬度,使所有文本居中。在方法1中,為了讓文本居中每一行的前

# 頭和後頭都填充了空格。 在方法2中,在居中文本的過程中隻在文本的前面填充

# 空格,并且最終這些空格将有一半會被删除。此外每一行的後頭并未填充空格。

sed -e :a -e ’s/^.\{1,77\}$/ & /;ta’ # 方法1

sed -e :a -e ’s/^.\{1,77\}$/ &/;ta’ -e ’s/\( *\)\1/\1/’ # 方法2

# 在每一行中查找字串“foo”,并将找到的“foo”替換為“bar”

sed ’s/foo/bar/’ # 隻替換每一行中的第一個“foo”字串

sed ’s/foo/bar/4′ # 隻替換每一行中的第四個“foo”字串

sed ’s/foo/bar/g’ # 将每一行中的所有“foo”都換成“bar”

sed ’s/\(.*\)foo\(.*foo\)/\1bar\2/’ # 替換倒數第二個“foo”

sed ’s/\(.*\)foo/\1bar/’ # 替換最後一個“foo”

# 隻在行中出現字串“baz”的情況下将“foo”替換成“bar”

sed ‘/baz/s/foo/bar/g’

# 将“foo”替換成“bar”,并且隻在行中未出現字串“baz”的情況下替換

sed ‘/baz/!s/foo/bar/g’

# 不管是“scarlet”“ruby”還是“puce”,一律換成“red”

sed ’s/scarlet/red/g;s/ruby/red/g;s/puce/red/g’ #對多數的sed都有效

gsed ’s/scarlet\|ruby\|puce/red/g’ # 隻對GNU sed有效

# 倒置所有行,第一行成為最後一行,依次類推(模拟“tac”)。

# 由于某些原因,使用下面指令時HHsed v1.5會将檔案中的空行删除

sed ‘1!G;h;$!d’ # 方法1

sed -n ‘1!G;h;$p’ # 方法2

# 将行中的字元逆序排列,第一個字成為最後一字,……(模拟“rev”)

sed ‘/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//’

# 将每兩行連接配接成一行(類似“paste”)

sed ‘$!N;s/\n/ /’

# 如果目前行以反斜杠“\”結束,則将下一行并到目前行末尾

# 并去掉原來行尾的反斜杠

sed -e :a -e ‘/\\$/N; s/\\\n//; ta’

# 如果目前行以等号開頭,将目前行并到上一行末尾

# 并以單個空格代替原來行頭的“=”

sed -e :a -e ‘$!N;s/\n=/ /;ta’ -e ‘P;D’

# 為數字字串增加逗号分隔符号,将“1234567”改為“1,234,567”

gsed ‘:a;s/\B[0-9]\{3\}\>/,&/;ta’ # GNU sed

sed -e :a -e ’s/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta’ # 其他sed

# 為帶有小數點和負号的數值增加逗号分隔符(GNU sed)

gsed -r ‘:a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta’

# 在每5行後增加一空白行 (在第5,10,15,20,等行後增加一空白行)

gsed ‘0~5G’ # 隻對GNU sed有效

sed ‘n;n;n;n;G;’ # 其他sed

選擇性地顯示特定行:

# 顯示檔案中的前10行 (模拟“head”的行為)

sed 10q

# 顯示檔案中的第一行 (模拟“head -1”指令)

sed q

# 顯示檔案中的最後10行 (模拟“tail”)

sed -e :a -e ‘$q;N;11,$D;ba’

# 顯示檔案中的最後2行(模拟“tail -2”指令)

sed ‘$!N;$!D’

# 顯示檔案中的最後一行(模拟“tail -1”)

sed ‘$!d’ # 方法1

sed -n ‘$p’ # 方法2

# 顯示檔案中的倒數第二行

sed -e ‘$!{h;d;}’ -e x # 當檔案中隻有一行時,輸入空行

sed -e ‘1{$q;}’ -e ‘$!{h;d;}’ -e x # 當檔案中隻有一行時,顯示該行

sed -e ‘1{$d;}’ -e ‘$!{h;d;}’ -e x # 當檔案中隻有一行時,不輸出

# 隻顯示比對正規表達式的行(模拟“grep”)

sed -n ‘/regexp/p’ # 方法1

sed ‘/regexp/!d’ # 方法2

# 隻顯示“不”比對正規表達式的行(模拟“grep -v”)

sed -n ‘/regexp/!p’ # 方法1,與前面的指令相對應

sed ‘/regexp/d’ # 方法2,類似的文法

# 查找“regexp”并将比對行的上一行顯示出來,但并不顯示比對行

sed -n ‘/regexp/{g;1!p;};h’

# 查找“regexp”并将比對行的下一行顯示出來,但并不顯示比對行

sed -n ‘/regexp/{n;p;}’

# 顯示包含“regexp”的行及其前後行,并在第一行之前加上“regexp”所

# 在行的行号 (類似“grep -A1 -B1”)

sed -n -e ‘/regexp/{=;x;1!p;g;$!N;p;D;}’ -e h

# 顯示包含“AAA”、“BBB”或“CCC”的行(任意次序)

sed ‘/AAA/!d; /BBB/!d; /CCC/!d’ # 字串的次序不影響結果

# 顯示包含“AAA”、“BBB”和“CCC”的行(固定次序)

sed ‘/AAA.*BBB.*CCC/!d’

# 顯示包含“AAA”“BBB”或“CCC”的行 (模拟“egrep”)

sed -e ‘/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d # 多數sed

gsed ‘/AAA\|BBB\|CCC/!d’ # 對GNU sed有效

# 顯示包含“AAA”的段落 (段落間以空行分隔)

# HHsed v1.5 必須在“x;”後加入“G;”,接下來的3個腳本都是這樣

sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/!d;’

# 顯示包含“AAA”“BBB”和“CCC”三個字串的段落 (任意次序)

sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/!d;/BBB/!d;/CCC/!d’

# 顯示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)

sed -e ‘/./{H;$!d;}’ -e ‘x;/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d

gsed ‘/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d’ # 隻對GNU sed有效

# 顯示包含65個或以上字元的行

sed -n ‘/^.\{65\}/p’

# 顯示包含65個以下字元的行

sed -n ‘/^.\{65\}/!p’ # 方法1,與上面的腳本相對應

sed ‘/^.\{65\}/d’ # 方法2,更簡便一點的方法

# 顯示部分文本——從包含正規表達式的行開始到最後一行結束

sed -n ‘/regexp/,$p’

# 顯示部分文本——指定行号範圍(從第8至第12行,含8和12行)

sed -n ‘8,12p’ # 方法1

sed ‘8,12!d’ # 方法2

# 顯示第52行

sed -n ‘52p’ # 方法1

sed ‘52!d’ # 方法2

sed ‘52q;d’ # 方法3, 處理大檔案時更有效率

# 從第3行開始,每7行顯示一次 

gsed -n ‘3~7p’ # 隻對GNU sed有效

sed -n ‘3,${p;n;n;n;n;n;n;}’ # 其他sed

# 顯示兩個正規表達式之間的文本(包含)

sed -n ‘/Iowa/,/Montana/p’ # 區分大小寫方式

選擇性地删除特定行:

# 顯示通篇文檔,除了兩個正規表達式之間的内容

sed ‘/Iowa/,/Montana/d’

# 删除檔案中相鄰的重複行(模拟“uniq”)

# 隻保留重複行中的第一行,其他行删除

sed ‘$!N; /^\(.*\)\n\1$/!P; D’

# 删除檔案中的重複行,不管有無相鄰。注意hold space所能支援的緩存

# 大小,或者使用GNU sed。

sed -n ‘G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P’

# 删除除重複行外的所有行(模拟“uniq -d”)

sed ‘$!N; s/^\(.*\)\n\1$/\1/; t; D’

# 删除檔案中開頭的10行

sed ‘1,10d’

# 删除檔案中的最後一行

sed ‘$d’

# 删除檔案中的最後兩行

sed ‘N;$!P;$!D;$d’

# 删除檔案中的最後10行

sed -e :a -e ‘$d;N;2,10ba’ -e ‘P;D’ # 方法1

sed -n -e :a -e ‘1,10!{P;N;D;};N;ba’ # 方法2

# 删除8的倍數行

gsed ‘0~8d’ # 隻對GNU sed有效

sed ‘n;n;n;n;n;n;n;d;’ # 其他sed

# 删除比對式樣的行

sed ‘/pattern/d’ # 删除含pattern的行。當然pattern

# 可以換成任何有效的正規表達式

# 删除檔案中的所有空行(與“grep ‘.’ ”效果相同)

sed ‘/^$/d’ # 方法1

sed ‘/./!d’ # 方法2

# 隻保留多個相鄰空行的第一行。并且删除檔案頂部和尾部的空行。

# (模拟“cat -s”)

sed ‘/./,/^$/!d’ #方法1,删除檔案頂部的空行,允許尾部保留一空行

sed ‘/^$/N;/\n$/D’ #方法2,允許頂部保留一空行,尾部不留白行

# 隻保留多個相鄰空行的前兩行。

sed ‘/^$/N;/\n$/N;//D’

# 删除檔案頂部的所有空行

sed ‘/./,$!d’

# 删除檔案尾部的所有空行

sed -e :a -e ‘/^\n*$/{$d;N;ba’ -e ‘}’ # 對所有sed有效

sed -e :a -e ‘/^\n*$/N;/\n$/ba’ # 同上,但隻對 gsed 3.02.*有效

# 删除每個段落的最後一行

sed -n ‘/^$/{p;h;};/./{x;/./p;}’

特殊應用:

# 移除手冊頁(man page)中的nroff标記。在Unix System V或bash shell下使

# 用’echo’指令時可能需要加上 -e 選項。

sed “s/.`echo \\\b`//g” # 外層的雙括号是必須的(Unix環境)

sed ’s/.^H//g’ # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H

sed ’s/.\x08//g’ # sed 1.5,GNU sed,ssed所使用的十六進制的表示方法

# 提取新聞討論區或 e-mail 的郵件頭

sed ‘/^$/q’ # 删除第一行空行後的所有内容

# 提取新聞討論區或 e-mail 的正文部分

sed ‘1,/^$/d’ # 删除第一行空行之前的所有内容

# 從郵件頭提取“Subject”(标題欄字段),并移除開頭的“Subject:”字樣

sed ‘/^Subject: */!d; s///;q’

# 從郵件頭獲得回複位址

sed ‘/^Reply-To:/q; /^From:/h; /./d;g;q’

# 擷取郵件位址。在上一個腳本所産生的那一行郵件頭的基礎上進一步的将非電郵

# 位址的部分剃除。(見上一腳本)

sed ’s/ *(.*)//; s/>.*//; s/.*[:<] *//’

# 在每一行開頭加上一個尖括号和空格(引用資訊)

sed ’s/^/> /’

# 将每一行開頭處的尖括号和空格删除(解除引用)

sed ’s/^> //’

# 在每一行結尾加上一個空格和一個”.”

sed -i ’s/$/ \./’ filename

移除空格和一個”.”

sed -i ’s/ \.//’ fliename

# 移除大部分的HTML标簽(包括跨行标簽)

sed -e :a -e ’s/<[^>]*>//g;/

# 将分成多卷的uuencode檔案解碼。移除檔案頭資訊,隻保留uuencode編碼部分。

# 檔案必須以特定順序傳給sed。下面第一種版本的腳本可以直接在指令行下輸入;

# 第二種版本則可以放入一個帶執行權限的shell腳本中。(由Rahul Dhesi的一

# 個腳本修改而來。)

sed ‘/^end/,/^begin/d’ file1 file2 … fileX | uudecode # vers. 1

sed ‘/^end/,/^begin/d’ “$@” | uudecode # vers. 2

# 将檔案中的段落以字母順序排序。段落間以(一行或多行)空行分隔。GNU sed使用

# 字元“\v”來表示垂直制表符,這裡用它來作為換行符的占位符——當然你也可以

# 用其他未在檔案中使用的字元來代替它。

sed ‘/./{H;d;};x;s/\n/={NL}=/g’ file | sort | sed ‘1s/={NL}=//;s/={NL}=/\n/g’

gsed ‘/./{H;d};x;y/\n/\v/’ file | sort | sed ‘1s/\v//;y/\v/\n/’

# 分别壓縮每個.TXT檔案,壓縮後删除原來的檔案并将壓縮後的.ZIP檔案

# 命名為與原來相同的名字(隻是擴充名不同)。(DOS環境:“dir /b”

# 顯示不帶路徑的檔案名)。

echo @echo off >zipup.bat

dir /b *.txt | sed “s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/” >>zipup.bat

使用SED:Sed接受一個或多個編輯指令,并且每讀入一行後就依次應用這些指令。

當讀入第一行輸入後,sed對其應用所有的指令,然後将結果輸出。接着再讀入第二

行輸入,對其應用所有的指令……并重複這個過程。上一個例子中sed由标準輸入設

備(即指令解釋器,通常是以管道輸入的形式)獲得輸入。在指令行給出一個或多

個檔案名作為參數時,這些檔案取代标準輸入裝置成為sed的輸入。sed的輸出将被

送到标準輸出(顯示器)。是以:

cat filename | sed ‘10q’ # 使用管道輸入

sed ‘10q’ filename # 同樣效果,但不使用管道輸入

sed ‘10q’ filename > newfile # 将輸出轉移(重定向)到磁盤上

要了解sed指令的使用說明,包括如何通過腳本檔案(而非從指令行)來使用這些命

令,請參閱《sed & awk》第二版,作者Dale Dougherty和Arnold Robbins

(O’Reilly,1997;http://www.ora.com),《UNIX Text Processing》,作者

Dale Dougherty和Tim O’Reilly(Hayden Books,1987)或者是Mike Arst寫的教

程——壓縮包的名稱是“U-SEDIT2.ZIP”(在許多站點上都找得到)。要發掘sed

的潛力,則必須對“正規表達式”有足夠的了解。正規表達式的資料可以看

《Mastering Regular Expressions》作者Jeffrey Friedl(O’reilly 1997)。

Unix系統所提供的手冊頁(“man”)也會有所幫助(試一下這些指令

“man sed”、“man regexp”,或者看“man ed”中關于正規表達式的部分),但

手冊提供的資訊比較“抽象”——這也是它一直為人所诟病的。不過,它本來就不

是用來教初學者如何使用sed或正規表達式的教材,而隻是為那些熟悉這些工具的人

提供的一些文本參考。

括号文法:前面的例子對sed指令基本上都使用單引号(’…’)而非雙引号

(”…”)這是因為sed通常是在Unix平台上使用。單引号下,Unix的shell(指令

解釋器)不會對美元符($)和後引号(`…`)進行解釋和執行。而在雙引号下

美元符會被展開為變量或參數的值,後引号中的指令被執行并以輸出的結果代替

後引号中的内容。而在“csh”及其衍生的shell中使用感歎号(!)時需要在其前

面加上轉義用的反斜杠(就像這樣:\!)以保證上面所使用的例子能正常運作

(包括使用單引号的情況下)。DOS版本的Sed則一律使用雙引号(”…”)而不是

引号來圈起指令。

‘\t’的用法:為了使本文保持行文簡潔,我們在腳本中使用’\t’來表示一個制表

符。但是現在大部分版本的sed還不能識别’\t’的簡寫方式,是以當在指令行中為

腳本輸入制表符時,你應該直接按TAB鍵來輸入制表符而不是輸入’\t’。下列的工

具軟體都支援’\t’做為一個正規表達式的字元來表示制表符:awk、perl、HHsed、

sedmod以及GNU sed v3.02.80。

不同版本的SED:不同的版本間的sed會有些不同之處,可以想象它們之間在文法上

會有差異。具體而言,它們中大部分不支援在編輯指令中間使用标簽(:name)或分

支指令(b,t),除非是放在那些的末尾。這篇文檔中我們盡量選用了可移植性較高

的文法,以使大多數版本的sed的使用者都能使用這些腳本。不過GNU版本的sed允許使

用更簡潔的文法。想像一下當讀者看到一個很長的指令時的心情:

sed -e ‘/AAA/b’ -e ‘/BBB/b’ -e ‘/CCC/b’ -e d

好消息是GNU sed能讓指令更緊湊:

sed ‘/AAA/b;/BBB/b;/CCC/b;d’ # 甚至可以寫成

sed ‘/AAA\|BBB\|CCC/b;d’

此外,請注意雖然許多版本的sed接受象“/one/ s/RE1/RE2/”這種在’s’前帶有空

格的指令,但這些版本中有些卻不接受這樣的指令:“/one/! s/RE1/RE2/”。這時

隻需要把中間的空格去掉就行了。

速度優化:當由于某種原因(比如輸入檔案較大、處理器或硬碟較慢等)需要提高

指令執行速度時,可以考慮在替換指令(“s/…/…/”)前面加上位址表達式來

提高速度。舉例來說:

sed ’s/foo/bar/g’ filename # 标準替換指令

sed ‘/foo/ s/foo/bar/g’ filename # 速度更快

sed ‘/foo/ s//bar/g’ filename # 簡寫形式

當隻需要顯示檔案的前面的部分或需要删除後面的内容時,可以在腳本中使用“q”

指令(退出指令)。在處理大的檔案時,這會節省大量時間。是以:

sed -n ‘45,50p’ filename # 顯示第45到50行

sed -n ‘51q;45,50p’ filename # 一樣,但快得多

如果你有其他的單行腳本想與大家分享或者你發現了本文檔中錯誤的地方,請發電

子郵件給本文檔的作者(Eric Pement)。郵件中請記得提供你所使用的sed版本、

該sed所運作的作業系統及對問題的适當描述。本文所指的單行腳本指指令行的長

度在65個字元或65個以下的sed腳本〔譯注1〕。本文檔的各種腳本是由以下所列作

者所寫或提供:

Al Aab # 建立了“seders”郵件清單

Edgar Allen # 許多方面

Yiorgos Adamopoulos # 許多方面

Dale Dougherty # 《sed & awk》作者

Carlos Duarte # 《do it with sed》作者

Eric Pement # 本文檔的作者

Ken Pizzini # GNU sed v3.02 的作者

S.G. Ravenhall # 去html标簽腳本

Greg Ubben # 有諸多貢獻并提供了許多幫助

————————————————————————-

譯注1:大部分情況下,sed腳本無論多長都能寫成單行的形式(通過`-e’選項和`;’

号)——隻要指令解釋器支援,是以這裡說的單行腳本除了能寫成一行還對長度有

所限制。因為這些單行腳本的意義不在于它們是以單行的形式出現。而是讓使用者能

友善地在指令行中使用這些緊湊的腳本才是其意義所在。

本文轉自 liang3391 51CTO部落格,原文連結:http://blog.51cto.com/liang3391/456553