Linux刪除重複行

本文**

文字處理時，經常要刪除重複行，下面是三種方法

第一，用sort+uniq，注意，單純uniq是不行的。 sort -n test.txt | uniq

第二，用sort+awk命令，注意，單純awk同樣不行，原因同上。

sort -n $file | awk ''

第三，用sort+sed命令，同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

# !/bin/sh

file='
test.txt
'sort -n $file |uniq
sort -n $file | awk '
'sort -n $file | sed '
$!n; /^\(.*\)\n\1$/!p; d
'

測試檔案：

yanggang@barry$ cat test.txt 

aaa

bbbbb

ccccc

123

aaaaa

123

bbb

aaa執行結果：

yanggang@barry$ ./diffrow.sh 

aaa

aaaaa

bbb

bbbbb

ccccc

123

Linux刪除重複行

文字處理時，經常要刪除重複行，下面是三種方法 第一，用sort uniq，注意，單純uniq是不行的。sort n test.txt uniq 第二，用sort awk命令，注意，單純awk同樣不行，原因同上。sort n file awk 第三，用sort sed命令，同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時，經常要刪除重複行，下面是三種方法 第一，用sort uniq，注意，單純uniq是不行的。sort n test.txt uniq 第二，用sort awk命令，注意，單純awk同樣不行，原因同上。sort n file awk 第三，用sort sed命令，同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時，經常要刪除重複行，下面是三種方法 第一，用sort uniq，注意，單純uniq是不行的。sort n test.txt uniq 第二，用sort awk命令，注意，單純awk同樣不行，原因同上。sort n file awk 第三，用sort sed命令，同樣需要sort命令先排序。...