Linux刪除重複行

2021-07-24 14:26:15 字數 740 閱讀 8447

**:

文字處理時,經常要刪除重複行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

sort -n $file | awk ''

第三,用sort+sed命令,同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

shell指令碼 原始碼

列印?

# !/bin/sh

file='test.txt'

sort -n $file | uniq  

sort -n $file | awk ''

sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'

測試檔案:

yanggang@barry$ cat test.txt 

aaabbbbb

ccccc

123aaaaa

123bbb

aaa執行結果:

yanggang@barry$ ./diffrow.sh 

aaaaaaaa

bbbbbbbb

ccccc

123推薦參考:

刪除文字中的重複行sort+uniq/awk/sed

sed單行指令碼快速參考unix 流編輯器

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,...