Linux刪除重複行

2021-08-31 01:44:54 字數 926 閱讀 1333

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!

文字處理時,經常要刪除重複行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

sort -n $file | awk ''

第三,用sort+sed命令,同樣需要sort命令先排序。

sort -n $file | sed '$!n; /^.∗

.∗\n\1$/!p; d'

shell指令碼

# !/bin/shfile='test.txt'sort -n $file | uniqsort -n $file | awk ''sort -n $file | sed '$!n; /^\(.*\)\n\1$/!p; d'
測試檔案:yanggang@barry$ cat test.txt 

aaabbbbb

ccccc

123aaaaa

123bbb

aaa執行結果:

yanggang@barry$ ./diffrow.sh 

aaaaaaaa

bbbbbbbb

ccccc

123推薦參考:

刪除文字中的重複行sort+uniq/awk/sed

sed單行指令碼快速參考unix 流編輯器

給我老師的人工智慧教程打call!

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...

Linux刪除重複行

文字處理時,經常要刪除重複行,下面是三種方法 第一,用sort uniq,注意,單純uniq是不行的。sort n test.txt uniq 第二,用sort awk命令,注意,單純awk同樣不行,原因同上。sort n file awk 第三,用sort sed命令,同樣需要sort命令先排序。...