##linux下對檔案去重
sort -n test.txt | uniq 這是先把重複的sort在一起,再利用uniq去重,-n是按照數值大小排序
sort -u test.txt
##去除空白行(包括空格和\t)
awk nf file #只能列印出字段數(nf)不為零(即大於零)的行
##取程序號
ps -ef |grep service_name
##殺死程序
kill process_id
##刪除首行
sed -i '1d' a.txt
##刪除前100行
sed -i '1,100d' a.txt
##刪除尾行
sed -i '$d' a.txt
##拷貝1到10行到第3行
命令列: 1,10 co 3
or yy:複製游標所處當前行
n + yy:複製游標所在行及以下共 n 行
按 p 貼上在游標所在行
##剪下1到10行到第3行
1,10 m 3
or dd:剪下游標所處當前行
n + dd:剪下游標所在行及以下共 n 行
按 p 貼上在游標所在行
##刪除1到10行
1,10 de
or dd:刪除游標所處當前行
n + dd:刪除游標所在行及以下共 n 行
## 指定輸入分割符和輸出分割符
awk -f'\t' -v ofs='\t' '' data.txt
## 後台執行命令
nohup command & #一般形式
nohup ./main >yourfile 2>&1 & #例項
## 檢視後台執行的命令
jobs
##ps命令檢視使用者程序
ps -u lidongchao002
ps -ef|grep lidongchao
#替換檔案內容
:s/well/good/ 替換當前行第乙個 well 為 good
:s/well/good/g 替換當前行所有 well 為 good
:n,$s/well/good/ 替換第 n 行開始到最後一行中每一行的第乙個 well 為 good
:n,$s/well/good/g 替換第 n 行開始到最後一行中每一行所有 well 為 good
n 為數字,若 n 為 .,表示從當前行開始到最後一行
:%s/well/good/(等同於 :g/well/s//good/) 替換每一行的第乙個 well 為 good
:%s/well/good/g(等同於 :g/well/s//good/g) 替換每一行中所有 well 為 good
可以使用 # 作為分隔符,此時中間出現的 / 不會作為分隔符
:s#well/#good/# 替換當前行第乙個 well/ 為 good/
:%s#/usr/bin#/bin#g
可以把檔案中所有路徑/usr/bin換成/bin
#傳資料夾:
先在目標機器執行命令準備好接收(1221為任意可用埠)
nc -l 1221 | tar -zxvf -
然後在源機器執行命令
tar -zcvf - [資料夾] | nc [目標ip] 1221
#批量殺死程序
ps -ef|grep mcfcm_st|grep -v grep|cut -c 9-15|xargs kill -9
#按照某一列去重
sort -t " " -k 3,3 -u 檔名
##拉取hive表,且分組&組內排序
hive -e "select city_name,price,row_number() over(partition by city_name order by price) from table_name where pt='20190816000000';" >your_file
linux Hive常用命令總結
寫在開頭 hive是基於hadoop的乙個資料倉儲工具,用來進行資料提取 轉化 載入,這是一種可以儲存 查詢和分析儲存在hadoop中的大規模資料的機制。hive資料倉儲工具能將結構化的資料檔案對映為一張資料庫表,並提供sql查詢功能,能將sql語句轉變成mapreduce任務來執行。某度詞條。下面...
Python 使用記錄(累計記錄)
2 pandas 設定 3 pandas 操作 4 笛卡爾積 1 列表轉字串list1 department of biology str1 join list1 print str1 department of biology2 從列表中刪除元素 要刪除的元素的型別必須與列表中的元素的型別相同 l...
fiddler使用記錄
fiddler 抓不到ie瀏覽器 或者ie核心瀏覽器 的請求包 1 ie的 去掉,這樣會使用fiddler的 去掉 之後一般就可以抓到ie的包了。很常見!另外,此時基於ie核心的瀏覽器可能還不行,比如我用的115br,瀏覽器關掉重啟下就可以了。a 檢查是否配置了某些filter過濾規則 很常見!b ...