hadoop常用命令:
hadoop fs
檢視hadoop hdfs支援的所有命令
hadoop fs –ls
列出目錄及檔案資訊
hadoop fs –lsr
迴圈列出目錄、子目錄及檔案資訊
hadoop fs –put test.txt /user/sunlightcs
將本地檔案系統的test.txt複製到hdfs檔案系統的/user/sunlightcs目錄下
hadoop fs –get /user/sunlightcs/test.txt .
將hdfs中的test.txt複製到本地檔案系統中,與-put命令相反
hadoop fs –cat /user/sunlightcs/test.txt
檢視hdfs檔案系統裡test.txt的內容
hadoop fs –tail /user/sunlightcs/test.txt
檢視最後1kb的內容
hadoop fs –rm /user/sunlightcs/test.txt
從hdfs檔案系統刪除test.txt檔案,rm命令也可以刪除空目錄
hadoop fs –rmr /user/sunlightcs
刪除/user/sunlightcs目錄以及所有子目錄
hadoop fs –copyfromlocal test.txt /user/sunlightcs/test.txt
從本地檔案系統複製檔案到hdfs檔案系統,等同於put命令
hadoop fs –copytolocal /user/sunlightcs/test.txt test.txt
從hdfs檔案系統複製檔案到本地檔案系統,等同於get命令
hadoop fs –chgrp [-r] /user/sunlightcs
修改hdfs系統中/user/sunlightcs目錄所屬群組,選項-r遞迴執行,跟linux命令一樣
hadoop fs –chown [-r] /user/sunlightcs
修改hdfs系統中/user/sunlightcs目錄擁有者,選項-r遞迴執行
hadoop fs –chmod [-r] mode /user/sunlightcs
修改hdfs系統中/user/sunlightcs目錄許可權,mode可以為相應許可權的3位數或+/-,選項-r遞迴執行
hadoop fs –count [-q] path
檢視path目錄下,子目錄數、檔案數、檔案大小、檔名/目錄名
hadoop fs –cp src [src …] dst
將檔案從src複製到dst,如果指定了多個src,則dst必須為乙個目錄
hadoop fs –du path
顯示該目錄中每個檔案或目錄的大小
hadoop fs –dus path
類似於du,path為目錄時,會顯示該目錄的總大小
hadoop fs –expunge
清空**站,檔案被刪除時,它首先會移到臨時目錄.trash/中,當超過延遲時間之後,檔案才會被永久刪除
hadoop fs –getmerge src [src …] localdst [addnl]
獲取由src指定的所有檔案,將它們合併為單個檔案,並寫入本地檔案系統中的localdst,選項addnl將在每個檔案的末尾處加上乙個換行符
hadoop fs –touchz path
建立長度為0的空檔案
hadoop fs –test –[ezd] path
對path進行如下型別的檢查:
-e path是否存在,如果path存在,返回0,否則返回1
-z 檔案是否為空,如果長度為0,返回0,否則返回1
-d 是否為目錄,如果path為目錄,返回0,否則返回1
hadoop fs –text path
顯示檔案的內容,當檔案為文字檔案時,等同於cat,檔案為壓縮格式(gzip以及hadoop的二進位制序列檔案格式)時,會先解壓縮
hadoop fs –help ls
檢視某個[ls]命令的幫助文件
hadoop集群 HDFS常用命令
1.準備工作 1 啟動hadoop集群 方便後續的測試 lmy hadoop102 hadoop 3.1.3 sbin start dfs.sh lmy hadoop103 hadoop 3.1.3 sbin start yarn.sh 2 help 輸出這個命令引數 lmy hadoop102 h...
hadoop的HDFS常用命令總結
注意 以下指的本地是 lunix虛擬機器的 檢視根目錄下的檔案列表 hdfs dfs ls 遞迴檢視根目錄下的檔案列表 hdfs dfs ls r 上傳本地檔案到hdfs的根目錄 hdfs dfs put export data logs log.txt 在hdfs上建立單級目錄 hdfs dfs ...
hadoop的hdfs檔案常用命令操作
在工作中最常用的就是使用hdfs提供的命令 使用hadoop fs help 就能顯示出所有的命令,並將其引數和用途顯示出來。hadoop命令可以直接當做是shell命令,其結果也可以使用shell命令進行操作,比如使用awk進行一些簡單的統計。將hadoop fs help的結果顯示出來的所有命令...