hadoop指令碼命令開始位置有兩種寫法:hadoop fs 和hdfs dfs,其中hdfs dfs為hadoop1中命令,在hadoop2和hadoop3中也可以用,hadoop fs為hadoop2和hadoop3中命令。
以下文章中的中括號()表示為可選項,可加可不帶,中括號中字母或單詞有特殊功能和含義。
1、-ls:
(1)hadoop fs -ls 例子: hadoop fs -ls / 檢視根目錄檔案,顯示檔案大小單為為b
(2)hadoop fs -ls -h 例子: hadoop fs -ls -h / 檢視根目錄檔案,顯示檔案大小單會自動顯示,h為human簡寫,代表人性化。
(3)hadoop fs -ls -r 例子: hadoop fs -ls -r / 檢視根目錄檔案,包括所有檔案的子子孫孫檔案,r為recursion簡寫,代表遞迴。
2、-mkdir:
(1)hadoop fs -mkdir 例子:hadoop fs -mkdir /aa/bb 在指定路徑下建立資料夾,當父目錄不存在時,建立失敗。
(2)hadoop fs -mkdir -p 例子:hadoop fs -mkdir -p /aa/bb 在指定路徑下建立資料夾,當父目錄不存在時,會自動建立父目錄,p代表parent。
3、-put:
(1) hadoop fs -put 例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統。
(2) hadoop fs -put -f 例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統,如果目的地已經存在則覆蓋目的地檔案或資料夾。
(3) hadoop fs -put -p 例子:hadoop fs -put a.txt /將單個或多個檔案或資料夾從本地複製到目標檔案系統,保留訪問和修改時間,所有權和許可權。
4、-get:
hadoop fs -get [-ignorecrc] [-crc] [-p] [-f] :從hadoop複製檔案或資料夾至本地。
例子:hadoop fs -get hdfs://node-1:9000/aa /root/dest
6、-cat:
hadoop fs -cat [ignorecrc] uri:檢視hadoop檔案中的內容,
例子:hadoop fs -cat hdfs://node-1:9000/aa/bb/1.txt
7、-tail:
hadoop fs -tail [-f] uri
(1)hadoop fs -tail uri :將檔案最後一千字顯示到stout,例子:hadoop fs -tail hdfs://node-1:9000/aa/bb/1.txt。
(2)hadoop fs -tail -f uri :將檔案左後一千字顯示到stout,當檔案內容增加時,會動態顯示新增的內容,例子:hadoop fs -tail -f hdfs://node-1:9000/aa/bb/1.txt。
8、-chgrp:
hadoop fs -chgrp [r] group uri:更改檔案組的關聯。使用者必須是檔案的所有者,否則是超級使用者。-r將使改變在目錄結構下遞迴進行。
例子:hadoop fs -chgroup othergroup /hadoop/hadoopfile
9、-chmod:
改變檔案的許可權。使用-r將使改變在目錄結構下遞迴進行。
例子:hadoop fs -chmod 777 hdfs://node-1:9000/aa/bb/1.txt
10、-chown:
改變檔案的擁有者。使用-r將使改變在目錄結構下遞迴進行。
例子:hadoop fs -chown someuser:somegrp /hadoop/hadoopfile
11、-copyfromlocal:該命令可以被-put取代
從本地檔案系統中拷貝檔案到hdfs路徑去
例子:hadoop fs -copyfromlocal /root/1.txt /
12、-copytolocal:該命令可以被-get取代
從hdfs拷貝到本地
例子:hadoop fs -copytolocal /1.txt /root
13、-getmerge:
例子:hadoop fs -getmerge /aaa/log.* ./log.sum
14、-rm:
刪除指定檔案。只刪除非空資料夾和檔案。-r遞迴刪除,可以刪除非空的資料夾。
例子:hadoop fs -rm -r /aaa/bbb/
15、-df:
統計檔案系統的可用空間資訊
例子:hadoop fs -df -h /
16、-du:
顯示目錄中所有檔案大小,當只指定乙個檔案時,顯示此檔案的大小
例子:hadoop fs -du /user/
17、-setrep:
改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。
例子:hadoop fs -setrep -w 3 -r /aa/bb/
Hadoop 之shell常用命令
hdfs dfs ls 遞迴檢視目錄下的所有檔案包括子資料夾裡面的檔案 hdfs dfs ls r hdfs dfs mkdir test 級聯建立資料夾 hdfs dfs mkdir p test abc def hdfs dfs put a.txt hello 從本地剪下檔案到hdfs上 hdf...
Hadoop的shell常用操作
1.啟動 關閉hadoop集群 2.檢視hdfs上的檔案和目錄 hadoop fs ls r 3.在hdfs上建立資料夾 hadoop fs mkdir p test name4.上傳檔案 hadoop fs put source 本地檔案路徑 dest hdfs路徑 hadoop fs get s...
Hadoop二 Hadoop常用命令
以hadoop執行hadoop自帶的wordcount為例,hadoop指令碼位於 home hadoop hadoop 2.5.2 bin hadoop,需要說明的是,這些命令的使用必須在hadoop已經執行的情況下才能執行 列出hdfs檔案系統的第一級檔案和第一級目錄,如 hadoop hado...