呼叫檔案系統(fs)shell命令應使用bin/hadoop fs的形式。 所有的的fs shell命令使用uri路徑作為引數。uri格式是scheme://authority/path 。對 hdfs檔案系統,scheme是hdfs ,對本地檔案系統,scheme是file 。其中scheme和 authority引數都是可選的,如果未加指定,就會使用配置中指定的預設scheme。乙個hdfs檔案或目錄比如/parent/child可 以表示成hdfs://namenode:namenodeport/parent/child ,或者更簡單的/parent/child(假 設你配置檔案中的預設值是namenode:namenodeport )。大多數fs shell命令的行為和對應的unix shell命令類似,不同之處會在下面介紹各命令使用詳情時指出。出錯資訊會輸出到stderr ,其他資訊輸出到stdout 。
cat
使用方法:hadoop fs -cat uri [uri …]
將路徑指定檔案的內容輸出到stdout 。
示例:返回值:
成功返回0,失敗返回-1。
chgrp
使用方法:hadoop fs -chgrp [-r] group uri [uri …] change group association of files. with -r , make the change recursively through the directory structure. the user must be the owner of files, or else a super-user. additional information is in the
permissions user guide
. -->
改變檔案所屬的組。使用-r 將使改變在目錄結構下遞迴進行。命令的使用者必須是 檔案的所有者或者超級使用者。更多的資訊請參見
hdfs 許可權使用者指南
。chmod
使用方法:hadoop fs -chmod [-r] uri [uri …]
改變檔案的許可權。使用-r 將使改變在目錄結構下遞迴進行。命令的使用者必須是文 件的所有者或者超級使用者。更多的資訊請參見
hdfs 許可權使用者指南
。chown
使用方法:hadoop fs -chown [-r] [owner][:[group]] uri [uri ]
改變檔案的擁有者。使用-r 將使改變在目錄結構下遞迴進行。命令的使用者必須是 超級使用者。更多的資訊請參見
hdfs 許可權使用者指南
。copyfromlocal
使用方法:hadoop fs -copyfromlocal uri
除了限定源路徑是乙個本地檔案外,和
put
命 令相似。
copytolocal
使用方法:hadoop fs -copytolocal [-ignorecrc] [-crc] uri
除了限定目標路徑是乙個本地檔案外,和
get
命 令類似。cp
使用方法:hadoop fs -cp uri [uri …]
將檔案從源路徑複製到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。
示例:
返回值:
成功返回0,失敗返回-1。 du
使用方法:hadoop fs -du uri [uri …]
顯示目錄中所有檔案的大小,或者當只指定乙個檔案時,顯示此檔案的大小。
示例:hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1
返回值:
成功返回0,失敗返回-1。
dus使用方法:hadoop fs -dus
顯示檔案的大小。
expunge
使用方法:hadoop fs -expunge
清空**站。請參考
hdfs 設計
文件以獲取更多關於**站特性的資訊。
get
使用方法:hadoop fs -get [-ignorecrc] [-crc]
複製檔案到本地檔案系統。可用-ignorecrc 選項複製crc校驗失敗的文 件。使用-crc 選項複製檔案以及crc資訊。
示例:返回值:
成功返回0,失敗返回-1。
getmerge
使用方法:hadoop fs -getmerge [addnl]
接受乙個源目錄和乙個目標檔案作為輸入,並且將源目錄中所有的檔案連線成本地目標檔案。addnl 是 可選的,用於指定在每個檔案結尾新增乙個換行符。 ls
使用方法:hadoop fs -ls
如果是檔案,則按照如下格式返回檔案資訊:
檔名 《副本數》 檔案大小 修改日期 修改時間 許可權 使用者id 組id
如果是目錄,則返回它直接子檔案的乙個列表,就像在unix中一樣。目錄返回列表的資訊如下:
目錄名 修改日期 修改時間 許可權 使用者id 組id
示例:hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile
返回值:
成功返回0,失敗返回-1。
lsr使用方法:hadoop fs -lsr
ls 命令的遞迴版本。類似於unix中的ls -r 。
mkdir
使用方法:hadoop fs -mkdir
接受路徑指定的uri作為引數,建立這些目錄。其行為類似於unix的mkdir -p,它會建立路徑中的各級父目錄。
示例:返回值:
成功返回0,失敗返回-1。
movefromlocal
使用方法:dfs -movefromlocal
輸出乙個」not implemented「資訊。 mv
使用方法:hadoop fs -mv uri [uri …]
將檔案從源路徑移動到目標路徑。這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。不允許在不同的檔案系統間移動檔案。
示例:
返回值:
成功返回0,失敗返回-1。
put使用方法:hadoop fs -put ...
從本地檔案系統中複製單個或多個源路徑到目標檔案系統。也支援從標準輸入中讀取輸入寫入目標檔案系統。
返回值:
成功返回0,失敗返回-1。 rm
使用方法:hadoop fs -rm uri [uri …]
刪除指定的檔案。只刪除非空目錄和檔案。請參考rmr命令了解遞迴刪除。
示例:
返回值:
成功返回0,失敗返回-1。
rmr使用方法:hadoop fs -rmr uri [uri …]
delete的遞迴版本。
示例:
返回值:
成功返回0,失敗返回-1。
setrep
使用方法:hadoop fs -setrep [-r]
改變乙個檔案的副本係數。-r選項用於遞迴改變目錄下所有檔案的副本係數。
示例:返回值:
成功返回0,失敗返回-1。
stat
使用方法:hadoop fs -stat uri [uri …]
返回指定路徑的統計資訊。
示例:返回值:
成功返回0,失敗返回-1。
tail
使用方法:hadoop fs -tail [-f] uri
將檔案尾部1k位元組的內容輸出到stdout。支援-f選項,行為和unix中一致。
示例:返回值:
成功返回0,失敗返回-1。
test
使用方法:hadoop fs -test -[ezd] uri
選項:-e 檢查檔案是否存在。如果存在則返回0。
-z 檢查檔案是否是0位元組。如果是則返回0。
-d 如果路徑是個目錄,則返回1,否則返回0。
示例:text
使用方法:hadoop fs -text
將原始檔輸出為文字格式。允許的格式是zip和textrecordinputstream。
touchz
使用方法:hadoop fs -touchz uri [uri …]
建立乙個0位元組的空檔案。
示例:hadoop -touchz pathname
雲計算五大特點
1 支援異構基礎資源 雲計算可以構建在不同的基礎平台之上,即可以有效相容各種不同種類的硬體和軟體基礎資源。硬體基礎資源,主要包括網路環境下的三大類裝置,即 計算 伺服器 儲存 儲存裝置 和網路 交換機 路由器等裝置 軟體基礎資源,則包括單機作業系統 中介軟體 資料庫等。2 支援資源動態擴充套件 支援...
關於雲計算的五種誤解
誤解 1,雲計算是為了解決高效能計算問題 我們可以通過雲計算的資源整合來解決高算問題,但這並不是雲計算唯一的著眼點。雲計算解決的最大的現實問題是 it 系統的管理問題。具體體現在減少伺服器數量,從而節約伺服器採購成本,管理人工成本和能耗成本 加快計算 儲存 網路等資源的供給速度,簡化供給過程 以 及...
雲計算的五大優勢
按需自主服務是指客戶可以根據自己的需求,自主去和雲 商獲取所需要的服務。圖1 雲產品分類 廣泛的網路接入是指讓客戶可以在任何時間和任何地點接入網路並且獲取自己需要的服務 還是那位小馬。小馬想要租一台雲端伺服器,並不需要考慮現在的時間,以及他現在所在的位置。不管白天夜晚 也不管國內國外 只要有網路的時...