./hdfs dfs -help
ls
./hdfs dfs -ls /log/map
./hdfs dfs -lsr /log
/ (遞迴的)
./hdfs dfs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user
/hadoop/dir1
./hdfs dfs -mv /user/hadoop/file1 /user/hadoop/file2
./hdfs dfs -cp /user/hadoop/file1 /user/hadoop/file2 (將檔案從源路徑複製到目標路徑。
這個命令允許有多個源路徑,此時目標路徑必須是乙個目錄。)
./hdfs dfs -rmr /log/map1 (遞迴刪除)
./hdfs dfs -put test.txt /log/map
/
./hdfs dfs -copyfromlocal /usr/data/text.txt /log/map1/ (將本地的text.txt 複製到hdfs的/log/map1/下)
./hdfs dfs -movefromlocal /usr/data/text.txt /log/map1/ (將本地的text.txt移動到hdfs的/log/map1/下)
./hdfs dfs -get /log/map1/* . (複製到本地當前目錄下)
/hdfs dfs -get /log/map1/* /usr/data (將hdfs下的/log/map1/下的所有檔案全部複製到本地的/usr/data/下 )
./hdfs dfs -cat /log/map1/part-
00000
| head (讀取hdfs上的/log/map1下的part-
00000檔案 head引數,代表前十行。)
/hdfs dfs -tail /log/map1/part-
00000 (檢視檔案的最後一千行)
./hdfs dfs -mkdir
-p /dir1/dir11/dir111
./hdfs dfs -cat /log/testlog/* | grep 過濾字段
Hadoop分布式檔案系統HDFS
2018年4月21號 主要概述 hdfs是以流式資料訪問模式來儲存超大檔案。執行於商用硬體集群上的 詳細解析 1 超大檔案 就是單個檔案達到幾百mb至幾百tb甚至pb的檔案。2 3 商用硬體集群上 商用硬體就是不貴也不是高可靠的硬體裝置。就是容錯性好,個別節點掛了,對整個系統不產生任何影響,主要是靠...
分布式檔案系統
分布式檔案系統 概述 系統管理員可以利用分布式檔案系統 dfs 使使用者訪問和管理那些物理上跨網路分布的檔案更加容易。通過 dfs,可以使分布在多個伺服器上的檔案在使用者面前顯示時,就如同位於網路上的乙個位置。使用者在訪問檔案時不再需要知道和指定它們的實際物理位置。例如,如果您的銷售資料分散在某個域...
分布式檔案系統
常見的分布式檔案系統有,gfs hdfs lustre ceph gridfs mogilefs tfs fastdfs等。各自適用於不同的領域。它們都不是系統級的分布式檔案系統,而是應用級的分布式檔案儲存服務。google學術 這是眾多分布式檔案系統的起源 google file system 大...