大資料學習之路6 hdfs的命令列客戶端常用操作

2021-08-21 22:37:23 字數 916 閱讀 9890

1.hdfs集群狀態檢視

hdfs dfsadmin -report

2.目錄資訊檢視

hdfs dfs -ls /     (這是新的寫法)

hadoop fs -ls / (這是舊的寫法)

3.上傳檔案

hdfs dfs -put  /root/a.txt   /aaa/

或 hdfs dfs -copyfromlocal /root/a.txt    /aaa/a.txt.2   (上傳並改名字)

4.建立目錄

hdfs dfs -mkdir -p /aaa/bbb

或hadoop fs -mkdir -p /aaa/bbb

hdfs dfs  -get /aaa/a.txt  /home/

或hdfs dfs -copytolocal /aaa/a.txt   /home/

6.移動檔案

hdfs dfs  -mv /aaa/a.txt   /aaa/bbb/

移動的時候可以改名:

hdfs dfs  -mv /aaa/bbb/a.txt   /aaa/a2.txt

如果只想改名字,那就路徑一樣,只換名字

hdfs dfs  -mv /aaa/a2.txt    /aaa/a3.txt

7.刪除檔案

hdfs dfs -rm  -r /aaa  (如果要刪除目錄才需要加 -r) 刪除aaa目錄本身以及目錄下的所有東西

如果只想刪除目錄下的乙個檔案也可以這樣用

hdfs dfs  -rm -r /aaa/a.txt

8.檢視檔案內容

hdfs  dfs -cat  /aaa/a.txt    (只能看文字檔案,不可以看二進位制檔案)

hdfs dfs  -tail  -f   /aaa/a.txt (-f   的意思是實時顯示檔案的新內容,

大資料 學習hdfs

hdfs是什麼?hadoop distributed file system,它是一種分布式檔案儲存系統,主要解決大資料的儲存問題。hdfs的優缺點 優點 缺點 hdfs的主要角色 namenode 簡稱nn 是hdfs的核心節點,最重要 主要功能是 接收客戶端的讀寫請求,接收datanode傳送的...

6HDFS的讀寫流程及多執行緒寫問題

了解hdfs的讀寫流程,首先要了解block package chunk的概念。在讀取過程中,如果fsdatainputstream在和乙個datanode進行交流時出現了乙個錯誤,它就去試一試下乙個最接近的塊,同時也會記住剛才發生錯誤的datanode,之後便不會再在這個datanode上進行沒必...

大資料學習 關於hdfs

高容錯性 適合處理大資料 可構建在廉價機器上 不適合低延時資料訪問 無法高效的對大量小檔案進行儲存 儲存大量小檔案的話,它會占用namenode大量的記憶體來儲存檔案目錄和塊資訊。小檔案儲存的定址時間會超過讀取時間 不支援併發寫入 檔案隨機修改 乙個檔案只能有乙個寫,不允許多個執行緒同時寫 data...