1.hdfs集群狀態檢視
hdfs dfsadmin -report
2.目錄資訊檢視
hdfs dfs -ls / (這是新的寫法)
hadoop fs -ls / (這是舊的寫法)
3.上傳檔案
hdfs dfs -put /root/a.txt /aaa/
或 hdfs dfs -copyfromlocal /root/a.txt /aaa/a.txt.2 (上傳並改名字)
4.建立目錄
hdfs dfs -mkdir -p /aaa/bbb
或hadoop fs -mkdir -p /aaa/bbb
hdfs dfs -get /aaa/a.txt /home/
或hdfs dfs -copytolocal /aaa/a.txt /home/
6.移動檔案
hdfs dfs -mv /aaa/a.txt /aaa/bbb/
移動的時候可以改名:
hdfs dfs -mv /aaa/bbb/a.txt /aaa/a2.txt
如果只想改名字,那就路徑一樣,只換名字
hdfs dfs -mv /aaa/a2.txt /aaa/a3.txt
7.刪除檔案
hdfs dfs -rm -r /aaa (如果要刪除目錄才需要加 -r) 刪除aaa目錄本身以及目錄下的所有東西
如果只想刪除目錄下的乙個檔案也可以這樣用
hdfs dfs -rm -r /aaa/a.txt
8.檢視檔案內容
hdfs dfs -cat /aaa/a.txt (只能看文字檔案,不可以看二進位制檔案)
hdfs dfs -tail -f /aaa/a.txt (-f 的意思是實時顯示檔案的新內容,
大資料 學習hdfs
hdfs是什麼?hadoop distributed file system,它是一種分布式檔案儲存系統,主要解決大資料的儲存問題。hdfs的優缺點 優點 缺點 hdfs的主要角色 namenode 簡稱nn 是hdfs的核心節點,最重要 主要功能是 接收客戶端的讀寫請求,接收datanode傳送的...
6HDFS的讀寫流程及多執行緒寫問題
了解hdfs的讀寫流程,首先要了解block package chunk的概念。在讀取過程中,如果fsdatainputstream在和乙個datanode進行交流時出現了乙個錯誤,它就去試一試下乙個最接近的塊,同時也會記住剛才發生錯誤的datanode,之後便不會再在這個datanode上進行沒必...
大資料學習 關於hdfs
高容錯性 適合處理大資料 可構建在廉價機器上 不適合低延時資料訪問 無法高效的對大量小檔案進行儲存 儲存大量小檔案的話,它會占用namenode大量的記憶體來儲存檔案目錄和塊資訊。小檔案儲存的定址時間會超過讀取時間 不支援併發寫入 檔案隨機修改 乙個檔案只能有乙個寫,不允許多個執行緒同時寫 data...