hdfs的實現思想:
1.hdfs是通過分布式集群儲存檔案,為客戶端提供了乙個便捷的訪問方式,即虛擬的訪問目錄結構
2.檔案儲存到hdfs集群中去的時候是被切分成block(檔案資料)的
3.檔案的block存放在若干臺datanode節點上
4.hdfs檔案系統中的檔案與真實的block之間有對映關係,由namenode進行管理
5.每乙個block在集群中會儲存多個副本,好處是可以提高資料的可靠性,還可以提高訪問的吞吐量/併發能力
選項名稱
使用格式
含義-ls
-ls 《路徑》
檢視指定路徑的當前目錄結構
-lsr
-lsr 《路徑》
遞迴檢視指定路徑的目錄結構
-du-du 《路徑》
統計目錄下個檔案大小
-dus
-dus 《路徑》
匯**計目錄下檔案(夾)大小
-count
-count [-q] 《路徑》
統計檔案(夾)數量
-mv-mv 《源路徑》 《目的路徑》
移動-cp
-cp 《源路徑》 《目的路徑》
複製-rm
-rm [-skiptrash] 《路徑》
刪除檔案/空白資料夾
-rmr
-rmr [-skiptrash] 《路徑》
遞迴刪除
-put
-put 《多個 linux 上的檔案》 上傳檔案
-copyfromlocal
-copyfromlocal 《多個 linux 上的檔案》
從本地複製
-movefromlocal
-movefromlocal 《多個 linux 上的檔案》
從本地移動
-getmerge
-getmerge 《源路徑》 合併到本地
-cat
-cat 檢視檔案內容
-text
-text 檢視檔案內容
-copytolocal
-copytolocal [-ignorecrc] [-crc] [hdfs 源路
徑] [linux 目的路徑]
從本地複製
-movetolocal
-movetolocal [-crc] 目的路徑》
從本地移動
-mkdir
-mkdir 建立空白資料夾
-setrep
-setrep [-r] [-w] 《副本數》 《路徑》
修改副本數量
-touchz
-touchz 《檔案路徑》
建立空白檔案
-stat
-stat [format] 《路徑》
顯示檔案統計資訊
-tail
-tail [-f] 《檔案》
檢視檔案尾部資訊
-chmod
-chmod [-r] 《許可權模式》 [路徑]
修改許可權
-chown
-chown [-r] [屬主][:[屬組]] 路徑
修改屬主
-chgrp
-chgrp [-r] 屬組名稱 路徑
修改屬組
-help
-help [命令選項]
幫助注意:以上**中對於
路徑,包括 hdfs 中的路徑和 linux 中的路徑。對於容易產生歧義的地方,會特別指出「linux 路徑」或者「hdfs 路徑」。如果沒有明確指出,意味著是 hdfs 路徑。
HDFS的實現思想
hdfs是通過分布式集群儲存檔案,微客戶端提供了便捷的訪問方式,即虛擬的目錄結構 檔案儲存到hdfs集群中去的時候是被切分成block的 檔案的block存放在若干臺datanode節點中 hdfs檔案系統中的檔案與真實的block之間有對映關係,由namenode管理 每乙個block在集群中會存...
HDFS租約機制
在hdfs中,當每次客戶端使用者往某個檔案中寫入資料的時候,為了保持資料的一致性,此時其它客戶端程式是不允許向此檔案同時寫入資料的。那麼hdfs是如何做到這一點的呢?答案是租約 lease 換句話說,租約是hdfs給予客戶端的乙個寫檔案操作的臨時許可證,無此證件者將不被允許操作此檔案。本文我們將要深...
HDFS租約機制
hdfs中,當乙個客戶端往hdfs某個檔案寫入資料的時候,為了保持資料的一致性,其他客戶端是不允許同時寫入的。為了實現這一機制,hdfs引入了租約的概念。簡而言之,租約是hdfs 給與客戶端可以寫入某個檔案的臨時許可證,沒有此證件或者租約到期都不能繼續向該檔案寫入資料。一 租約的屬性或者要素 1 租...