hdfs實現思想(機制)及hdfs shell

2021-10-02 05:13:33 字數 1986 閱讀 6620

hdfs的實現思想:

1.hdfs是通過分布式集群儲存檔案,為客戶端提供了乙個便捷的訪問方式,即虛擬的訪問目錄結構

2.檔案儲存到hdfs集群中去的時候是被切分成block(檔案資料)的

3.檔案的block存放在若干臺datanode節點上

4.hdfs檔案系統中的檔案與真實的block之間有對映關係,由namenode進行管理

5.每乙個block在集群中會儲存多個副本,好處是可以提高資料的可靠性,還可以提高訪問的吞吐量/併發能力

選項名稱

使用格式

含義-ls

-ls 《路徑》

檢視指定路徑的當前目錄結構

-lsr

-lsr 《路徑》

遞迴檢視指定路徑的目錄結構

-du-du 《路徑》

統計目錄下個檔案大小

-dus

-dus 《路徑》

匯**計目錄下檔案(夾)大小

-count

-count [-q] 《路徑》

統計檔案(夾)數量

-mv-mv 《源路徑》 《目的路徑》

移動-cp

-cp 《源路徑》 《目的路徑》

複製-rm

-rm [-skiptrash] 《路徑》

刪除檔案/空白資料夾

-rmr

-rmr [-skiptrash] 《路徑》

遞迴刪除

-put

-put 《多個 linux 上的檔案》 上傳檔案

-copyfromlocal

-copyfromlocal 《多個 linux 上的檔案》

從本地複製

-movefromlocal

-movefromlocal 《多個 linux 上的檔案》

從本地移動

-getmerge

-getmerge 《源路徑》 合併到本地

-cat

-cat 檢視檔案內容

-text

-text 檢視檔案內容

-copytolocal

-copytolocal [-ignorecrc] [-crc] [hdfs 源路

徑] [linux 目的路徑]

從本地複製

-movetolocal

-movetolocal [-crc] 目的路徑》

從本地移動

-mkdir

-mkdir 建立空白資料夾

-setrep

-setrep [-r] [-w] 《副本數》 《路徑》

修改副本數量

-touchz

-touchz 《檔案路徑》

建立空白檔案

-stat

-stat [format] 《路徑》

顯示檔案統計資訊

-tail

-tail [-f] 《檔案》

檢視檔案尾部資訊

-chmod

-chmod [-r] 《許可權模式》 [路徑]

修改許可權

-chown

-chown [-r] [屬主][:[屬組]] 路徑

修改屬主

-chgrp

-chgrp [-r] 屬組名稱 路徑

修改屬組

-help

-help [命令選項]

幫助注意:以上**中對於

路徑,包括 hdfs 中的路徑和 linux 中的路徑。對於容易產生歧義的地方,會特別指出「linux 路徑」或者「hdfs 路徑」。如果沒有明確指出,意味著是 hdfs 路徑。

HDFS的實現思想

hdfs是通過分布式集群儲存檔案,微客戶端提供了便捷的訪問方式,即虛擬的目錄結構 檔案儲存到hdfs集群中去的時候是被切分成block的 檔案的block存放在若干臺datanode節點中 hdfs檔案系統中的檔案與真實的block之間有對映關係,由namenode管理 每乙個block在集群中會存...

HDFS租約機制

在hdfs中,當每次客戶端使用者往某個檔案中寫入資料的時候,為了保持資料的一致性,此時其它客戶端程式是不允許向此檔案同時寫入資料的。那麼hdfs是如何做到這一點的呢?答案是租約 lease 換句話說,租約是hdfs給予客戶端的乙個寫檔案操作的臨時許可證,無此證件者將不被允許操作此檔案。本文我們將要深...

HDFS租約機制

hdfs中,當乙個客戶端往hdfs某個檔案寫入資料的時候,為了保持資料的一致性,其他客戶端是不允許同時寫入的。為了實現這一機制,hdfs引入了租約的概念。簡而言之,租約是hdfs 給與客戶端可以寫入某個檔案的臨時許可證,沒有此證件或者租約到期都不能繼續向該檔案寫入資料。一 租約的屬性或者要素 1 租...