HDFS中namenode元資料管理機制

2021-09-11 22:10:16 字數 571 閱讀 4039

元資料:

包含兩個內容

1) filename

2) block塊儲存位置 --> 剛開啟hdfs時,datanode匯報塊儲存主機位置。

如圖所示:

1、當client向namenode發出更新元資料請求時,namenode會根據更新的資料內容存放位置等更新好元資料。而每次做的更新操作都會被記錄到edits中。

2、secondarynamenode每隔一段時間(預設為30分鐘)去詢問一次namenode,看看是否需要合併(checkpoint),當namenode上的操作日誌大到一定程度,會告訴secondarynamenode需要合併。

3、此時namenode會滾動當前正在操作的日誌檔案edits.inprogress。

5、secondarynamenode會將記憶體中合併後的元資料存到硬碟,序列化上傳到namenode,最後namenode會將secondarynamenode上傳的元資料存到映象檔案fsimage中,這樣映象檔案就達到了備份的效果。

HDFS之namenode管理元資料機制及一些問題

namenode對資料的管理採用了三種儲存形式 記憶體元資料 namesystem 磁碟元資料映象檔案 資料操作日誌檔案 可通過日誌運算出元資料 元素據儲存機制 1 記憶體中有乙份完整的元資料 記憶體meta data 2 磁碟有乙個 準完整 的元資料映象 fsimage 檔案 在namenode的...

HDFS及NameNode元資料管理機制細節

namenode是 整個檔案系統的管理節點。它維護著整個檔案系統的檔案目錄樹,檔案 目錄的元資訊和每個檔案對應的資料塊列表。接收使用者的操作請求。檔案包括 fsimage 元資料映象檔案。儲存某一時段namenode記憶體元資料資訊。edits 操作日誌檔案。fstime 儲存最近一次checkpo...

HDFS中NameNode的啟動過程

namenode儲存檔案系統元資料映象,namenode在記憶體及磁碟上分別存在乙份元資料映象檔案,記憶體中元資料映象保證了hdfs檔案系統檔案訪問效率,磁碟上的元資料映象保證了hdfs檔案系統的安全性。namenode在磁碟上的檔案組成 fsimage檔案 儲存檔案系統至上次checkpoint為...