hdfs元資料儲存

2021-08-08 08:10:10 字數 350 閱讀 9212



====namenode如何儲存元資料

1.nn對元資料的管理分為三部分,記憶體中完整的元資料,磁碟中接近完整的元資料映象檔案(fsimage),記錄元資料操作資訊的edits檔案

2.snn通過配置,定時請求nn,進行checkpoint

3.nn接受到checkpoint請求,會立即滾動正在寫的edits檔案

5.snn將fsimage和edits檔案載入到記憶體中,由於edits記錄了操作日誌,根據記錄一條條的將fsimage合併成最新的元資料,並命名為fsimage.checkpoint

6.snn將新的檔案上傳到nn中,nn刪除原有的元資料檔案,並將新的元資料檔案改名,存在磁碟中

HDFS元資料

從形式上講,元資料可分為記憶體元資料和元資料檔案兩種。其中namenode在記憶體中維護整個檔案系統的元資料映象,用於hdfs的管理 元資料檔案則用於持久化儲存。從型別上講,元資料有三類重要資訊 第一類是檔案和目錄自身的屬性資訊,例如檔名 目錄名 父目錄資訊 檔案大小 建立時間 修改時間等。第二類記...

HDFS元資料管理

hdfs的目錄結構,包含哪些資料夾子資料夾,以及資料夾下面包含哪些檔案,以及每個檔案的block資訊 id,副本係數,block存放在那個datanode上 元資料存放在 name路徑下。在namenode的記憶體中有乙個樹形結構,存放的就是元資料資訊,對檔案的任何修改都在記憶體中有體現,但是如果機...

hdfs元資料管理

元資料就是檔案的建立時間 大小 許可權 塊列表等資訊。在hadoop集群中namenode的元資料資訊都儲存在了fslmage和eidts檔案中,這兩個檔案的目錄資訊就配置在hdfs site.xml檔案中。fsimage hdfs檔案系統存於硬碟中的元資料檢查點,裡面記錄了自最後一次檢查點之前hd...