簡單搞定NameNode和DataNode執行機制

2021-08-05 19:33:17 字數 1680 閱讀 1807

namenode&secondary namenode

工作機制

文字總結:

1)第一階段:

namenode啟動

1)第一次啟動

namenode

格式化後,建立

fsimage

和edits

檔案。如果不是第一次啟動,直接載入編輯日誌和映象檔案到記憶體。(2

)客戶端對元資料進行增刪改查的請求(3

)namenode

記錄操作日誌,更新滾動日誌。 (

4)namenode

在記憶體中對資料進行增刪改查

2

)第二階段:

secondary namenode工作

(1

)secondary namenode

詢問namenode

是否需要

checkpoint

。直接帶回

namenode

是否檢查結果。

(2

)secondary namenode

請求執行

checkpoint

(3

)namenode

滾動正在寫的

edits

日誌

(4

)將滾動前的編輯日誌和映象檔案拷貝到

secondary namenode

(5

)secondary namenode

載入編輯日誌和映象檔案到記憶體,並合併。

(6

)生成新的映象檔案

fsimage.chkpoint

(7

)拷貝fsimage.chkpoint

到namenode (

8)namenode

將fsimage.chkpoint

重新命名成

1)乙個資料塊在

datanode

上以檔案形式儲存在磁碟上,包括兩個檔案,乙個是資料本身,乙個是元資料報括資料塊的長度,塊資料的校驗和,以及時間戳。2)

datanode

啟動後向

namenode

註冊,通過後,週期性(

1小時)的向

namenode

上報所有的塊資訊。

3)心跳是每

3秒一次,心跳返回結果帶有

namenode

給該datanode

的命令如複製塊資料到另一台機器,或刪除某個資料塊。如果超過

10分鐘沒有收到某個

datanode

的心跳,則認為該節點不可用。

4)集群執行中可以安全加入和退出一些機器

namenode和datanode執行原理

hdfs集群中有兩類節點 工作節點datanode 管理節點namenode namenode管理檔案系統的命名空間,它維護著檔案系統樹以及該樹所有的檔案和目錄。這些資訊以兩個檔案形式永久儲存在本地磁碟上,分別是命名空間映象檔案和編輯日誌檔案。namenode記錄著每個檔案系統中各個塊所在的資料節點...

NameNode中的Fsimage和Edits解析

在在 opt module hadoop 2.7.2 data tmp dfs name current 目錄下 1.fsimage檔案 hdfs檔案系統元資料的乙個永久性的檢查點,其中包含hdfs檔案系統的所有目錄和檔案idnode的序列化資訊 2.fsimage.md5檔案 是映象檔案的 md5...

NameNode和DataNode間的聯絡

本文內容還是 自 吳超沉思錄裡的,還是挺佩服吳超老師的o o 以下介紹namenode和datanode所扮演的角色 1 namenode namenode的作用是管理檔案目錄結構,是管理資料節點的。namenode維護兩套資料 一套是檔案目錄與資料塊之間的關係,另一套是資料塊與節點間的關係。前一套...