HDFS讀寫資料流程

2021-10-08 03:54:27 字數 451 閱讀 4946

hdfs寫資料流程

client向namenode申請寫資料

namenode檢查許可權、是否存在該檔案等,返回是否可以上傳

如果namenode返回可以上傳,client申請上傳第乙個block,請求返回datanode

namenode返回三個datanode位址

client請求向dn1,dn2,dn3建立通道

dn3,dn2,dn1響應

上傳block到dn1,再由dn1複製到dn2,然後dn2複製到dn3

重複3-7直至所有block上傳完為止

hdfs讀資料流程

namenode返回目標檔案元資料

client向datanode申請第乙個block

datanode傳輸第乙個block

client向datanode申請第二個block

datanode傳輸第二個block

HDFS讀寫資料流程

步驟 1 客戶端通過 distributed filesystem 模組向namenode請求上傳檔案,namenode檢查目標檔案是否已存在,父目錄是否存在。2 namenode返回是否可以上傳。3 客戶端請求第乙個 block 上傳到哪幾個 datanode 伺服器上。4 namenode返回3...

HDFS 讀寫資料流程

1.網路節點距離 機架感知 下圖中 client 到 dn1 的距離為 4 client 到 nn 的距離為 3 dn1 到 dn2 的距離為 2 2.block 的副本放置策略 namenode 通過 hadoop rack awareness 確定每個 datanode 所屬的機架 id 簡單但...

HDFS 讀 寫資料流程

客戶端通過 distributed filesystem 模組向 namenode 請求上傳檔案,namenode 檢查目標檔案是否已存在,父目錄是否存在 namenode 返回是否可以上傳 客戶端請求namenode,獲取第乙個 block 上傳到哪幾個 datanode 伺服器上 namenod...