Hadoop架構分析

2021-06-22 09:27:16 字數 404 閱讀 8871

1.hadoop有許多元素構成。最底部是hadoop distributed file system(hdfs),它儲存hadoop集群中所有儲存節點上的檔案,與hdfs相關的服務有namenode、secondarynamenode以及datanode;hdfs(對於文字)的上一層是mapreduce引擎,該引擎由jobtrachers和tasktrachers組成。

2.hadoop集群中有兩種角色:master和salve,master又分為主master和次master。

1) 主master同時提供namenode、secondnamenode和jobtracher三種服務。

2) 次master只提供secondnamenode服務。

3) 所有的salve可以提供datanode 或tasktracher兩種服務。

Hadoop學習筆記(九)HDFS架構分析

巨大的分布式檔案系統 10pb以上,萬個以上節點 執行於普通硬體 檔案多重備份,探測失敗和錯誤恢復 優化批處理 資料暴漏位置,以便計算能夠挪到資料附近 提供高舉和的頻寬 使用者控制項可以位於異構的作業系統中 在整個集群中使用單一的命名空間 資料一致性 寫入一次讀取多次的訪問模型 客戶端只能追加已有的...

Hadoop簡介及架構

狹義上來說,hadoop就是單獨指代hadoop這個軟體,廣義上來說,hadoop指代大資料的乙個生態圈,包括很多其他的軟體 0.x系列版本 hadoop當中最早的乙個開源版本,在此基礎上演變而來的1.x以及2.x的版本 1.x版本系列 hadoop版本當中的第二代開源版本,主要修復0.x版本的一些...

Hadoop的組成架構

1 namenode nn 儲存檔案的元資料,如檔名,檔案目錄結構,檔案屬性 生成時間,副本數,檔案許可權 以及每個檔案的快列表和快所在的datanode等 2 datanode dn 在本地檔案系統儲存檔案塊資料,以及塊資料的校驗 3 secondarynamenode 2nn 每隔一段時間對na...