Hadoop生態之Yarn知識點總結

2021-09-09 06:28:00 字數 685 閱讀 3571

乙個集群active狀態的rm只有乙個,負責整個集群的資源管理和排程

1)定期向rm匯報本節點的資源使用請求和各個container的執行狀態

2)接收並處理rm的container啟停的各種命令

3)單個節點的資源管理和任務管理

整個集群中有n個,負責單個節點的資源管理和使用以及task的運**況

1)資料切分

2)為應用程式向rm申請資源(container),並分配給內部任務

3)與nm通訊以啟停task, task是執行在container中的

4)task的監控和容錯

每個應用/作業對應乙個,負責應用程式的管理

對任務運**況的描述:cpu、memory、環境變數

1)使用者向yarn提交作業

2)rm為該作業分配第乙個container(am)

3)rm會與對應的nm通訊,要求nm在這個container上啟動應用程式的am

4)  am首先向rm註冊,然後am將為各個任務申請資源,並監控運**況

5)am採用輪訓的方式通過rpc協議向rm申請和領取資源

6)am申請到資源以後,便和相應的nm通訊,要求nm啟動任務

7)nm啟動我們作業對應的task

hadoop之 yarn (簡單了解)

yarn通過兩個 守護執行緒提供核心服務 resourcemanager,管理集群所有資源的切分以及作業的排程與監控 nodemanager,執行在集群所有節點上,啟動並監控容器的執行狀況,並負責向resourcemanager匯報。在linux上,hadoop是通過cgroup技術實現contai...

Hadoop核心元件之YARN

作業系統級別的排程框架,可以讓各種計算框架執行在上面 yarn 不同計算框架可以共享同乙個hdfs集群上的資料,享受整體的資源排程 on yarn的好處 與其他計算框架共享集群資源,按資源需要分配,進而提高集群資源的利用率 spark mapreduce storm flink 1 resource...

Hadoop學習筆記之YARN

yarn service框架提供了一流的支援和api,可以在yarn中本地化時間執行的服務。簡而言之 in a nutshell 它作為乙個容器編排平台,用於管理yarn上的貨櫃化服務。它支援yarn中的docker容器和傳統的基於程序的容器。該框架的職責包括執行配置解決方案和安裝,生命週期管理 如...