hadoop學習筆記3 yarn

2021-10-19 18:15:32 字數 1172 閱讀 6063

1.管理多種大資料框架spark hive等

使得不同框架之間資源共享,減少資源浪費

2.誕生原因

為了執行多種框架,比如想引入spark計算引擎,才導致了yarn的誕生

3.yarn縮寫

yet another resource negotiator(協作) 

使得*** on yarn  如spark on yarn;storm on yarn

使得資源按需分配,充分利用資源

客戶端類似與datanode,負責本身節點的資源管理

向resourcemanager匯報資訊

負責接受處理resoucemanager傳達的任務

resourcemanager和nodemanager之間,也是保持聯絡

容器

yarn啟動之後,用jps檢視,有resourcemanger,nodemanager

並且web訪問http://ip:8088/

用hadoop提供的包提交mapreduce作業

包路徑cd $hadoop_home/share/hadoop/mapreduce/

有乙個自帶的測試包hadoop-mapreduce-examples-3.1.4.jar

命令:(不會的話就輸入乙個單詞一回車,有提示,下邊的pi只是按照它提示進行的乙個操作)

hadoop jar hadoop-mapreduce-examples-3.1.4.jar pi 2 3

之所以做這一步是因為為了測試在yarn控制台上可以看到他的執行過程

我當時環境有點問題執行失敗了

Hadoop學習筆記 YARN

yarn產生背景 為什麼會產生yran?這個與mapreduce1.x的架構有關,正是因為mapreduce1.x存在許多的問題,才會產生 yarn。mapreduce1.x的架構如下 hadoop1.x時,mapreduce的架構仍然是主從架構。乙個jobtracker帶多個tasktracker...

Hadoop學習筆記之YARN

yarn service框架提供了一流的支援和api,可以在yarn中本地化時間執行的服務。簡而言之 in a nutshell 它作為乙個容器編排平台,用於管理yarn上的貨櫃化服務。它支援yarn中的docker容器和傳統的基於程序的容器。該框架的職責包括執行配置解決方案和安裝,生命週期管理 如...

Hadoop學習筆記 3

從jar包中提取預設配置 master node就是name node master node會通過ssh將命令傳送到其他data node。分離啟動secondarynamenode 配置檔案hdfs site.xml,在node3上啟動secondarynamenode程序。將hdfs site...