hadoop環境為一主三從,在namenode上啟用yarn,配置yarn-site.xml,三個從節點yarn-site.xml配置檔案為空。
yarn-site.xml的內容如下
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.aux-services.mapreduce.shuffle.class
org.apache.hadoop.mapred.shufflehandler
yarn.resourcemanager.address
node01:8032
yarn.resourcemanager.scheduler.address
node01:8030
yarn.resourcemanager.resource-tracker.address
node01:8035
yarn.resourcemanager.admin.address
node01:8033
錯誤重現:在執行hadoop自帶例項程式,命令如下
yarn jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar pi 2 1
輸出資訊卡死在「info mapreduce.job: running job: *********」
vi hadoop/logs/yarn-root-nodemanager-node03.log
發現裡面有如下問題
2019-10-18 23:21:36,604 info org.apache.hadoop.ipc.client: retrying connect to server: 0.0.0.0/0.0.0.0:8031. already tried 9 time(s); retry policy is retryuptomaximumcountwithfixedsleep(maxretries=10, sleeptime=1000 milliseconds)
解決方法:在每個從節點上配置與namenode相同的yarn-site.xml引數
這個錯誤的意思是 hadoop節點時間的時間不同步
解決方法:通過以下命令將每個節點的時間都設為一致
date -s '2019-10-18 22:49:00'
Hadoop集群配置 啟動YARN
本篇在 hadoop集群啟動hdfs 的基礎上繼續配置 配置mapred site.xml 複製mapred site.xml.template配置模板生成mapred site.xml cp usr local hadoop hadoop 2.9.2 etc hadoop mapred site....
Hadoop學習筆記 YARN
yarn產生背景 為什麼會產生yran?這個與mapreduce1.x的架構有關,正是因為mapreduce1.x存在許多的問題,才會產生 yarn。mapreduce1.x的架構如下 hadoop1.x時,mapreduce的架構仍然是主從架構。乙個jobtracker帶多個tasktracker...
Hadoop之yarn單節點安裝配置
開始之前請確保您已安裝並配置了hdfs 1 修改yarn的核心配置檔案 root master hadoop 2.7.6 vi etc hadoop mapred site.xml mapreduce.framework.name yarn root master hadoop 2.7.6 vi e...