yarn安裝與測試

2021-08-01 19:01:38 字數 1627 閱讀 6661

1,配置計算排程系統yarn和計算引擎map/redece

2. namenode配置mapred-site.xml

<property>

<name>mapreduce.framework.name

<value>yarn

3.節點配置yarn-site.xml

<property>

<name>yarn.resourcemanager.hostname

<value>master

<property>

<name>yarn.nodemanager.aux-services

<value>mapreduce_shuffle

<property>

<name>yarn.nodemanager.auxservices.mapreduce.shuffle.class

<value>org.apache.hadoop.mapred.shufflehandler

4.啟動yarn集群

start-yarn.sh

5.執行jsp觀察集群結果

6.可以使用yarn-daemon.sh單獨啟動resourcemanager和nodemanager

7.通過網頁http://master:8000/觀察yarn集群

8.find /usr/local/hadoop -name *example*.jar查詢示例檔案

9.通過hadoop.jar ***.jar wordcount /input   /output 來執行示例程式

10.通過網頁來觀察該job的運**況

11.hadoop job -kill job_id   -->mapred job -kill   job_id  mapred job -list

12.yarn-site 如果是集中啟動,其實只需要在管理機上配置一分即可,但是如果單獨啟動,需要每台機器乙份,在網頁上可以看到當前機器的配置,以及這個配置的**

YARN配置與測試

概述 本文介紹yarn環境配置,並實現塞繆爾 厄爾曼 青春 的詞頻統計 1 修改mapred site.xml cp mapred site.xml.template mapred site.xml mapreduce.framework.name yarn 2 修改yarn site.xml ya...

YARN的搭建與測試

集群規劃 配置 修改配置檔案mapred sitex.xml mapreduce.framework.name yarn true 修改配置檔案yarn site.xml yarn.nodemanager.aux services mapreduce shuffle yarn.resourceman...

windows下Yarn安裝與使用

方法一 使用安裝包安裝 方法二 使用npm安裝 npm i yarn g i install g 全域性安裝 global 使用 g 或 global 輸入yarn version 可以看到版本號,說明安裝成功了。我們就可以在專案中像使用npm一樣使用yarn了。圖1 npm安裝腳手架 圖2 yar...