目錄
1.先關閉nodemanager 、resourcemanager和historymanager
2.配置yarn-site.xml
3.啟動nodemanager 、resourcemanager和historymanager
4.刪除hdfs上已經存在的輸出檔案
5.執行wordcount程式
日誌聚集概念:應用執行完成以後,將程式執行日誌資訊上傳到hdfs系統上。
日誌聚集功能好處:可以方便的檢視到程式執行詳情,方便開發除錯。
注意
:開啟日誌聚集功能,
需要重新啟動nodemanager 、resourcemanager和historymanager
。配置完成後,可以點開下圖的logs。
開啟日誌聚集功能具體步驟如下:
注意:需要先刪除輸出檔案,才能重新執行程式
[root@hadoop01 hadoop-2.7.3]# bin/hdfs dfs -rm -r /user/atguigu/output
[root@hadoop01 hadoop-2.7.3]# hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /user/atguigu/input /user/atguigu/output
可以檢視logs資訊。
也可以在系統裡輸入命令檢視logs。
Hadoop客戶端環境配置
1.安裝客戶端 通過端使用者可以方便的和集 互 2.修改客戶端 bashrc alias hadoop home work hadoop client hadoop client hadoop bin hadoop hadoop 可執行檔案位置 alias hls hadoop fs ls alia...
hadoop配置歷史伺服器 配置日誌聚集
配置歷史伺服器 1 在mapred site.xml中寫入一下配置 property name mapreduce.jobhistory.address name value hadoop101 10020 value property property name name value hadoop...
rocketmq客戶端日誌配置
rocketmq客戶端會列印一些日誌如消費進度,心跳等,預設的是滾動10個日誌檔案,每個100mb,又一次看到這個日誌目錄有幾十gb,手動刪除,但是悲劇的是rocketmq沒有釋放這個日誌目錄,導致不能真正的釋放磁碟空間。於是研究了下怎麼配置rocketmq客戶端日誌配置。客戶端日誌配置client...