問題簡介:
搭建hadoop集群環境的過程中,主節點沒問題。datanode和tasktracker老是啟動不起來。
具體現象:
1 start.sh後datanode節點出core
2 日誌檔案說明 libhadoop.so 沒有 an unkown value
3 排查各種配置。
4 最後通過網上查詢和跟同事溝通,定位到本地庫的編譯問題。
處理步驟:
1 反覆檢查配置檔案。徒勞無貨。
3 ant編譯需要外網環境,配置外網環境。
4 預設ant之後,沒有libhadoop.so
5 懷疑是否是編譯問題。
6 跟同事溝通,確認編譯問題無疑
7 網上搜尋,需要ant native-complie
8 發現libhadoop檔案,重新部署。
9 成功執行
RN 環境搭建出現的問題
在rn 的環境中配置出現問題,crn 封裝的rn 的資訊,出現問題,通常會執行crn cli run patch 去解決,但是發現實際使用過程中crn cli 的命令找不到,是node 的版本 不一致導致的,解決方案!1 刪除原有node brew remove force node sudo rm...
Hadoop環境搭建(二)
一 yarn的配置 啟動命令 sbin yarn daemon.sh start resourcemanager sbin yarn daemon.sh start nodemanager 二 配置mapreduce 三 執行mapreduce程式案例 要求 寫mr程式的一定要有輸入和輸出的路徑 準...
Hadoop環境的搭建
格式化 bin hdfs namenode format可能遇到的問題 在建立臨時檔案的時候沒有許可權 解決方案 sudo chmod r a w opt namendoe 和datanode的都有乙個集群id不同的問題datanode是根據集群id去找集群。如果我們在啟動集群的時候,datanod...