黑猴子的家 Oozie 可能遇到的問題總結

2021-08-30 08:48:35 字數 742 閱讀 3139

mysql許可權配置

授權所有主機可以使用root使用者操作所有資料庫和資料表

mysql> grant all on . to root@'%' identified by '123456';

mysql> flush privileges;

mysql> exit;

workflow.xml配置的時候不要忽略file屬性

jps檢視程序時,注意有沒有bootstrap

關閉oozie

如果bin/oozied.sh stop無法關閉,則可以使用kill -9 [pid],之後oozie-server/temp/***.pid檔案一定要刪除。

oozie重新打包時,一定要注意先關閉程序,刪除對應資料夾下面的pid檔案。(可以參考第4條目)

配置檔案一定要生效

起始標籤和結束標籤無對應則不生效,配置檔案的屬性寫錯了,那麼則執行預設的屬性。

libext下邊的jar存放於某個資料夾中,導致share/lib建立不成功。

排程任務時,找不到指定的指令碼,可能是oozie-site.xml裡面的hadoop配置檔案沒有關聯上。

修改hadoop配置檔案,需要重啟集群。一定要記得scp到其他節點。

jobhistoryserver必須開啟,集群要重啟的。

mysql配置如果沒有生效的話,預設使用derby資料庫。

在本地修改完成的job配置,必須重新上傳到hdfs。

linux使用者名稱和hadoop的使用者名稱不一致。

黑猴子的家 Hadoop Checkpoint機制

fsimage和edit log合併的過程如下圖所示 其實這個合併過程是乙個很耗i o與cpu的操作,並且在進行合併的過程中肯定也會有其他應用繼續訪問和修改hdfs檔案。所以,這個過程一般不是在單一的namenode節點上進行從。如果hdfs沒有做ha的話,checkpoint由secondname...

黑猴子的家 FileInputFormat切片機制

1 job提交流程原始碼詳解 waitforcompletion submit 1 建立連線 connect 1 建立提交job的 new cluster getconfiguration 2 判斷是本地yarn還是遠端 initialize jobtrackaddr,conf 2 提交job su...

黑猴子的家 Zookeeper Java API

1 code github 2 環境準備 1 建立乙個工程 2 解壓zookeeper 3.4.10.tar.gz檔案 3 拷貝zookeeper 3.4.10.jar jline 0.9.94.jar log4j 1.2.16.jar netty 3.10.5.final.jar slf4j ap...