mysql許可權配置
授權所有主機可以使用root使用者操作所有資料庫和資料表
mysql> grant all on . to root@'%' identified by '123456';
mysql> flush privileges;
mysql> exit;
workflow.xml配置的時候不要忽略file屬性
jps檢視程序時,注意有沒有bootstrap
關閉oozie
如果bin/oozied.sh stop無法關閉,則可以使用kill -9 [pid],之後oozie-server/temp/***.pid檔案一定要刪除。
oozie重新打包時,一定要注意先關閉程序,刪除對應資料夾下面的pid檔案。(可以參考第4條目)
配置檔案一定要生效
起始標籤和結束標籤無對應則不生效,配置檔案的屬性寫錯了,那麼則執行預設的屬性。
libext下邊的jar存放於某個資料夾中,導致share/lib建立不成功。
排程任務時,找不到指定的指令碼,可能是oozie-site.xml裡面的hadoop配置檔案沒有關聯上。
修改hadoop配置檔案,需要重啟集群。一定要記得scp到其他節點。
jobhistoryserver必須開啟,集群要重啟的。
mysql配置如果沒有生效的話,預設使用derby資料庫。
在本地修改完成的job配置,必須重新上傳到hdfs。
linux使用者名稱和hadoop的使用者名稱不一致。
黑猴子的家 Hadoop Checkpoint機制
fsimage和edit log合併的過程如下圖所示 其實這個合併過程是乙個很耗i o與cpu的操作,並且在進行合併的過程中肯定也會有其他應用繼續訪問和修改hdfs檔案。所以,這個過程一般不是在單一的namenode節點上進行從。如果hdfs沒有做ha的話,checkpoint由secondname...
黑猴子的家 FileInputFormat切片機制
1 job提交流程原始碼詳解 waitforcompletion submit 1 建立連線 connect 1 建立提交job的 new cluster getconfiguration 2 判斷是本地yarn還是遠端 initialize jobtrackaddr,conf 2 提交job su...
黑猴子的家 Zookeeper Java API
1 code github 2 環境準備 1 建立乙個工程 2 解壓zookeeper 3.4.10.tar.gz檔案 3 拷貝zookeeper 3.4.10.jar jline 0.9.94.jar log4j 1.2.16.jar netty 3.10.5.final.jar slf4j ap...