上一次我們講解了azkaban的安裝,這節我們講解一下如何運用azkaban
首先我們先介紹一下什麼是azkaban:
azkaban是由linkedin開源的乙個批量工作流任務排程器。用於在乙個工作流內以乙個特定的順序執行一組工作和流程。
]azkaban定義了一種kv檔案格式來建立任務之間的依賴關係,並提供乙個易於使用的web使用者介面維護和跟蹤你的工作流。
它有如下功能特點:
1web使用者介面
2方便上傳工作流
3方便設定任務之間的關係
4排程工作流
5認證/授權(許可權的工作)
6能夠殺死並重新啟動工作流
7模組化和可插拔的外掛程式機制
8專案工作區
9工作流和任務的日誌記錄和審計
配置檔案
azkaban web伺服器配置
進入azkaban web伺服器安裝目錄 conf目錄
修改azkaban.properties檔案
命令vi azkaban.properties
內容說明:
#azkaban personalization settings
azkaban.name=test #伺服器ui名稱,用於伺服器上方顯示的名字
azkaban.label=my local azkaban #描述
azkaban.color=#ff3601 #ui顏色
azkaban.default.servlet.path=/index #
web.resource.dir=web/ #預設根web目錄
default.timezone.id=asia/shanghai #預設時區,已改為亞洲/上海 預設為美國
#azkaban usermanager class
user.manager.class=azkaban.user.xmlusermanager #使用者許可權管理預設類
user.manager.xml.file=conf/azkaban-users.xml #使用者配置,具體配置參加下文
#loader for projects
executor.global.properties=conf/global.properties # global配置檔案所在位置
azkaban.project.dir=projects #
database.type=mysql #資料庫型別
mysql.port=3306 #埠號
mysql.host=localhost #資料庫連線ip
mysql.database=azkaban #資料庫例項名
mysql.user=root #資料庫使用者名稱
mysql.password=root #資料庫密碼
mysql.numconnections=100 #最大連線數
# velocity dev mode
velocity.dev.mode=false
# jetty伺服器屬性.
jetty.maxthreads=25
#最大執行緒數
jetty.ssl.port=8443
#jetty ssl埠
jetty.port=8081
#jetty埠
jetty.keystore=keystore
#ssl檔名
jetty.password=123456 #ssl檔案密碼
jetty.keypassword=123456 #jetty主密碼 與 keystore檔案相同
jetty.truststore=keystore #ssl檔名
jetty.trustpassword=123456 # ssl檔案密碼
# 執行伺服器屬性
executor.port=12321 #執行伺服器端口
# 郵件設定
mail.sender=******[email protected] #傳送郵箱
mail.host=smtp.163.com #傳送郵箱smtp位址
mail.user=******xx #傳送郵件時顯示的名稱
mail.password=********** #郵箱密碼
job.failure.email=******[email protected] #任務失敗時傳送郵件的位址
job.success.email=******[email protected] #任務成功時傳送郵件的位址
lockdown.create.projects=false #
cache.directory=cache #快取目錄
azkaban 執行伺服器executor配置
進入執行伺服器安裝目錄conf,修改azkaban.properties
vi azkaban.properties
#azkaban
default.timezone.id=asia/shanghai#時區
# azkaban jobtypes 外掛程式配置
azkaban.jobtype.plugin.dir=plugins/jobtypes
#jobtype 外掛程式所在位置
#loader for projects
executor.global.properties=conf/global.properties
azkaban.project.dir=projects
#資料庫設定
database.type=mysql #資料庫型別(目前只支援mysql)
mysql.port=3306 #資料庫埠號
mysql.host=192.168.20.200 #資料庫ip位址
mysql.database=azkaban #資料庫例項名
mysql.user=root #資料庫使用者名稱
mysql.password=root #資料庫密碼
mysql.numconnections=100 #最大連線數
# 執行伺服器配置
executor.maxthreads=50 #最大執行緒數
executor.port=12321 #埠號(如修改,請與web服務中一致)
executor.flow.threads=30 #執行緒數
使用者配置(加黑)
進入azkaban web伺服器conf目錄,修改azkaban-users.xml
vi azkaban-users.xml 增加管理員使用者
SpringMVC 的配置檔案例項
一 根據需要引入相應的jar包 二 配置web.xml springmvcservlet name org.springframework.web.servlet.dispatcherservlet servlet class contextconfiglocationparam name init...
yml配置檔案語法及例項
yml檔案的副檔名可以使用.yml或者.yaml。配置普通資料 語法 key value name haohao配置物件資料 key key1 value1 key2 value2 或者 key 示例 person name haohao age 31 addr beijing 或者person 配...
hive配置檔案例項教程
說明 所有hive執行的map與reduce任務可以產生的檔案的和 預設值 100000 hive.exec.dynamic.partition 說明 是否為自動分割槽 預設值 false hive.mapred.reduce.tasks.speculative.execution 說明 是否開啟推...