flume 的安裝,介紹,特性,核心概念等在這就不再贅述,請參考 ,作者的介紹和案例都比較詳細
這次主要拿 flume 的httpsource 做案例,用到了 file roll sink , hdfs sink, 以實現將http 的請求體 存到本地、 存到hdfs、及存到 hive庫的目的
httpsource 的案例請參考 (需注意裡面的http_test.conf 配置有一處拼寫錯誤)
注意幾點:
(1) httpsource source 預設採用的handler 是 org.apache.flume.source.http.jsonhandler , 它的接收體是 list, 換言之它的接收體 是乙個jsonarray,而且是有固定格式的 jsonarray, 其格式為
[,"body":"the first event"},,"body":"the second event"}], 即最外層必須是
, header 是乙個鍵值對map ,body 則是個字串 ,例如 想傳送這樣的json串, 應寫成 ["}]
(2) 控制台在輸出日誌時,僅輸出body資料16位元組內的資料,大於16位元組將不會顯示,但其實是完整收到了
(3) 需要自定義請求格式,只需自定義handler實現 httpsourcehandler ,並重寫其 getevents() 方法即可
參考
flume入門配置 簡單例項(一)
一 基本概念 1.source 2.channel 3.sink 二 配置檔案 通常寫在 conf下。舉個例子 在flume目錄下 vi conf flume conf.properties 1.寫source channel sink名字 2.確定哪個source連線哪個channel 哪個cha...
windows mysql 安裝的一些注意事項
以管理員身份執行,在命令列輸入cd mysql的bin目錄的安裝路徑 c windows system32 cd c program files mysql mysql server5.6 bin c program files mysql mysql server5.6 bin mysqld re...
BigDecimal中要注意的一些事
一 關於public bigdecimal double val bigdecimal中三個主要的建構函式 1public bigdecimal double val 將double表示形式轉換為bigdecimal 不推薦2 public bigdecimal int val 將int表示形式轉換...