bin/flume-ng agent
-c /opt/module/flume/conf
-n ag1
-dflume.root.logger=info,console
在flume的安裝路徑下,啟動指令碼為bin目錄下的flume-ng;
引數作用
列表–conf 或 -c
指定配置資料夾,包含flume-env.sh和log4j的配置檔案
–conf …/conf
–conf-file 或 -f
配置檔案位址
–conf-file …/conf/flume.conf
–name 或 -n
agent名稱
–name a1
-zzookeeper連線字串
-z zkhost:2181,zkhost1:2181
-pzookeeper中的儲存路徑字首
-p /flume
-dflume
啟動日誌列印到當前控制台
-dflume.root.logger=info,console
-c:指向flume安裝目錄下conf目錄的絕對路徑
-dflume:啟動日誌列印到當前控制台
linux本地至hdfs配置檔案:
#定義三大元件的名稱
ag1.sources = source1
ag1.sinks = sink1
ag1.channels = channel1
# 配置source元件
ag1.sources.source1.type = spooldir
ag1.sources.source1.spooldir = /root/log/
ag1.sources.source1.filesuffix=.finished
ag1.sources.source1.deserializer.maxlinelength=5120
# 配置sink元件
ag1.sinks.sink1.type = hdfs
ag1.sinks.sink1.hdfs.path =hdfs://hdp-01:9000/access_log/%y-%m-%d/%h-%m
ag1.sinks.sink1.hdfs.filesuffix = .log
ag1.sinks.sink1.hdfs.batchsize= 100
ag1.sinks.sink1.hdfs.filetype = datastream
ag1.sinks.sink1.hdfs.writeformat =text
## roll:滾動切換:控制寫檔案的切換規則
ag1.sinks.sink1.hdfs.rollsize = 512000 ## 按檔案體積(位元組)來切
ag1.sinks.sink1.hdfs.rollcount = 1000000 ## 按event條數切
ag1.sinks.sink1.hdfs.rollinterval = 60 ## 按時間間隔切換檔案
## 控制生成目錄的規則
ag1.sinks.sink1.hdfs.round = true
ag1.sinks.sink1.hdfs.roundvalue = 10
ag1.sinks.sink1.hdfs.roundunit = minute
ag1.sinks.sink1.hdfs.uselocaltimestamp = true
# channel元件配置
ag1.channels.channel1.type = memory
ag1.channels.channel1.capacity = 500000 ## event條數
ag1.channels.channel1.transactioncapacity = 600 ##flume事務控制所需要的快取容量600條event
# 繫結source、channel和sink之間的連線
ag1.sources.source1.channels = channel1
ag1.sinks.sink1.channel = channel1
詳解linux中nginx啟動 重啟 關閉命令
nginx c usr local nginx conf nginx.conf c引數指定了要載入的nginx配置檔案路徑 停止操作 停止操作是通過向nginx程序傳送訊號來進行的 步驟1 查詢nginx主程序號?ps ef grepnginx 在程序列表裡 面找master程序,它的編號就是主程序...
詳解linux中nginx啟動 重啟 關閉命令
啟動操作 nginx c usr local ng c引數指定了要載入的nginx配置檔案路徑 停止操作 停止操作是通過向nginx程序傳送訊號來進行的 步驟1 查詢nginx主程序號lqlqczber ps ef grep nginx 在程序列表裡 面找master程序,它的編號就是主程序號了。步...
flume中conf的配置
監視資料夾 啟動命令 bin flume ng agent c conf f conf spool hdfs.conf n a1 dflume.root.logger info,console 測試 往 home hadoop flumespool放檔案 mv file home hadoop fl...