Flume中agent的啟動命令

2021-09-22 12:23:31 字數 2074 閱讀 8109

bin/flume-ng agent

-c /opt/module/flume/conf

-n ag1

-dflume.root.logger=info,console

在flume的安裝路徑下,啟動指令碼為bin目錄下的flume-ng;

引數作用

列表–conf 或 -c

指定配置資料夾,包含flume-env.sh和log4j的配置檔案

–conf …/conf

–conf-file 或 -f

配置檔案位址

–conf-file …/conf/flume.conf

–name 或 -n

agent名稱

–name a1

-zzookeeper連線字串

-z zkhost:2181,zkhost1:2181

-pzookeeper中的儲存路徑字首

-p /flume

-dflume

啟動日誌列印到當前控制台

-dflume.root.logger=info,console

-c:指向flume安裝目錄下conf目錄的絕對路徑

-dflume:啟動日誌列印到當前控制台

linux本地至hdfs配置檔案:

#定義三大元件的名稱

ag1.sources = source1

ag1.sinks = sink1

ag1.channels = channel1

# 配置source元件

ag1.sources.source1.type = spooldir

ag1.sources.source1.spooldir = /root/log/

ag1.sources.source1.filesuffix=.finished

ag1.sources.source1.deserializer.maxlinelength=5120

# 配置sink元件

ag1.sinks.sink1.type = hdfs

ag1.sinks.sink1.hdfs.path =hdfs://hdp-01:9000/access_log/%y-%m-%d/%h-%m

ag1.sinks.sink1.hdfs.filesuffix = .log

ag1.sinks.sink1.hdfs.batchsize= 100

ag1.sinks.sink1.hdfs.filetype = datastream

ag1.sinks.sink1.hdfs.writeformat =text

## roll:滾動切換:控制寫檔案的切換規則

ag1.sinks.sink1.hdfs.rollsize = 512000 ## 按檔案體積(位元組)來切

ag1.sinks.sink1.hdfs.rollcount = 1000000 ## 按event條數切

ag1.sinks.sink1.hdfs.rollinterval = 60 ## 按時間間隔切換檔案

## 控制生成目錄的規則

ag1.sinks.sink1.hdfs.round = true

ag1.sinks.sink1.hdfs.roundvalue = 10

ag1.sinks.sink1.hdfs.roundunit = minute

ag1.sinks.sink1.hdfs.uselocaltimestamp = true

# channel元件配置

ag1.channels.channel1.type = memory

ag1.channels.channel1.capacity = 500000 ## event條數

ag1.channels.channel1.transactioncapacity = 600 ##flume事務控制所需要的快取容量600條event

# 繫結source、channel和sink之間的連線

ag1.sources.source1.channels = channel1

ag1.sinks.sink1.channel = channel1

詳解linux中nginx啟動 重啟 關閉命令

nginx c usr local nginx conf nginx.conf c引數指定了要載入的nginx配置檔案路徑 停止操作 停止操作是通過向nginx程序傳送訊號來進行的 步驟1 查詢nginx主程序號?ps ef grepnginx 在程序列表裡 面找master程序,它的編號就是主程序...

詳解linux中nginx啟動 重啟 關閉命令

啟動操作 nginx c usr local ng c引數指定了要載入的nginx配置檔案路徑 停止操作 停止操作是通過向nginx程序傳送訊號來進行的 步驟1 查詢nginx主程序號lqlqczber ps ef grep nginx 在程序列表裡 面找master程序,它的編號就是主程序號了。步...

flume中conf的配置

監視資料夾 啟動命令 bin flume ng agent c conf f conf spool hdfs.conf n a1 dflume.root.logger info,console 測試 往 home hadoop flumespool放檔案 mv file home hadoop fl...