本文使用burrow和telegraf搭建kafka的監控體系。然後,簡單介紹一下其他的,比如kafka manager,kafka eagle,confluent control center等。
burrow
依賴路徑
使用burrow拉取kafka的監控資訊,然後通過telegraf進行收集,最後寫入到influxdb中。使用grafana進行展示。
burrow是kafka社群committer親自編寫的,能夠監控消費端端情況。不過沒有ui介面,開發語言使用的是go。此專案活躍度不是很高,但已經夠用了。
burrow可以支援同時獲取多個集群的資訊,比如,我有兩個集群 dm和 databus,那麼我的配置檔案就可以是下面這樣。
複製**
然後,使用nohup命令啟動即可。
nohup ./burrow -config-dir=./config &
複製**
獲取配置的kafka集群。 http://localhost:8000/v3/kafka 獲取某個集群的消費者資訊。 http://localhost:8000/v3/kafka/databus/consumer
1、建立變數
過濾出所有集群,這樣就可以使用選擇框進行集群選擇。
2、建立圖表
通過cluster過濾集群,然後選擇監控項。可以通過group進行分組。
監控項
burrow_group 監控消費者資訊。包括
lag offset status total_lag patition_countburrow_patition 監控更加詳細的分割槽資訊,包括
lag offset statusburrow_topic 監控主題相關資訊,包括
offset支援管理多個集群、選擇副本、副本重新分配以及建立topic、consumer資訊檢視等功能。
除了編譯困難,在拉取大型kafka集群的資訊時,會占用大量資源。
control center是目前能收集到的功能最齊全的kafka監控框架,but只有購買了confluent企業版才有,付費的
官方文件 :docs.confluent.io/current/qui…
注:安裝極為繁瑣(docs.confluent.io/current/ins…
需要使用企業版提供的kafka,否則需要將kafka引入4個jar,修改配置檔案。
另外此服務需要依賴schema-registry、connect-distributed、及kafka-rest等服務,需要開5個埠
炮灰炮灰
以上,就是常用的kafka監控元件。
Kafka 監控調研
1.如何監控kafka?kafka的資料統計是通過metrics的工具進行收集的,kafka大量使用了metrics做各種效能統計。kafka沒有自己的web管理介面 2.kafka的監控工具?1 jmx視覺化工具 metrics以jmx的形式提供了對外檢視資料的介面,所以我們可以在kafka啟動的...
kafka實時監控
在kafka的開發和維護中,我們經常需要了解kafka topic以及連線在其上的consumer的實時資訊,比如logsize,offset,owner等。為此kafka提供了consumeroffsetchecker,它的用法很簡單 bin kafka run class.sh kafka.to...
kafka命令大全
建立主題 4個分割槽,2個副本 bin kafka topics.sh create zookeeper localhost 2181 replication factor 2 partitions 4 topic test 查詢集群描述 bin kafka topics.sh describe z...