1.如何監控kafka?
kafka的資料統計是通過metrics的工具進行收集的,kafka大量使用了metrics做各種效能統計。
kafka沒有自己的web管理介面
2.kafka的監控工具?
(1)jmx視覺化工具
metrics以jmx的形式提供了對外檢視資料的介面,所以我們可以在kafka啟動的時候指定jmx的埠,然後通過視覺化的工具檢視即可。
(2)kafkaoffsetmonitor
優點:使用簡單,配置簡單,介面簡單
缺點:不能自動重新整理,必須手動重新整理
,功能覆蓋不全
功能:1.consumer消費情況進行監控,並能列出每個consumeroffset的滯後資料
2.每個topic的partition的列表(topic,pid,offset,logsize,logsize,lag,owner)
3.檢視topic的歷史消費資訊
(3)kafka-web-console
優點:重新整理較快,功能比較齊全
缺點:搭建比較負責
scala
開發,構建工具
sbt
預設的資料庫是
h2
功能:1.broker
:kafka
集群資訊 2.
topics
:分割槽(
partition
)數,logsize
,分割槽的
leader 3.
consumer
:group
,partitionoffset
,lag
(落後,延遲)
graphs
展示consumer
的offset
和lag 4.
其他 latestpublished topic messages
kafka管理器:
可以管理多個集群
檢查集群的狀態:
topics
、brokers
、副本的分布、分割槽的分布
支援選擇副本:?
支援副本重新分配
建立topic
(*)其他
csvmetricsreporter 將相應的指標分別寫入到csv檔案中,然後用指令碼採集即可。
將jmx埠暴漏出來,用jmxtrans把資料發到ganglia
kafka提供的指令碼:bin/kafka-run-class.shkafka.tools.consumeroffsetchecker --zkconnect localhost:2181 --group test
優點:可以獲取所有可用的監控指標
缺點:使用不夠方便、直觀
3.kafka的監控指標
kafka
集群的狀態:
broker
、topic
、pattion
、replication
、leader
、分布是否均勻
topics:
每個topic
的partition
的列表(
topic
,pid
,offset
,logsize
,logsize
,lag
,owner)
consumer:
group
,partition offset
,lag
(落後,延遲)
kafka實時監控
在kafka的開發和維護中,我們經常需要了解kafka topic以及連線在其上的consumer的實時資訊,比如logsize,offset,owner等。為此kafka提供了consumeroffsetchecker,它的用法很簡單 bin kafka run class.sh kafka.to...
Kafka 訊息監控 Kafka Eagle
在開發工作當中,消費 kafka 集群中的訊息時,資料的變動是我們所關心的,當業務並不複雜的前提下,我們可以使用 kafka 提供的命令工具,配合 zookeeper 客戶端工具,可以很方便的完成我們的工作。隨著業務的複雜化,group 和 topic 的增加,此時我們使用 kafka 提供的命令工...
Kafka 訊息監控 Kafka Eagle
在開發工作當中,消費 kafka 集群中的訊息時,資料的變動是我們所關心的,當業務並不複雜的前提下,我們可以使用 kafka 提供的命令工具,配合 zookeeper 客戶端工具,可以很方便的完成我們的工作。隨著業務的複雜化,group 和 topic 的增加,此時我們使用 kafka 提供的命令工...