問題一:
啟動storm時,發現kafka一直讀取不了資料,但是查詢時,仍有資料沒有讀取:
一直讀取不了,看了下**,是kafka消費時,一直讀取不了資料:
查詢,很符合kafka重複讀取引起的問題。
確實storm讀取時是自動提交的,並且修改group,可以正常執行。
因為是在開發環境,所以只是想測試下storm的功能,想讓storm程式跑起來,產生資料流。一般這種問題,直接向topic中插入資料即能讀取資料。
所以,可以不是問題一一起的問題。
問題二:group存在問題
後來發現乙個查詢異常,下面的查詢偏移量shell命令只有在有程式使用該group時才能正常使用:
bin/kafka-consumer-groups.sh --bootstrap-server 10.100.3.176:9092 --describe --group joblog否則,會連線不上。這個問題一直不知道是什麼原因。因為後來組中成員吧kafka重新啟動了。
只需要重新啟動kafka,這個問題就會解決掉。
Kafka消費者 從Kafka讀取資料
目錄 前言 1 kafkaconsumer概念 1.1 消費者和消費者群組 1.2 消費者群組和分割槽再均衡 2 建立kafka消費者 3 訂閱主題 4 輪詢 5 消費者的配置 6 提交和偏移量 7 再均衡 8 從特定偏移量處開始處理記錄 9 如何退出 10 反序列化器 應用程式使用 kafkaco...
kafka消費原理
consumer 採用 pull 拉 模式從 broker 中讀取資料。push 推 模式很難適應消費速率不同的消費者,因為訊息傳送速率是由 broker 決定的。它的目標是盡可能以最快速度傳遞訊息,但是這樣很容易造成 consumer 來不及處理訊息,典型的表現就是拒絕服務以及網路擁塞。而 pul...
kafka 主動消費 Kafka消費者的使用和原理
publicstaticvoidmain string args finally 前兩步和生產者類似,配置引數然後根據引數建立例項,區別在於消費者使用的是反序列化器,以及多了乙個必填引數 group.id,用於指定消費者所屬的消費組。關於消費組的概念在 kafka中的基本概念 中介紹過了,消費組使得...