kafka的消費者組,是為了提供消費速度,
1.為方便擴充套件,並提高吞吐量,乙個topic分為多個partition
2.配合分割槽的設計,提出消費者組的概念,組內每個消費者並行消費
3.為提高可用性,為每個partition增加若干副本,類似namenode ha
因為乙個消費者組的乙個消費者只能消費一次同乙個topic的乙個partition的資料。
也就是說,如果topic a 有 100條資料有兩個partition,而消費者組 只有乙個消費a , 那麼這一百條資料都必須挨個由a消費,
所以當topic有兩個partition(分割槽)、並且消費者組有2個消費者的時候,就可以並行消費資料 消費者a 消費partition 0 的資料, 消費者b 消費partition1 的資料,從而提公升效率。
但是如果topic只有兩個partition, 但是消費者組有三個消費者, 也是沒有用的,因為同乙個消費者組的乙個消費者只能消費一次topic的乙個partition, 也就是總會有乙個消費者是沒有資料消費的,所以在建立消費者組 中消費者數量的時候需要考慮所要消費的topic的分割槽數。
kafka副本數為2 , 不是說有2個follower , 而是leader + follower 的個數一共為2
並且兩個副本數 絕對不會存在同乙個broker上, 因為副本的作用就是為了ha, 為了高可用,一台broker掛了, 會去另一台broker上找到副本資料。 所以如果leader和follower存在一台broker上就失去它本身的意義了 。
Kafka基礎 Kafka架構
目錄kakfa 架構 kafka最初是由linkedin公司採用scala語言開發的乙個多分割槽 多副本並且基於zookeeper協調的分布式訊息系統,現在已經捐獻給了apache 會。目前kafka已經定位為乙個分布式流式處理平台,它以 高吞吐 可持久化 可水平擴充套件 支援流處理等多種特性而被廣...
Kafka 基礎架構
1 producer 訊息生產者,就是向 kafka broker 發訊息的客戶端 2 consumer 訊息消費者,向 kafka broker 取訊息的客戶端 3 consumer group cg 消費者組,由多個 consumer 組成。消費者組內每個消費者負責消費不同分割槽的資料,乙個分割...
Kafka基礎架構
1 producer 訊息生產者,就是向 kafka broker 發訊息的客戶端 2 consumer 訊息消費者,向 kafka broker 取訊息的客戶端 3 consumer group cg 消費者組,由多個 consumer 組成。消費者組內每個消費者負責消費不同分割槽的資料,乙個分割...