小記 kafka基礎架構

2022-08-01 04:54:10 字數 801 閱讀 1619

kafka的消費者組,是為了提供消費速度,

1.為方便擴充套件,並提高吞吐量,乙個topic分為多個partition

2.配合分割槽的設計,提出消費者組的概念,組內每個消費者並行消費

3.為提高可用性,為每個partition增加若干副本,類似namenode ha

因為乙個消費者組的乙個消費者只能消費一次同乙個topic的乙個partition的資料。

也就是說,如果topic a 有 100條資料有兩個partition,而消費者組 只有乙個消費a , 那麼這一百條資料都必須挨個由a消費, 

所以當topic有兩個partition(分割槽)、並且消費者組有2個消費者的時候,就可以並行消費資料 消費者a 消費partition 0 的資料, 消費者b 消費partition1 的資料,從而提公升效率。

但是如果topic只有兩個partition, 但是消費者組有三個消費者, 也是沒有用的,因為同乙個消費者組的乙個消費者只能消費一次topic的乙個partition, 也就是總會有乙個消費者是沒有資料消費的,所以在建立消費者組 中消費者數量的時候需要考慮所要消費的topic的分割槽數。

kafka副本數為2 , 不是說有2個follower   ,  而是leader + follower 的個數一共為2

並且兩個副本數 絕對不會存在同乙個broker上, 因為副本的作用就是為了ha, 為了高可用,一台broker掛了, 會去另一台broker上找到副本資料。 所以如果leader和follower存在一台broker上就失去它本身的意義了 。

Kafka基礎 Kafka架構

目錄kakfa 架構 kafka最初是由linkedin公司採用scala語言開發的乙個多分割槽 多副本並且基於zookeeper協調的分布式訊息系統,現在已經捐獻給了apache 會。目前kafka已經定位為乙個分布式流式處理平台,它以 高吞吐 可持久化 可水平擴充套件 支援流處理等多種特性而被廣...

Kafka 基礎架構

1 producer 訊息生產者,就是向 kafka broker 發訊息的客戶端 2 consumer 訊息消費者,向 kafka broker 取訊息的客戶端 3 consumer group cg 消費者組,由多個 consumer 組成。消費者組內每個消費者負責消費不同分割槽的資料,乙個分割...

Kafka基礎架構

1 producer 訊息生產者,就是向 kafka broker 發訊息的客戶端 2 consumer 訊息消費者,向 kafka broker 取訊息的客戶端 3 consumer group cg 消費者組,由多個 consumer 組成。消費者組內每個消費者負責消費不同分割槽的資料,乙個分割...