1、生產者 api
2、消費者 api
說明
kafka訊息保留在磁碟上,並在集群內複製以防止資料丟失(不能提高資料的讀取效率)。
consumer group
:每乙個consumer屬於乙個特定的consumer group(可以為每個consumer指定 groupname)
broker
:kafka集群中包含乙個或者多個服務例項
topic
:每條發布到kafka集群的訊息都有乙個類別,分類
partition
:partition是乙個物理上的概念,每個topic包含乙個或者多個partition
segment
:乙個partition當中存在多個segment檔案段,每個segment分為兩部分,.log檔案和.index檔案,其中:
.index檔案是索引檔案,主要用於快速查詢.log檔案當中資料的偏移量位置
.log存放資料檔案
kafka學習二 kafka基礎架構
kafka基礎架構圖如下 生產者負責向某個topic傳送訊息,發訊息的時候可以指定分割槽 topic包含多個partition,每個partition又有leader和follower,leader和follower在不同的broker上。建立topic的時候副本數不能大於broker個數 消費者組...
Kafka基礎 Kafka架構
目錄kakfa 架構 kafka最初是由linkedin公司採用scala語言開發的乙個多分割槽 多副本並且基於zookeeper協調的分布式訊息系統,現在已經捐獻給了apache 會。目前kafka已經定位為乙個分布式流式處理平台,它以 高吞吐 可持久化 可水平擴充套件 支援流處理等多種特性而被廣...
kafka學習 四 kafka集群部署
1 broker.id 1 保證每個broker唯一,第一台可以不修改預設為0,後面兩台需要修改,如改為2和3 2 num.partitions 3 分割槽數量一般與broker保持一致 3 listeners plaintext 192.168 172 129 9092 修改為本機ip 4 zoo...