Apache Kafka學習教程之基礎知識

2021-12-30 03:47:01 字數 1208 閱讀 1164

深入卡夫卡之前,您必須了解主題(topics),** (brokers),生產者(producers)和消費者(consumers)等主要術語。 下圖說明了主要術語,**詳細描述了圖表元件。

在上圖中,主題被配置為三個分割槽。 分割槽1具有兩個偏移因子0和1.分割槽2具有四個偏移因子0,1,2和3.分割槽3具有乙個偏移因子0.複製品的id與託管它的伺服器的id相同。

假設,如果該主題的複製因子設定為3,則kafka將為每個分割槽建立3個相同的副本,並將它們放入群集中以使其可用於其所有操作。 為了平衡集群中的負載,每個**儲存乙個或多個這些分割槽。 多個生產者和消費者可以同時發布和檢索訊息。

序列號元件和描述

1 topics

屬於特定類別的訊息流被稱為主題。 資料儲存在主題中。

主題分為多個分割槽。 對於每個主題,卡夫卡都保留乙個分割槽的最小範圍。 每個這樣的分割槽都以不可變的有序順序包含訊息。 分割槽被實現為一組相同大小的段檔案。

2partition

主題可能有很多分割槽,所以它可以處理任意數量的資料。

3partition offset

每個分割槽訊息都有乙個稱為偏移量的唯一序列標識。

4replicas of partition

副本只是分割槽的備份。 副本從不讀取或寫入資料。 它們用於防止資料丟失。

5brokers

6 kafka cluster

卡夫卡擁有多個**者稱為卡夫卡集群。 kafka集群可以在無需停機的情況下進行擴充套件。 這些集群用於管理訊息資料的永續性和複製。

7producers

生產者是乙個或多個卡夫卡主題的發布者。 生產者向卡夫卡**者傳送資料。 每當生產者向**者發布訊息時,**者只需將訊息附加到最後乙個段檔案。 實際上,該訊息將被附加到分割槽。 生產者也可以將訊息傳送到他們選擇的分割槽。

8consumers

消費者從**那裡讀取資料。 消費者通過從**商處獲取資料來訂閱乙個或多個主題並消費發布的訊息。

9leader

leader是負責所有分割槽讀寫的節點。 每個分割槽都有一台伺服器充當領導者。

10follower

遵循領導指示的節點稱為追隨者。 如果領導失敗,其中乙個追隨者將自動成為新領導。 追隨者扮演正常的消費者角色,拉動訊息並更新自己的資料儲存。

Apache Kafka教程A系列 介紹

在大資料中,使用了大量的資料。關於資料,我們有兩個主要挑戰。第乙個挑戰是如何收集大量資料,第二個挑戰是分析收集的資料。為了克服這些挑戰,您必須使用訊息傳遞系統。卡夫卡專為分布式高吞吐量系統而設計。卡夫卡傾向於非常好地取代傳統的資訊 者。與其他訊息系統相比,kafka具有更好的吞吐量,內建分割槽,複製...

《Apache Kafka》學習筆記

1.什麼是kafka kafka是乙個高通過率的分布式訊息系統 2.訊息佇列 message queue mq的模型 訊息佇列的簡單架構圖 3個核心概念 message queue 訊息佇列 訊息排隊,訊息就是資料。通過訊息模型可以完成乙個系統和另乙個系統的互動,系統的通訊也就是系統與系統的呼叫。訊...

Apache Kafka系列之Kafka介紹

kafka是乙個分布式的 分割槽的 多複本的日誌提交服務。它通過一種獨一無二的設計提供了乙個訊息系統的功能。所有的這些意味著什麼?1 kafka維護按類區分的訊息,稱為主題 topic 2 生產者 producer 向kafka的主題發布訊息 3 消費者 consumer 向主題註冊,並且接收發布到...