kafka學習 四 kafka集群部署

2021-10-01 10:36:56 字數 1703 閱讀 9482

1、broker.id=

1 #保證每個broker唯一,第一台可以不修改預設為0,後面兩台需要修改,如改為2和3

2、num.partitions=

3 #分割槽數量一般與broker保持一致

3、listeners=plaintext://

192.168

.172

.129

:9092 #修改為本機ip

4、zookeeper.connect=

192.168

.172

.129

:2181

,192.168

.172

.130

:2181

,192.168

.172

.129

.131

:2181 #配置三颱服務zookeeper連線位址

5、host.name=

192.168

.172

.129 #新增host.name值,分別設為不同的值(3臺機器根據自己的ip設定)

6、log.dirs=

/opt/kafka/kafka-logs/ #修改log.dirs目錄為之前自定義的目錄

/opt/zookeeper/bin/zkserver.sh start
/opt/kafka/bin/kafka-server-start /opt/kafka/conf/server.properties
/opt/kafka/bin/kafka-topics.sh -create --bootstrap-server 192.168

.172

.129

:2181

,192.168

.172

.130

:2181

,192.168

.172

.129

.131

:2181

-replication-factor 3

--partitions 3

--topic test.

/opt/kafka/bin/kafka-console-producer.sh --broker-list 192.168

.172

.129

:2181

,192.168

.172

.130

:2181

,192.168

.172

.129

.131

:2181

--topic test

/opt/kafka/bin/kafka-console-consumer.sh --bootstrap-server 192.168

.172

.129

:2181

,192.168

.172

.130

:2181

,192.168

.172

.129

.131

:2181

--topic test --from-beginning

Kafka學習筆記 如何估算 kafka集群規模

假設頻寬是 1gbps,即每秒處理 1gb 的資料.假設每台 kafka 伺服器都是安裝在專屬的機器上,也就是說每台 kafka 機器上沒有混布其他服務。通常情況下你只能假設 kafka 會用到 70 的頻寬資源,因為總要為其他應用或程序留一些資源。根據實際使用經驗,超過 70 的閾值就有網路丟包的...

Kafka學習(四) Kafka架構詳解

1 生產者 api 2 消費者 api 說明 kafka訊息保留在磁碟上,並在集群內複製以防止資料丟失 不能提高資料的讀取效率 consumer group 每乙個consumer屬於乙個特定的consumer group 可以為每個consumer指定 groupname broker kafka...

Kafka學習 四 Kafka持久化

概述 kafka很大程度上依賴檔案系統來儲存和快取訊息。有一普遍的認識 磁碟很慢。這讓人們懷疑使用磁碟作為持久化的效能。實際上,磁碟是快還是慢完全取決於我們是如何使用它。就目前來說,乙個 six 7200rpm sata raid 5磁碟線性 順序 寫入的效能能達到600mb sec,而任意位置寫 ...