參考資料:
wget
解壓tar -xvzf kafka_2.11-0.10.0.1.tgz
移動mv kafka_2.11-0.10.0.1 /usr/local
修改配置
cd kafka_2.11-0.10.0.1/config
mv server.properties server-1.properties
cp server-1.properties server-2.properties
cp server-1.properties server-3.properties
修改server-1.properties
broker.id=1
listeners=plaintext:
log.dirs=/tmp/kafka-logs1
zookeeper.connect=10.1.78.23:2181 #zookeeper 已安裝
修改server-2.properties
broker.id=2
listeners=plaintext:
log.dirs=/tmp/kafka-logs2
zookeeper.connect=10.1.78.23:2181 #zookeeper 已安裝
修改server-3.properties
broker.id=3
listeners=plaintext:
log.dirs=/tmp/kafka-logs3
zookeeper.connect=10.1.78.23:2181 #zookeeper 已安裝
啟動
./kafka-server-start.sh -daemon ../config/server-1.properties
./kafka-server-start.sh -daemon ../config/server-2.properties
./kafka-server-start.sh -daemon ../config/server-3.properties
建立topic
./kafka-topics.sh --create --zookeeper 10.1.78.23:2181 --replication-factor 3 --partitions 1 --topic replication-test
檢視
./kafka-topics.sh --describe --zookeeper localhost:2181
topic:replication-test partitioncount:1 replicationfactor:3 configs:
topic: replication-test partition: 0 leader: 3 replicas: 3,1,2 isr: 3,1,2
topic:test partitioncount:1 replicationfactor:1 configs:
topic: test partition: 0 leader: 1 replicas: 1 isr: 1
"leader":該節點負責所有指定分割槽的讀和寫,每個節點的領導都是隨機選擇的。
"replicas":備份的節點,無論該節點是否是leader或者目前是否還活著,只是顯示。
"isr":備份節點的集合,也就是活著的節點集合。
啟動自帶 provider
./kafka-console-producer.sh --broker-list 10.1.78.23:9091 --topic replication-test
this is my first message!
啟動自帶 consumer
./kafka-console-consumer.sh --zookeeper 10.1.78.23:2181 --from-beginning --topic replication-test
this is my first message!
集群測試
kill 掉其中一台 broker
kill -9 25147
現在可以看到,3臺集群,只有兩台可用,因為剛才kill掉一台
[root@uf201102372 bin]# ./kafka-topics.sh --describe --zookeeper localhost:2181
topic:replication-test partitioncount:1 replicationfactor:3 configs:
topic: replication-test partition: 0 leader: 3 replicas: 3,1,2 isr: 3,1
topic:test partitioncount:1 replicationfactor:1 configs:
topic: test partition: 0 leader: 1 replicas: 1 isr: 1
重啟乙個conumser,可以看到原來message還存在,沒有丟失
[root@uf201102372 bin]# ./kafka-console-consumer.sh --zookeeper 10.1.78.23:2181 --topic replication-test --from-beginning
this is my first message!
Kafka集群的部署與測試
kafka是一款分布式訊息發布和訂閱的系統,相比activemq具有高效能和高吞吐率。官方 相關專案 相關示例專案 leek 簡易版實時智慧型選股平台 tar zxvf kafka 2.11 0.9.0.1.tgz cd kafka 2.11 0.9.0.1.tgz 2 安裝zookeeper集群 ...
kafka 集群安裝與安裝測試
一 集群安裝 解壓 tar zxvf kafka 2.9.2 0.8.1.tgz rpm ivh sbt.rpm 3.更新scala環境 sbt update sbt package sbt assembly package dependency sbt sbt dependency 不同版本命令不...
kafka集群的搭建及測試(20191218更新)
20191218更新 目前複習到kafka集群,然後回來看了看之前寫的這篇文章。真的是寫的亂七八糟,向之前所有搜到這篇文章的童鞋致歉!又重新整理了一篇 kafka集群 偽分布式 的搭建及整合springboot 比這篇有條理,也算是隨著年齡增長,自己也在進步吧。o o 以下是原回答 準備工作 kaf...