參考kafka 安裝 for mac
配置一下kafka的環境變數:
sudo vim /etc/profile加入配置
export kafka_home=/usr/local/cellar/kafka/2.1.0重新整理一下配置export path=
.:$path:$kafka_home/bin
source /etc/profile可以直接使用kafka預設的zookeeper:
zookeeper-server-start /usr/local/etc/kafka/zookeeper.properties &假設我們只搭建三個kafka集群,那麼我們積極需要給這三個kafka配置server.properties
複製兩份server.properties
cp /usr/local/etc/kafka/server.properties /usr/local/etc/kafka/server1.properties分別修改server1.properties、server2.propertiescp /usr/local/etc/kafka/server.properties /usr/local/etc/kafka/server2.properties
修改位置
server.properties
server1.properties
server2.properties
broker.id
broker.id=0
broker.id=1
broker.id=2
listeners
listeners=plaintext://:9092
listeners=plaintext://:9093
listeners=plaintext://:9094
log.dir
log.dir=/usr/local/var/lib/kafka-logs-1
log.dir=/usr/local/var/lib/kafka-logs-2
log.dir=/usr/local/var/lib/kafka-logs-3
啟動三個kafka
kafka-server-start /usr/local/etc/kafka/server.properties &建立乙個有三個副本的topickafka-server-start /usr/local/etc/kafka/server1.properties &
kafka-server-start /usr/local/etc/kafka/server2.properties &
kafka-topics --create --zookeeper localhost:2181 --replication-factor 3 --partitions 1 --topic mytopic使用describe命令檢視topic的資訊
「leader」:該集群中broker.id=2 的 kafka是 leader,leader負責資料的讀取、同步
「replicas」:存在的節點列表(包含已經掛掉的)
「isr」:「同步備份」的節點列表(不包含已經掛掉的,也就是活著的節點並且正在同步leader)。
由上圖可知當前的leader是broker.id為2的kafka伺服器,下面測試將當前的leader殺死
解釋上圖:
leader:0:當舊的leader掛掉之後馬上重新選舉出乙個新的leader(broker.id為0的kafka)
isr:0,1:將已經掛掉的kafka去除同步備份的節點列表
kafka集群搭建
安裝zookeeper kafka自帶了zookeeper,建議還是用外部的zk集群,搭建步驟如下 準備3臺機器,假設我們叫c1 c2 c3,ip分別為ip1 ip2 ip3 將附件zookeeper 3.4.6.tar.gz分別拷貝至3臺機器 c1機器上解壓zookeeper 3.4.6.tar....
kafka 集群搭建
1 前置條件 安裝jdk zookeeper 集群搭建 wget tar xzf kafka 2.11 0.10.2.1.tgz 3 修改 config server.properties 三個地方 1 broker.id 要對上 log.dirs 下 meta.properties broker....
kafka集群搭建
1 上傳安裝包 把安裝包上傳到伺服器 put r d kafka 2.11 0.8.2.0.tgz 2 解壓縮安裝包 3 配置kafka環境變數 vim etc profile export path path kafka home bin 重新整理策略 source etc profile 4 修...