kafka集群部署

2022-07-15 09:42:15 字數 1778 閱讀 2535

1.安裝好zookeeper集群

wget 

tar -zxvf /kafka_2.11-0.8.2.2.tgz -c install

mv /kafka_2.11-0.8.2.2 kafka

3.配置環境變數

vim /etc/profile

export path=$path:$kafka_home/bin

4.修改配置檔案

改三處,分別是broker_id,log_dirs,host.name以及zookeeper位址

############################# server basics #############################

#每台機器的brocker.id要不同

broker.id=0

############################# socket server settings #############################

port=9092

#host.name=localhost

num.network.threads=2

num.io.threads=2

socket.send.buffer.bytes=1048576

socket.receive.buffer.bytes=1048576

socket.request.max.bytes=104857600

############################# log basics #############################

#自定義乙個日誌目錄

num.partitions=2

############################# log flush policy #############################

log.flush.interval.messages=10000

log.flush.interval.ms=1000

############################# log retention policy #############################

log.retention.hours=168

#log.retention.bytes=1073741824

log.segment.bytes=536870912

log.cleanup.interval.mins=1

############################# zookeeper #############################

#zookeeper集群位址

zookeeper.connect=mini1:2181,mini2:2181,mini3:2181

zookeeper.connection.timeout.ms=1000000

host.name=localhost

5.分發

scp /etc/profile mini2:/etc/

source /etc/profile

scp /etc/profile mini3:/etc/

source /etc/profile

scp /etc/profile mini4:/etc/

source /etc/profile

6.啟動與關閉

#啟動

#關閉pkill -9 -f server.properties

Kafka 集群部署

kafka是乙個分布式訊息佇列,需要依賴zookeeper,請先安裝好zk集群 kafka安裝包解壓 tar xf kafka 2.10 0.9.0.1 tgz mv kafka 2.10 0.9.0.1 usr kafka cd usr kafka 配置檔案 server.properties t...

kafka集群部署

一台伺服器上可以啟動多個broker例項,或者將broker部署到多台伺服器上,以下以172.16.50.21集群為例,多台伺服器上部署broker。tar xzf kafka 2.11 1.0.0.tgz cd kafka 2.11 1.0.0kafka依賴zookeeper,如果環境中沒有zoo...

Kafka集群部署

前提 在啟動kafaka集群,呼叫 bin kafka server start.sh config server.properties 前,需要把每台機器上zookeeper服務都給啟動了。zookeeper的安裝配置看,1 kafka集群規劃 s101 s102 s103 s104 zk zk ...