3臺虛擬機器搭建kafka集群

2021-09-24 23:33:42 字數 2103 閱讀 1627

上篇部落格,已經介紹了三颱虛擬機器搭建zookeeper集群。本篇講繼續搭建kafka集群。

首先建立目錄,以便管理。

mkdir /home/captain/kafka

cd /home/captain/kafka

將壓縮包放入到目錄中,壓縮包:

1)解壓安裝包

2)修改解壓後的檔名稱

mv kafka_2.11-0.11.0.0/ kafka 3

)在kafka_2.11-0.11.0.0目錄下建立

logs

資料夾

mkdir logs 4

)修改配置檔案

cd config/

vi server.properties

輸入以下內容:

#broker

的全域性唯一編號,不能重複

broker.id=0 #

刪除 topic

功能使能

delete.topic.enable=true #

處理網路請求的執行緒數量

num.network.threads=3 #

用來處理磁碟

io 的現成數量

num.io.threads=8 #

傳送套接字的緩衝區大小

socket.send.buffer.bytes=102400 #

接收套接字的緩衝區大小

socket.receive.buffer.bytes=102400 #

請求套接字的緩衝區大小

socket.request.max.bytes=104857600

#kafka

執行日誌存放的路徑

log.dirs=/opt/module/kafka/logs

#topic

在當前

broker

上的分割槽個數

num.partitions=1 #

用來恢復和清理

data

下資料的執行緒數量

num.recovery.threads.per.data.dir=1

#segment

檔案保留的最長時間,超時將被刪除

log.retention.hours=168 #

配置連線

zookeeper

集群位址

zookeeper.connect=192.168.1.101:2181,192.168.1.102:2181,192.168.1.103:2181

advertised.listeners=plaintext 5

)配置環境變數

vi /etc/profile

#kafka_home

export kafka_home=/home/captain/kafka/kafka_2.11-0.11.0.0

export path=$path:$kafka_home/bin

source /etc/profile 6

)分發安裝包

其他兩台機器也同樣部署,可以用scp指令

7)分別在

hadoop103

和 hadoop104

上修改配置檔案

/opt/module/kafka/config/server.properties

中的 broker.id=1

、broker.id=2 注:

broker.id

不得重複 8

)啟動集群

依次在

101、

102、

103

節點上啟動

kafka

bin/kafka-server-start.sh config/server.properties & 9

)關閉集群

bin/kafka-server-stop.sh stop

3臺虛擬機器搭建kafka集群

系統 centos7 kafka安裝包版本 kafka 2.11 0.11.0.0.tgz 1.在opt目錄下建立module目錄,2.將kafka解壓到module目錄下 tar zxvf kafka 2.11 0.11.0.0.tgz c opt module 3.在解壓後的kafka根目錄下建...

ELK集群的搭建 虛擬機器

一 複製虛擬機器 1.開啟linux虛擬機器,把之前做的名稱為elk002 2.專案在未啟動的狀態下複製兩次,分別命名為elk005 elk006 複製後的名稱隨意,自己記住就行 3.將elk002 elk005 elk006都啟動 二 修改主機名和主機列表 以下操作三個都要操作 2 主機名 輸入 ...

虛擬機器安裝集群

1 將32位win7作業系統改為64位,因32位最多支援3g的記憶體,記憶體條插多了也沒用。3 安裝vmware player,建立虛擬機器三颱,網路連線選擇橋接。建立hadoop使用者 4 進入虛擬機器後,修改 etc sysconfig network scripts ifcfg eth0檔案,...