在入門
系列一,我進行了單節點的安裝,本文我將安裝多節點的集群。在kafka中,乙個broker就是集群中的乙個節點,而我們在乙個kafka中可以啟動多個broker,所以一台機器,裝乙個kafka,通過啟動多個broker的形式,就可以建乙個集群。
下面我一步步演示:
1. 配置多個broker,這個主要就是配置多個broker的配置檔案。
進入kafka的安裝目錄的config目錄下,我新增了server-1.properties,server-2.properties這2個配置檔案。
2.修改配置檔案,原來的server.properties這個檔案我們可以不去改它,保持預設的設定。
新增的server-1.properties和server-2.properties檔案主要改3個地方。
config/server-1.properties:7.消費訊息broker.id=1
port=9093
log.dir=/tmp/kafka-logs-1
config/server-2.properties:
broker.id=2
port=9094
log.dir=/tmp/kafka-logs-2
broker.id在整個集群中是唯一的,並且是固定不變的。port和log.dir也設成不一樣,是因為我們是在同一臺機器上搭建的集群,如果在多台機器上,這個可以一樣。
6.給我們的主題傳送訊息:
>bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-replicated-topic...my test message 1
my test message 2
>bin/kafka-console-consumer.sh --zookeeper localhost:2181 --from-beginning --topic my-replicated-topic...8.測試有broker掛掉的情況my test message 1
my test message 2^c
因為我們建的複製因子是3,所以訊息存有3份。只要還有乙個broker,訊息就不會丟掉。
具體測試操作是找出broker的程序號,kill掉其中的1個或者2個broker,再去消費訊息,訊息能準確獲取到,不會丟失。
kafka系列之kafka入門概論 1
舉個例子,生產者消費者,生產者生產雞蛋,消費者消費雞蛋,生產者生產乙個雞蛋,消費者就消費乙個雞蛋,假設消費者消費雞蛋的時候噎住了 系統宕機了 生產者還在生產雞蛋,那新生產的雞蛋就丟失了。再比如生產者很強勁 大交易量的情況 生產者1秒鐘生產100個雞蛋,消費者1秒鐘只能吃50個雞蛋,那要不了一會,消費...
Kafka總結系列(二)
kafka高度依賴於檔案系統來儲存和快取訊息。對於磁碟的正確認識 對磁碟的線性讀寫比隨機讀寫快很多倍,且有研究表明 對磁碟的線性讀寫在有些情況下可以比記憶體的隨機訪問要更快!在訊息佇列系統中,如果磁碟的因素被排除之後 線性讀寫磁碟的速度並不那麼慢 還有兩個原因會導致inefficiency 太多io...
Kafka系列二 kafka相關問題理解
類jms訊息佇列,結合jms中的兩種模式,可以有多個消費者主動拉取資料,在jms中只有點對點模式才有消費者主動拉取資料。kafka是乙個生產 消費模型。producer 生產者,只負責資料生產,生產者的 可以整合到任何系統中。資料的分發策略由producer決定,預設是defaultpartitio...