目錄
1.簡介
2.環境搭建
2.1 安裝jdk
2.2 安裝zookeeper
2.3 安裝kafka
2.4 執行kafka
2.5 建立主題
2.6 建立生產者(producer)和消費者(consumer)
kafka是一種高吞吐量的分布式發布訂閱訊息系統。詳細介紹可查閱官網:kafka官網
zookeeper是乙個分布式的,開放原始碼的分布式應用程式協調服務,是google的chubby乙個開源的實現,是hadoop和hbase的重要元件。它是乙個為分布式應用提供一致性服務的軟體,提供的功能包括:配置維護、網域名稱服務、分布式同步、組服務等。
詳細介紹可查閱官網:zookeeper官網
②將"zoo_sample.cfg"重新命名為"zoo.cfg" 或將"zoo_sample.cfg"複製乙份並改名為"zoo.cfg"
datadir=d:/bigdata/zookeeper/data或 d:\\bigdata\\zookeeper\\data(路徑僅為示例,具體可根據需要配置)
④開啟log4j.properties配置日誌的生成路徑
zookeeper.log.dir=d:/bigdata/zookeeper/log
⑤與配置jre類似,在系統環境變數中新增:
a.系統變數中新增zookeeper_home=d:\bigdata\zookeeper
b.編輯系統變數中的path變數,增加%zookeeper_home%\bin
⑥在zoo.cfg檔案中修改預設的zookeeper埠(預設埠2181)
# the number of milliseconds of each tick
ticktime=2000
# the number of ticks that the initial
# synchronization phase can take
initlimit=10
# the number of ticks that can pass between
# sending a request and getting an acknowledgement
synclimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
#datadir=/tmp/zookeeper
# the port at which the clients will connect
clientport=2181
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxclientcnxns=60
## be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
## ## the number of snapshots to retain in datadir
#autopurge.snapretaincount=3
# purge task interval in hours
# set to "0" to disable auto purge feature
#autopurge.purgeinterval=1
datadir=d:/zookeeper/data
⑦開啟cmd視窗,輸入zkserver,執行zookeeper
當看到有 binding to port 0.0.0.0/0.0.0.0:2181時說明啟動成功
解壓放在d:\bigdata目錄下。
①進入kafka配置檔案所在目錄,d:\bigdata\kafka\config
log.dirs=/bigdata/kafka/kafka-logs 或者 d:\\bigdata\\kafka\\kafka-logs
③在server.properties檔案中,zookeeper.connect=localhost:2181代表kafka所連線的zookeeper所在的伺服器ip以及埠,可根據需要更改。本文在同一臺機器上使用,故不用修改。
④kafka會按照預設配置,在9092埠上執行,並連線zookeeper的預設埠2181。
①進入kafka安裝目錄d:\bigdata\kafka
②按下shift+滑鼠右鍵,選擇"在此處開啟命令視窗",開啟命令列。
③在命令列中輸入:.\bin\windows\kafka-server-start.bat .\config\server.properties 回車。
正確的顯示為下圖:
到目前為止,zookeeper以及kafka都已正確執行。保持執行狀態,不要關閉。
①建立主題,命名為"test0811",replicationfactor=1(因為只有乙個kafka伺服器在執行)。可根據集群中kafka伺服器個數來修改replicationfactor的數量,以便提高系統容錯性等。
②在d:\bigdata\kafka\bin\windows目錄下開啟新的命令列
③輸入命令:
kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test0811 回車。
該視窗不要關閉。
③同樣在該目錄下開啟新的命令列。
④輸入命令,啟動consumer:
kafka-console-consumer.bat --zookeeper localhost:2181 --topic test0811
現在生產者、消費者均已建立完成。
⑤在producer命令列視窗中任意輸入內容,回車 在consumer命令列視窗中即可看到相應的內容。
至此,已完成kafka在windows下的安裝和基本的使用。
①在d:\bigdata\kafka\bin\windows目錄下開啟新的命令列。
②輸入命令,啟動producer:
kafka-console-producer.bat --broker-list localhost:9092 --topic test0811
TensorFlow在Windows上的安裝之路
google上點了無數的連線,翻了無數的帖子,因版本不匹配問題,將python cuda解除安裝又重灌。搗鼓了一天,終於把tensorflow環境搭建好了。整理了兩個比較有用的帖子,1 知乎回答 手把手教你搭建谷歌tensorflow深度學習開發環境!2 windows環境下anaconda安裝te...
MinGW lapack 在windows 上安裝
方案一 mingw makefiles 配置好以後直接在build資料夾下,執行cmd.exe shell,mingw32 make j5,之後執行mingw32 make install 安裝檔案到c program files x86 lapack,勾選build shared libs 方案二...
dbus在windows上的編譯
author kagula date 2015 09 16 1 expat win32bin 2.1.0.exe 2 dbus 1.6.8.tar.gz 準備 1 先安裝expat win32bin 2.1.0.exe,我這裡的安裝路徑是 d expat 2.1.0 方式一 1 參考資料一,在 ad...