confluent是平台化的工具,封裝了kafka,讓我們可以更方便的安裝和使用監控kafka,作用類似於cdh對於hadoop。
confluent是由linkedin開發出apache kafka的團隊成員,基於這項技術創立了新公司confluent,confluent的產品也是圍繞著kafka做的。基本架構如下:
官網
物理機安裝參考
confluent open source quick start (local)
docker安裝參考
confluent open source quick start (docker)
對比之後感覺比原生的kafka安裝簡單很多,容器是docker容器的版本,對於我們在k8s中使用很方便。
confluent platform 包括更多的工具和服務,使構建和管理資料流平台更加容易。
confluent control center(閉源)。管理和監控kafka最全面的gui驅動系統。
confluent kafka connectors(開源)。連線sql資料庫/hadoop/hive
confluent kafka clients(開源)。對於其他程式語言,包括c/c++,python
confluent kafka rest proxy(開源)。允許一些系統通過http和kafka之間傳送和接收訊息。
confluent schema registry(開源)。幫助確定每乙個應用使用正確的schema當寫資料或者讀資料到kafka中。
本次我們主要使用rest proxy,當然底層的broker也是使用confluent的kafka元件,下面簡述安裝步驟:
wget
tar xvf confluent-oss-4.0.0-2.11.tar.gz
解壓到指定目錄下
通過檢視目錄的內容,能夠發現,confluent裡面是含有kafka的,也就是說,如果你沒有安裝kafka,那麼可以通過confluent直接對kafka進行安裝。如果已經安裝了kafka,可以使用confluent提供的外掛程式。
我們可以配置自己需要的和對應配置資訊
進入解壓出來的confluent-4.0.0
cd confluent-4.0.0
配置zookeeper
vi etc/kafka/zookeeper.properties
內容如下:
datadir=/var/lib/zookeeper
clientport=2181
maxclientcnxns=0
配置kafka的broker
vi etc/kafka/server.properties
內容如下:
broker.id=50
delete.topic.enable=true
listeners=plaintext:
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/var/lib/kafka
num.partitions=1
num.recovery.threads.per.data.dir=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=192.168.11.91:2181
zookeeper.connection.timeout.ms=6000
confluent.support.metrics.enable=true
confluent.support.customer.id=anonymous
配置rest proxy
vi etc/kafka-rest/kafka-rest.properties
內容如下:
id=kafka-rest-server
#zookeeper.connect=192.168.11.91:2181
bootstrap.servers=plaintext://localhost:9092
配置schema registry
vi etc/schema-registry/schema-registry.properties
內容如下:
listeners=
kafkastore.connection.url=192.168.11.91:2181
kafkastore.topic=_schemas
debug=false
啟動kafka-rest
bin/kafka-rest-start etc/kafka-rest/kafka-rest.properties
上面的這種方式是前台啟動,也可以以後臺方式啟動。
nohup bin/kafka-rest-start etc/kafka-rest/kafka-rest.properties &
啟動zookeeper
bin/zookeeper-server-start -daemon etc/kafka/zookeeper.properties
啟動kafka broker
bin/kafka-server-start -daemon etc/kafka/server.properties
啟動schema registry
bin/schema-registry-start -daemon etc/schema-registry/schema-registry.properties
檢視topics
瀏覽器訪問或者curl都可以
檢視集群的brokers
curl
註冊consumer group
把topic和消費者my_consumer關聯起來
通過rest介面向bear push資料
通過rest介面消費資料
刪除註冊的consumer例項:
Puppet安裝使用 安裝篇
puppet 配置管理工具,使用c s架構,客戶端的factor蒐集客戶端各種資源資訊,上報伺服器端master,檢查伺服器端配置,有改變則編譯並在客戶端執行。客戶端可以根據設定的runinterval的值與伺服器進行一次通訊,檢視是否有配置變更,也可以在伺服器上主動觸發一次配置資訊更新,強制各客戶...
mysql 安裝bex mysql安裝使用
在oj中,mysql主要用來儲存使用者資訊。它的安裝和使用比較簡單,下面簡單介紹一下。首先說明一下我的linux分支環境是ubuntu 12.04,其他的分支大致步驟也是類似,可能命令有所不同。一 安裝 sudo apt get install mysql server 二 使用 mysql的常見命...
mysql免安裝使用 mysql免安裝使用說明
1 把壓縮檔案mysql noinstall 5.1.6 alpha win32.zip解壓到乙個目錄下,在環境變數中設定mysql home,把 mysql home bin 加入到 path。2 建立my.ini配置檔案,內容如下 mysqld 設定basedir指向mysql的安裝路徑base...