使用confluent安裝kafka

2021-09-08 19:52:29 字數 3617 閱讀 6503

confluent是平台化的工具,封裝了kafka,讓我們可以更方便的安裝和使用監控kafka,作用類似於cdh對於hadoop。

confluent是由linkedin開發出apache kafka的團隊成員,基於這項技術創立了新公司confluent,confluent的產品也是圍繞著kafka做的。基本架構如下:

官網

物理機安裝參考

confluent open source quick start (local)

docker安裝參考

confluent open source quick start (docker)

對比之後感覺比原生的kafka安裝簡單很多,容器是docker容器的版本,對於我們在k8s中使用很方便。

confluent platform 包括更多的工具和服務,使構建和管理資料流平台更加容易。

confluent control center(閉源)。管理和監控kafka最全面的gui驅動系統。

confluent kafka connectors(開源)。連線sql資料庫/hadoop/hive

confluent kafka clients(開源)。對於其他程式語言,包括c/c++,python

confluent kafka rest proxy(開源)。允許一些系統通過http和kafka之間傳送和接收訊息。

confluent schema registry(開源)。幫助確定每乙個應用使用正確的schema當寫資料或者讀資料到kafka中。

本次我們主要使用rest proxy,當然底層的broker也是使用confluent的kafka元件,下面簡述安裝步驟:

wgettar xvf confluent-oss-4.0.0-2.11.tar.gz解壓到指定目錄下

通過檢視目錄的內容,能夠發現,confluent裡面是含有kafka的,也就是說,如果你沒有安裝kafka,那麼可以通過confluent直接對kafka進行安裝。如果已經安裝了kafka,可以使用confluent提供的外掛程式。

我們可以配置自己需要的和對應配置資訊

進入解壓出來的confluent-4.0.0

cd confluent-4.0.0配置zookeeper

vi etc/kafka/zookeeper.properties內容如下:

datadir=/var/lib/zookeeperclientport=2181maxclientcnxns=0配置kafka的broker

vi etc/kafka/server.properties內容如下:

broker.id=50delete.topic.enable=truelisteners=plaintext:num.network.threads=3num.io.threads=8socket.send.buffer.bytes=102400socket.receive.buffer.bytes=102400socket.request.max.bytes=104857600log.dirs=/var/lib/kafkanum.partitions=1num.recovery.threads.per.data.dir=1log.retention.hours=168log.segment.bytes=1073741824log.retention.check.interval.ms=300000zookeeper.connect=192.168.11.91:2181zookeeper.connection.timeout.ms=6000confluent.support.metrics.enable=trueconfluent.support.customer.id=anonymous配置rest proxy

vi etc/kafka-rest/kafka-rest.properties內容如下:

id=kafka-rest-server#zookeeper.connect=192.168.11.91:2181bootstrap.servers=plaintext://localhost:9092配置schema registry

vi etc/schema-registry/schema-registry.properties內容如下:

listeners=kafkastore.connection.url=192.168.11.91:2181kafkastore.topic=_schemasdebug=false啟動kafka-rest

bin/kafka-rest-start etc/kafka-rest/kafka-rest.properties上面的這種方式是前台啟動,也可以以後臺方式啟動。

nohup bin/kafka-rest-start etc/kafka-rest/kafka-rest.properties &啟動zookeeper

bin/zookeeper-server-start -daemon etc/kafka/zookeeper.properties啟動kafka broker

bin/kafka-server-start -daemon etc/kafka/server.properties啟動schema registry

bin/schema-registry-start -daemon etc/schema-registry/schema-registry.properties檢視topics

瀏覽器訪問或者curl都可以

檢視集群的brokers

curl註冊consumer group

把topic和消費者my_consumer關聯起來

通過rest介面向bear push資料

通過rest介面消費資料

刪除註冊的consumer例項:

Puppet安裝使用 安裝篇

puppet 配置管理工具,使用c s架構,客戶端的factor蒐集客戶端各種資源資訊,上報伺服器端master,檢查伺服器端配置,有改變則編譯並在客戶端執行。客戶端可以根據設定的runinterval的值與伺服器進行一次通訊,檢視是否有配置變更,也可以在伺服器上主動觸發一次配置資訊更新,強制各客戶...

mysql 安裝bex mysql安裝使用

在oj中,mysql主要用來儲存使用者資訊。它的安裝和使用比較簡單,下面簡單介紹一下。首先說明一下我的linux分支環境是ubuntu 12.04,其他的分支大致步驟也是類似,可能命令有所不同。一 安裝 sudo apt get install mysql server 二 使用 mysql的常見命...

mysql免安裝使用 mysql免安裝使用說明

1 把壓縮檔案mysql noinstall 5.1.6 alpha win32.zip解壓到乙個目錄下,在環境變數中設定mysql home,把 mysql home bin 加入到 path。2 建立my.ini配置檔案,內容如下 mysqld 設定basedir指向mysql的安裝路徑base...