kafka相關shell命令

2021-10-17 14:47:41 字數 3619 閱讀 7298

啟動kafka

kafka-server-start.sh -daemon /opt/kafka_2.11-2.0.0/config/server.properties
停止kafka
kafka-server-stop.sh  -daemon /opt/kafka_2.11-2.0.0/config/server.properties
kafka-roducer.sh --broker-list 192.168.106.199:9092 --topic dzy-test
啟動kafka-eager
ke.sh start
檢視topic列表
kafka-topics.sh --list --zookeeper 192.168.106.199:2181
檢視topic描述資訊
kafka-topics.sh --describe --zookeeper 192.168.106.199:2181
檢視某一topic描述資訊
kafka-topics.sh --describe --zookeeper 192.168.106.199:2181 --topic dzy-test
建立topic
kafka-topics.sh --create --zookeeper 192.168.106.199:2181 --replication-factor 1 --partitions 1 --topic dzy-test
建立傳送視窗
kafka-console-producer.sh --broker-list 192.168.106.199:9092 --topic dzy-test
建立接收視窗
kafka-console-consumer.sh --bootstrap-server 192.168.106.199:9092 --topic dzy-test --from-beginning
刪除topic
kafka-topics.sh --zookeeper 192.168.106.199:2181 --delete --topic my_topic_name
檢視所有消費者

列表

kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
查詢某個測點資料

sh kafka-console-consumer.sh --bootstrap-server microservice-dc-1:9092  --topic dis-excess-ampli-chang |grep plc6.s7300.xnjbj3_time_h
管理
## 建立主題(4個分割槽,2個副本)

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test

查詢
## 查詢集群描述

bin/kafka-topics.sh --describe --zookeeper

## 消費者列表查詢

bin/kafka-topics.sh --zookeeper 127.0.0.1:2181 --list

## 新消費者列表查詢(支援0.9版本+)

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --list

## 顯示某個消費組的消費詳情(僅支援offset儲存在zookeeper上的)

bin/kafka-run-class.sh kafka.tools.consumeroffsetchecker --zookeeper localhost:2181 --group test

## 顯示某個消費組的消費詳情(支援0.9版本+)

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --describe --group test-consumer-group

傳送和消費
## 生產者

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

## 消費者

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test

## 新生產者(支援0.9版本+)

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test --producer.config config/producer.properties

## 新消費者(支援0.9版本+)

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --new-consumer --from-beginning --consumer.config config/consumer.properties

## 高階點的用法

bin/kafka-******-consumer-shell.sh --brist localhost:9092 --topic test --partition 0 --offset 1234 --max-messages 10

平衡leader

bin/kafka-preferred-replica-election.sh --zookeeper zk_host:port/chroot
kafka自帶壓測命令

bin/kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100  --producer-props bootstrap.servers=localhost:9092
增加副本

建立規則json

cat > increase-replication-factor.json <

執行bin/kafka-reassign-partitions.sh --zookeeper localhost:2181 --reassignment-json-file increase-replication-factor.json --execute

驗證bin/kafka-reassign-partitions.sh --zookeeper localhost:2181 --reassignment-json-file increase-replication-factor.json --verify

kafka相關命令

1.群起指令碼 bin bash case 1 in start stop esac 2.檢視主題 bin kafka topics.sh list zookeeper k8smaster 2181 3.建立主題 kafka topics.sh create zookeeper k8smaster ...

kafka相關命令整理

1 啟動kafka zookeeper服務命令 nohup bin zookeeper server start.sh config zookeeper.properties dev null 2 1 2 啟動kafka broker服務命令 nohup bin kafka server start...

kafka相關操作命令

1 開啟zookeeper集群 startzk.sh 2 開啟kafka集群 start kafka.sh 3 開啟kafka視覺化介面 kafka manager start kafka manager.sh 4 生產者操作 kafka console producer.sh broker lis...