kafka最常用命令清单

1、启动confluent：

./schema-registry-start  -daemon ./etc/schema-registry/schema-registry.properties

1

-daemon的目的是为了后台运行，且能保证日志输出。

输出日志的路径为confluent的logs路径。

2、生产者——生成AVRO格式数据

./bin/kafka-avro-console-producer --broker-list 192.168.1.11:9092 --topic mytopic --property

value.schema='{"type":"record","name":"myrecord","fields":[{"name":"f1","type":"string"}]}'

2

3、消费者——AVRO格式数据消费

./kafka-avro-console-consumer --topic mytopic  --bootstrap-server  192.168.1.11:9092

./kafka-avro-console-consumer --new-consume  --topic mytopic   --bootstrap-server  192.168.1.11:9092

4、启动scheme，监听8081端口

./schema-registry-start  -daemon ./etc/schema-registry/schema-registry.properties

5、启动connector连接，监听8083端口

./bin/connect-distributed  -daemon ./etc/schema-registry/connect-avro-distributed.properties

6、利用restful API 接口创建connector

可借助postman工具。

curl -XGET 192.168.1.11:8083/connectors

curl -XDELETE 192.168.1.11:8083/connectors/某条连接

二、zookeeper相关

1、启动zookeeper

./zkServer.sh start

启动后，监听端口：2181

2、停止zookeeper

./zkServer.sh stop

三、kafka相关

1、启动kafka：

./kafka-server-start.sh -daemon ../config/server.properties

启动后，默认监听端口 9092

2、创建专题topic

在kafka的路径下，

./kafka-topics.sh --create --zookeeper 192.168.1.11:2181 --replication-factor 1 --partitions 5--topic mytopic

3、查看专题topic

./kafka-topics.sh --describe --zookeeper 192.168.1.11:2181 --topic mytopic

4、修改partition

./kafka-topics.sh --zookeeper  192.168.1.11:2181 --alter --topicmytopic  --partition 10

修改分片大小为10

5、启动生产者——生产数据(发送）

kafka的路径下，

bin/kafka-console-producer.sh --broker-list 192.168.1.11:9092 --topic  mytopi

This is a message

This is another message

3

6、启动消费者

./kafka-console-consumer.sh --bootstrap-server 192.168.1.11:9092 --topic mytopic --from-beginning

–from-beginning：从头开始读；

去掉–from-beginning：从最新处开始读。

7、删除topic

步骤1：删除topic

./kafka-topics.sh –zookeeper 192.168.1.11:2181 –delete –topic mytopic

步骤2：client删除操作

   1）打开zookeeper client

    执行：./bin/zkCli.sh  -server 192.168.1.11:2181

   2）在Zookeeper客户端下执行命令

       ls /brokers/topics

   3)在Zookeeper客户端下执行命令

       rmr /brokers/topics/mytopic

       其中，mytopic为要删除的topic。

   4)验证是否删除：

       ls /config/topics

       ls /brokers/topics      

       ls /admin/delete_topics

     Admin/delete_topic/下为待删除topic，

     如果在kafka中topic被删除，会有删除被标记，就是标记在这里。

  5）查看topic还在不在

 ./kafka-topics.sh --list --zookeeper  192.168.1.11:2181  | grep mytopic

4

5

6

7

8

9

10

11

12

13

14

15

16

17

以上，仅作为备忘。