環境配置
Java: JDK 1.8(推薦)或者JDK 1.7(jdk-7u51或者更新版本)
單機版
- 下載下傳Kafka安裝檔案 kafka_2.10-0.10.0.1.tgz
Kafka版本:kafka_2.10-0.10.0.1
位址:百度網盤或者Kafka官網(https://www.apache.org/dyn/closer.cgi?path=/kafka/0.10.0.1/kafka_2.10-0.10.0.1.tgz)
- 解壓kafka_2.10-0.10.0.1.tgz
tar –zxvf kafka_2.10-0.10.0.1.tgz |
- 啟動zookeeper
bin/zookeeper-server-start.sh config/zookeeper.properties & |
使用指令檢視zookeeper是否啟動成功: jps | grep Quorum
可以檢視到類似以下輸出(程序id和zookeeper的服務名稱QuorumPeerMain):
46309 QuorumPeerMain |
- 啟動Kafka Broker
bin/kafka-server-start.sh -daemon config/server.properties |
使用指令檢視kafka Broker是否啟動更成功:jps | grep Kafka
可以檢視到類似以下輸出(程序id和Kafka的服務名稱Kafka, “K”字母大寫):
34884 Kafka |
如果啟動失敗,可以檢視kafka安裝目錄下的logs/kafkaServer.out檔案,尋找失敗原因。
- 驗證
- 建立topic,名字為test,包含5個分區,副本數為1,資料保留時長為2天(預設是1天)
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 5 --topic test --config delete.retention.ms=172800000 |
更多參數,請參考:http://kafka.apache.org/0100/documentation.html#producerconfigs
2.1生産資料
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test |
然後,鍵盤輸入下面的資訊并輸入回車:
hello world aura bigdata |