天天看點

KAFKA叢集搭建

環境:

CentOS 6.5

KAFKA版本: kafka_2.11-0.8.2.1

ZOOKEEPER版本: zookeeper-3.4.6

JDK: 1.8.0_151

SERVER: 172.16.2.27、172.16.2.28、172.16.2.29

一、準備:

1、安裝JDK1.8

2、下載下傳kafka和zookeeper安裝包(二進制包)

下載下傳位址:

kafka:http://kafka.apache.org/downloads 下載下傳合适版本

zookeeper: http://zookeeper.apache.org/releases.html  下載下傳合适版本

二、安裝zookeeper叢集

修改配置檔案

三台伺服器上的配置是一樣的

配置檔案解釋:

建立myid檔案

重要說明:

1、myid檔案和server.myid  在快照目錄下存放的辨別本台伺服器的檔案,他是整個zk叢集用來發現彼此的一個重要辨別。

2、zoo.cfg 檔案是zookeeper配置檔案 在conf目錄裡。

3、log4j.properties檔案是zk的日志輸出檔案 在conf目錄裡用java寫的程式基本上有個共同點日志都用log4j,來進行管理。

4、zkEnv.sh和zkServer.sh檔案

zkServer.sh 主的管理程式檔案

zkEnv.sh 是主要配置,zookeeper叢集啟動時配置環境變量的檔案

5、還有一個需要注意

ZooKeeper server will not remove old snapshots and log files when using the default configuration (see autopurge below), this is the responsibility of the operator

zookeeper不會主動的清除舊的快照和日志檔案,這個是操作者的責任。

清理ZooKeeper日志的方法請參考:https://www.cnblogs.com/luotianshuai/p/5206662.html

啟動ZooKeeper服務

三、安裝KAFKA叢集

啟動kafka服務并測試:

檢查kafka服務是否啟動

三台伺服器上配置基本一樣,除了下面兩條配置不同