天天看点

KAFKA集群搭建

环境:

CentOS 6.5

KAFKA版本: kafka_2.11-0.8.2.1

ZOOKEEPER版本: zookeeper-3.4.6

JDK: 1.8.0_151

SERVER: 172.16.2.27、172.16.2.28、172.16.2.29

一、准备:

1、安装JDK1.8

2、下载kafka和zookeeper安装包(二进制包)

下载地址:

kafka:http://kafka.apache.org/downloads 下载合适版本

zookeeper: http://zookeeper.apache.org/releases.html  下载合适版本

二、安装zookeeper集群

修改配置文件

三台服务器上的配置是一样的

配置文件解释:

创建myid文件

重要说明:

1、myid文件和server.myid  在快照目录下存放的标识本台服务器的文件,他是整个zk集群用来发现彼此的一个重要标识。

2、zoo.cfg 文件是zookeeper配置文件 在conf目录里。

3、log4j.properties文件是zk的日志输出文件 在conf目录里用java写的程序基本上有个共同点日志都用log4j,来进行管理。

4、zkEnv.sh和zkServer.sh文件

zkServer.sh 主的管理程序文件

zkEnv.sh 是主要配置,zookeeper集群启动时配置环境变量的文件

5、还有一个需要注意

ZooKeeper server will not remove old snapshots and log files when using the default configuration (see autopurge below), this is the responsibility of the operator

zookeeper不会主动的清除旧的快照和日志文件,这个是操作者的责任。

清理ZooKeeper日志的方法请参考:https://www.cnblogs.com/luotianshuai/p/5206662.html

启动ZooKeeper服务

三、安装KAFKA集群

启动kafka服务并测试:

检查kafka服务是否启动

三台服务器上配置基本一样,除了下面两条配置不同