天天看點

Mac安裝Kafka(依賴zookeeper)

版本

kafka_2.11-2.0.0

flume1.8.0

一、軟體下載下傳

http://kafka.apache.org/downloads.html

tar -zxf kafka_2.11-2.0.0.tgz

二、修改配置檔案

【1】建立日志檔案夾:

mkdir /Users/mac/SoftWare/Cache/kafka

【2】修改kafka配置檔案

vim config/server.properties

listeners=PLAINTEXT://172.23.75.105:9092

log.dirs=/Users/mac/SoftWare/Cache/kafka

外網通路需要加,Flume連接配接用:

advertised.listeners=PLAINTEXT://172.23.75.105:9092

三、啟動(依賴zookeeper)

進入項目目錄

  cd /Users/mac/SoftWare/kafka_2.11-2.0.0

背景啟動(推薦)

  nohup ./bin/kafka-server-start.sh ./config/server.properties &

正常啟動(測試用)

  ./bin/kafka-server-start.sh ./config/server.properties &

檢視狀态:jps

關閉Kafka:  ./bin/kafka-server-stop.sh 

四、測試kafka

【1】建立一個topic

  ./bin/kafka-topics.sh --zookeeper localhost:2181 --create --topic robots2 --partitions 1 --replication-factor 1

【2】檢視建立的topic

  ./bin/kafka-topics.sh --zookeeper localhost:2181 --list

【3】啟動消費者

  ./bin/kafka-console-consumer.sh --bootstrap-server 172.23.75.105:9092 --topic robots2 --from-beginning

  注:新版的kafka隻能使用–bootstrap-server來啟動,zookeeper的指令已經被取消了。

【4】啟動生産者,然後輸入消息測試

  ./bin/kafka-console-producer.sh --broker-list 172.23.75.105:9092 --topic robots2

五、接入flume,接收消息

【1】啟動zookeeper

【2】背景啟動kafka(參考上面的)

【3】檢視建立的topic

  ./bin/kafka-topics.sh --zookeeper localhost:2181 --list  

【4】開啟消費topic

  cd /Users/mac/SoftWare/kafka_2.11-2.0.0

【5】啟動flume生産内容(

  cd /Users/mac/SoftWare/flume-1.8.0

  背景啟動:nohup ./bin/flume-ng agent -c ./conf/ -f ./conf/kafka.properties -n agent -Dflume.root.logger=DEBUG,console &