版本
kafka_2.11-2.0.0
flume1.8.0
一、軟體下載下傳
http://kafka.apache.org/downloads.html
tar -zxf kafka_2.11-2.0.0.tgz
二、修改配置檔案
【1】建立日志檔案夾:
mkdir /Users/mac/SoftWare/Cache/kafka
【2】修改kafka配置檔案
vim config/server.properties
listeners=PLAINTEXT://172.23.75.105:9092
log.dirs=/Users/mac/SoftWare/Cache/kafka
外網通路需要加,Flume連接配接用:
advertised.listeners=PLAINTEXT://172.23.75.105:9092
三、啟動(依賴zookeeper)
進入項目目錄
cd /Users/mac/SoftWare/kafka_2.11-2.0.0
背景啟動(推薦)
nohup ./bin/kafka-server-start.sh ./config/server.properties &
正常啟動(測試用)
./bin/kafka-server-start.sh ./config/server.properties &
檢視狀态:jps
關閉Kafka: ./bin/kafka-server-stop.sh
四、測試kafka
【1】建立一個topic
./bin/kafka-topics.sh --zookeeper localhost:2181 --create --topic robots2 --partitions 1 --replication-factor 1
【2】檢視建立的topic
./bin/kafka-topics.sh --zookeeper localhost:2181 --list
【3】啟動消費者
./bin/kafka-console-consumer.sh --bootstrap-server 172.23.75.105:9092 --topic robots2 --from-beginning
注:新版的kafka隻能使用–bootstrap-server來啟動,zookeeper的指令已經被取消了。
【4】啟動生産者,然後輸入消息測試
./bin/kafka-console-producer.sh --broker-list 172.23.75.105:9092 --topic robots2
五、接入flume,接收消息
【1】啟動zookeeper
【2】背景啟動kafka(參考上面的)
【3】檢視建立的topic
./bin/kafka-topics.sh --zookeeper localhost:2181 --list
【4】開啟消費topic
cd /Users/mac/SoftWare/kafka_2.11-2.0.0
【5】啟動flume生産内容(
cd /Users/mac/SoftWare/flume-1.8.0
背景啟動:nohup ./bin/flume-ng agent -c ./conf/ -f ./conf/kafka.properties -n agent -Dflume.root.logger=DEBUG,console &