天天看點

Jstorm 環境搭建Jstorm 環境搭建

Jstorm 環境搭建

有三種安裝部署方式:standalone模式、yarn模式、docker模式,其中standalone模式最簡單、輕量、穩定比較常用,整體規模不超過300台,yarn模式外部依賴較重,規模至少30台,docker比較消耗性能。

standalon模式安裝步驟

搭建外部依賴

搭建jstorm之前需要先搭建外部依賴

1. zookeeper

2. jdk 版本>=1.7

搭建Jstorm叢集

新版本2.4.0

環境: hd-23/hd-24/hd-25

使用者/密碼:jstorm/*

1. 檢查環境

- 檢查機器ip是否傳回正确的ip位址

  • 檢查jdk是否安裝以及版本是否高于1.7
$ java -version
           

2. 解壓安裝包,配置JStorm_Home

unzip jstorm-..zip
# 配置環境變量
$ vi ~/.bashrc

export JSTORM_HOME=/home/jstorm/jstorm-.
export PATH=$PATH:$JSTORM_HOME/bin

# 配置後編譯檔案.bashrc
$ source ~/source ~/.bashrc

# 檢視是否編譯成功
$ echo $JSTORM_HOME
           

3. 配置 storm.yaml

配置zookeeper相關的配置項
$ cd /home/jstorm/jstorm-/conf/
$ vi storm.yaml

 storm.zookeeper.servers:
     - "hd-23"
     - "hd-24"
     - "hd-25"

 storm.zookeeper.root: "/jstorm"
 storm.local.dir: "/home/jstorm/jstorm-2.4.0/data"
 jstorm.log.dir: "/home/jstorm/jstorm-2.4.0/logs"

java.library.path: "/usr/local/lib:/opt/local/lib:/usr/lib:/usr/local/lib/jdk1.8.0_77/lib"
supervisor.slots.ports:
    - 
    - 
    - 
    - 
           

說明:supervisor中的端口不能被占用,有幾個端口就有幾個worker

==注意:

i.每一行配置開頭必須有空格,否則報錯

ii.zookeeper端口必須一緻,預設2181

iii.不能寫hostname隻能寫ip 否則報錯==

4.在24.25伺服器上重複上述操作。

==必須保證storm.local.dir: “/home/jstorm/jstorm-2.4.0/data”初次安裝時檔案夾是空的,否則會出現緩存情況,導緻supervisor的值與實際值不符==

5.安裝WEB UI

mkdir ~/.jstorm
cp -f /home/jstorm/jstorm-/conf/storm.yaml ~/.jstorm

#編輯檔案,在末尾添加一下配置,此處也可以不配置。
 ui.clusters:
     - {
     # 叢集名稱
         name: "holly-jstorm", 
         #Zk根目錄,與上文中的storm.zookeeper.root一緻即可
         zkRoot: "/jstorm",
         zkServers:
             [ "hd-23","hd-24","hd-25"],
         zkPort: ,
       }



tar -xzf apache-tomcat-.tar.gz
cd apache-tomcat-
cd webapps
cp $JSTORM_HOME/jstorm-ui-.war ./

mv ROOT ROOT.old
ln -s jstorm-ui- ROOT
../bin./startup.sh
           

6. 啟動jstorm

# 在主節點伺服器上執行以下指令
$ cd jstorm-.
$ nohup bin/jstorm nimbus &
# 檢視是否啟動成功
$ jps
 Bootstrap
 NimbusServer
 Jps
# 出現NimbusServer,說明主節點已啟動
#也可以檢視日志
$ tail -f logs/nimbus.log


# 去其他節點執行以下指令

$ cd cd jstorm-.
$ nohup bin/jstorm supervisor &
$ jps
 Supervisor
 Jps

# 出現Supervisor,說明啟動成功

#也可以檢視日志
$ tail -f logs/supervisor.log
           

7. 通路web ui 界面檢視jtorm資訊

http://hd-23:8087/

==注意:如果頁面上supervisor 的數量與實際啟動的值不符,則需要将data中的檔案清除,重新開機==

送出jar

送出jar指令
$ jstorm jar xxx.jar xxx.java params
# xxx.jar jar名稱
# xxx.java 主類入口
# params 參數(配置檔案名稱)