Zeppelin 是和Juppter 類似的筆記本工具,支援多種語言,支援spark,scala ,,,,
Zeppelin 界面:http://10.20.2.32:8181/#/notebook/2DP1QY3HA
Juppter:
Zepplin 安裝方法:
1. 下載下傳安裝 (和spark 的某個節點安裝在一起)
/var/server/zeppelin
2.修改配置檔案:
zeppelin/conf/
[[email protected] conf]$ ls
configuration.xsl interpreter-list log4j_yarn_cluster.properties zeppelin-env.cmd.template zeppelin-env.sh.template zeppelin-site.xml.template
interpreter.json log4j.properties shiro.ini.template zeppelin-env.sh zeppelin-site.xml
在zeppelin-env.sh 裡必須設定
export SPARK_HOME=/var/server/spark
zeepelin-site.xml 修改端口為8181, 避免跟spark 沖突.
<property>
<name>zeppelin.server.port</name>
<value>8181</value>
<description>Server port.</description>
</property>
3.啟動 /var/server/zeppelin/bin/zeppelin-daemon start
4. 用浏覽器打開http://10.20.2.32:8181/
5.進入浏覽器配置: 點選右上角菜單的 Interpreter
5.1先輸入spark 設定
spark://10.20.2.31:7077,10.20.2.32:7077,10.20.2.33:7077,10.20.2.34:7077,10.20.2.35:7077 如上圖 點選編輯
對應的地方填寫,然後下面的 save 儲存。
5.2 然後設定hadoop hdfs
下面同樣的方式,填寫 file 過濾,然後填寫hdfs 位址,然後儲存.
6. 輸入spark 代碼測試。
驗證成功。
這樣以後再也不用輸入在指令行裡 使用spark-shell 了。
非常友善學習和研究,提高學習效率。