天天看點

Intellij中使用Spark編寫程式

1.配置準備:Windows + Intellij+maven+scala+hadoop+java,依次解釋這些配置:

windows的jdk安裝以及配置

windows中Intellij的安裝及配置

在Intellij中安裝Scala插件,這個操作同樣很簡單,不再贅述

在Intellij中使用Maven建構項目,這個過程稍微複雜,不了解maven的同志們可以稍微了解一下,因為maven的使用大大降低了包的依賴的問題,是以這是個必須需要掌握的知識點。

安裝windows下的hadoop二進制包。具體連結是:https://github.com/amihalik/hadoop-common-2.6.0-bin 具體這個有什麼作用,我現在也不知道。下載下傳之後,需要配置一下環境變量。【HADOOP_HOME】

2.使用Intellij建立Maven項目,其中的pom.xml檔案内容如下:

pom.xml

WordCount程式如下:

繼續閱讀