天天看点

Intellij中使用Spark编写程序

1.配置准备:Windows + Intellij+maven+scala+hadoop+java,依次解释这些配置:

windows的jdk安装以及配置

windows中Intellij的安装及配置

在Intellij中安装Scala插件,这个操作同样很简单,不再赘述

在Intellij中使用Maven构建项目,这个过程稍微复杂,不了解maven的同志们可以稍微了解一下,因为maven的使用大大降低了包的依赖的问题,所以这是个必须需要掌握的知识点。

安装windows下的hadoop二进制包。具体链接是:https://github.com/amihalik/hadoop-common-2.6.0-bin 具体这个有什么作用,我现在也不知道。下载之后,需要配置一下环境变量。【HADOOP_HOME】

2.使用Intellij创建Maven项目,其中的pom.xml文件内容如下:

pom.xml

WordCount程序如下:

继续阅读