天天看点

《深入理解Spark:核心思想与源码分析》——第3章SparkContext的初始化

本节书摘来自华章社区《深入理解spark:核心思想与源码分析》一书中的第3章sparkcontext的初始化,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看

第3章

sparkcontext的初始化

道生一, 一生二, 二生三, 三生万物。

—《道德经》

本章导读

sparkcontext的初始化是driver应用程序提交执行的前提,本章内容以local模式为主,并按照代码执行顺序讲解,这将有助于首次接触spark的读者理解源码。读者朋友如果能边跟踪代码,边学习本章内容,也许是快速理解sparkcontext初始化过程的便捷途径。已经熟练使用spark的开发人员可以选择跳过本章内容。

本章将在介绍sparkcontext初始化过程的同时,向读者介绍各个组件的作用,为阅读后面的章节打好基础。spark中的组件很多,就其功能而言涉及网络通信、分布式、消息、存储、计算、缓存、测量、清理、文件服务、web ui的方方面面。

继续阅读