深入理解Spark：核心思想与源码分析. 导读

<b>大数据技术丛书</b>

<b> </b>

<b>深入理解spark:核心思想与源码分析</b>

<b>耿嘉安　著</b>

<b>preface </b>

前言

<b>为什么写这本书</b>

要回答这个问题，需要从我个人的经历说起。说来惭愧，我第一次接触计算机是在高三。当时跟大家一起去网吧玩cs，跟身边的同学学怎么“玩”。正是通过这种“玩”的过程，让我了解到计算机并没有那么神秘，它也只是台机器，用起来似乎并不比打开电视机费劲多少。高考填志愿的时候，凭着直觉“糊里糊涂”就选择了计算机专业。等到真正学习计算机课程的时候却又发现，它其实很难！

早在2004年，还在学校的我跟很多同学一样，喜欢看flash，也喜欢谈论flash甚至做flash。感觉flash正如它的名字那样“闪光”。那些年，在学校里，知道flash的人可要比知道java的人多得多，这说明当时的flash十分火热。此外，oracle也成为关系型数据库里的领军人物，很多人甚至觉得懂oracle要比懂flash、java及其他数据库要厉害得多！

2007年，我刚刚参加工作不久。那时struts1、spring、hibernate几乎可以称为那些用java作为开发语言的软件公司的三驾马车。很快，struts2替代了struts1的地位，让我第一次意识到it领域的技术更新竟然如此之快！随着很多传统软件公司向互联网公司转型，hibernate也难以确保其地位，ibatis诞生了！

2010年，有关hadoop的技术图书涌入中国，当时很多公司用它只是为了数据统计、数据挖掘或者搜索。一开始，人们对于hadoop的认识和使用可能相对有限。大约2011年的时候，关于云计算的概念在网上炒得火热，当时依然在做互联网开发的我，对其只是“道听途说”。后来跟同事借了一本有关云计算的书，回家挑着看了一些内容，也没什么收获，怅然若失！20世纪60年代，美国的军用网络作为互联网的雏形，很多内容已经与云计算中的某些说法类似。到20世纪80年代，互联网就已经启用了云计算，如今为什么又要重提这样的概念？这个问题我可能回答不了，还是交给历史吧。

2012年，国内又呈现出大数据热的态势。从国家到媒体、教育、it等几乎所有领域，人人都在谈大数据。我的亲戚朋友中，无论老师、销售人员，还是工程师们都可以针对大数据谈谈自己的看法。我也找来一些hadoop的书籍进行学习，希望能在其中探索到大数据的奥妙。

有幸在工作过程中接触到阿里的开放数据处理服务（open data processing service，odps），并且基于odps与其他小伙伴一起构建阿里的大数据商业解决方案—御膳房。去杭州出差的过程中，有幸认识和仲，跟他学习了阿里的实时多维分析平台—garuda和实时计算平台—galaxy的部分知识。和仲推荐我阅读spark的源码，这样会对实时计算及流式计算有更深入的了解。2015年春节期间，自己初次上网查阅spark的相关资料学习，开始研究spark源码。还记得那时只是出于对大数据的热爱，想使自己在这方面的技术能力有所提升。

从阅读hibernate源码开始，到后来阅读tomcat、spring的源码，我也在从学习源码的过程中成长，我对源码阅读也越来越感兴趣。随着对spark源码阅读的深入，发现很多内容从网上找不到答案，只能自己“硬啃”了。随着自己的积累越来越多，突然有一天发现，我所总结的这些内容好像可以写成一本书了！从闪光（flash）到火花（spark），足足有11个年头了。无论是flash、java，还是spring、ibatis，我一直扮演着一个追随者，我接受这些书籍的洗礼，从未给予。如今我也是spark的追随者，不同的是，我不再只想简单攫取，还要给予。

最后还想说一下，2016年是我从事it工作的第10个年头，此书特别作为送给自己的10周年礼物。

本书特色

按照源码分析的习惯设计，从脚本分析到初始化再到核心内容，最后介绍spark的扩展内容。整个过程遵循由浅入深、由深到广的基本思路。

本书涉及的所有内容都有相应的例子，以便于读者对源码的深入研究。

本书尽可能用图来展示原理，加速读者对内容的掌握。

本书讲解的很多实现及原理都值得借鉴，能帮助读者提升架构设计、程序设计等方面的能力。

本书尽可能保留较多的源码，以便于初学者能够在像地铁、公交这样的地方，也能轻松阅读。

读者对象

源码阅读是一项苦差事，人力和时间成本都很高，尤其是对于spark陌生或者刚刚开始学习的人来说，难度可想而知。本书尽可能保留源码，使得分析过程不至于产生跳跃感，目的是降低大多数人的学习门槛。如果你是从事it工作1～3年的新人或者是希望学习spark核心知识的人，本书非常适合你。如果你已经对spark有所了解或者已经在使用它，还想进一步提高自己，那么本书更适合你。

如果你是一个开发新手，对java、linux等基础知识不是很了解，那么本书可能不太适合你。如果你已经对spark有深入的研究，本书也许可以作为你的参考资料。

总体说来，本书适合以下人群：

想要使用spark，但对spark实现原理不了解，不知道怎么学习的人；

大数据技术爱好者，以及想深入了解spark技术内部实现细节的人；

有一定spark使用基础，但是不了解spark技术内部实现细节的人；

对性能优化和部署方案感兴趣的大型互联网工程师和架构师；

开源代码爱好者。喜欢研究源码的同学可以从本书学到一些阅读源码的方式与方法。

本书不会教你如何开发spark应用程序，只是用一些经典例子演示。本书简单介绍hadoop mapreduce、hadoop yarn、mesos、tachyon、zookeeper、hdfs、amazon s3，但不会过多介绍这些框架的使用，因为市场上已经有丰富的这类书籍供读者挑选。本书也不会过多介绍scala、java、shell的语法，读者可以在市场上选择适合自己的书籍阅读。

如何阅读本书

本书分为三大部分（不包括附录）：

准备篇（第1～2章），简单介绍了spark的环境搭建和基本原理，帮助读者了解一些背景知识。

核心设计篇（第3～7章），着重讲解sparkcontext的初始化、存储体系、任务提交与执行、计算引擎及部署模式的原理和源码分析。

扩展篇（第8～11章），主要讲解基于spark核心的各种扩展及应用，包括：sql处理引擎、hive处理、流式计算框架spark streaming、图计算框架graphx、机器学习库mllib等内容。

本书最后还添加了几个附录，包括：附录a介绍的spark中最常用的工具类utils；附录b是akka的简介与工具类akkautils的介绍；附录c为jetty的简介和工具类jettyutils的介绍；附录d为metrics库的简介和测量容器metricregistry的介绍；附录e演示了hadoop1.0版本中的word count例子；附录f介绍了工具类commandutils的常用方法；附录g是关于netty的简介和工具类nettyutils的介绍；附录h列举了笔者编译spark源码时遇到的问题及解决办法。

为了降低读者阅读理解spark源码的门槛，本书尽可能保留源码实现，希望读者能够怀着一颗好奇的心，spark当前很火热，其版本更新也很快，本书以spark 1.2.3版本为主，有兴趣的读者也可按照本书的方式，阅读spark的最新源码。

勘误和支持

本书内容很多，限于笔者水平有限，书中内容难免有错误之处。在本书出版后的任何时间，如果你对本书有任何问题或者意见，都可以通过邮箱[email protected]或博客http://www.cnblogs.com/jiaan-geng/联系我，说出你的建议或者想法，希望与大家共同进步。

致谢

感谢苍天，让我生活在这样一个时代，能接触互联网和大数据；感谢父母，这么多年来，在学习、工作及生活上的帮助与支持；感谢妻子在生活中的照顾和谦让。

感谢杨福川和高婧雅给予本书出版的大力支持与帮助。

感谢冰夷老大和王贲老大让我有幸加入阿里，接触大数据应用；感谢和仲对galaxy和garuda耐心细致的讲解以及对spark的推荐；感谢张中在百忙之中给本书写评语；感谢周亮、澄苍、民瞻、石申、清无、少侠、征宇、三步、谢衣、晓五、法星、曦轩、九翎、峰阅、丁卯、阿末、紫丞、海炎、涵康、云飏、孟天、零一、六仙、大知、井凡、隆君、太奇、晨炫、既望、宝升、都灵、鬼厉、归钟、梓撤、昊苍、水村、惜冰、惜陌、元乾等同仁在工作上的支持和帮助。

耿嘉安　于北京

准　备　篇

第1章　环境准备2

1.1　运行环境准备2

1.1.1　安装jdk3

1.1.2　安装scala3

1.1.3　安装spark4

1.2　spark初体验4

1.2.1　运行spark-shell4

1.2.2　执行word count5

1.2.3　剖析spark-shell7

1.3　阅读环境准备11

1.4　spark源码编译与调试13

1.5　小结17

第2章　spark设计理念与基本架构18

2.1　初识spark18

2.1.1　hadoop mrv1的局限18

2.1.2　spark使用场景20

2.1.3　spark的特点20

2.2　spark基础知识20

2.3　spark基本设计思想22

2.3.1　spark模块设计22

2.3.2　spark模型设计24

2.4　spark基本架构25

2.5　小结26

核心设计篇

第3章　sparkcontext的初始化28

3.1　sparkcontext概述28

3.2　创建执行环境sparkenv30

3.2.1　安全管理器securitymanager31

3.2.2　基于akka的分布式消息系统actorsystem31

3.2.3　map任务输出跟踪器mapoutputtracker32

3.2.4　实例化shufflemanager34

3.2.5　shuffle线程内存管理器shufflememorymanager34

3.2.6　块传输服务blocktransferservice35

3.2.7　blockmanagermaster介绍35

3.2.8　创建块管理器blockmanager36

3.2.9　创建广播管理器broadcast-manager36

3.2.10　创建缓存管理器cachemanager37

3.2.11　http文件服务器httpfile-server37

3.2.12　创建测量系统metricssystem39

3.2.13　创建sparkenv40

3.3　创建metadatacleaner41

3.4　sparkui详解42

3.4.1　listenerbus详解43

3.4.2　构造jobprogresslistener46

3.4.3　sparkui的创建与初始化47

3.4.4　spark ui的页面布局与展示49

3.4.5　sparkui的启动54

3.5　hadoop相关配置及executor环境变量54

3.5.1　hadoop相关配置信息54

3.5.2　executor环境变量54

3.6　创建任务调度器taskscheduler55

3.6.1　创建taskschedulerimpl55

3.6.2　taskschedulerimpl的初始化57

3.7　创建和启动dagscheduler57

3.8　taskscheduler的启动60

3.8.1　创建localactor60

3.8.2　executorsource的创建与注册62

3.8.3　executoractor的构建与注册64

3.8.4　spark自身classloader的创建64

3.8.5　启动executor的心跳线程66

3.9　启动测量系统metricssystem69

3.9.1　注册sources70

3.9.2　注册sinks70

3.9.3　给sinks增加jetty的servlet-contexthandler71

3.10　创建和启动executorallocation-manager72

3.11　contextcleaner的创建与启动73

3.12　spark环境更新74

3.13　创建dagschedulersource和blockmanagersource76

3.14　将sparkcontext标记为激活77

3.15　小结78