天天看點

《深入了解Spark:核心思想與源碼分析》——3.3節建立metadataCleaner

本節書摘來自華章社群《深入了解spark:核心思想與源碼分析》一書中的第3章,第3.3節建立metadatacleaner,作者耿嘉安,更多章節内容可以通路雲栖社群“華章社群”公衆号檢視

3.3 建立metadatacleaner

sparkcontext為了保持對所有持久化的rdd的跟蹤,使用類型是timestamped-weakvaluehashmap的persistentrdds緩存。metadatacleaner的功能是清除過期的持久化rdd。建立metadatacleaner的代碼如下。

繼續閱讀