apache spark 的技术、社区和用户群都在快速增长。2015 年推出了两个新的api:dataframe api 和 dataset api。这两个 api 构建在基于 rdd 的核心 api 之上。我们有必要了解 rdd 的更深层概念,包括运行时的架构和它在 spark 各种资源管理器上的表现。
本章分为以下子主题:
启动 spark 守护进程
spark 的核心概念
键值对 rdd
spark 程序的生命周期
spark 应用程序
持久化和缓存
spark 资源管理器:standalone、yarn和 mesos