Flink 是一个分布式系统，需要有效分配和管理计算资源才能执行流应用程序。它集成了所有常见的集群资源管理器，例如Hadoop YARN、Apache Mesos和Kubernetes，但也可以设置作为独立集群甚至库运行。Flink 集群
Flink 运行时由两种类型的进程组成：一个 JobManager 和一个或者多个 TaskManager。
- 直接在机器上作为standalone 集群启动
- 在容器中启动
- 通过YARN或Mesos等资源框架管理并启动。
TaskManager 连接到 JobManagers，宣布自己可用，并被分配工作。
JobManager
JobManager 具有许多与协调 Flink 应用程序的分布式执行有关的职责：
- 它决定何时调度下一个 task（或一组 task）
- 对完成的 task 做出反应
- 对执行失败 task 做出反应
- 协调 checkpoint
- 协调从失败中恢复等等
这个进程由三个不同的组件组成：
- ResourceManager
（1）ResourceManager 负责Flink集群中的资源提供、回收、分配，管理task slots（这是flink集群中资源调度的单位）
（2）Flink 为不同的环境和资源提供者（如：Yarn、Mesos、K8S和 standalone 部署）实现了对应的 ResourceManager
- Dispatcher
（1）Dispatcher 提供了一个 REST 接口，用来提交Flink应用程序执行，并为每个提交的作业启动一个新的 JobMaster。
（2）Dispatcher 运行 Flink WebUI提供作业执行信息
- JobMaster
（1）JobMaster 负责管理单个 JobGraph 的执行
（2）Flink 集群中可以同时运行多个作业，每个作业都有自己的JobMaster
TaskManager
TaskManager （也称为 worker）执行作业流的 task，并且缓存和交换数据流
（1）必须始终至少有一个 TaskManager
（2）在 TaskManager 中资源调度的最小单位是 task slot
（3）TaskManager 中 task slot 的数量表示并发处理 task 的数量。
（4）请注意：一个 task slot 中可以执行多个算子
Tasks 和算子链
（1）对于分布式执行，Flink 将算子的 subtasks 链接成 tasks
（2）每个 task 由一个线程执行
（3）将算子链接成 task 是个有用的优化：
- 减少线程间切换、缓冲的开销
- 减少延迟的同时增加整体吞吐量
样例数据流用 5 个 subtask 执行，因此有5个并行线程
Task Slots 和资源
- 每个 worker（TaskManager）都是一个 JVM 进程，可以在单独的线程中执行一个或多个 subtask。
- 为了控制一个 TaskManager 中接受多少个 task，就有了所谓的 task slots（至少一个）。
- 每个 task slot 代表 TaskManager 中资源的固定子集。例如，具有 3 个 slot 的 TaskManager，会将其托管内存 1/3 用于每个 slot。分配资源意味着 subtask 不会与其他作业的 subtask 竞争托管内存，而是具有一定数量的保留托管内存。
- 注意：此处没有 CPU 隔离；当前 slot 仅分离 task 的托管内存。
- 通过调整 task slot 的数量，用户可以定义 subtask 如何互相隔离。
- 每个 TaskManager 有一个 slot，这意味着每个 task 组都在单独的 JVM 中运行（例如，可以在单独的容器中启动）
- 具有多个 slot 意味着更多 subtask 共享同一 JVM。
- 同一 JVM 中的 task 共享 TCP 连接（通过多路复用）和心跳信息。它们还可以共享数据集和数据结构，从而减少了每个 task 的开销。
默认情况下，Flink 允许 subtask 共享 slot，即便它们是不同的 task 的 subtask，只要是来自于同一作业即可。结果就是一个 slot 可以持有整个作业管道。
允许 slot 共享有两个主要优点：
- Flink 集群所需的 task slot 和作业中使用的最大并行度恰好一样。无需计算程序总共包含多少个 task（具有不同并行度）。
- 容易获得更好的资源利用。如果没有slot共享，非密集 subtask （source/map）将阻塞和密集型subtask （window）一样多的资源。通过solt共享，示例中的基本并行度从2增加到6，可以充分利用分配的资源，同时确保繁重的subtask在TaskManager之间公平分配
Flink 应用程序执行
Flink 应用程序 是从其 main() 方法产生的一个或多个 Flink 作业的任何用户程序。这些作业的执行可以在本地 JVM（LocalEnvironment）中进行，或具有多台机器的集群的远程设置（RemoteEnvironment）中进行。对于每个程序，ExecutionEnvironment 提供了一些方法来控制作业执行（例如：设置并行度）并与外界交互
Flink 应用程序的作业可以被提交到：
- 长期运行的 Flink Session 集群
- 专用的 Flink Job 集群
- Flink Application 集群。
这些选项之间的差异主要与集群的生命周期和资源隔离保证有关。
Flink Session 集群
- 集群生命周期
在 Flink Session 集群中，客户端连接到一个预先存在的、长期运行的集群，该集群可以接受多个作业提交。即使所有作业完成后，集群（和 JobManager）仍将继续运行直到手动停止 session 为止。因此，Flink Session 集群的寿命不受任何 Flink 作业寿命的约束。
- 资源隔离
TaskManager slot 由 ResourceManager 在提交作业时分配，并在作业完成时释放。由于所有作业都共享同一集群，因此在集群资源方面存在一些竞争 — 例如提交工作阶段的网络带宽。此共享设置的局限性在于，如果 TaskManager 崩溃，则在此 TaskManager 上运行 task 的所有作业都将失败；类似的，如果 JobManager 上发生一些致命错误，它将影响集群中正在运行的所有作业。
- 其他注意事项
拥有一个预先存在的集群可以节省大量时间申请资源和启动 TaskManager。有种场景很重要，作业执行时间短并且启动时间长会对端到端的用户体验产生负面的影响 — 就像对简短查询的交互式分析一样，希望作业可以使用现有资源快速执行计算。
以前，Flink Session 集群也被称为 session 模式下的 Flink 集群。
Flink Job 集群
在 Flink Job 集群中，可用的集群管理器（例如 YARN）用于为每个提交的作业启动一个集群，并且该集群仅可用于该作业。在这里，客户端首先从集群管理器请求资源启动 JobManager，然后将作业提交给在这个进程中运行的 Dispatcher。然后根据作业的资源请求惰性的分配 TaskManager。一旦作业完成，Flink Job 集群将被拆除
JobManager 中的致命错误仅影响在 Flink Job 集群中运行的一个作业
由于 ResourceManager 必须应用并等待外部资源管理组件来启动 TaskManager 进程和分配资源，因此 Flink Job 集群更适合长期运行、具有高稳定性要求且对较长的启动时间不敏感的大型作业。
以前，Flink Job 集群也被称为 job (or per-job) 模式下的 Flink 集群。
Kubernetes 不支持 Flink Job 集群
Flink Application 集群
Flink Application 集群是专用的 Flink 集群，仅从 Flink 应用程序执行作业，并且 main()方法在集群上而不是客户端上运行。提交作业是一个单步骤过程：无需先启动 Flink 集群，然后将作业提交到现有的 session 集群；相反，将应用程序逻辑和依赖打包成一个可执行的作业 JAR 中，并且集群入口（ApplicationClusterEntryPoint）负责调用 main()方法来提取 JobGraph。例如，这允许你像在 Kubernetes 上部署任何其他应用程序一样部署 Flink 应用程序。因此，Flink Application 集群的寿命与 Flink 应用程序的寿命有关。
在 Flink Application 集群中，ResourceManager 和 Dispatcher 作用于单个的 Flink 应用程序，相比于 Flink Session 集群，它提供了更好的隔离。