Apache Flink 进阶(一):Runtime 核心机制剖析( 三 )
"multi_version":false
1. 综述
本文主要介绍 Flink Runtime 的作业执行的核心机制 。 首先介绍 Flink Runtime 的整体架构以及 Job 的基本执行流程 , 然后介绍在这个过程 , Flink 是怎么进行资源管理、作业调度以及错误恢复的 。 最后 , 本文还将简要介绍 Flink Runtime 层当前正在进行的一些工作 。
2. Flink Runtime 整体架构
Flink 的整体架构如图 1 所示 。 Flink 是可以运行在多种不同的环境中的 , 例如 , 它可以通过单进程多线程的方式直接运行 , 从而提供调试的能力 。 它也可以运行在 Yarn 或者 K8S 这种资源管理系统上面 , 也可以在各种云环境中执行 。
图1. Flink 的整体架构 , 其中 Runtime 层对不同的执行环境提供了一套统一的分布式执行引擎 。
针对不同的执行环境 , Flink 提供了一套统一的分布式作业执行引擎 , 也就是 Flink Runtime 这层 。 Flink 在 Runtime 层之上提供了 DataStream 和 DataSet 两套 API , 分别用来编写流作业与批作业 , 以及一组更高级的 API 来简化特定作业的编写 。 本文主要介绍 Flink Runtime 层的整体架构 。
推荐阅读
- 第五人格|梦幻西游:担心的事发生了,大佬进阶110选错召唤兽,白花了2000块
- 盲僧|英雄联盟手游:打野玩家的进阶选择,盲僧,高机动性带来的直接收益
- 我的世界|剑网3药宗版本pve装备进阶路线,从大侠到新赛季毕业
- 盲僧|LOL手游盲僧是英雄代表?灵药再推进阶教学,双区王者的经验
- 进阶|永劫无间:胡桃只是奶妈?法神开发胡桃进阶打法,化身团战关键手
- 德鲁伊|魔兽怀旧服:TBC德鲁伊进阶宏,熊德无缝吃药,奶德一键迅捷治疗
- 进阶|梦幻西游:两次就进阶110灵性成功!难道中途的转折起了关键作用
- 进阶|梦幻西游手游:萌新的福利?新NPC开启测试,进阶不再问老玩家!
- 明日方舟|三国志战略版:冲桃园扫麒麟,虎臣弓进阶虎臣爆头骑指南
- 和平精英|和平精英核电站打法进阶教学,KS小雪吖提供详细攻略,吃鸡稳了