开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink Per-Job 模式下任务提交流程是怎样的

Flink Per-Job 模式下任务提交流程是怎样的

展开
收起
一人吃饱,全家不饿 2021-01-05 22:30:53 1897 0
1 条回答
写回答
取消 提交回答
    1. 当用户提交作业的时候,提交脚本会首先启动一个 Client 进程来负责作业的编译与提交
    2. Client 向资源管理系统(如 Yarn、K8S)申请资源来启动 AM
    3. Client 将编译产生的 JobGraph 提交到集群
    4. 向外部资源管理系统申请资源来启动 TaskExecutor,然后等待 TaskExecutor 注册相应资源后再继续选择空闲资源进程分配
    5. ResourceManager 选择到 空闲的 Slot 之后,就会通知相应的 TM "将该 Slot 分配分 JobManager XX ",然后 TaskExecutor 进行相应的记录后,会向 JobManager 进行注册。JobManager 收到 TaskExecutor 注册上来的 Slot 后,就可以实际提交 Task 了
    6. TaskExecutor 收到 JobManager 提交的 Task 之后,会启动一个新的线程来执行该 Task。
    2021-01-05 22:31:02
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载