开发者社区> 问答> 正文

Flink 和 Spark Streaming 在任务调度上有什么区别呢?

Flink 和 Spark Streaming 在任务调度上有什么区别呢?

展开
收起
游客vqgchj4kfdzsu 2021-12-07 20:43:52 332 0
1 条回答
写回答
取消 提交回答
  • Spark Streaming 连续不断的生成微小的数据批次,构建有向无环图DAG,Spark Streaming 会依次创建 DStreamGraph、JobGenerator、JobScheduler。

    Flink 根据用户提交的代码生成 StreamGraph,经过优化生成 JobGraph,然后提交给 JobManager进行处理,JobManager 会根据 JobGraph 生成 ExecutionGraph,ExecutionGraph 是 Flink 调度最核心的数据结构,JobManager 根据 ExecutionGraph 对 Job 进行调度。

    2021-12-07 22:10:06
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载