Flink 任务 StreamGraph 到 JobGraph 是怎样转化
Flink 任务 StreamGraph 到 JobGraph 是怎样转化
展开
收起
1
条回答
写回答
写回答
-
- 设置调度模式，Eager 所有节点立即启动。
- 广度优先遍历 StreamGraph，为每个 streamNode 生成 byte 数组类型的hash 值。
- 从 source 节点开始递归寻找嵌到一起的 operator，不能嵌到一起的节点单独生成 jobVertex，能够嵌到一起的开始节点生成 jobVertex，其他节点以序列化的形式写入到 StreamConfig，然后 merge 到 CHAINEDTASKCONFIG，再通过 JobEdge 链接上下游 JobVertex。
- 将每个 JobVertex 的入边 (StreamEdge) 序列化到该 StreamConfig。
- 根据 group name 为每个 JobVertext 指定 SlotSharingGroup。
- 配置 checkpoint。将缓存文件存文件的配置添加到 configuration 中。
- 设置 ExecutionConfig。
2021-01-06 11:37:09赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3191
大佬 Flink CDC我看官网好像说明2.2以后就不支持change-log但是还可以使用，我当？
131
flinkcdc启动，怎么修改默认端口号，默认是8081。
1246
编译失败，有知道怎么回事吗？
758
flink1.15启动后无法访问webui的问题有人遇到过吗
10701
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
966
flink怎么能够快速消费kafka数据，需要设置什么参数呢？
1176
Caused by: org.apache.kafka.common.errors.TimeoutE
2979
Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
1567
在Flink CDC中，用的dinky还是stream park？
106
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24346
基于Flink和规则引擎的实时风控解决方案
13151
性能提升约 7 倍！Apache Flink 与 Apache Hive 的集成
3279
实至名归！Flink 再度成为 Apache 基金会最活跃的开源项目
2093
覆盖电商、推荐、ETL、风控等多场景，网易的实时计算平台做了啥？
2041
都在说实时数据架构，你了解多少？
2369
Flink 的经典场景和业务故事有哪些？看看他们就知道了
2651
Flink 完美搭档：数据存储层上的 Pravega
2378
Flink 1.10 SQL、HiveCatalog 与事件时间整合示例
1119
Flink CDC 3.0 正式发布，详细解读新一代实时数据集成框架
104374
展开全部
相关文章
相关电子书
更多
