开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

作业是如何在Flink中进行表达的?

作业是如何在Flink中进行表达的?

展开
收起
云上静思 2021-11-15 18:57:19 602 0
1 条回答
写回答
取消 提交回答
  • 用户通过 API 的方式写一个作业,例如上图左侧 StreamWordInput 的示例, 它可以不断的输出一个个单词;下面的 Map 操作负责把单词映射成一个二元组;再接一个 keyBy,使相同的 word 的二元组都被分配在一起,然后 sum 将它们计数,最后打印出来。

    左侧的作业对应着右边的逻辑拓扑(StreamGraph)。这个拓扑中有 4 个节点,分 别是 source、map、sum 和 print。这些是数据处理逻辑,又称之为算子;节点之间的线条对应着数据的分发方式,影响着数据以什么样的方式分发给下游。举例来说,map 到 sum 之间是 keyBy,意味着 map 产出的数据,同一个 key 的数据都必须分发到同一个下游。

    有了 StreamGraph 后, Flink Runtime 会进一步的把它翻译成 JobGraph,JobGraph 会把一些节点 chain 起来,形成Operator chain,又称JobVertex。

    2021-11-16 15:13:35
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载