开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Merge 操作通过 Flink DataSet API 实现。核心逻辑是什么?

已解决

Merge 操作通过 Flink DataSet API 实现。核心逻辑是什么?

展开
收起
游客lmkkns5ck6auu 2022-08-31 10:31:15 627 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    Merge 操作通过 Flink DataSet API 实现。核心逻辑如下:

    • 加载存量、增量数据,统一数据格式(核心字段:主键 Key 作为同一条数据的聚合字段;CommitTs 标 识 binlog 的提交时间,存量数据默认为 0 早于增量数据;OpType 标识数据操作类型,包括:Insert、Update、Delete,存量数据默认为 Insert 类型),将两份数据进行 union;

    • 按照主键聚合;

    • 保留聚合后 CommitTs 最大的数据条目,其余丢弃;

    • 过滤 OpType 为 Delete 类型的数据条目;

    • 输出聚合结果。

    以上内容摘自《Apache Flink 案例集(2022版)》电子书,点击https://developer.aliyun.com/ebook/download/7718 可下载完整版

    2022-08-31 12:10:23
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Spring Boot2.0实战Redis分布式缓存 立即下载
    CUDA MATH API 立即下载
    API PLAYBOOK 立即下载