Merge 操作通过 Flink DataSet API 实现。核心逻辑是什么？
已解决Merge 操作通过 Flink DataSet API 实现。核心逻辑是什么？
展开
收起
1
条回答
写回答
写回答
-
推荐回答Merge 操作通过 Flink DataSet API 实现。核心逻辑如下：
• 加载存量、增量数据，统一数据格式（核心字段：主键 Key 作为同一条数据的聚合字段；CommitTs 标 识 binlog 的提交时间，存量数据默认为 0 早于增量数据；OpType 标识数据操作类型，包括：Insert、Update、Delete，存量数据默认为 Insert 类型），将两份数据进行 union；
• 按照主键聚合；
• 保留聚合后 CommitTs 最大的数据条目，其余丢弃；
• 过滤 OpType 为 Delete 类型的数据条目；
• 输出聚合结果。
以上内容摘自《Apache Flink 案例集（2022版）》电子书，点击https://developer.aliyun.com/ebook/download/7718 可下载完整版
2022-08-31 12:10:23赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
771
大佬，Caused by: java.lang.ClassNotFoundException: or
421
Slot request bulk is not fulfillable，20以上job同时部署失败
678
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3494
Caused by: org.apache.kafka.common.errors.TimeoutE
3205
Flink如何配置Task Manager？
589
使用flink on yarn的模式，怎么进行内存资源调优呢，如何配置flink内存
673
请问如何用flink sql客户端用yarn application模式提交任务呢？
1483
各位老师，请教个问题，flink 会在本地 /tmp 目录下产生大量flink-临时文件，目前看好？
1791
不同版本的 flink 如何适配不同版本 kafka，flink-connect-kafka 版本
928
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24434
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21907
实时计算 Flink SQL 核心功能解密
19303
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27912
流计算StreamCompute
18661
阿里云实时计算产品案例&解决方案汇总
27825
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16612
基于实时计算（Flink）打造一个简单的实时推荐系统
14381
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
18439
如何在 PyFlink 1.10 中自定义 Python UDF？
8994
展开全部
相关课程
更多
相关文章
相关电子书
更多
