备案控制台

开发者社区

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

全量和增量分开处理，是怎样防止处理数据全量和增量的数据重复的呢？

全量和增量分开处理，是怎样防止处理数据全量和增量的数据重复的呢？

展开

收起

游客bcfx2q4kttgbm 2022-07-05 16:57:15 498 0

1 条回答

写回答

取消提交回答

游客bcfx2q4kttgbm

ck 有对应机制 ReplacingMergeTree 了解一下（此答案整理自Flink CDC 社区）

2022-07-05 17:06:45

赞同展开评论打赏

问答分类：

实时计算 Flink版

问答地址：

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

实时计算 Flink版

大佬们，这个参数也配置了，为什么还是无法获取增量的binlog数据呢？历史数据全量同步完后，任务就停

258

0

0

全量到增量这个节点大家有什么好方法推荐不？

268

1

0

全量有多少数据？

340

1

0

有人试过使用flinkcdc只读全量数据，不读增量数据吗？

497

1

0

唯一可能导致数据不一致的情况出现在两份输入的数据上，即存量和增量，存在哪两种情况？

259

1

0

整库全增量实时同步字段格式会发生变化吗？

307

1

0

整库全增量实时同步一个任务的目标表有上限吗？

252

1

0

单表增量数据实时同步场景下，字符串替换是什么？

213

1

0

整库全增量实时同步目标表字段支持添加吗？

327

1

0

同步方案：整库离线同步到MC，一次性全量周期性增量。我这里不填写任何条件，是不是就是每天都全量同步一

1511

1

0

大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

热门讨论

热门文章

FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？

flink1.15启动后无法访问webui的问题有人遇到过吗

使用Flink CDC，生产环境要申请的服务器如何评估

Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行

Flink 语句有啥方法不写字段能直接拥有源表的所有字段？

Flink这个未授权访问漏洞有什么解决方案吗？

flinkcdc3.0整库同步mysql的数据到starrocks中全量能过去增量过不去怎么排查？

Flink-CDC 文档网站地址是什么？

请问flink-connector-jdbc在sink时，如何设置批量写入？

Flink CDC 能适配达梦不？

展开全部

【阿里内部应用】利用blink CEP实现流计算中的超时统计问题

Apache Flink 1.10.0 重磅发布，年度最大规模版本升级！

官宣｜Apache Flink 1.19 发布公告

flink cdc 同步问题之报错org.apache.flink.util.SerializedThrowable:如何解决

官宣｜Apache Paimon 毕业成为顶级项目，数据湖步入实时新篇章！

官宣｜阿里巴巴捐赠的 Flink CDC 项目正式加入 Apache 基金会

阿里云实时计算Flink的产品化思考与实践【下】

Flink CDC 3.0 正式发布，详细解读新一代实时数据集成框架

Flink DataStream API 批处理能力演进之路

福利「Flink Forward Asia 2023 」视频合集！

展开全部

相关电子书

更多

智能设计的增量 立即下载

数据库异地备份及不还原快速查询备份集最佳实践 立即下载

俞航翔｜基于Log的通用增量Checkpoint 立即下载

相关实验场景

更多