AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink CDC我第一次启动没有全量同步咋回事?

Flink CDC我第一次启动没有全量同步咋回事?比如今天才开始cdc，昨天之前历史的数据能捕获到吗?

展开
收起
真的很搞笑 2023-11-06 20:27:02 189 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

2 条回答
写回答
取消 提交回答
  • 芯在这

    存量的有binlog，才会同步吧，此回答整理自钉群“Flink CDC 社区”

    2023-11-08 07:41:00
    赞同 展开评论
  • sunrr

    Flink CDC在第一次启动时，默认会执行全量同步，只读取一次全量数据，而不读取binlog。这种同步策略主要是为了获取数据的初始状态，也就是实时一致性快照。因此，如果你今天刚开始使用CDC，昨天的原始数据是可以通过这次全量同步捕获到的。

    在全量阶段同步完成之后，Flink CDC就可以进行增量读取了。然而，如果发现并没有开始同步增量数据，可能的原因有两个：一是MySQL中对应的数据库没有开启binlog；二是设置的checkpoint间隔时间过大，例如20分钟，这会导致作业20分钟后才开始同步增量数据。因此，需要根据业务情况合理配置相关参数。

    2023-11-07 11:04:03
    赞同 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版cdc同步 实时计算 Flink版同步 实时计算 Flink版全量同步 实时计算 Flink版全量
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink启动作业时出现Akka超时报错全量MaxCompute源表和增量MaxCompute...
95
1
0
Flink CDC里sql-client 一直卡在这里是咋回事啊？有人遇到过吗？
92
0
0
Flink CDC里用jdbc往达梦dm8推数据，老是显示字符被截断是咋回事？有人碰到过嘛？
926
0
0
flink cdc 3.0 oracle 11 发现initial模式不生效呢，这是咋回事？
155
0
0
Flink CDC里全量阶段开了之后，checkpoint的文件过大，现在不知道怎么优化了？
186
1
0
Flink默认先全量再增量同步，全量时会对checkpoint上锁，导致请求检查点时失败，任务重启
241
1
0
flink每次全量覆盖是因为基于日志的不准吗?
82
1
0
Flink这种现象咋回事？
75
0
0
对于Flink CDC，oracle cdc 获取有主键的表的时候能获取全量数据这咋回事？
151
1
0
Flink这种咋回事？
66
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 淘宝闪购基于Flink&Paimon的Lakehouse生产实践：从实时数仓到湖仓一体化的演进之路
  • 除了Foldables.js库，还有哪些库可以实现折叠屏适配？
  • 【顶级EI复现】基于电力系统碳排放流理论的碳排放分摊模型研究（Matlab代码实现）
  • 基于实时迭代的数值鲁棒NMPC双模稳定预测模型（Matlab代码实现）
  • 基于模型预测控制对PMSM进行FOC控制，模拟控制了PMSM的速度（Simulink仿真实现）

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • Flink-CDC 文档网站地址是什么？
  • 在斗鱼，实时计算发展的历程如何？
  • 在Flink CDC中ogg可以做实时同步吗？
  • 我们在使用阿里云flinksql 往clickhouse写数据的时候发现会丢数据或重复数据，怎么办？
  • flinkcdc启动，怎么修改默认端口号，默认是8081。
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 流计算StreamCompute
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 流计算精品翻译: The Dataflow Model
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • 基于实时计算（Flink）打造一个简单的实时推荐系统
  • Flink Checkpoint 问题排查实用指南
  • Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
    • 展开全部
    还有其他疑问?
    咨询AI助理