AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink把全量同步完历史数据还是不能同步，这个是不是哪里有问题呢？有解决问题的思路吗？

Flink把全量同步完，将参数设置StartupOptions.latest()每次启动程序以后，历史数据还是不能同步，这个是不是哪里有问题呢？有解决问题的思路吗？

展开
收起
冰激凌甜筒 2023-04-26 15:37:37 205 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 微笑向日葵

    为啥要切换，cdc自动切换呀，latest是最近的位置同步，肯定不会管全量部分了。设置为initial，全量做完会自动进行读binlog增量，此回答整理自钉群“【③群】Apache Flink China社区”

    2023-04-26 15:41:12
    赞同 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版数据 实时计算 Flink版同步 实时计算 Flink版全量同步 实时计算 Flink版全量 实时计算 Flink版同步数据
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink
在Flink大概什么样的场景会需要用到流批一体？一边处理实时流，一边批处理历史数据
143
1
0
Flink写入结果表会清除目标表里面的历史数据吗
86
1
0
Flink CDC里用的datastream，不知道为什么每次都会消费历史数据？
86
1
0
Flink CDC里最近遇到一些表无法先全量再增量同步，具体表现就是启动任务后，一直没数据怎么办？
208
0
0
Flink CDC里我这边6个并行度抽全量，source倾斜了怎么办？
106
1
0
Flink默认先全量再增量同步，全量时会对checkpoint上锁，导致请求检查点时失败，任务重启
243
1
0
请问下Flink，需求做一个宽表，有大量大表join，如果需要跑大数据量的历史数据该怎么处理？
118
0
0
在Flink CDC中 读取全量和增量数据能不能安装数据的生成顺序输出？
65
0
0
对于Flink CDC，CDC运行过程中，新增一张需要同步的表，重新提交job后，新增的表会全量？
108
1
0
在Flink CDC中oceanbase oracle initial模式全量转增量读取报错怎么办？
303
7
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 实时计算系列-----第一话：前言
  • Flink Agents：基于Apache Flink的事件驱动AI智能体框架
  • 基于实时迭代的数值鲁棒NMPC双模稳定预测模型（Matlab代码实现）
  • 基于模型预测控制对PMSM进行FOC控制，模拟控制了PMSM的速度（Simulink仿真实现）
  • 解析pg_stat_replication状态字段的枚举值

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • 在斗鱼，实时计算发展的历程如何？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • Flink-CDC 文档网站地址是什么？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • 在Flink CDC中ogg可以做实时同步吗？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 实时计算 Flink SQL 核心功能解密
  • 流计算StreamCompute
  • 通过Flink实时构建搜索引擎的索引
  • 阿里云实时计算产品案例&解决方案汇总
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
  • 基于Flink的实时日志分析系统实践
  • 使用 Kafka 和 Flink 构建实时数据处理系统
    • 展开全部
    还有其他疑问?
    咨询AI助理