AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink这个要怎么处理？

我在做pg库同步数据到mongo，每次启动flink的时候，都从新把历史操作日志都消费一遍，不是从断点开始消费，Flink这个要怎么处理？flink 1.17.2 flink-connector-postgres-cdc 2.4.2PostgreSQL 版本14 lQLPJw0xtiM1mNvNBATNBoywZBb0QfRrknUGc3mmwfUkAA_1676_1028.png
lQLPJwfoYi7eu1vNAbzNC2iwqH5OWzIYJP4Gc3vfz2QfAA_2920_444.png

展开
收起
三分钟热度的鱼 2024-07-10 23:46:02 71 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 算精通
    北京阿里云ACE会长

    设置的 scan.startup.mode 应该为 initial 或 latest-offset。initial 模式会从最早的日志开始读取，而 latest-offset 会从最新的日志开始读取。

    properties.setProperty("scan.startup.mode", "initial");
    从检查点恢复，snapshot.mode 应该设置为 initial 或 when_needed 而不是 never。
    properties.setProperty("snapshot.mode", "initial");

    2024-07-11 08:50:51
    赞同 7 展开评论
问答分类：
流计算 关系型数据库 日志服务 实时计算 Flink版 云原生数据库 PolarDB
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
this xml file does not appear to have any style in
48082
10
0
请问下 我访问接口不通 什么原因 Provisional headers are shown
1768
0
0
通过www和不带www的网址输入最终都指向www.我的域名.com，求指教
124479
28
0
购买阿里国外的云服务器是否可以访问谷歌？
80543
47
0
OSS的endpoint如何查看
36261
6
0
sql server的用户名和密码怎么查啊？
35562
21
0
配置了安全组规则，端口还是无法访问
32285
25
0
设置域名解析如何指向我的服务器url包括端口号
17601
2
0
域名在腾讯云备案成功，解析到阿里云服务器，提示仍需备案？
59521
30
0
Connection reset by peer的常见原因及解决办法
3791
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 基于python大数据的电影数据可视化分析系统
  • 基于python的汽车租赁系统
  • n8n自动化测试入门指南（二）：核心节点详解与实战教程
  • 《突破Unity+阿里云联机瓶颈：多人游戏同步延迟与数据安全的双维度优化》
  • 【顶级EI完美复现】电力系统碳排放流的计算方法【IEEE 14节点】（Matlab代码实现）

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 在斗鱼，实时计算发展的历程如何？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • Flink CDC我自定义了一个flink SQL的Kafka分区器，有遇到这个问题的吗？
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
  • Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
    • 展开全部
  • Flink CDC：新一代实时数据集成框架
  • Flink 基础详解：大数据处理的强大引擎
  • Flink CDC：基于 Apache Flink 的流式数据集成框架
  • 从 Flink 到 Doris 的实时数据写入实践 —— 基于 Flink CDC 构建更实时高效的数据集成链路
  • Flink CDC 3.0 正式发布，详细解读新一代实时数据集成框架
  • Flink SQL 详解：流批一体处理的强大工具
  • 实时计算引擎 Flink：从入门到深入理解
  • Apache Paimon统一大数据湖存储底座
  • Flink 四大基石之 Checkpoint 使用详解
  • 淘宝闪购基于Flink&Paimon的Lakehouse生产实践：从实时数仓到湖仓一体化的演进之路
    • 展开全部
    还有其他疑问?
    咨询AI助理