备案控制台

开发者社区

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

大佬们，Flink对接Kafka结果Kafka的元数据（事务ID，Offset之类）找不到了咋办？!

大佬们，Flink对接Kafka结果Kafka的元数据（事务ID，Offset之类）找不到了咋办？
我这是磁盘满了。 Flink 先消费Kafka 再写Kafka ，中间断了两周，然后再从两周前的检查点启动就起不来了

展开

收起

cuicuicuic 2023-08-01 11:37:03 56 0

1 条回答

写回答

取消提交回答

xin在这

Kafka的数据有保存时间可能大于你的2周，缺少jar包，按照观望脚程走的时候里面缺乏flink connector mysql的jar，此回答整理自钉群“【③群】Apache Flink China社区”

2023-08-01 12:21:45

赞同展开评论打赏

问答分类：

消息中间件 Kafka 流计算云消息队列 Kafka 版实时计算 Flink版

问答标签：

云消息队列 Kafka 版flink 云消息队列 Kafka 版元数据实时计算 Flink版kafka元数据实时计算 Flink版元数据实时计算 Flink版offset

问答地址：

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答

相关产品：

实时计算 Flink版

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

实时计算 Flink版

在Flink指定holo的binlog的offset也属于全量消费？

16

1

0

Flink cdc开了16并发，程序跑 < 1亿id 这里大概20分钟，怎么加快？

26

1

0

在Flink我用 kafka 元数据，深度检查时，报了个错；请问还要设置什么吗？

22

1

0

Flink CDC里在1.8版本下如何获取到事务id啊？

11

0

0

Flink源头是kafka，cdas支持元数据转换到starrocks了吗？

22

1

0

flink cdc 3.0中的源端 mysql中主键id是这个，后续怎么做？

26

1

0

表格存储 ots通道，同一个通道id可以给多个flink任务使用么？

14

1

0

Flink CDC 里flink是docker部署的，目前想把postgre同步到es，报错咋办？

12

1

0

Flink CDC默认是binlog offset 主从切换会有风险binlog点位找到？

32

1

0

在flink1.17版本中消费一段时间后，kafka-group的 offset 就重置了怎么回事？

48

3

0

大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关产品

实时计算 Flink版

文档详情产品详情

热门讨论

热门文章

FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？

flinkcdc3.0整库同步mysql的数据到starrocks中全量能过去增量过不去怎么排查？

Caused by: org.apache.kafka.common.errors.TimeoutE

flink1.15启动后无法访问webui的问题有人遇到过吗

Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行

Flink CDC有遇见这个问题的吗？

Flink这个未授权访问漏洞有什么解决方案吗？

flink 1.18必须配套JDK11吗 1.8是不是不行了呢？

Flink-CDC 文档网站地址是什么？

flink都是100%占用，请问是什么情况呢？

展开全部

数据仓库介绍与实时数仓案例

权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算

独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？

实时计算 Flink SQL 核心功能解密

Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化

Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示

阿里云实时计算产品案例&解决方案汇总

流计算精品翻译: The Dataflow Model

Apache Flink 的迁移之路，2 年处理效果提升 5 倍

基于实时计算（Flink）打造一个简单的实时推荐系统

展开全部

相关课程

更多

大数据Flink实时旅游平台环境篇 2020版

582

29

去学习

Apache Flink 入门到实战 - Flink开源社区出品

1392

16

去学习

实时计算 Flink 版产品入门与实操

3806

10

去学习

开源 Flink 极速上手教程

1752

7

去学习

大数据实时计算框架Spark快速入门

778

93

去学习

Apache Flink 入门

4826

9

去学习

相关电子书

更多

Flink CDC Meetup PPT - 龚中强 立即下载

Flink CDC Meetup PPT - 王赫 立即下载

Flink CDC Meetup PPT - 覃立辉 立即下载

相关实验场景

更多