今天发现flink-1.16.2的 Kafka-connector有一个问题，有个流式任务，读 ？
今天发现flink-1.16.2的 Kafka-connector有一个问题，有个流式任务，读 Kafka-topic，有12 个分区，在yarn上运行，开了 12 个并行度，每个 tm 3 个 Solt，共有 4 个 tm，在 webui 上观察kafka source 算子发现其中一个 tm 的 Records received 指标为 0，然后定位到这个 tm 的 log 输出，里面有 info 级别的输出：Kafka Disconnect 啥的，意思应该是跟 Kafka 断开了连接，但是之后也没有重试操作，就会造成 Kafka 的那几个分区的数据一直未被消费，造成数据积压，不手动重启任务的话，相当于数据丢了
展开
收起
1
条回答
写回答
写回答
-
kafka断开连接 会自动重连的啊，你这连不上要不要看看网络的问题
看我的，此回答整理自钉群“【③群】Apache Flink China社区”2023-08-20 19:37:32赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1441
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
191
大佬，Caused by: java.lang.ClassNotFoundException: or
508
Caused by: org.apache.kafka.common.errors.TimeoutE
3297
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1247
请问flink-connector-jdbc在sink时，如何设置批量写入？
3137
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
589
Slot request bulk is not fulfillable，20以上job同时部署失败
746
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3560
Flink的tmp的这个目录产生临时文件很大，我想配置到外面，有配置项可以配置吗？
895
展开全部
数据仓库介绍与实时数仓案例
42408
实时计算 Flink SQL 核心功能解密
19314
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27934
通过Flink实时构建搜索引擎的索引
17461
接着！！Apache Flink 全领域干货合集（持续更新）
16519
基于实时计算（Flink）打造一个简单的实时推荐系统
14396
Flink Checkpoint 问题排查实用指南
13195
使用 Kafka 和 Flink 构建实时数据处理系统
13054
日均百亿级日志处理：微博基于 Flink 的实时计算平台建设
7768
Flink SQL 功能解密系列 —— 阿里云流计算/Blink支持的connectors
7023
展开全部
相关课程
更多
相关文章
相关电子书
更多
