开发者社区 > 大数据与机器学习 > 正文

兄弟们这个错误有人遇到过吗?kafka -》flink-》 starrocks

兄弟们这个错误有人遇到过吗?kafka -》flink-》 starrocksimage.png
嗯嗯 有测试脏数据,只try catch还不行 有"毒丸"问题 消费者应用程序正在使用Kafka主题。
在某个时间点,应用程序无法对记录进行反序列化(遇到毒丸)。
消费者不能处理毒丸。
因为使用者偏移量没有向前移动,所以阻止了主题分区的使用。
消费者将一次又一次地(非常迅速地)尝试反序列化记录,但是永远不会成功。因此,您的消费者应用程序将陷入一个无穷循环,尝试对失败的记录进行反序列化。
对于每次失败,都会在您的日志文件中写入一行…不太懂,我们现在的链路也是flink消费kafka写starrocks,脏数据都是直接就跳过了....

展开
收起
真的很搞笑 2023-05-01 15:46:16 105 0
1 条回答
写回答
取消 提交回答
  • 看起来序列化有问题,直接try catch过滤掉吧,此回答整理自钉群“Flink CDC 社区”

    2023-05-01 17:40:08
    赞同 展开评论 打赏

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载