开发者社区 > 云原生 > 消息队列 > 正文

如果kafka topic收到与kafka connector sql字段不符的记录,导致flink

如果kafka topic收到与kafka connector sql字段不符的记录,导致flink sql作业反序列化报错,该怎么办呢?

展开
收起
爱喝咖啡嘿 2023-01-03 14:22:43 484 0
2 条回答
写回答
取消 提交回答
  • GitHub https://github.com/co63oc/cloud

    https://blog.51cto.com/u_15080019/2653841 自定义反序列化类

    2023-01-14 14:03:53
    赞同 展开评论 打赏
  • 我建议你可以试试下面我总结的几点: 1. 尝试使用Flink的Schema Evolution功能,它可以自动处理字段类型变化,以及增加或删除字段。 2. 尝试使用Flink的TypeInformation功能,它可以检测Kafka topic中的记录,并自动调整Flink SQL作业的反序列化类型。 3. 尝试使用Kafka Connector的Schema Registry功能,它可以检测Kafka topic中的记录,并自动调整Flink SQL作业的反序列化类型。 4. 尝试使用Kafka Connector的Data Validation功能,它可以检测Kafka topic中的记录,并自动拒绝不符合要求的记录。

    2023-01-13 16:24:04
    赞同 展开评论 打赏

多个子产品线联合打造金融级高可用消息服务以及对物联网的原生支持,覆盖多行业。

相关产品

  • 云消息队列 Kafka 版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
    MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
    消息队列kafka介绍 立即下载