如果kafka topic收到与kafka connector sql字段不符的记录,导致flink

如果kafka topic收到与kafka connector sql字段不符的记录,导致flink sql作业反序列化报错,该怎么办呢?

展开
收起
爱喝咖啡嘿 2023-01-03 14:22:43 531 分享 版权
2 条回答
写回答
取消 提交回答
  • GitHub https://github.com/co63oc/cloud

    https://blog.51cto.com/u_15080019/2653841 自定义反序列化类

    2023-01-14 14:03:53
    赞同 展开评论
  • 我建议你可以试试下面我总结的几点: 1. 尝试使用Flink的Schema Evolution功能,它可以自动处理字段类型变化,以及增加或删除字段。 2. 尝试使用Flink的TypeInformation功能,它可以检测Kafka topic中的记录,并自动调整Flink SQL作业的反序列化类型。 3. 尝试使用Kafka Connector的Schema Registry功能,它可以检测Kafka topic中的记录,并自动调整Flink SQL作业的反序列化类型。 4. 尝试使用Kafka Connector的Data Validation功能,它可以检测Kafka topic中的记录,并自动拒绝不符合要求的记录。

    2023-01-13 16:24:04
    赞同 展开评论

涵盖 RocketMQ、Kafka、RabbitMQ、MQTT、轻量消息队列(原MNS) 的消息队列产品体系,全系列产品 Serverless 化。RocketMQ 中文社区:https://rocketmq-learning.com/

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理