Flink CDC 这是啥错误?

Flink CDC 这是啥错误?Caused by: io.debezium.DebeziumException: The db history topic or its content is fully or partially missing. Please check database history topic configuration and re-execute the snapshot?
java.lang.runtimeexception: One or more fetchers have encountered exception不会并发的连接, 每个连接都用相同的connector name吧
https://stackoverflow.com/questions/63747101/io-debezium-debeziumexception-the-db-history-topic-or-its-content-is-fully-or-p
ou must use a single database history topic per connector. The topic must not be used by more than one connector.咋操作?修改flinksql语句的connector name?

展开
收起
真的很搞笑 2023-09-13 14:58:02 498 分享 版权
1 条回答
写回答
取消 提交回答
  • Flink CDC 出现 "Caused by: io.debezium.DebeziumException: The db history topic or its content is fully or partially missing. Please check database history topic configuration and re-execute the snapshot" 这个错误,可能是以下原因:

    Kafka 的 debezium-schema-changes 主题没有足够的容量来存储 Changelog。
    Flink CDC 的 debezium.database.history.kafka.bootstrap-servers 配置项错误。
    Flink CDC 的 debezium.database.history.kafka.topic 配置项错误。
    Flink CDC 没有执行 debezium.snapshot.mode 指定的快照操作。
    要解决这个问题,请检查一下你的 Kafka 集群、Flink CDC 配置和 Debezium 快照操作是否正常。

    另外,Flink CDC 在读取数据库数据时,会并发地连接到数据库。如果使用相同的 connector.name,Flink CDC 会创建多个 Kafka 消费者组,这可能会导致数据重复消费。因此,建议使用不同的 connector.name 来区分不同的 Flink CDC 任务。

    如果上述方法都不能解决问题,可以联系 Flink CDC 的开发团队获取帮助。

    2023-10-20 15:30:14
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理