开发者社区 问答 正文

为了保证CDC数据的一致性,你们从哪些方面进行了完善和优化?

为了保证CDC数据的一致性,你们从哪些方面进行了完善和优化?

展开
收起
迪哒迪滴喵 2024-08-13 19:06:36 55 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了保证CDC数据的一致性,我们从四个方面进行了完善和优化:一是进行binlog条数的一致性校验,确保生产侧和消费侧的条数一致;二是进行数据内容抽样检测,精确比较DB端、源端和Hudi存储端的数据内容;三是实施全链路的黑盒image.png
    测试,模拟线上情况进行7×24小时不间断的数据生产和流程测试;四是定期进行全量对比,防止抽样观测中漏掉的错误。

    2024-08-13 21:49:14
    赞同 3 展开评论
问答地址: