开发者社区> 问答> 正文

为了保证CDC数据的一致性,你们从哪些方面进行了完善和优化?

为了保证CDC数据的一致性,你们从哪些方面进行了完善和优化?

展开
收起
迪哒迪滴喵 2024-08-13 19:06:36 30 0
1 条回答
写回答
取消 提交回答
  • 为了保证CDC数据的一致性,我们从四个方面进行了完善和优化:一是进行binlog条数的一致性校验,确保生产侧和消费侧的条数一致;二是进行数据内容抽样检测,精确比较DB端、源端和Hudi存储端的数据内容;三是实施全链路的黑盒image.png
    测试,模拟线上情况进行7×24小时不间断的数据生产和流程测试;四是定期进行全量对比,防止抽样观测中漏掉的错误。

    2024-08-13 21:49:14
    赞同 3 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载