开发者社区 问答 正文

为了解决数据冲突问题,你们采取了什么样的处理方案?

为了解决数据冲突问题,你们采取了什么样的处理方案?

展开
收起
花开富贵111 2024-08-19 14:43:01 81 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了解决数据冲突问题,我们采取了基于GTID(全局事务标识符)的处理方案。我们为全量数据打上Snapshot标签,并补充一个高水位GTID信息;增量数据则携带自身的GTID信息。在下游,我们通过KeyBy算子和数据冲突处理算子确保数据不重复且按历史顺序产生。如果下发的是全量数据且此前没有Binlog数据下发,或GTID大于等于状态中的GTID,则将数据下发并更新状态中的GTID。image.png

    2024-08-19 16:15:55
    赞同 5 展开评论
问答地址: