开发者社区 问答 正文

顺丰最初是如何实现实时数据集成方案的?

顺丰最初是如何实现实时数据集成方案的?

展开
收起
花开富贵111 2024-08-19 11:35:30 82 分享 版权
1 条回答
写回答
取消 提交回答
  • 顺丰最初在2017年基于Jstorm + Canal的方式实现了第一个版本的实时数据集成方案。然而,这个方案存在数据一致性无法保证、吞吐率低、难以维护等问题。随后,在2019年,随着Flink社区的发展,顺丰采用了Flink + Canal的方式来升级实时数据集成方案,但这一方案依然不够完美,存在全量与增量数据重复、需要下游进行复杂操作来保证数据一致性等问题。image.png

    2024-08-19 16:05:24
    赞同 6 展开评论