开发者社区> 问答> 正文

顺丰最初是如何实现实时数据集成方案的?

顺丰最初是如何实现实时数据集成方案的?

展开
收起
花开富贵111 2024-08-19 11:35:30 35 0
1 条回答
写回答
取消 提交回答
  • 顺丰最初在2017年基于Jstorm + Canal的方式实现了第一个版本的实时数据集成方案。然而,这个方案存在数据一致性无法保证、吞吐率低、难以维护等问题。随后,在2019年,随着Flink社区的发展,顺丰采用了Flink + Canal的方式来升级实时数据集成方案,但这一方案依然不够完美,存在全量与增量数据重复、需要下游进行复杂操作来保证数据一致性等问题。image.png

    2024-08-19 16:05:24
    赞同 6 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
集成智能接入网关APP:优化企业级移动办公网络 立即下载
《DataWorks 数据集成实时同步》 立即下载
云效助力企业集成安全到DevOps中 立即下载