开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink多并行度大数据量去重,我们有没有什么好的方案?

flink多并行度大数据量去重,我们有没有什么好的方案?

展开
收起
三分钟热度的鱼 2023-10-07 13:13:34 100 0
1 条回答
写回答
取消 提交回答
  • 有key就按key分区去重,没有key就把sink前节点的并发调成1再去重,或者就靠下游系统的主键去重。此回答整理自钉群“实时计算Flink产品交流群”

    2023-10-07 13:26:47
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载