在全增量同时进行时,增量阶段source的并行大于1会有问题吗?目前增量是只能单并行吧?

在全增量同时进行时,增量阶段source的并行大于1会有问题吗?目前增量是只能单并行吧?

展开
收起
十一0204 2023-04-10 21:03:00 166 分享 版权
2 条回答
写回答
取消 提交回答
  • 意中人就是我呀!

    MySQL oracle这种关系型数据库做同步,sink并行都是1吧,不然保证不了一致。将相同主键的消息发往同一个sink并发task处理,sink端就可以多并发了。 此答案整理自钉群“Flink CDC 社区”

    2023-04-12 08:48:50
    赞同 展开评论
  • 坚持这件事孤独又漫长。
    • 增量阶段的source只能单并行,这是因为在增量计算过程中,需要确保每条记录只会被一个线程处理,否则会产生重复计算或重复更新的问题。
    • 如果增量计算的source并行度大于1,那么就可能存在多个线程同时读取数据并处理同一条记录的情况,这会导致计算结果错误。
    • 因此,阿里云实时计算Flink在增量计算阶段只支持单并行。
    2023-04-10 21:13:15
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理