开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请问下Flink CDC为啥表是3个字段的联合主键,有啥参数能配置让他按3个字段来切分的吗?

请问下Flink CDC为啥表是3个字段的联合主键,但是cdc同步的时候切分是按一个字段来切分的啊,有啥参数能配置让他按3个字段来切分的吗?5c3bdde3df45ff3f7f9b5718ec36db41.png

展开
收起
真的很搞笑 2023-09-06 15:03:07 115 0
1 条回答
写回答
取消 提交回答
  • Flink CDC默认情况下,根据主键字段进行数据切分和并行同步。然而,对于联合主键的情况,Flink CDC目前仅支持按照单个主键字段进行切分和并行同步。

    如果你希望按照3个字段进行切分和并行同步,可以通过设置Flink CDC的参数来实现。具体来说,你可以使用split.parallelism参数来指定切分和并行同步的并发度。

    在Flink CDC的配置中,通过在source.properties文件中添加以下参数来设置切分并行度:

    
    

    其中,<并行度>表示你希望设置的并行度值,可以根据具体情况进行调整。

    需要注意的是,根据联合主键进行切分和并行同步可能会增加任务的复杂性和连接数的压力。在设置并行度时,需要根据系统的实际情况和性能测试结果进行调优,以平衡同步的速度和资源的消耗。

    建议参考Flink的官方文档、示例代码,以及与Flink社区进行交流,了解更多关于Flink CDC参数设置和最佳实践的信息。

    2023-10-19 11:05:33
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 覃立辉 立即下载
    Flink CDC Meetup PPT - 孙家宝 立即下载
    Flink CDC Meetup PPT - 徐榜江 立即下载