开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

针对不同的主键分布,引入动态分片算法具体包括哪些内容?

已解决

针对不同的主键分布,引入动态分片算法具体包括哪些内容?

展开
收起
游客cum3jectrqmmy 2022-01-19 15:41:01 1012 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    对主键是非数值、Snowflake ID、稀疏主键、联合主键等场景,通过动态分析源表的主键分布的 均匀程度,根据分布的均匀程度自动地计算分片大小,让切片更加合理,让分片计算更快。动态 分片算法能够很好地解决稀疏主键场景下分片过多的,联合主键场景下分片过大等问题,让每个 分片包含的行数尽量维持在用户指定的 chunk size,这样用户通过 chunk size 就能控制分片 大小和分片数量,无需关心主键类型。

    资料来源:《Flink CDC:新一代数据集成框架》,下载链接:https://developer.aliyun.com/topic/download?id=8256。

    2022-01-20 11:30:50
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    数据+算法定义新世界 立即下载
    袋鼠云基于实时计算的反黄牛算法 立即下载
    Alink:基于Apache Flink的算法平台 立即下载