开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

用flink oracle cdc同步数据到Doris,怎么才能加快同步速度?

已解决

用flink oracle cdc同步数据到Doris,测试发现一秒钟差不多16000行数据,1亿条数据需要一小时。因为oraclecdc是单线程的,加并行度似乎没有用,怎么才能加快同步速度?我现在有一百多亿条数据要同步

展开
收起
wenti 2023-02-14 14:09:50 645 0
1 条回答
写回答
取消 提交回答
  • 可以调整connection.pool.size、scan.incremental.snapshot.chunk.size、scan.snapshot.fetch.size等option参数,根据具体的业务量合理的调整后观察下 关于Oracle CDC可以参考社区官网文档:https://ververica.github.io/flink-cdc-connectors/master/content/connectors/oracle-cdc.html

    2023-02-15 11:54:00
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    PostgresChina2018_樊文凯_ORACLE数据库和应用异构迁移最佳实践 立即下载
    PostgresChina2018_王帅_从Oracle到PostgreSQL的数据迁移 立即下载
    Oracle云上最佳实践 立即下载

    相关镜像