开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

DataWorks性能调优配置数据同步速度的影响因素有哪些?

DataWorks性能调优配置数据同步速度的影响因素有哪些?

展开
收起
真的很搞笑 2023-08-16 10:38:26 68 0
1 条回答
写回答
取消 提交回答
  • 影响数据同步速度的因素如下:来源端数据源数据库的性能:CPU、内存、SSD硬盘、网络和硬盘等。并发数:数据源并发数越高,数据库负载越高。网络:网络的带宽(吞吐量)、网速。通常,数据库的性能越好,它可以承载的并发数越高,您可以为数据同步作业配置越多的并发数据抽取。数据集成的同步任务配置传输速度:是否设置任务同步速度上限值。并发:从源并行读取或并行写入数据存储端的最大线程数。WAIT资源。Bytes的设置:单个线程的Bytes=1048576,在网速比较敏感时,会出现超时现象,此时建议将Bytes设置的较小。查询语句是否建索引。目的端数据源性能:CPU、内存、SSD 硬盘、网络和硬盘。负载:目的数据库负载过高会影响同步任务数据写入效率。网络:网络的带宽(吞吐量)、网速。数据源端和目的端数据库的性能、负载和网络情况主要由您自己关注和调优,下文为您介绍在数据集成产品中同步任务的优化配置。
    https://help.aliyun.com/document_detail/137789.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-08-16 14:22:41
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 热门讨论

    热门文章

    相关电子书

    更多
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks调度任务迁移最佳实践-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载

    相关实验场景

    更多