开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

大数据计算MaxCompute优化后速度没变,在哪里调整并发?

大数据计算MaxCompute优化后速度没变,在哪里调整并发?
之前用to_pandas方法下载到本地来处理,4万数据跑了3个小时。现在改了PyODPS Dataframe来处理,目前估算的时间,貌似也没比原来快很多。不知道是不是没有设置并发的原因

展开
收起
你鞋带开了~ 2024-02-26 12:32:24 74 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在MaxCompute中,您可以通过设置系统参数来调整并发度,以提高数据处理速度。以下是一些可以调整的参数:

    1. 调整Mapper的split size:您可以通过设置odps.sql.mapper.split.size参数来调整每个Mapper读取数据的大小。这个参数的默认值通常是256MB,您可以根据实际情况调整这个值,以优化并发度和处理速度。
    2. 使用split size hint:MaxCompute提供了split size hint的方式,允许您针对单个读表操作来调整并发度。例如,您可以设置split size大小为1MB,这样的hint会指示系统如何分配并发任务。
    3. 调整其他系统属性:您还可以通过设置其他Session级的常用属性来优化性能,例如odps.stage.mapper.split.size等。

    此外,如果您使用的是DataWorks进行数据集成,那么您还可以考虑使用离线同步或实时同步的方式来优化数据同步过程。

    请注意,调整这些参数时需要考虑到您的具体业务场景和数据量大小,以及MaxCompute集群的资源状况。建议您先在小数据集上进行测试,找到最佳的配置,再应用到大规模数据处理中。如果调整后仍然没有明显的速度提升,可能需要进一步分析数据处理流程中的瓶颈,或者咨询MaxCompute的技术支持以获得更专业的指导。

    2024-02-26 13:04:36
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载