请问大家mapper 走到70% 又退回去了 是什么情况呢?

请问大家mapper 走到70% 又退回去了 是什么情况呢?

展开
收起
JWRRR 2023-04-10 16:19:13 318 分享 版权
1 条回答
写回答
取消 提交回答
  • 坚持这件事孤独又漫长。
    • Mapper 退回到70%可能是由于数据倾斜导致的。当 Mapper 任务处理数据时,如果数据在某些 key 上非常集中,会导致某些 Mapper 任务的处理速度远慢于其他 Mapper 任务。这时候,任务调度器会尝试将这些处理缓慢的 Mapper 分配给新的 slot 运行,以尽可能均衡地分配数据,从而提高整个任务的运行效率。

    • 此外,Mapper 任务在执行过程中也可能会因为其它原因退回,例如出现了异常或者网络连接失败等。如果是这种情况,通常会在任务日志中看到相应的错误提示。

    2023-04-10 16:34:05
    赞同 展开评论

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

收录在圈子:
MaxCompute 是面向分析的企业级 SaaS 模式云数据仓库,以 Serverless 架构提供快速、全托管的在线数据仓库服务,消除了传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您可以经济并高效的分析处理海量数据。数以万计的企业正基于 MaxCompute 进行数据计算与分析,将数据高效转换为业务洞察。
还有其他疑问?
咨询AI助理