开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

请问大家mapper 走到70% 又退回去了 是什么情况呢?

请问大家mapper 走到70% 又退回去了 是什么情况呢?

展开
收起
JWRRR 2023-04-10 16:19:13 241 0
1 条回答
写回答
取消 提交回答
  • 坚持这件事孤独又漫长。
    • Mapper 退回到70%可能是由于数据倾斜导致的。当 Mapper 任务处理数据时,如果数据在某些 key 上非常集中,会导致某些 Mapper 任务的处理速度远慢于其他 Mapper 任务。这时候,任务调度器会尝试将这些处理缓慢的 Mapper 分配给新的 slot 运行,以尽可能均衡地分配数据,从而提高整个任务的运行效率。

    • 此外,Mapper 任务在执行过程中也可能会因为其它原因退回,例如出现了异常或者网络连接失败等。如果是这种情况,通常会在任务日志中看到相应的错误提示。

    2023-04-10 16:34:05
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载