开发者社区 问答 正文

为什么我的hadoop作业中有一个reduceTask运行时间明显比其他reduceTask长?

为什么我的hadoop作业中有一个reduceTask运行时间明显比其他reduceTask长

展开
收起
封神 2016-04-11 13:32:24 2690 分享
分享
版权
举报
1 条回答
写回答
取消 提交回答
  • 专注在大数据分布式计算、数据库及存储领域,拥有13+年大数据引擎、数据仓库、宽表引擎、平台研发经验,6年云智能大数据产品技术一号位经验,10年技术团队管理经验;云智能技术架构/云布道师; 研发阿里历代的大数据技术产品包括ODPS、DLA、ADB,最近五年主导宽表引擎研发、DLA、ADB湖仓研发;

    绝大多情况下是因为该reduceTask处理的数据量比其他reduceTask大,可以通过网页上的Counters信息对比输入数据量, 确认是否是数据倾斜问题.
    如果是数据倾斜问题,有时候调整reduce的数目可以缓解此情况。如果是单key的倾斜,则需要优化作业的partition方法。

    2019-07-17 18:40:37 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类:
问答地址:
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等