开发者社区> 问答> 正文

partition分区自定义partitioner步骤是什么?

partition分区自定义partitioner步骤是什么?

展开
收起
游客szyg5ww7yqnwy 2021-12-07 16:41:28 455 0
1 条回答
写回答
取消 提交回答
  • 1.自定义类继承Partitioner,重写getPartition()方法;

    2.在Job驱动中,设置自定义Partitioner;

    3.自定义partition后,要根据自定义Partition的逻辑设置相应数量的ReduceTask

    2021-12-07 16:52:13
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Get rid of traditional ETL, Move to Spark! 立即下载
对 2000 多亿条数据做一次 group by 需要多久? 立即下载
对2000多亿条数据做一次Group By 需要多久 立即下载