开发者社区 问答 正文

面对这种常见的flink任务数据倾斜情况,一般有什么定位排查方案?

已解决

面对这种常见的flink任务数据倾斜情况,一般有什么定位排查方案?

展开
收起
詹姆斯邦德00 2022-10-17 11:16:58 904 发布于北京 分享
分享
版权
1 条回答
写回答
取消 提交回答
  • 推荐回答

    首先根据flink任务清理在确定是否存在数据倾斜情况:

    (1)根据flink监控查看任务反压Flink Web UI 自带的反压监控(直接方式)来确定任务出现反压,然后通过监控反压的信息,可以获取到数据处理瓶颈的 Subtask。

    (2)查看对应Subtasks,多并发情况下,当 Subtasks 之间处理的数据量有较大的差距,则该 Subtask 出现数据倾斜。如下图所示,红框内的 Subtask 出现数据热点。

    image.png

    以上内容摘自《企业级云原生白皮书项目实战》电子书,点击https://developer.aliyun.com/ebook/download/7774可下载完整版

    2022-10-17 19:19:55 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论