开发者社区> 问答> 正文

Fink任务无限反压怎么解决?

该任务有时候正常,偶尔反压。

最近观察发现,反压时,kafkaSouce节点100%反压到停滞,后续算子什么也收不到,任务整体停滞。

这类错误遇到过很多次了,目前我生产中flink有个很大问题就是这些稳定性,压力大不是需要时间去追赶,而是压力一大就整体处于停滞状态。*来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-02 14:21:43 521 0
1 条回答
写回答
取消 提交回答
  • 我把表移动到了普通 MYSQL,可以正常运行。 经过排查应该是 ADB 建表 SQL 中的 DISTRIBUTE BY HASH(uid) 所导致,该语法用于处理数据倾斜问题。 看起来似乎是联表 join 的时候要求定义主键,但是定义主键后会转换为 upsert 流,而 ADB 中定义了 DISTRIBUTE BY 与 upsert 冲突了,不知道是否这么理解*来自志愿者整理的FLINK邮件归档

    2021-12-02 14:35:30
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
美团 crash 监控分析系统优化之路:crash 率从千分位到万分位 立即下载
朱翥、贺小令|更快更稳更易用:Flink 自适应批处理能力演 立即下载
Flink中的两类新型状态存储 立即下载