开发者社区> 问答> 正文

spark streaming实时程序 进程总是运行三四个小时左右不知道原因挂掉

我用spark stream每两分钟从kafka拉取数据,用的是standalone模式,但是程序总是运行三四个小时左右就会挂掉,查了很久不知道什么原因。 提交程序的节点work目录下的stderr文件最后的打印是这样的: image.png 我看进程死掉前的内存情况也挺健康的,截图如下: image.png

展开
收起
pandacats 2019-12-20 21:25:15 1509 0
1 条回答
写回答
取消 提交回答
  • 长期从事大数据系统与产品研发。

    这种要看下executor是什么原因退出了,sigterm一般都是被杀掉了,去看下是yan的行为还是driver的行为,逐步追查原因吧

    2020-03-20 09:27:46
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Apache Spark: Cloud and On-Prem 立即下载
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载