spark streaming实时程序 进程总是运行三四个小时左右不知道原因挂掉,求大佬分析原因何在。。

我用spark stream每两分钟从kafka拉取数据,用的是standalone模式,但是程序总是运行三四个小时左右就会挂掉,查了很久不知道什么原因。
提交程序的节点work目录下的stderr文件最后的打印是这样的:
work_log.png

我看进程死掉前的内存情况也挺健康的,截图如下:
最后内存情况.png

求大佬指导怎么去查这个问题,真的搞了好久了。。
已邀请:

过往记忆

赞同来自:

756DC456-02E3-415a-858A-E44C4FBE3C67.png

看上面这行日志,CoarseGrainedExecutorBackend进程收到了 SIGNAL 15: SIGTERM,此信号请求您有序地关闭您的进程。
 
这个错误一般是你程序写的有问题,比如内存超了,尝试去找下更详细的日志。

zhangwbin - 90后大数据

赞同来自:

你可以尝试给每个executors增加内存,或者减少数据量试试,我遇到过几次都是内存的问题

刘狗

赞同来自:

你好,我也遇到了同样的问题。。。请问有什么好的解决思路吗

要回复问题请先登录注册


中国HBase技术社区微信公众号:
hbasegroup

欢迎加入HBase生态+Spark社区钉钉大群