【yarn】任务日志丢失问题分析
创始人
2024-01-28 05:40:49
0

【yarn】任务日志丢失问题分析

故事背景

今天中午收到了一个报警邮件通知。内容大致为:有一个正在 yarn上运行的flink的实时任务挂掉了。
针对上述的现象,我们的开发工程师先打开yarnweb ui找到对应的job的任务页面。查询任务日志。
在这里插入图片描述
点击这个log,找不到任何日志。那么很显然,这个任务的container已经没了,日志已经找不到了。
引出问题:日志怎么会消失?

探究过程

  1. 通过上图的Finished这一栏可以看到,这个任务在什么时候结束运行的,从上图得知,这个任务是在Wed Nov 16 12:58:09 +0800 2022挂掉的。
  2. 记录最下面Node栏对应的机器ip(在上面的图片中我打码了,这个机器是yarn的一个node节点,请根据自己的环境来分析)
  3. 在做好上述两点的基础上,先找到这台Node节点,然后检查该节点的NodeManager的日志,目前我用的环境是cdh,所以我可以在cloudera manager管理界面上查看到对应的NodeManager的角色日志,找到Finshed时间对应的日志,日志如下:在这里插入图片描述
    如上所示:
    在这里插入图片描述
    针对标号1的这块儿内容,进入cdh的给出来的官方文档检查了一下:
    在这里插入图片描述
    这个exitCode=255 似乎看不出来什么原因。
    但是通过标志2的那段内容可以看到这个container找不到用户scb。带着这段信息去搜索了一下,得到如下链接:https://community.cloudera.com/t5/Support-Questions/Getting-user-not-found-issue-when-starting-spark-job/td-p/278090
    在这个链接中:
    明确的提到了同类的问题,并且给出了问题发生的可能性。
    针对找不到用户的问题的校验方法,验证该用户是否有效:
    1. 登录对应的机器上
    2. 使用命令id 用户名来查询用户名是否ok
      针对问题的可能发生的原因:可能是有运维人员操作了sssd工具,导致当时运行程序的container容器的那台机器的用户名受到了影响。导致程序运行失败,container容器启动失败被清理掉了。
      后续我们问了一下相关的负责人,得到的反馈是在那个时间点操作了一下sssd导致了container找不到用户名

总结

其实诊断信息就写在这里
在这里插入图片描述
最后,通过该问题的探究经历,经验+1。如果各位大佬有什么更好的建议,请在评论区里留言。谢谢~

相关内容

热门资讯

喜欢穿一身黑的男生性格(喜欢穿... 今天百科达人给各位分享喜欢穿一身黑的男生性格的知识,其中也会对喜欢穿一身黑衣服的男人人好相处吗进行解...
发春是什么意思(思春和发春是什... 本篇文章极速百科给大家谈谈发春是什么意思,以及思春和发春是什么意思对应的知识点,希望对各位有所帮助,...
网络用语zl是什么意思(zl是... 今天给各位分享网络用语zl是什么意思的知识,其中也会对zl是啥意思是什么网络用语进行解释,如果能碰巧...
为什么酷狗音乐自己唱的歌不能下... 本篇文章极速百科小编给大家谈谈为什么酷狗音乐自己唱的歌不能下载到本地?,以及为什么酷狗下载的歌曲不是...
华为下载未安装的文件去哪找(华... 今天百科达人给各位分享华为下载未安装的文件去哪找的知识,其中也会对华为下载未安装的文件去哪找到进行解...
怎么往应用助手里添加应用(应用... 今天百科达人给各位分享怎么往应用助手里添加应用的知识,其中也会对应用助手怎么添加微信进行解释,如果能...
家里可以做假山养金鱼吗(假山能... 今天百科达人给各位分享家里可以做假山养金鱼吗的知识,其中也会对假山能放鱼缸里吗进行解释,如果能碰巧解...
四分五裂是什么生肖什么动物(四... 本篇文章极速百科小编给大家谈谈四分五裂是什么生肖什么动物,以及四分五裂打一生肖是什么对应的知识点,希...
一帆风顺二龙腾飞三阳开泰祝福语... 本篇文章极速百科给大家谈谈一帆风顺二龙腾飞三阳开泰祝福语,以及一帆风顺二龙腾飞三阳开泰祝福语结婚对应...
美团联名卡审核成功待激活(美团... 今天百科达人给各位分享美团联名卡审核成功待激活的知识,其中也会对美团联名卡审核未通过进行解释,如果能...