首页> 系统技术> Linux宕机故障分析案例

[文章]Linux宕机故障分析案例

收藏
0 4340 0

背景

Linux系统环境下,服务器宕机发生的频率比较小,但是不少工程师或多或少都会遇到这种情况,有时候会手足无措,不知从何入手。笔者将借助一次案例分析,展示下Linux宕机故障事件的处理方法和思路。

宕机发生的原因不一,或者是硬件原因,或者是性能原因,或者是服务器触发了Linuxbug,导致内核崩溃等等。

案例分析

1、 案情还原;

生产系统服务器dcspodsaa1425日凌晨0049分发生服务器宕机故障,当时系统管理员对硬件报错进行了截图(保留现场很重要),看字面意思应该是服务器的swap设备发生损坏:


2、 分析方法一:使用sosreport收集系统日志,检查/var/log/messages日志,查找系统重启前是否存在错误日志,图中kernel***/proc/kmsg started代表系统启动的第一条日志,在此之前没有发现异常日志,

 

3、 分析方法二:检查服务器开启了kdump服务,并在/var/crash目录找到了当天生成的vmcore文件,使用crash工具分析vmcore文件,如下:

服务器发生了严重的系统崩溃panic错误


kdmp文件的错误日志进行分析,发现了大量的swap 设备读写错误:



4、    根据报错 Kernel panic –not syncing:Attempted to kill init”,查询到红帽官网KBhttps://access.redhat.com/solutions/1450043得到此次宕机事件的原因是系统 swap设备I/O读写失败,触发系统kill掉主进程“init”,系统发生内核崩溃,而关于系统swap分区读写错误产生的深层原因,涉及到Redhat底层内核的程序,建议开启红帽的官方case进行深度的分析处理   

5、  分析方法三:检查系统历史性能记录,/var/log/sa/路径下记录了每天由sysstat服务收集的sarsystem activity report)文件,默认每10分钟记录一次系统资源使用情况的信息,包括CPU、内存等。通过sar命令查看系统宕机时负载情况,没有发现资源使用异常,基本可以排除不是系统因性能不足从而导致宕机

4.25号性能记录文件

 

使用命令sar –A –F sa25 | more检查CPU性能信息和内存性能信息,没有发现异常情况。

  

其他配置

1.  开启kdump

安装依赖包


启动服务


设置开启启动


修改默认crashkernel参数为256M, 注意需重启系统才生效


2.  使用crash工具分析vmcore文件:

1)  安装crash包,可使用yum安装


2)  安装kernel-debug内核版本,该rpm包必需和故障系统的内核版本一致

先使用unamre –r查看故障机版本

安装相应包


3)  启动crash检查

 

 

小结

因此,在处理故障时,一般的思路是:

1. 首先应查找故障前的错误日志线索,可以通过检查系统messages日志中的错误日志;

2. 如果没有,进而排查系统是否触发kdump服务(在系统由于内核崩溃而导致宕机时,可以捕获故障时内存中的故障信息);

3. 另外也需要分析系统资源(CPU、内存等)使用上出现异常。


系统技术
最近热帖
{{item.Title}} {{item.ViewCount}}
近期热议
{{item.Title}} {{item.PostCount}}