如果你的linux服务器突然负载暴增,报警短信快发爆你的手机,如何在最短时间内找出linux性能问题所在?来看netflix性能工程团队的这篇博文,看它们通过十条命令在一分钟内对机器性能问题进行诊断。
概述
通过执行以下命令,可以在1分钟内对系统资源使用情况有个大致的了解。
uptime
dmesg | tail
vmstat 1
mpstat -p all 1
pidstat 1
iostat -xz 1
free -m
sar -n dev 1
sar -n tcp,etcp 1
top
其中一些命令需要安装sysstat包,有一些由procps包提供。这些命令的输出,有助于快速定位性能瓶颈,检查出所有资源(cpu、内存、磁盘io等)的利用率(utilization)、饱和度(saturation)和错误(error)度量,也就是所谓的use方法。
下面我们来逐一介绍下这些命令,有关这些命令更多的参数和说明,请参照命令的手册。
这个命令可以快速查看机器的负载情况。在linux系统中,这些数据表示等待cpu资源的进程和阻塞在不可中断io进程(进程状态为d)的数量。这些数据可以让我们对系统资源使用有一个宏观的了解。
命令的输出分别表示1分钟、5分钟、15分钟的平均负载情况。通过这三个数据,可以了解服务器负载是在趋于紧张还是趋于缓解。如果1分钟平均负载很高,而15分钟平均负载很低,说明服务器正在命令高负载情况,需要进一步排查cpu资源都消耗在了哪里。反之,如果15分钟平均负载很高,1分钟平均负载较低,则有可能是cpu资源紧张时刻已经过去。
上面例子中的输出,可以看见最近1分钟的平均负载非常高,且远高于最近15分钟负载,因此我们需要继续排查当前系统中有什么进程消耗了大量的资源。可以通过下文将会介绍的vmstat、mpstat等命令进一步排查。
该命令会输出系统日志的最后10行。示例中的输出,可以看见一次内核的oom kill和一次tcp丢包。这些日志可以帮助排查性能问题。千万不要忘了这一步。
vmstat(8) 命令,每行会输出一些系统核心指标,这些指标可以让我们更详细的了解系统状态。后面跟的参数1,表示每秒输出一次统计信息,表头提示了每一列的含义,这几介绍一些和性能调优相关的列:
r:等待在cpu资源的进程数。这个数据比平均负载更加能够体现cpu负载情况,数据中不包含等待io的进程。如果这个数值大于机器cpu核数,那么机器的cpu资源已经饱和。
free:系统可用内存数(以千字节为单位),如果剩余内存不足,也会导致系统性能问题。下文介绍到的free命令,可以更详细的了解系统内存的使用情况。
si,so:交换区写入和读取的数量。如果这个数据不为0,说明系统已经在使用交换区(swap),机器物理内存已经不足。
us, sy, id, wa, st:这些都代表了cpu时间的消耗,它们分别表示用户时间(user)、系统(内核)时间(sys)、空闲时间(idle)、io等待时间(wait)和被偷走的时间(stolen,一般被其他虚拟机消耗)。
上述这些cpu时间,可以让我们很快了解cpu是否出于繁忙状态。一般情况下,如果用户时间和系统时间相加非常大,cpu出于忙于执行指令。如果io等待时间很长,那么系统的瓶颈可能在磁盘io。
示例命令的输出可以看见,大量cpu时间消耗在用户态,也就是用户应用程序消耗了cpu时间。这不一定是性能问题,需要结合r队列,一起分析。
该命令可以显示每个cpu的占用情况,如果有一个cpu占用率特别高,那么有可能是一个单线程应用程序引起的。
pidstat命令输出进程的cpu占用率,该命令会持续输出,并且不会覆盖之前的数据,可以方便观察系统动态。如上的输出,可以看见两个java进程占用了将近1600%的cpu时间,既消耗了大约16个cpu核心的运算资源。
iostat命令主要用于查看机器磁盘io情况。该命令输出的列,主要含义是:
r/s, w/s, rkb/s, wkb/s:分别表示每秒读写次数和每秒读写数据量(千字节)。读写量过大,可能会引起性能问题。
await:io操作的平均等待时间,单位是毫秒。这是应用程序在和磁盘交互时,需要消耗的时间,包括io等待和实际操作的耗时。如果这个数值过大,可能是硬件设备遇到了瓶颈或者出现故障。
avgqu-sz:向设备发出的请求平均数量。如果这个数值大于1,可能是硬件设备已经饱和(部分前端硬件设备支持并行写入)。
%util:设备利用率。这个数值表示设备的繁忙程度,经验值是如果超过60,可能会影响io性能(可以参照io操作平均等待时间)。如果到达100%,说明硬件设备已经饱和。
如果显示的是逻辑设备的数据,那么设备利用率不代表后端实际的硬件设备已经饱和。值得注意的是,即使io性能不理想,也不一定意味这应用程序性能会不好,可以利用诸如预读取、写缓存等策略提升应用性能。
free命令可以查看系统内存的使用情况,-m参数表示按照兆字节展示。最后两列分别表示用于io缓存的内存数,和用于文件系统页缓存的内存数。需要注意的是,第二行-/+ buffers/cache,看上去缓存占用了大量内存空间。
这是linux系统的内存使用策略,尽可能的利用内存,如果应用程序需要内存,这部分内存会立即被回收并分配给应用程序。因此,这部分内存一般也被当成是可用内存。
如果可用内存非常少,系统可能会动用交换区(如果配置了的话),这样会增加io开销(可以在iostat命令中提现),降低系统性能。
sar命令在这里可以查看网络设备的吞吐率。在排查性能问题时,可以通过网络设备的吞吐量,判断网络设备是否已经饱和。如示例输出中,eth0网卡设备,吞吐率大概在22 mbytes/s,既176 mbits/sec,没有达到1gbit/sec的硬件上限。
sar命令在这里用于查看tcp连接状态,其中包括:
active/s:每秒本地发起的tcp连接数,既通过connect调用创建的tcp连接;
passive/s:每秒远程发起的tcp连接数,即通过accept调用创建的tcp连接;
retrans/s:每秒tcp重传数量;
tcp连接数可以用来判断性能问题是否由于建立了过多的连接,进一步可以判断是主动发起的连接,还是被动接受的连接。tcp重传可能是因为网络环境恶劣,或者服务器压力过大导致丢包。
top命令包含了前面好几个命令的检查的内容。比如系统负载情况(uptime)、系统内存使用情况(free)、系统cpu使用情况(vmstat)等。因此通过这个命令,可以相对全面的查看系统负载的来源。同时,top命令支持排序,可以按照不同的列排序,方便查找出诸如内存占用最多的进程、cpu占用率最高的进程等。
但是,top命令相对于前面一些命令,输出是一个瞬间值,如果不持续盯着,可能会错过一些线索。这时可能需要暂停top命令刷新,来记录和比对数据。
总结
排查linux服务器性能问题还有很多工具,上面介绍的一些命令,可以帮助我们快速的定位问题。例如前面的示例输出,多个证据证明有java进程占用了大量cpu资源,之后的性能调优就可以针对应用程序进行。