Linux 伺服器故障排除的前五分鐘 (First 5 Minutes Troubleshooting A Linux Server)

一、前言

二、簡介

三、具體過程

盡可能搞清楚問題的前因後果

有誰在？

之前發生了什麼？

現在在運作的程序是啥？

監聽的網絡服務

CPU和記憶體使用情況

檢視硬體

I/O 性能

挂載點和檔案系統

核心、中斷和網絡

系統日志和核心消息

任務計劃

檢視具體應用的系統日志

四、總結

注，測試環境：作業系統 CentOS 6.4 x86_64。

注，此文章在原文章的基礎上加入一些内容（修改與測試）。

我們團隊為上一家公司承擔運維、優化和擴充工作的時候，我們碰到了各種不同規模的性能很差的系統和基礎裝置（大型系統居多，比如CNN或者世界銀行的系統）。要是再趕上修複時間緊、奇葩的技術平台、缺少資訊和文檔，基本上這過程都會慘痛到讓我們留下深刻的記憶。

遇到伺服器故障，問題出現的原因很少可以一下就能找到。我們基本上都會從以下步驟入手：

1.盡可能搞清楚問題的前因後果

不要一下子就紮到伺服器前面，你需要先搞明白對這台伺服器有多少已知的情況，還有故障的具體情況。不然你很難搞清楚問題出在什麼地方，

必須搞清楚的問題有：

故障的表現是什麼？無響應？報錯？

故障是什麼時候發現的？

故障是否可重制？

有沒有出現的規律（比如每小時出現一次）

最後一次對整個平台進行更新的内容是什麼（代碼、伺服器等）？

故障影響的特定使用者群是什麼樣的(已登入的, 退出的, 某個地域的…)？

基礎架構（實體的、邏輯的）的文檔是否能找到?

是否有監控平台可用？（比如Munin、Zabbix、 Nagios、 New Relic… 什麼都可以）

是否有日志可以檢視？ （比如Loggly、Airbrake、 Graylog…）

最後兩個是最友善的資訊來源，不過别抱太大希望，基本上它們都不會有，隻能再繼續摸索了。下面我們繼續……

2.有誰在？

1

2

<code>[root@node1 ~]</code><code># w</code>

<code>[root@node1 ~]</code><code># last</code>

用這兩個指令看看都有誰線上，有哪些使用者通路過。這不是什麼關鍵步驟，不過最好别在其他使用者正幹活的時候來調試系統。嘿嘿！

3.之前發生了什麼？

<code>[root@node1 ~]</code><code># history</code>

檢視一下之前伺服器上執行過的指令。看一下總是沒錯的，加上前面看的誰登入過的資訊，應該有點用。另外作為admin要注意，不要利用自己的權限去侵犯别人的隐私哦。到這裡先提醒一下，等會你可能會需要更新 HISTTIMEFORMAT 環境變量來顯示這些指令被執行的時間。對要不然光看到一堆不知道啥時候執行的指令，同樣會令人抓狂的。指令如下，

<code>[root@node1 ~]</code><code># export HISTTIMEFORMAT='%F %T '</code>

這樣再次用history指令檢視就會顯示指令執行的時間。

4.現在在運作的程序是啥？

<code>[root@node1 ~]</code><code># pstree –a</code>

<code>[root@node1 ~]</code><code># ps aux</code>

這都是檢視現有程序的。 <code>ps aux</code> 的結果比較雜亂， <code>pstree -a</code> 的結果比較簡單明了，可以看到正在運作的程序及相關使用者。其實這兩個工具一般好用，htop這個工具比較好用，前提是你的機器上已安裝好htop工具。有興趣的朋友可以去用一下，哈哈！

5.監聽的網絡服務

3

<code>[root@node1 ~]</code><code># netstat -ntlp （檢視tcp端口）</code>

<code>[root@node1 ~]</code><code># netstat -nulp（檢視udp端口）</code>

<code>[root@node1 ~]</code><code># netstat -nxlp （檢視unix）</code>

我一般都分開運作這三個指令，不想一下子，列出一大堆所有的服務。netstat -nalp倒也可以。不過我絕不會用 numeric 選項 （鄙人一點淺薄的看法：IP 位址看起來更友善）。找到所有正在運作的服務，檢查它們是否應該運作。檢視各個監聽端口，在netstat顯示的服務清單中的PID 和 ps aux 程序清單中的是一樣的。如果伺服器上有好幾個Java或者Erlang什麼的程序在同時運作，能夠按PID分别找到每個程序就很重要了。通常我們建議每台伺服器上運作的服務少一點，必要時可以增加伺服器。如果你看到一台伺服器上有三四十個監聽端口開着，那還是做個記錄，回頭有空的時候清理一下，重新組織一下伺服器。

6.CPU和記憶體使用情況

4

<code>[root@node1 ~]</code><code># free -m</code>

<code>[root@node1 ~]</code><code># uptime</code>

<code>[root@node1 ~]</code><code># top</code>

<code>[root@node1 ~]</code><code># htop</code>

注意以下問題:

還有空餘的記憶體嗎？伺服器是否正在記憶體和硬碟之間進行swap？

還有剩餘的CPU嗎？伺服器是幾核的？是否有某些CPU核負載過多了？

伺服器最大的負載來自什麼地方? 平均負載是多少？

7.檢視硬體

<code>[root@node1 ~]</code><code># dmidecode | more</code>

<code>[root@node1 ~]</code><code># ethtool eth0</code>

RAID卡、CPU、空餘的記憶體插槽。根據這些情況可以大緻了解硬體問題的來源和性能改進的辦法。

網卡是否設定好? 是否正運作在半雙工狀态? 速度是10MBps? 有沒有 TX/RX 報錯?

8.I/O 性能

<code>[root@node1 ~]</code><code># iostat -kx 2</code>

<code>[root@node1 ~]</code><code># vmstat 2 10</code>

<code>[root@node1 ~]</code><code># mpstat 2 10</code>

<code>[root@node1 ~]</code><code># dstat --top-io --top-bio</code>

這些指令對于調試後端性能非常有用，

檢查磁盤使用量：伺服器硬碟是否已滿？

是否開啟了swap交換模式 (si/so)？

CPU被誰占用：系統程序？使用者程序？虛拟機？

dstat 是我的最愛，用它可以看到誰在進行 IO： 是不是MySQL吃掉了所有的系統資源？還是你的PHP程序？

9.挂載點和檔案系統

5

6

7

<code>[root@node1 ~]</code><code># mount</code>

<code>[root@node1 ~]</code><code># cat /etc/fstab</code>

<code>[root@node1 ~]</code><code># vgs</code>

<code>[root@node1 ~]</code><code># pvs</code>

<code>[root@node1 ~]</code><code># lvs</code>

<code>[root@node1 ~]</code><code># df –h</code>

<code>[root@node1 ~]</code><code># lsof +D /</code>

通過上面的指令我們可以得到以下資訊，

一共挂載了多少檔案系統?

有沒有某個服務專用的檔案系統? (比如MySQL?)

檔案系統的挂載選項是什麼： noatime? default? 有沒有檔案系統被重新挂載為隻讀模式了？

磁盤空間是否還有剩餘?

是否有大檔案被删除但沒有清空?

如果磁盤空間有問題，你是否還有空間來擴充一個分區？

10.核心、中斷和網絡

<code>[root@node1 ~]</code><code># sysctl -a | grep *</code>

<code>[root@node1 ~]</code><code># cat /proc/interrupts</code>

<code>[root@node1 ~]</code><code># cat /proc/net/ip_conntrack</code>

<code>[root@node1 ~]</code><code># netstat -an</code>

<code>[root@node1 ~]</code><code># ss –s</code>

你的中斷請求是否是均衡地配置設定給CPU處理，還是會有某個CPU的核因為大量的網絡中斷請求或者RAID請求而過載了？

SWAP交換的設定是什麼？對于工作站來說swappinness 設為 60 就很好, 不過對于伺服器就太糟了：你最好永遠不要讓伺服器做SWAP交換，不然對磁盤的讀寫會鎖死SWAP程序。

conntrack_max 是否設的足夠大，能應付你伺服器的流量?

在不同狀态下(TIME_WAIT, …)TCP連接配接時間的設定是怎樣的？

如果要顯示所有存在的連接配接，netstat 會比較慢， 你可以先用 ss 看一下總體情況。

11.系統日志和核心消息

<code>[root@node1 ~]</code><code># dmesg</code>

<code>[root@node1 ~]</code><code># less /var/log/messages</code>

<code>[root@node1 ~]</code><code># less /var/log/secure</code>

<code>[root@node1 ~]</code><code># less /var/log/auth</code>

通過上面的指令我們會得到以下資訊，

檢視錯誤和警告消息，比如看看是不是很多關于連接配接數過多導緻？

看看是否有硬體錯誤或檔案系統錯誤？

分析是否能将這些錯誤事件和前面發現的疑點進行時間上的比對。

12.任務計劃

<code>[root@node1 ~]</code><code># for user in $(cat /etc/passwd | cut -f1 -d:); do crontab -l -u $user; done</code>

是否有某個定時任務運作過于頻繁？

是否有些使用者送出了隐藏的定時任務？

在出現故障的時候，是否正好有某個備份任務在執行？

13.檢視具體應用的系統日志

這裡邊可分析的東西就多了，不過恐怕你作為運維人員是沒功夫去仔細研究它的。關注那些明顯的問題，比如在一個典型的LAMP（Linux+Apache+Mysql+PHP）應用環境裡:

Apache &amp; Nginx; 查找通路和錯誤日志, 直接找 5xx 錯誤, 再看看是否有 limit_zone 錯誤。

MySQL; 在mysql.log找錯誤消息，看看有沒有結構損壞的表， 是否有innodb修複程序在運作，是否有disk/index/query 問題.

PHP-FPM; 如果設定了 php-slow 日志, 直接找錯誤資訊 (php, mysql, memcache, …)，如果沒設定，趕緊設定。

Varnish; 在varnishlog 和 varnishstat 裡, 檢查 hit/miss比. 看看配置資訊裡是否遺漏了什麼規則，使最終使用者可以直接攻擊你的後端？

HA-Proxy; 後端的狀況如何？健康狀況檢查是否成功？是前端還是後端的隊列大小達到最大值了？

經過這5分鐘之後，你應該對如下情況比較清楚了：

在伺服器上運作的都是些啥？

這個故障看起來是和 IO/硬體/網絡 或者 系統配置 (有問題的代碼、系統核心調優, …)相關。

這個故障是否有你熟悉的一些特征？比如對資料庫索引使用不當，或者太多的apache背景程序。

你甚至有可能找到真正的故障源頭。就算還沒有找到，搞清楚了上面這些情況之後，你現在也具備了深挖下去的條件。繼續努力吧！

最後，希望大家有所收獲吧^_^……

本文轉自陳明乾51CTO部落格，原文連結：http://blog.51cto.com/freeloda/1346789，如需轉載請自行聯系原作者