程序概念:
程序與程式的差別:程序是一個動态的概念,具有生命期,而程式是靜态的表現為一個檔案,一個程式可對應多個程序
核心的功用:程序管理、檔案系統、網絡功能、記憶體管理、驅動程式、安全功能等
Process: 運作中的程式的一個副本,是被載入記憶體的一個指令集合
程序ID(Process ID,PID)号碼被用來标記各個程序
UID、GID、和SELinux語境決定對檔案系統的存取和通路權限,
通常從執行程序的使用者來繼承
存在生命周期
task struct:Linux核心存儲程序資訊的資料結構格式
task list:多個任務的的task struct組成的連結清單
程序建立: init:第一個程序 父子關系
程序:都由其父程序建立,CoW(copy on write)
fork(), clone()
程序的基本狀态和轉換:
建立狀态:程序在建立時需要申請一個空白PCB(process control block程序控 制塊),向其中填寫控制和管理程序的資訊,完成資源配置設定。如果建立工作無法完 成,比如資源無法滿足,就無法被排程運作,把此時程序所處狀态稱為建立狀态
就緒狀态:程序已準備好,已配置設定到所需資源,隻要配置設定到CPU就能夠立即運作
執行狀态:程序處于就緒狀态被排程後,程序進入執行狀态
阻塞狀态:正在執行的程序由于某些事件(I/O請求,申請緩存區失敗)而暫時 無法運作,程序受到阻塞。在滿足請求時進入就緒狀态等待系統調用
終止狀态:程序結束,或出現錯誤,或被系統終止,進入終止狀态。無法再執行
協作時多任務:程序執行完畢,釋放CPU
搶占式多任務,時間片用完,必須釋放CPU
狀态間轉換的六種情況:
運作——>就緒:1,主要是程序占用CPU的時間過長,而系統配置設定給該程序占 用CPU的時間是有限的;2,在采用搶先式優先級排程算法的系統中,當有更高 優先級的程序要運作時,該程序就被迫讓出CPU,該程序便由執行狀态轉變為 就緒狀态。
就緒——>運作:運作的程序的時間片用完,排程就轉到就緒隊列中選擇合适 的程序配置設定CPU
運作——>阻塞:正在執行的程序因發生某等待事件而無法執行,則程序由執 行狀态變為阻塞狀态,如發生了I/O請求
阻塞——>就緒:程序所等待的事件已經發生,就進入就緒隊列 u以下兩種狀态是不可能發生的:
阻塞——>運作:即使給阻塞程序配置設定CPU,也無法執行,作業系統在進行調 度時不會從阻塞隊列進行挑選,而是從就緒隊列中選取
就緒——>阻塞:就緒态根本就沒有執行,談不上進入阻塞态
程序優先級:
程序優先級: 系統優先級:數字越小,優先級越高
0-139(CentOS4,5) 各有140個運作隊列和過期隊列
0-98,99(CentOS6)
實時優先級: 99-0 值最大優先級最高
nice值:-20到19,對應系統優先級100-139或99
Big O:時間複雜度,用時和規模的關系
O(1):随時間規模的增大,時間穩定不變
O(logn), O(n)線性, O(n^2)抛物線, O(2^n)
程序相關概念:
程序記憶體:
Page Frame: 頁框,用存儲頁面資料,存儲Page 4k
LRU:Least Recently Used 近期最少使用算法,釋放記憶體
實體位址空間和線性位址空間
MMU:Memory Management Unit負責轉換線性和實體位址 (記憶體管理單元)
TLB:Translation Lookaside Buffer 翻譯後備緩沖器,用于儲存虛拟位址和實體位址 映射關系的緩存
IPC: Inter Process Communication
同一主機: signal:信号
shm: shared memory (共享記憶體空間)
semaphore:信号量,一種計數器
不同主機:socket: IP和端口号
RPC: remote procedure call (遠端過程調用)
MQ:消息隊列,Kafka,ActiveMQ
程序狀态:
Linux核心:搶占式多任務
程序類型:
守護程序: daemon,在系統引導過程中啟動的程序,和終端無關程序
前台程序:跟終端相關,通過終端啟動的程序
注意:兩者可互相轉化
程序狀态:
運作态:running
就緒态:ready
睡眠态: 可中斷:interruptable(大部分) 不可中斷:uninterruptable
停止态:stopped,暫停于記憶體,但不會被排程,除非手動啟動
僵死态:zombie,結束程序,父程序結束前,子程序不關閉
系統管理工具:
程序的分類: CPU-Bound:CPU密集型,非互動
IO-Bound:IO密集型,互動
Linux系統狀态的檢視及管理工具:pstree, ps, pidof, pgrep, top, htop, glance, pmap, vmstat, dstat, kill, pkill, job, bg, fg, nohup
pstree指令: pstree – display a tree of processes
ps: process state
ps – report a snapshot of the current processes
Linux系統各程序的相關資訊均儲存在/proc/PID目錄下的各檔案中
檢視程序程序PS
ps [OPTION]…
支援三種選項: UNIX選項 如-A -e
BSD選項 如a
GNU選項 如–help
選項:預設顯示目前終端中的程序
- a 選項包括所有終端中的程序
- x 選項包括不連結終端的程序 (背景程序)
- u 選項顯示程序所有者的資訊
- f 選項顯示程序樹,相當于 –forest
- k|–sort 屬性 對屬性排序,屬性前加- 表示倒序
- o 屬性… 選項顯示定制的資訊 pid、cmd、%cpu、%mem
- L 顯示支援的屬性清單
一個程序必有一個線程,也可以有多個線程
PS常見選項:
-C cmdlist 指定指令,多個指令用,分隔 (檢視腳本的話,要求腳本寫shebang機制)
-L 顯示線程
-e: 顯示所有程序,相當于-A
-f: 顯示完整格式程式資訊
-F: 顯示更完整格式的程序資訊
-H: 以程序層級格式顯示程序相關資訊
-u userlist 指定有效的使用者ID或名稱 (euser)
-U userlist 指定真正的使用者ID或名稱 (ruser)
-g gid或groupname 指定有效的gid或組名稱
-G gid或groupname 指定真正的gid或組名稱
-p pid 顯示指pid的程序
–ppid pid 顯示屬于pid的子程序
-M 顯示SELinux資訊,相當于Z
PS輸出屬性:
euser(有效使用者) ruser(實際使用者)
Time :顯示的是已啟動的時間
VSZ: Virtual memory SiZe,虛拟記憶體集,線性記憶體
RSS: ReSident Size, 常駐記憶體集 (實際記憶體)
STAT:程序狀态
R:running
S: interruptable sleeping 可打斷休眠
D: uninterruptable sleeping 不可打斷休眠
T: stopped
Z: zombie
+: 前台程序
l: 多線程程序
L:記憶體分頁并帶鎖
N:低優先級程序
<: 高優先級程序
s: session leader,會話(子程序)發起者
PS
ni: nice值 (值越小,優先級越高)
pri: priority 優先級 (相當于下圖的系統優先級的倒序)(值越大優先級越高)
psr: processor CPU編号
rtprio: 實時優先級 (相當于下圖realtime優先級)
示例: ps axo pid,cmd,psr,ni,pri,rtprio
常用組合: aux 檢視所有程序的詳細資訊(更全)
-ef 檢視長格式的所有程序資訊
-eFH
-eo pid,tid,class,rtprio,ni,pri,psr,pcpu,stat,comm (o必在後)
axo stat,euid,ruid,tty,tpgid,sess,pgrp,ppid,pid,pcpu,comm(o必在後)
程序優先級:
程序優先級調整: 靜态優先級:100-139
程序預設啟動時的nice值為0,優先級為120
隻有根使用者才能降低nice值(提高優先性)
nice指令: nice [OPTION] [COMMAND [ARG]…] 例如:nice -n -10 sleep 200
renice指令: renice [-n] priority pid… 例如:renice -n -10 2612
檢視: ps axo pid,comm,ni
搜尋程序:
最靈活:ps 選項 | 其它指令
按預定義的模式:pgrep 相當于 ps |grep
pgrep [options] pattern (支援正規表達式)
-u uid: effective user,生效者
-U uid: real user,真正發起運作指令者
-t terminal: 與指定終端相關的程序
-l: 顯示程序名
-a: 顯示完整格式的程序名
-P pid: 顯示指定程序的子程序
按确切的程式名稱:/sbin/pidof
- pidof bash //顯示某個程式對應的程序ID
系統工具
uptime 顯示目前時間,系統已啟動的時間、目前上線人數,系統平均負載(1、5、10分 鐘的平均負載,一般不會超過1)
系統平均負載: 指在特定時間間隔内運作隊列中的平均程序數
通常每個CPU核心的目前活動程序數不大于3,那麼系統的性能良好。如果每 個CPU核心的任務數大于5,那麼此主機的性能有嚴重問題
如果linux主機是1個雙核CPU,當Load Average 為6的時候說明機器已經被 充分使用
程序管理工具:
top:有許多内置指令:(可動态跟蹤程序資訊)
排序: P:以占據的CPU百分比,%CPU
M:占據記憶體百分比,%MEM
T:累積占據CPU時長,TIME
首部資訊顯示: uptime資訊:l指令
tasks及cpu資訊:t指令
cpu分别顯示:1 (數字)
memory資訊:m指令
退出指令:q
修改重新整理時間間隔:s
終止指定程序:k
儲存檔案:W
欄位資訊簡介 :
us:使用者空間
sy:核心空間
ni:調整nice時間
id:空閑
wa:等待IO時間
hi:硬中斷
si:軟中斷(模式切換)
st:虛拟機偷走的時間
程序管理工具:top指令也帶選項
選項: -d #: 指定重新整理時間間隔,預設為3秒
-b: 全部顯示所有程序
-n #: 重新整理多少次後退出
htop指令:EPEL源 (更進階,有顔色和提示)
選項: -d #: 指定延遲時間;
-u UserName: 僅顯示指定使用者的程序
-s COLUME: 以指定字段進行排序
子指令: s: 跟蹤標明程序的系統調用
l: 顯示標明程序打開的檔案清單
a:将標明的程序綁定至某指定CPU核心(臨時綁定)
t: 顯示程序樹
記憶體空間:
記憶體空間使用狀态:
free [OPTION]
-b 以位元組為機關
-m 以MB為機關
-g 以GB為機關
-h 易讀格式
-o 不顯示-/+buffers/cache行
-t 顯示RAM + swap的總和
-s n 重新整理間隔為n秒
-c n 重新整理n次後即退出
echo 1 > /proc/sys/vm/drop_caches //清除緩存
記憶體工具:
vmstat指令:虛拟記憶體資訊
vmstat [options] [delay [count]]
vmstat 2 5 //2秒執行一次,執行5次
procs: r:可運作(正運作或等待運作)程序的個數,和核心數有關
b:處于不可中斷睡眠态的程序個數(被阻塞的隊列的長度)
memory: swpd: 交換記憶體的使用總量
free:空閑實體記憶體總量
buffer:用于buffer的記憶體總量
cache:用于cache的記憶體總量
swap: si:從磁盤交換進記憶體的資料速率(kb/s)
so:從記憶體交換至磁盤的資料速率(kb/s)
io: bi:從塊裝置讀入資料到系統的速率(kb/s)
bo: 儲存資料至塊裝置的速率
system: in: interrupts 中斷速率,包括時鐘
cs: context switch 程序切換速率
cpu: us:Time spent running non-kernel code
sy: Time spent running kernel code
id: Time spent idle. Linux 2.5.41前,包括IO-wait time.
wa: Time spent waiting for IO. 2.5.41前,包括in idle.
st: Time stolen from a virtual machine. 2.6.11前, unknown.
選項: -s: 顯示記憶體的統計資料 記憶體工具
iostat:統計CPU和裝置
示例:iostat 1 10
pmap指令:程序對應的記憶體映射 (關注程序占用的真正記憶體,了解程序是否正常)
pmap [options] pid […] (用于檢測那個程序子產品出錯)
-x: 顯示詳細格式的資訊
示例:pmap 1
另外一種實作: cat /proc/PID/maps //記憶體的具體使用情況
系統監控工具;
glances指令:EPEL源 (可實作遠端監控)
glances [-bdehmnrsvyz1] [-B bind] [-c server] [-C conffile] [-p port] [-P password] [–password] [- t refresh] [-f file] [-o output]
常用選項: -b: 以Byte為機關顯示網卡資料速率
-d: 關閉磁盤I/O子產品
-f /path/to/somefile: 設定輸入檔案位置
-o {HTML|CSV}:輸出格式
-m: 禁用mount子產品
-n: 禁用網絡子產品
-t #: 延遲時間間隔
-1:每個CPU的相關資料單獨顯示
C/S模式下運作glances指令
- 伺服器模式: glances -s -B IPADDR
IPADDR: 指明監聽的本機哪個位址
- 用戶端模式: glances -c IPADDR
IPADDR:要連入的伺服器端位址
dstat指令:系統資源統計,代替vmstat,iostat (帶顔色,更進階)
dstat [-afv] [options..] [delay [count]]
-c: 顯示cpu相關資訊
-C #,#,…,total
-d: 顯示disk相關資訊
-D total,sda,sdb,…
-g:顯示page相關統計資料
-m: 顯示memory相關統計資料
-n: 顯示network相關統計資料
-p: 顯示process相關統計資料
-r: 顯示io請求相關的統計資料
-s: 顯示swapped相關的統計資料
–top-cpu:顯示最占用CPU的程序
–top-io: 顯示最占用io的程序
–top-mem: 顯示最占用記憶體的程序
–top-latency: 顯示延遲最大的程序
iotop指令
iotop指令是一個用來監視磁盤I/O使用狀況的top類工具iotop具有與top相似的UI,其 中包括PID、使用者、I/O、程序等相關資訊,可檢視每個程序是如何使用IO
iotop輸出:
第一行:Read和Write速率總計
第二行:實際的Read和Write速率
第三行:參數如下: 線程ID(按p切換為程序ID)、 優先級、 使用者、 磁盤讀速率、 磁盤寫速率、 swap交換百分比、 IO等待所占的百分比、 線程/程序指令
常用參數:
-o, –only隻顯示正在産生I/O的程序或線程,除了傳參,可以在運作過程中按o 生效
-b, –batch非互動模式,一般用來記錄日志
-n NUM, –iter=NUM設定監測的次數,預設無限。在非互動模式下很有用
-d SEC, –delay=SEC設定每次監測的間隔,預設1秒,接受非整形資料例如1.1
-p PID, –pid=PID指定監測的程序/線程
-u USER, –user=USER指定監測某個使用者産生的I/O
-P, –processes僅顯示程序,預設iotop顯示所有線程
-a, –accumulated顯示累積的I/O,而不是帶寬
-k, –kilobytes使用kB機關,而不是對人友好的機關。在非互動模式下,腳本 程式設計有用
-t, –time 加上時間戳,非互動非模式
-q, –quiet 禁止頭幾行,非互動模式,有三種指定方式
-q 隻在第一次監測時顯示列名
-qq 永遠不顯示列名
-qqq 永遠不顯示I/O彙總
互動按鍵 left和right方向鍵:改變排序
r:反向排序
o:切換至選項–only
p:切換至–processes選項
a:切換至–accumulated選項
q:退出
i:改變線程的優先級
程序管理工具:
Kill 指令
向程序發送控制信号,以實作對程序管理,每個信号對應一個數字,信号名稱以SIG開頭 (可省略),不區分大小寫
顯示目前系統可用信号: kill –l,trap -l
常用信号:man 7 signal
1) SIGHUP: 無須關閉程序而讓其重讀配置檔案
2) SIGINT: 中止正在運作的程序;相當于Ctrl+c
3) SIGQUIT:相當于ctrl+\
9) SIGKILL: 強制殺死正在運作的程序
15) SIGTERM:終止正在運作的程序
18) SIGCONT:繼續運作
19) SIGSTOP:背景休眠
指定信号的方法:
(1) 信号的數字辨別:1, 2, 9
(2) 信号完整名稱:SIGHUP
(3) 信号的簡寫名稱:HUP
按PID:kill [-SIGNAL] pid …
kill –n SIGNAL pid;kill –s SIGNAL pid
按名稱:killall [-SIGNAL] 程序名稱 //殺死所有同名的程序
按模式:pkill [options] pattern
-SIGNAL
-u uid: effective user,生效者
-U uid: real user,真正發起運作指令者
-t terminal: 與指定終端相關的程序
-l: 顯示程序名(pgrep可用)
-a: 顯示完整格式的程序名(pgrep可用)
-P pid: 顯示指定程序的子程序
作業管理:
Linux的作業控制
前台作業:通過終端啟動,且啟動後一直占據終端;
背景作業:可通過終端啟動,但啟動後即轉入背景運作(釋放終端)
讓作業運作于背景
(1) 運作中的作業: Ctrl+z (将作業放到背景,處于休眠狀态)
(2) 尚未啟動的作業: COMMAND & (在背景運作可執行其他指令)
背景作業雖然被送往背景運作,但其依然與終端相關;退出終端,将關閉背景作業。如果希望 送往背景後,剝離與終端的關系
nohup COMMAND &>/dev/null & (斷網仍可繼續執行)
screen;COMMAND (解決斷網不能執行問題)
檢視目前終端所有作業:jobs //檢視目前終端正在背景運作作業
作業控制: fg [[%]JOB_NUM]:把指定的背景作業調回前台
bg [[%]JOB_NUM]:讓送往背景的作業在背景繼續運作
kill [%JOB_NUM]: 終止指定的作業
并行執行:
同時運作多個程序,提高效率
方法1 vi all.sh f1.sh & f2.sh & f3.sh & (将想要執行的任務放到腳本中)
方法2 (f1.sh &);(f2.sh &);(f3.sh &)
方法3 { f1.sh & f2.sh & f3.sh & }
任務計劃:
Linux任務計劃、周期性任務執行
- 未來的某時間點執行一次任務 at
batch:系統自行選擇空閑時間去執行此處指定的任務
- 周期性運作某任務 cron
實作同步時間(永久儲存):
- ntpdate 20.0.1
- 編輯/etc/chrony.conf (centos7)
service 172.20.0.1 iburst
- systemctl start chronyd
systemctl enabled chronyd
centos6中:
- 編輯/etc/ntp.conf
service 172.20.0.1 iburst
- chkconfig ntpd on
service ntpd start
at任務:(計劃任務中如若有标準輸出,将以郵件方式發送給對方)
at指令:at [option] TIME
常用選項: -V 顯示版本資訊:
-l: 列出指定隊列中等待運作的作業;相當于atq
-d: 删除指定的作業;相當于atrm
-c: 檢視具體作業任務
-f /path/from/somefile:從指定的檔案中讀取任務
-m:當任務被完成之後,将給使用者發送郵件,即使沒有标準輸出
注意:作業執行指令的結果中的标準輸出和錯誤以郵件通知給相關使用者
TIME:定義出什麼時候進行
at 這項任務的時間 HH:MM [YYYY-mm-dd]
noon, midnight, teatime(4pm)
tomorrow
now+#{minutes,hours,days, OR weeks}
at時間格式:
HH:MM 02:00 在今日的 HH:MM 進行,若該時刻已過,則明天此時執行任務
HH:MM YYYY-MM-DD 02:00 2016-09-20 規定在某年某月的某一天的特殊時刻進行該項任務
HH:MM[am|pm] [Month] [Date] 04pm March 17 17:20 tomorrow
HH:MM[am|pm] + number [minutes|hours|days|weeks]
在某個時間點再加幾個時間後才進行該項任務 now + 5 minutes 02pm + 3 days
At 任務;
執行方式: 1)互動式 2)輸入重定向 3)at –f 檔案
依賴與atd服務,需要啟動才能實作at任務
at隊列存放在/var/spool/at目錄中
/etc/at.{allow,deny}控制使用者是否能執行at任務
白名單:/etc/at.allow 預設不存在,隻有該檔案中的使用者才能執行at指令
黑名單:/etc/at.deny 預設存在,拒絕該檔案中使用者執行at指令,而沒有在 at.deny 檔案中的使用者則可執行
如果兩個檔案都不存在,隻有 root 可以執行 at 指令
注意:如果有白名單,隻有白名單裡的使用者可執行計劃任務;沒有白名單,有黑名單,隻有黑名單外的使用者才可以執行任務;如果兩個檔案都不存在,隻有root才可以執行任務
實驗:通過腳本實作計劃任務:
在腳本中: at 18:00 <<end
rm –f /data10 代表每10 分鐘|天|小時|月
時間格式:
@reboot Run once after reboot
@yearly 0 0 1 1 *
@annually 0 0 1 1 *
@monthly 0 0 1 * *
@weekly 0 0 * * 0
@daily 0 0 * * *
@hourly 0 * * * *
系統的計劃任務: /etc/crontab /etc/cron.d/ 配置檔案
/etc/cron.hourly/ 腳本
/etc/cron.daily/ 腳本
/etc/cron.weekly/ 腳本
/etc/cron.monthly/ 腳本
anacron系統:
運作計算機關機時cron不運作的任務,CentOS6以後版本取消anacron服務,由 crond服務管理
對筆記本電腦、桌上型電腦、工作站、偶爾要關機的伺服器及其它不一直開機的系統 很重要對很有用
配置檔案:/etc/anacrontab,負責執行/etc/ cron.daily /etc/cron.weekly /etc/cron.monthly中系統任務。
- 字段1:如果在這些日子裡沒有運作這些任務……
- 字段2:在重新開機後等待這麼多分鐘後運作它
- 字段3:任務識别器,在日志檔案中辨別
- 字段4:要執行的任務
由/etc/cron.hourly/0anacron執行
當執行任務時,更新/var/spool/anacron/cron.daily 檔案的時間戳
管理臨時檔案:
CentOS6使用/etc/cron.daily/tmpwatch定時清除臨時檔案
CentOS7使用systemd-tmpfiles-setup服務實作
配置檔案: /etc/tmpfiles.d/*.conf
/run/tmpfiles.d/*.conf
/usr/lib/tmpfiles/*.conf
/usr/lib/tmpfiles.d/tmp.conf
d /tmp 1777 root root 10d
d /var/tmp 1777 root root 30d
指令: systemd-tmpfiles –clean|remove|create configfile
使用者計劃任務:
crontab指令定義
每個使用者都有專用的cron任務檔案: /var/spool/cron/USERNAME
crontab指令: crontab [-u user] [-l | -r | -e] [-i]
-l: 列出所有任務
-e: 編輯任務
-r: 移除所有任務
-i:同-r一同使用,以互動式模式移除指定任務
-u user: 僅root可運作,指定使用者管理cron任務
控制使用者執行計劃任務: /etc/cron.{allow,deny}
at和crontab:
一次性作業使用 at
重複性作業使用crontab
沒有被重定向的輸出會被郵寄給使用者
根使用者能夠修改其它使用者的作業
注意:運作結果的标準輸出和錯誤以郵件通知給相關使用者
(1) COMMAND > /dev/null
(2) COMMAND &> /dev/null
對于cron任務來講,%有特殊用途;如果在指令中要使用%,則需要轉義,将% 放置于單引号中,則可不用轉義
usleep 可精确到微秒
實驗:循環重新開機的解救辦法(文法錯誤@reboot root reboot解決方案)
centos7
按e鍵,進入單使用者救援
boot menu kernel e
linux16行最後 加 rd.break
ctrl+x
mount -o remount,rw /sysroot
vim /sysroot/etc/crontab
删除@reboot root reboot
centos6
a 加 空格 1 enter
vim /sysroot/etc/crontab
删除@reboot root reboot
init 5