天天看點

程序管理與計劃任務的知識點

程序概念:

程序與程式的差別:程序是一個動态的概念,具有生命期,而程式是靜态的表現為一個檔案,一個程式可對應多個程序

核心的功用:程序管理、檔案系統、網絡功能、記憶體管理、驅動程式、安全功能等

Process: 運作中的程式的一個副本,是被載入記憶體的一個指令集合

程序ID(Process ID,PID)号碼被用來标記各個程序

UID、GID、和SELinux語境決定對檔案系統的存取和通路權限,

通常從執行程序的使用者來繼承

存在生命周期

task struct:Linux核心存儲程序資訊的資料結構格式

task list:多個任務的的task struct組成的連結清單

程序建立: init:第一個程序 父子關系

程序:都由其父程序建立,CoW(copy   on   write)

fork(), clone()

程序的基本狀态和轉換:

程式管理與計劃任務的知識點

建立狀态:程序在建立時需要申請一個空白PCB(process control block程序控 制塊),向其中填寫控制和管理程序的資訊,完成資源配置設定。如果建立工作無法完 成,比如資源無法滿足,就無法被排程運作,把此時程序所處狀态稱為建立狀态

就緒狀态:程序已準備好,已配置設定到所需資源,隻要配置設定到CPU就能夠立即運作

執行狀态:程序處于就緒狀态被排程後,程序進入執行狀态

阻塞狀态:正在執行的程序由于某些事件(I/O請求,申請緩存區失敗)而暫時 無法運作,程序受到阻塞。在滿足請求時進入就緒狀态等待系統調用

終止狀态:程序結束,或出現錯誤,或被系統終止,進入終止狀态。無法再執行

協作時多任務:程序執行完畢,釋放CPU

搶占式多任務,時間片用完,必須釋放CPU

狀态間轉換的六種情況:

運作——>就緒:1,主要是程序占用CPU的時間過長,而系統配置設定給該程序占 用CPU的時間是有限的;2,在采用搶先式優先級排程算法的系統中,當有更高 優先級的程序要運作時,該程序就被迫讓出CPU,該程序便由執行狀态轉變為 就緒狀态。

就緒——>運作:運作的程序的時間片用完,排程就轉到就緒隊列中選擇合适 的程序配置設定CPU

運作——>阻塞:正在執行的程序因發生某等待事件而無法執行,則程序由執 行狀态變為阻塞狀态,如發生了I/O請求

阻塞——>就緒:程序所等待的事件已經發生,就進入就緒隊列 u以下兩種狀态是不可能發生的:

阻塞——>運作:即使給阻塞程序配置設定CPU,也無法執行,作業系統在進行調 度時不會從阻塞隊列進行挑選,而是從就緒隊列中選取

就緒——>阻塞:就緒态根本就沒有執行,談不上進入阻塞态

程序優先級:

程序優先級: 系統優先級:數字越小,優先級越高

0-139(CentOS4,5) 各有140個運作隊列和過期隊列

0-98,99(CentOS6)

實時優先級: 99-0 值最大優先級最高

nice值:-20到19,對應系統優先級100-139或99

Big O:時間複雜度,用時和規模的關系

O(1):随時間規模的增大,時間穩定不變

O(logn), O(n)線性, O(n^2)抛物線, O(2^n)

程序相關概念:

程序記憶體:

Page Frame: 頁框,用存儲頁面資料,存儲Page 4k

LRU:Least Recently Used 近期最少使用算法,釋放記憶體

實體位址空間和線性位址空間

MMU:Memory Management Unit負責轉換線性和實體位址 (記憶體管理單元)

TLB:Translation Lookaside Buffer 翻譯後備緩沖器,用于儲存虛拟位址和實體位址 映射關系的緩存

IPC: Inter Process Communication

同一主機: signal:信号

shm: shared memory (共享記憶體空間)

semaphore:信号量,一種計數器

不同主機:socket: IP和端口号

RPC: remote procedure call (遠端過程調用)

MQ:消息隊列,Kafka,ActiveMQ

程序狀态:

Linux核心:搶占式多任務

程序類型:

守護程序: daemon,在系統引導過程中啟動的程序,和終端無關程序

前台程序:跟終端相關,通過終端啟動的程序

注意:兩者可互相轉化

程序狀态:

運作态:running

就緒态:ready

睡眠态: 可中斷:interruptable(大部分)   不可中斷:uninterruptable

停止态:stopped,暫停于記憶體,但不會被排程,除非手動啟動

僵死态:zombie,結束程序,父程序結束前,子程序不關閉

系統管理工具:

程序的分類: CPU-Bound:CPU密集型,非互動

IO-Bound:IO密集型,互動

Linux系統狀态的檢視及管理工具:pstree, ps, pidof, pgrep, top, htop, glance, pmap, vmstat, dstat, kill, pkill, job, bg, fg, nohup

pstree指令: pstree – display a tree of processes

ps: process state

ps – report a snapshot of the current processes

Linux系統各程序的相關資訊均儲存在/proc/PID目錄下的各檔案中

檢視程序程序PS

ps [OPTION]…

支援三種選項: UNIX選項 如-A -e

BSD選項 如a

GNU選項 如–help

選項:預設顯示目前終端中的程序

  • a 選項包括所有終端中的程序
  • x 選項包括不連結終端的程序 (背景程序)
  • u 選項顯示程序所有者的資訊
  • f 選項顯示程序樹,相當于 –forest
  • k|–sort 屬性 對屬性排序,屬性前加- 表示倒序
  • o 屬性… 選項顯示定制的資訊 pid、cmd、%cpu、%mem
  • L 顯示支援的屬性清單

一個程序必有一個線程,也可以有多個線程

PS常見選項:

-C cmdlist 指定指令,多個指令用,分隔 (檢視腳本的話,要求腳本寫shebang機制)

-L 顯示線程

-e: 顯示所有程序,相當于-A

-f: 顯示完整格式程式資訊

-F: 顯示更完整格式的程序資訊

-H: 以程序層級格式顯示程序相關資訊

-u userlist 指定有效的使用者ID或名稱 (euser)

-U userlist 指定真正的使用者ID或名稱 (ruser)

-g gid或groupname 指定有效的gid或組名稱

-G gid或groupname 指定真正的gid或組名稱

-p pid 顯示指pid的程序

–ppid pid 顯示屬于pid的子程序

-M 顯示SELinux資訊,相當于Z

PS輸出屬性:

euser(有效使用者)                      ruser(實際使用者)

Time :顯示的是已啟動的時間

VSZ: Virtual memory SiZe,虛拟記憶體集,線性記憶體

RSS: ReSident Size, 常駐記憶體集 (實際記憶體)

STAT:程序狀态

R:running

S: interruptable sleeping   可打斷休眠

D: uninterruptable sleeping    不可打斷休眠

T: stopped

Z: zombie

+: 前台程序

l: 多線程程序

L:記憶體分頁并帶鎖

N:低優先級程序

<: 高優先級程序

s: session leader,會話(子程序)發起者

PS

ni: nice值 (值越小,優先級越高)

pri: priority 優先級 (相當于下圖的系統優先級的倒序)(值越大優先級越高)

psr: processor CPU編号

rtprio: 實時優先級 (相當于下圖realtime優先級)

示例: ps axo pid,cmd,psr,ni,pri,rtprio

常用組合: aux    檢視所有程序的詳細資訊(更全)

-ef        檢視長格式的所有程序資訊

-eFH

-eo pid,tid,class,rtprio,ni,pri,psr,pcpu,stat,comm (o必在後)

axo stat,euid,ruid,tty,tpgid,sess,pgrp,ppid,pid,pcpu,comm(o必在後)

程序優先級:

程式管理與計劃任務的知識點

程序優先級調整: 靜态優先級:100-139

程序預設啟動時的nice值為0,優先級為120

隻有根使用者才能降低nice值(提高優先性)

nice指令:   nice [OPTION] [COMMAND [ARG]…]  例如:nice  -n -10 sleep  200

renice指令: renice [-n] priority pid…     例如:renice   -n -10  2612

檢視:    ps axo pid,comm,ni

搜尋程序:

最靈活:ps 選項 | 其它指令

按預定義的模式:pgrep     相當于   ps   |grep

pgrep [options] pattern (支援正規表達式)

-u uid: effective user,生效者

-U uid: real user,真正發起運作指令者

-t terminal: 與指定終端相關的程序

-l: 顯示程序名

-a: 顯示完整格式的程序名

-P pid: 顯示指定程序的子程序

按确切的程式名稱:/sbin/pidof

  • pidof bash //顯示某個程式對應的程序ID

系統工具

uptime 顯示目前時間,系統已啟動的時間、目前上線人數,系統平均負載(1、5、10分 鐘的平均負載,一般不會超過1)

系統平均負載: 指在特定時間間隔内運作隊列中的平均程序數

通常每個CPU核心的目前活動程序數不大于3,那麼系統的性能良好。如果每 個CPU核心的任務數大于5,那麼此主機的性能有嚴重問題

如果linux主機是1個雙核CPU,當Load Average 為6的時候說明機器已經被 充分使用

程序管理工具:

top:有許多内置指令:(可動态跟蹤程序資訊)

排序: P:以占據的CPU百分比,%CPU

M:占據記憶體百分比,%MEM

T:累積占據CPU時長,TIME

首部資訊顯示: uptime資訊:l指令

tasks及cpu資訊:t指令

cpu分别顯示:1 (數字)

memory資訊:m指令

退出指令:q

修改重新整理時間間隔:s

終止指定程序:k

儲存檔案:W

欄位資訊簡介 :

us:使用者空間

sy:核心空間

ni:調整nice時間

id:空閑

wa:等待IO時間

hi:硬中斷

si:軟中斷(模式切換)

st:虛拟機偷走的時間

程序管理工具:top指令也帶選項

選項: -d #: 指定重新整理時間間隔,預設為3秒

-b: 全部顯示所有程序

-n #: 重新整理多少次後退出

htop指令:EPEL源 (更進階,有顔色和提示)

選項: -d #: 指定延遲時間;

-u UserName: 僅顯示指定使用者的程序

-s COLUME: 以指定字段進行排序

子指令: s: 跟蹤標明程序的系統調用

l: 顯示標明程序打開的檔案清單

a:将標明的程序綁定至某指定CPU核心(臨時綁定)

t: 顯示程序樹

記憶體空間:

記憶體空間使用狀态:

free [OPTION]

-b 以位元組為機關

-m 以MB為機關

-g 以GB為機關

-h 易讀格式

-o 不顯示-/+buffers/cache行

-t 顯示RAM + swap的總和

-s n 重新整理間隔為n秒

-c n 重新整理n次後即退出

echo  1  > /proc/sys/vm/drop_caches      //清除緩存

記憶體工具:

vmstat指令:虛拟記憶體資訊

vmstat [options] [delay [count]]

vmstat 2 5   //2秒執行一次,執行5次

procs: r:可運作(正運作或等待運作)程序的個數,和核心數有關

b:處于不可中斷睡眠态的程序個數(被阻塞的隊列的長度)

memory: swpd: 交換記憶體的使用總量

free:空閑實體記憶體總量

buffer:用于buffer的記憶體總量

cache:用于cache的記憶體總量

swap: si:從磁盤交換進記憶體的資料速率(kb/s)

so:從記憶體交換至磁盤的資料速率(kb/s)

io: bi:從塊裝置讀入資料到系統的速率(kb/s)

bo: 儲存資料至塊裝置的速率

system: in: interrupts 中斷速率,包括時鐘

cs: context switch 程序切換速率

cpu: us:Time spent running non-kernel code

sy: Time spent running kernel code

id: Time spent idle. Linux 2.5.41前,包括IO-wait time.

wa: Time spent waiting for IO. 2.5.41前,包括in idle.

st: Time stolen from a virtual machine. 2.6.11前, unknown.

選項: -s: 顯示記憶體的統計資料 記憶體工具

iostat:統計CPU和裝置

示例:iostat 1 10

pmap指令:程序對應的記憶體映射 (關注程序占用的真正記憶體,了解程序是否正常)

pmap [options] pid […]     (用于檢測那個程序子產品出錯)

-x: 顯示詳細格式的資訊

示例:pmap 1

另外一種實作: cat /proc/PID/maps    //記憶體的具體使用情況

系統監控工具;

glances指令:EPEL源 (可實作遠端監控)

glances [-bdehmnrsvyz1] [-B bind] [-c server] [-C conffile] [-p port] [-P password] [–password] [- t refresh] [-f file] [-o output]

常用選項: -b: 以Byte為機關顯示網卡資料速率

-d: 關閉磁盤I/O子產品

-f /path/to/somefile: 設定輸入檔案位置

-o {HTML|CSV}:輸出格式

-m: 禁用mount子產品

-n: 禁用網絡子產品

-t #: 延遲時間間隔

-1:每個CPU的相關資料單獨顯示

C/S模式下運作glances指令

  1. 伺服器模式: glances -s -B IPADDR

IPADDR: 指明監聽的本機哪個位址

  1. 用戶端模式: glances -c IPADDR

IPADDR:要連入的伺服器端位址

dstat指令:系統資源統計,代替vmstat,iostat (帶顔色,更進階)

dstat [-afv] [options..] [delay [count]]

-c: 顯示cpu相關資訊

-C #,#,…,total

-d: 顯示disk相關資訊

-D total,sda,sdb,…

-g:顯示page相關統計資料

-m: 顯示memory相關統計資料

-n: 顯示network相關統計資料

-p: 顯示process相關統計資料

-r: 顯示io請求相關的統計資料

-s: 顯示swapped相關的統計資料

–top-cpu:顯示最占用CPU的程序

–top-io: 顯示最占用io的程序

–top-mem: 顯示最占用記憶體的程序

–top-latency: 顯示延遲最大的程序

iotop指令

iotop指令是一個用來監視磁盤I/O使用狀況的top類工具iotop具有與top相似的UI,其 中包括PID、使用者、I/O、程序等相關資訊,可檢視每個程序是如何使用IO

iotop輸出:

第一行:Read和Write速率總計

第二行:實際的Read和Write速率

第三行:參數如下: 線程ID(按p切換為程序ID)、 優先級、 使用者、 磁盤讀速率、 磁盤寫速率、 swap交換百分比、 IO等待所占的百分比、 線程/程序指令

常用參數:

-o, –only隻顯示正在産生I/O的程序或線程,除了傳參,可以在運作過程中按o 生效

-b, –batch非互動模式,一般用來記錄日志

-n NUM, –iter=NUM設定監測的次數,預設無限。在非互動模式下很有用

-d SEC, –delay=SEC設定每次監測的間隔,預設1秒,接受非整形資料例如1.1

-p PID, –pid=PID指定監測的程序/線程

-u USER, –user=USER指定監測某個使用者産生的I/O

-P, –processes僅顯示程序,預設iotop顯示所有線程

-a, –accumulated顯示累積的I/O,而不是帶寬

-k, –kilobytes使用kB機關,而不是對人友好的機關。在非互動模式下,腳本 程式設計有用

-t, –time 加上時間戳,非互動非模式

-q, –quiet 禁止頭幾行,非互動模式,有三種指定方式

-q 隻在第一次監測時顯示列名

-qq 永遠不顯示列名

-qqq 永遠不顯示I/O彙總

互動按鍵 left和right方向鍵:改變排序

r:反向排序

o:切換至選項–only

p:切換至–processes選項

a:切換至–accumulated選項

q:退出

i:改變線程的優先級

程序管理工具:

   Kill 指令

         向程序發送控制信号,以實作對程序管理,每個信号對應一個數字,信号名稱以SIG開頭 (可省略),不區分大小寫

顯示目前系統可用信号: kill –l,trap -l

常用信号:man 7 signal

1) SIGHUP: 無須關閉程序而讓其重讀配置檔案

2) SIGINT: 中止正在運作的程序;相當于Ctrl+c

3) SIGQUIT:相當于ctrl+\

9) SIGKILL: 強制殺死正在運作的程序

15) SIGTERM:終止正在運作的程序

18) SIGCONT:繼續運作

19) SIGSTOP:背景休眠

指定信号的方法:

(1) 信号的數字辨別:1, 2, 9

(2) 信号完整名稱:SIGHUP

(3) 信号的簡寫名稱:HUP

按PID:kill [-SIGNAL] pid …

kill –n SIGNAL pid;kill –s SIGNAL pid

按名稱:killall  [-SIGNAL] 程序名稱   //殺死所有同名的程序

按模式:pkill [options] pattern

-SIGNAL

-u uid: effective user,生效者

-U uid: real user,真正發起運作指令者

-t terminal: 與指定終端相關的程序

-l: 顯示程序名(pgrep可用)

-a: 顯示完整格式的程序名(pgrep可用)

-P pid: 顯示指定程序的子程序

作業管理:

Linux的作業控制

前台作業:通過終端啟動,且啟動後一直占據終端;

背景作業:可通過終端啟動,但啟動後即轉入背景運作(釋放終端)

讓作業運作于背景

(1) 運作中的作業: Ctrl+z (将作業放到背景,處于休眠狀态)

(2) 尚未啟動的作業: COMMAND  &  (在背景運作可執行其他指令)

背景作業雖然被送往背景運作,但其依然與終端相關;退出終端,将關閉背景作業。如果希望 送往背景後,剝離與終端的關系

nohup COMMAND &>/dev/null &  (斷網仍可繼續執行)

screen;COMMAND (解決斷網不能執行問題)

檢視目前終端所有作業:jobs   //檢視目前終端正在背景運作作業

作業控制: fg [[%]JOB_NUM]:把指定的背景作業調回前台

bg [[%]JOB_NUM]:讓送往背景的作業在背景繼續運作

kill [%JOB_NUM]: 終止指定的作業

程式管理與計劃任務的知識點

并行執行:

同時運作多個程序,提高效率

方法1 vi all.sh     f1.sh &    f2.sh &     f3.sh & (将想要執行的任務放到腳本中)

方法2 (f1.sh &);(f2.sh &);(f3.sh &)

方法3 {  f1.sh &  f2.sh &  f3.sh &  }

任務計劃:

Linux任務計劃、周期性任務執行

  • 未來的某時間點執行一次任務 at

batch:系統自行選擇空閑時間去執行此處指定的任務

  • 周期性運作某任務 cron

實作同步時間(永久儲存):

  1. ntpdate 20.0.1
  2. 編輯/etc/chrony.conf (centos7)

service   172.20.0.1  iburst

  1. systemctl start  chronyd

systemctl    enabled  chronyd

centos6中:

  1. 編輯/etc/ntp.conf

service   172.20.0.1  iburst

  1. chkconfig ntpd    on

service    ntpd    start

at任務:(計劃任務中如若有标準輸出,将以郵件方式發送給對方)

at指令:at [option] TIME

常用選項: -V 顯示版本資訊:

-l: 列出指定隊列中等待運作的作業;相當于atq

-d: 删除指定的作業;相當于atrm

-c: 檢視具體作業任務

-f /path/from/somefile:從指定的檔案中讀取任務

-m:當任務被完成之後,将給使用者發送郵件,即使沒有标準輸出

注意:作業執行指令的結果中的标準輸出和錯誤以郵件通知給相關使用者

TIME:定義出什麼時候進行

at 這項任務的時間 HH:MM [YYYY-mm-dd]

noon, midnight, teatime(4pm)

tomorrow

now+#{minutes,hours,days, OR weeks}

 at時間格式:

HH:MM 02:00 在今日的 HH:MM 進行,若該時刻已過,則明天此時執行任務

HH:MM YYYY-MM-DD 02:00 2016-09-20 規定在某年某月的某一天的特殊時刻進行該項任務

HH:MM[am|pm] [Month] [Date]         04pm March 17       17:20 tomorrow

HH:MM[am|pm] + number [minutes|hours|days|weeks]

在某個時間點再加幾個時間後才進行該項任務 now + 5 minutes     02pm + 3 days

At  任務;

執行方式: 1)互動式 2)輸入重定向 3)at –f 檔案

依賴與atd服務,需要啟動才能實作at任務

at隊列存放在/var/spool/at目錄中

/etc/at.{allow,deny}控制使用者是否能執行at任務

白名單:/etc/at.allow 預設不存在,隻有該檔案中的使用者才能執行at指令

黑名單:/etc/at.deny 預設存在,拒絕該檔案中使用者執行at指令,而沒有在 at.deny 檔案中的使用者則可執行

如果兩個檔案都不存在,隻有 root 可以執行 at 指令

注意:如果有白名單,隻有白名單裡的使用者可執行計劃任務;沒有白名單,有黑名單,隻有黑名單外的使用者才可以執行任務;如果兩個檔案都不存在,隻有root才可以執行任務

實驗:通過腳本實作計劃任務:

   在腳本中: at   18:00   <<end

                      rm –f  /data10   代表每10 分鐘|天|小時|月

時間格式:

@reboot Run once after reboot

@yearly 0 0 1 1 *

@annually 0 0 1 1 *

@monthly 0 0 1 * *

@weekly 0 0 * * 0

@daily 0 0 * * *

@hourly 0 * * * *

系統的計劃任務: /etc/crontab /etc/cron.d/ 配置檔案

/etc/cron.hourly/ 腳本

/etc/cron.daily/ 腳本

/etc/cron.weekly/ 腳本

/etc/cron.monthly/ 腳本

anacron系統:

運作計算機關機時cron不運作的任務,CentOS6以後版本取消anacron服務,由 crond服務管理

對筆記本電腦、桌上型電腦、工作站、偶爾要關機的伺服器及其它不一直開機的系統 很重要對很有用

配置檔案:/etc/anacrontab,負責執行/etc/ cron.daily   /etc/cron.weekly /etc/cron.monthly中系統任務。

  • 字段1:如果在這些日子裡沒有運作這些任務……
  • 字段2:在重新開機後等待這麼多分鐘後運作它
  • 字段3:任務識别器,在日志檔案中辨別
  • 字段4:要執行的任務

由/etc/cron.hourly/0anacron執行

當執行任務時,更新/var/spool/anacron/cron.daily 檔案的時間戳

管理臨時檔案:

CentOS6使用/etc/cron.daily/tmpwatch定時清除臨時檔案

CentOS7使用systemd-tmpfiles-setup服務實作

配置檔案: /etc/tmpfiles.d/*.conf

/run/tmpfiles.d/*.conf

/usr/lib/tmpfiles/*.conf

/usr/lib/tmpfiles.d/tmp.conf

d /tmp 1777 root root 10d

d /var/tmp 1777 root root 30d

指令: systemd-tmpfiles –clean|remove|create configfile

使用者計劃任務:

crontab指令定義

每個使用者都有專用的cron任務檔案: /var/spool/cron/USERNAME

crontab指令: crontab [-u user] [-l | -r | -e] [-i]

-l: 列出所有任務

-e: 編輯任務

-r: 移除所有任務

-i:同-r一同使用,以互動式模式移除指定任務

-u user: 僅root可運作,指定使用者管理cron任務

控制使用者執行計劃任務: /etc/cron.{allow,deny}

at和crontab:

一次性作業使用 at

重複性作業使用crontab

沒有被重定向的輸出會被郵寄給使用者

根使用者能夠修改其它使用者的作業

注意:運作結果的标準輸出和錯誤以郵件通知給相關使用者

(1) COMMAND > /dev/null

(2) COMMAND &> /dev/null

對于cron任務來講,%有特殊用途;如果在指令中要使用%,則需要轉義,将% 放置于單引号中,則可不用轉義

usleep   可精确到微秒

實驗:循環重新開機的解救辦法(文法錯誤@reboot  root  reboot解決方案)

centos7

按e鍵,進入單使用者救援

boot menu kernel e

linux16行最後 加 rd.break

ctrl+x

mount -o remount,rw /sysroot

vim /sysroot/etc/crontab

删除@reboot  root  reboot

centos6

a 加 空格 1 enter

vim /sysroot/etc/crontab

删除@reboot  root  reboot

init 5

繼續閱讀