我們都知道，資料結構和算法本身解決的是“快”和“省”的問題，即如何讓代碼運作得更快，如何讓代碼更省存儲空間。是以，執行效率是算法一個非常重要的考量名額。那如何來衡量你編寫的算法代碼的執行效率呢？這裡就要用到我們今天要說的内容：時間、空間複雜度分析。
一、為什麼需要複雜度分析？
你可能會有些疑惑，我把代碼跑一遍，通過統計、監控，就能得到算法執行的時間和占用的記憶體大小。為什麼還要做時間、空間複雜度分析呢？這種分析方法能比我實實在在跑一遍得到的資料更準确嗎？
首先，我可以肯定地說，你這種評估算法執行效率的方法是正确的。很多資料結構和算法書籍還給這種方法起了一個名字，叫事後統計法。但是，這種統計方法有非常大的局限性。
a.測試結果非常依賴測試環境
測試環境中硬體的不同會對測試結果有很大的影響。比如，我們拿同樣一段代碼，分别用 Intel Core i9 處理器和 Intel Core i3 處理器來運作，不用說，i9 處理器要比 i3 處理器執行的速度快很多。還有，比如原本在這台機器上 a 代碼執行的速度比 b 代碼要快，等我們換到另一台機器上時，可能會有截然相反的結果。
b.測試結果受資料規模的影響很大
對同一個排序算法，待排序資料的有序度不一樣，排序的執行時間就會有很大的差别。極端情況下，如果資料已經是有序的，那排序算法不需要做任何操作，執行時間就會非常短。除此之外，如果測試資料規模太小，測試結果可能無法真實地反應算法的性能。比如，對于小規模的資料排序，插入排序可能反倒會比快速排序要快！
是以，我們需要一個不用具體的測試資料來測試，就可以粗略地估計算法的執行效率的方法。這就是我們今天要說的時間、空間複雜度分析方法。
二、大 O 複雜度表示法
這裡有段非常簡單的代碼，求 1,2,3…n 的累加和。現在，我就帶你一塊來估算一下這段代碼的執行時間。
int cal(int n) {
int sum = 0;
int i = 1;
for (; i <= n; ++i) {
sum = sum + i;
}
return sum;
}
從 CPU 的角度來看，這段代碼的每一行都執行着類似的操作：讀資料-運算-寫資料。盡管每行代碼對應的 CPU 執行的個數、執行的時間都不一樣，但是，我們這裡隻是粗略估計，是以可以假設每行代碼執行的時間都一樣，為 unit_time。在這個假設的基礎之上，這段代碼的總執行時間是多少呢？
第 2、3 行代碼分别需要 1 個 unit_time 的執行時間，第 4、5 行都運作了 n 遍，是以需要 2n*unit_time 的執行時間，是以這段代碼總的執行時間就是 (2n+2)*unit_time。可以看出來，所有代碼的執行時間 T(n) 與每行代碼的執行次數成正比。
按照這個分析思路，我們再來看這段代碼。
int cal(int n) {
int sum = 0;
int i = 1;
int j = 1;
for (; i <= n; ++i) {
j = 1;
for (; j <= n; ++j) {
sum = sum + i * j;
}
}
}
我們依舊假設每個語句的執行時間是 unit_time。那這段代碼的總執行時間 T(n) 是多少呢？第 2、3、4 行代碼，每行都需要 1 個 unit_time 的執行時間，第 5、6 行代碼循環執行了 n 遍，需要 2n * unit_time 的執行時間，第 7、8 行代碼循環執行了
遍，是以需要 2
* unit_time 的執行時間。是以，整段代碼總的執行時間 T(n) = (2
+2n+3)*unit_time。
盡管我們不知道 unit_time 的具體值，但是通過這兩段代碼執行時間的推導過程，我們可以得到一個非常重要的規律，那就是，所有代碼的執行時間 T(n) 與每行代碼的執行次數 n 成正比。我們可以把這個規律總結成一個公式。
注意，大 O 就要登場了！
我來具體解釋一下這個公式。其中，T(n) 我們已經講過了，它表示代碼執行的時間；n 表示資料規模的大小；f(n) 表示每行代碼執行的次數總和。因為這是一個公式，是以用 f(n) 來表示。公式中的 O，表示代碼的執行時間 T(n) 與 f(n) 表達式成正比。
是以，第一個例子中的 T(n) = O(2n+2)，第二個例子中的 T(n) = O(2
+2n+3)。這就是大 O 時間複雜度表示法。大 O 時間複雜度實際上并不具體表示代碼真正的執行時間，而是表示代碼執行時間随資料規模增長的變化趨勢，是以，也叫作漸進時間複雜度（asymptotic time complexity），簡稱時間複雜度。
當 n 很大時，你可以把它想象成 10000、100000。而公式中的低階、常量、系數三部分并不左右增長趨勢，是以都可以忽略。我們隻需要記錄一個最大量級就可以了，如果用大 O 表示法表示剛講的那兩段代碼的時間複雜度，就可以記為：T(n) = O(n)； T(n) = O(
)。
三、時間複雜度分析
1.隻關注循環執行次數最多的一段代碼
大 O 這種複雜度表示方法隻是表示一種變化趨勢。我們通常會忽略掉公式中的常量、低階、系數，隻需要記錄一個最大階的量級就可以了。是以，我們在分析一個算法、一段代碼的時間複雜度的時候，也隻關注循環執行次數最多的那一段代碼就可以了。這段核心代碼執行次數的 n 的量級，就是整段要分析代碼的時間複雜度。如代碼：
int cal(int n) {
int sum = 0;
int i = 1;
for (; i <= n; ++i) {
sum = sum + i;
}
return sum;
}
其中第 2、3 行代碼都是常量級的執行時間，與 n 的大小無關，是以對于複雜度并沒有影響。循環執行次數最多的是第 4、5 行代碼，是以這塊代碼要重點分析。前面我們也講過，這兩行代碼被執行了 n 次，是以總的時間複雜度就是 O(n)。
2.加法法則：總複雜度等于量級最大的那段代碼的複雜度
我們回到這篇文章的第二段代碼，該代碼中的執行時間為 T(n) = O(2
+2n+3) ，是以量級最大的那段代碼運作時間為n的平方，則這段代碼的時間複雜度為：O(n²).也就是說：總的時間複雜度就等于量級最大的那段代碼的時間複雜度。那我們将這個規律抽象成公式就是：
如果 T1(n)=O(f(n))，T2(n)=O(g(n))；那麼 T(n)=T1(n)+T2(n)=max(O(f(n)), O(g(n))) =O(max(f(n), g(n))).
3.乘法法則：嵌套代碼的複雜度等于嵌套内外代碼複雜度的乘積
我們剛講了一個複雜度分析中的加法法則，這兒還有一個乘法法則。類比一下，你應該能“猜到”公式是什麼樣子的吧？
如果 T1(n)=O(f(n))，T2(n)=O(g(n))；那麼 T(n)=T1(n)*T2(n)=O(f(n))*O(g(n))=O(f(n)*g(n)).
四、常見的時間複雜度量級
1.O(1)
首先你必須明确一個概念，O(1) 隻是常量級時間複雜度的一種表示方法，并不是指隻執行了一行代碼。比如這段代碼，即便有 3 行，它的時間複雜度也是 O(1），而不是 O(3)。
稍微總結一下，隻要代碼的執行時間不随 n 的增大而增長，這樣代碼的時間複雜度我們都記作 O(1)。或者說，一般情況下，隻要算法中不存在循環語句、遞歸語句，即使有成千上萬行的代碼，其時間複雜度也是Ο(1)。
2.O(logn)、O(nlogn)
對數階時間複雜度非常常見，同時也是最難分析的一種時間複雜度。我通過一個例子來說明一下。
i=1;
while (i <= n) {
i = i * 2;
}
根據我們前面講的複雜度分析方法，第三行代碼是循環執行次數最多的。是以，我們隻要能計算出這行代碼被執行了多少次，就能知道整段代碼的時間複雜度。
從代碼中可以看出，變量 i 的值從 1 開始取，每循環一次就乘以 2。當大于 n 時，循環結束。還記得我們高中學過的等比數列嗎？實際上，變量 i 的取值就是一個等比數列。如果我把它一個一個列出來，就應該是這個樣子的：
是以，我們隻要知道 x 值是多少，就知道這行代碼執行的次數了。通過 2x=n 求解 x 這個問題我們想高中應該就學過了，我就不多說了。
，是以，這段代碼的時間複雜度就是
。
現在，我把代碼稍微改下，你再看看，這段代碼的時間複雜度是多少？
i=1;
while (i <= n) {
i = i * 3;
}
根據我剛剛講的思路，很簡單就能看出來，這段代碼的時間複雜度為
。
實際上，不管是以 2 為底、以 3 為底，還是以 10 為底，我們可以把所有對數階的時間複雜度都記為 O(logn)。為什麼呢？
我們知道，對數之間是可以互相轉換的，
，是以
=
，其中
是一個常量。基于我們前面的一個理論：在采用大 O 标記複雜度的時候，可以忽略系數，即 O(Cf(n)) = O(f(n))。是以，
就等于
。是以，在對數階時間複雜度的表示方法裡，我們忽略對數的“底”，統一表示為 O(logn)。
如果你了解了我前面講的 O(logn)，那 O(nlogn) 就很容易了解了。還記得我們剛講的乘法法則嗎？如果一段代碼的時間複雜度是 O(logn)，我們循環執行 n 遍，時間複雜度就是 O(nlogn) 了。而且，O(nlogn) 也是一種非常常見的算法時間複雜度。比如，歸并排序、快速排序的時間複雜度都是 O(nlogn)。
3.O(m+n)、O(m*n)
我們再來講一種跟前面都不一樣的時間複雜度，代碼的複雜度由兩個資料的規模來決定。老規矩，先看代碼！
int cal(int m, int n) {
int sum_1 = 0;
int i = 1;
for (; i < m; ++i) {
sum_1 = sum_1 + i;
}
int sum_2 = 0;
int j = 1;
for (; j < n; ++j) {
sum_2 = sum_2 + j;
}
return sum_1 + sum_2;
}
從代碼中可以看出，m 和 n 是表示兩個資料規模。我們無法事先評估 m 和 n 誰的量級大，是以我們在表示複雜度的時候，就不能簡單地利用加法法則，省略掉其中一個。是以，上面代碼的時間複雜度就是 O(m+n)。
針對這種情況，原來的加法法則就不正确了，我們需要将加法規則改為：T1(m) + T2(n) = O(f(m) + g(n))。但是乘法法則繼續有效：T1(m)*T2(n) = O(f(m) * f(n))。
五、空間複雜度分析
時間複雜度的全稱是漸進時間複雜度，表示算法的執行時間與資料規模之間的增長關系。類比一下，空間複雜度全稱就是漸進空間複雜度（asymptotic space complexity），表示算法的存儲空間與資料規模之間的增長關系。
我還是拿具體的例子來給你說明。（這段代碼有點“傻”，一般沒人會這麼寫，我這麼寫隻是為了友善給你解釋。）
void print(int n) {
int i = 0;
int[] a = new int[n];
for (i; i <n; ++i) {
a[i] = i * i;
}
for (i = n-1; i >= 0; --i) {
print out a[i]
}
}
跟時間複雜度分析一樣，我們可以看到，第 2 行代碼中，我們申請了一個空間存儲變量 i，但是它是常量階的，跟資料規模 n 沒有關系，是以我們可以忽略。第 3 行申請了一個大小為 n 的 int 類型數組，除此之外，剩下的代碼都沒有占用更多的空間，是以整段代碼的空間複雜度就是 O(n)。
我們常見的空間複雜度就是 O(1)、O(n)、O(n2)，像 O(logn)、O(nlogn) 這樣的對數階複雜度平時都用不到。而且，空間複雜度分析比時間複雜度分析要簡單很多。
六、複雜度小結
複雜度也叫漸進複雜度，包括時間複雜度和空間複雜度，用來分析算法執行效率與資料規模之間的增長關系，可以粗略地表示，越高階複雜度的算法，執行效率越低。常見的複雜度并不多，從低階到高階有：O(1)、O(logn)、O(n)、O(nlogn)、O(n2)。
七、複雜度分析
最好、最壞情況時間複雜度
先試着分析一下這段代碼的時間複雜度
// n表示數組array的長度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) pos = i;
}
return pos;
}
可以看出來，這段代碼要實作的功能是，在一個無序的數組（array）中，查找變量 x 出現的位置。如果沒有找到，就傳回 -1。按照上節課講的分析方法，這段代碼的複雜度是 O(n)，其中，n 代表數組的長度。
但是，這段代碼寫得不夠高效。我們可以這樣優化一下這段查找代碼。
// n表示數組array的長度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) {
pos = i;
break;
}
}
return pos;
}
這個時候，問題就來了。我們優化完之後，這段代碼的時間複雜度還是 O(n) 嗎？很顯然，咱們上一節講的分析方法，解決不了這個問題。
因為，要查找的變量 x 可能出現在數組的任意位置。如果數組中第一個元素正好是要查找的變量 x，那就不需要繼續周遊剩下的 n-1 個資料了，那時間複雜度就是 O(1)。但如果數組中不存在變量 x，那我們就需要把整個數組都周遊一遍，時間複雜度就成了 O(n)。是以，不同的情況下，這段代碼的時間複雜度是不一樣的。
為了表示代碼在不同情況下的不同時間複雜度，我們需要引入三個概念：最好情況時間複雜度、最壞情況時間複雜度和平均情況時間複雜度。
顧名思義，最好情況時間複雜度就是，在最理想的情況下，執行這段代碼的時間複雜度。就像我們剛剛講到的，在最理想的情況下，要查找的變量 x 正好是數組的第一個元素，這個時候對應的時間複雜度就是最好情況時間複雜度。
同理，最壞情況時間複雜度就是，在最糟糕的情況下，執行這段代碼的時間複雜度。就像剛舉的那個例子，如果數組中沒有要查找的變量 x，我們需要把整個數組都周遊一遍才行，是以這種最糟糕情況下對應的時間複雜度就是最壞情況時間複雜度。
平均情況時間複雜度
我們都知道，最好情況時間複雜度和最壞情況時間複雜度對應的都是極端情況下的代碼複雜度，發生的機率其實并不大。為了更好地表示平均情況下的複雜度，我們需要引入另一個概念：平均情況時間複雜度，後面我簡稱為平均時間複雜度。
平均時間複雜度又該怎麼分析呢？我還是借助剛才查找變量 x 的例子來給你解釋。
要查找的變量 x 在數組中的位置，有 n+1 種情況：在數組的 0～n-1 位置中和不在數組中。我們把每種情況下，查找需要周遊的元素個數累加起來，然後再除以 n+1，就可以得到需要周遊的元素個數的平均值，即：
我們知道，時間複雜度的大 O 标記法中，可以省略掉系數、低階、常量，是以，咱們把剛剛這個公式簡化之後，得到的平均時間複雜度就是 O(n)。
這個結論雖然是正确的，但是計算過程稍微有點兒問題。究竟是什麼問題呢？我們剛講的這 n+1 種情況，出現的機率并不是一樣的。我帶你具體分析一下。（這裡要稍微用到一點兒機率論的知識，不過非常簡單，你不用擔心。）
我們知道，要查找的變量 x，要麼在數組裡，要麼就不在數組裡。這兩種情況對應的機率統計起來很麻煩，為了友善你了解，我們假設在數組中與不在數組中的機率都為 1/2。另外，要查找的資料出現在 0～n-1 這 n 個位置的機率也是一樣的，為 1/n。是以，根據機率乘法法則，要查找的資料出現在 0～n-1 中任意位置的機率就是 1/(2n)。
是以，前面的推導過程中存在的最大問題就是，沒有将各種情況發生的機率考慮進去。如果我們把每種情況發生的機率也考慮進去，那平均時間複雜度的計算過程就變成了這樣：
這個值就是機率論中的權重平均值，也叫作期望值，是以平均時間複雜度的全稱應該叫權重平均時間複雜度或者期望時間複雜度。
引入機率之後，前面那段代碼的權重平均值為 (3n+1)/4。用大 O 表示法來表示，去掉系數和常量，這段代碼的權重平均時間複雜度仍然是 O(n)。
均攤時間複雜度
到此為止，你應該已經掌握了算法複雜度分析的大部分内容了。下面我要給你講一個更加進階的概念，均攤時間複雜度，以及它對應的分析方法，攤還分析（或者叫平攤分析）。
大部分情況下，我們并不需要區分最好、最壞、平均三種複雜度。平均複雜度隻在某些特殊情況下才會用到，而均攤時間複雜度應用的場景比它更加特殊、更加有限。
老規矩，我還是借助一個具體的例子來幫助你了解。（當然，這個例子隻是我為了友善講解想出來的，實際上沒人會這麼寫。）
// array表示一個長度為n的數組
// 代碼中的array.length就等于n
int[] array = new int[n];
int count = 0;
void insert(int val) {
if (count == array.length) {
int sum = 0;
for (int i = 0; i < array.length; ++i) {
sum = sum + array[i];
}
array[0] = sum;
count = 1;
}
array[count] = val;
++count;
}
這段代碼實作了一個往數組中插入資料的功能。當數組滿了之後，也就是代碼中的 count == array.length 時，我們用 for 循環周遊數組求和，并清空數組，将求和之後的 sum 值放到數組的第一個位置，然後再将新的資料插入。但如果數組一開始就有空閑空間，則直接将資料插入數組。
那這段代碼的時間複雜度是多少呢？你可以先用我們剛講到的三種時間複雜度的分析方法來分析一下。
最理想的情況下，數組中有空閑空間，我們隻需要将資料插入到數組下标為 count 的位置就可以了，是以最好情況時間複雜度為 O(1)。最壞的情況下，數組中沒有空閑空間了，我們需要先做一次數組的周遊求和，然後再将資料插入，是以最壞情況時間複雜度為 O(n)。
那平均時間複雜度是多少呢？答案是 O(1)。我們還是可以通過前面講的機率論的方法來分析。
假設數組的長度是 n，根據資料插入的位置的不同，我們可以分為 n 種情況，每種情況的時間複雜度是 O(1)。除此之外，還有一種“額外”的情況，就是在數組沒有空閑空間時插入一個資料，這個時候的時間複雜度是 O(n)。而且，這 n+1 種情況發生的機率一樣，都是 1/(n+1)。是以，根據權重平均的計算方法，我們求得的平均時間複雜度就是：
至此為止，前面的最好、最壞、平均時間複雜度的計算，了解起來應該都沒有問題。但是這個例子裡的平均複雜度分析其實并不需要這麼複雜，不需要引入機率論的知識。這是為什麼呢？我們先來對比一下這個 insert() 的例子和前面那個 find() 的例子，你就會發現這兩者有很大差别。
首先，find() 函數在極端情況下，複雜度才為 O(1)。但 insert() 在大部分情況下，時間複雜度都為 O(1)。隻有個别情況下，複雜度才比較高，為 O(n)。這是 insert()第一個差別于 find() 的地方。
我們再來看第二個不同的地方。對于 insert() 函數來說，O(1) 時間複雜度的插入和 O(n) 時間複雜度的插入，出現的頻率是非常有規律的，而且有一定的前後時序關系，一般都是一個 O(n) 插入之後，緊跟着 n-1 個 O(1) 的插入操作，循環往複。
是以，針對這樣一種特殊場景的複雜度分析，我們并不需要像之前講平均複雜度分析方法那樣，找出所有的輸入情況及相應的發生機率，然後再計算權重平均值。
針對這種特殊的場景，我們引入了一種更加簡單的分析方法：攤還分析法，通過攤還分析得到的時間複雜度我們起了一個名字，叫均攤時間複雜度。
那究竟如何使用攤還分析法來分析算法的均攤時間複雜度呢？
我們還是繼續看在數組中插入資料的這個例子。每一次 O(n) 的插入操作，都會跟着 n-1 次 O(1) 的插入操作，是以把耗時多的那次操作均攤到接下來的 n-1 次耗時少的操作上，均攤下來，這一組連續的操作的均攤時間複雜度就是 O(1)。這就是均攤分析的大緻思路。你都了解了嗎？
均攤時間複雜度和攤還分析應用場景比較特殊，是以我們并不會經常用到。為了友善你了解、記憶，我這裡簡單總結一下它們的應用場景。如果你遇到了，知道是怎麼回事兒就行了。
對一個資料結構進行一組連續操作中，大部分情況下時間複雜度都很低，隻有個别情況下時間複雜度比較高，而且這些操作之間存在前後連貫的時序關系，這個時候，我們就可以将這一組操作放在一塊兒分析，看是否能将較高時間複雜度那次操作的耗時，平攤到其他那些時間複雜度比較低的操作上。而且，在能夠應用均攤時間複雜度分析的場合，一般均攤時間複雜度就等于最好情況時間複雜度。
盡管很多資料結構和算法書籍都花了很大力氣來區分平均時間複雜度和均攤時間複雜度，但其實我個人認為，均攤時間複雜度就是一種特殊的平均時間複雜度，我們沒必要花太多精力去區分它們。你最應該掌握的是它的分析方法，攤還分析。至于分析出來的結果是叫平均還是叫均攤，這隻是個說法，并不重要。
注：本文中大量拷貝王争老師的<<資料結構與算法之美>>中内容。