天天看點

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

大家好,我是小林。

在逛牛客網的面經的時候,發現有位同學在面微信的時候,被問到這個問題:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

第一個問題就是:一緻性哈希是什麼,使用場景,解決了什麼問題?

這個問題還挺有意思的,是以今天就來聊聊這個。

發車!

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

如何配置設定請求?

大多數網站背後肯定不是隻有一台伺服器提供服務,因為單機的并發量和資料量都是有限的,是以都會用多台伺服器構成叢集來對外提供服務。

但是問題來了,現在有那麼多個節點(後面統稱伺服器為節點,因為少一個字),要如何配置設定用戶端的請求呢?

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

其實這個問題就是「負載均衡問題」。解決負載均衡問題的算法很多,不同的負載均衡算法,對應的就是不同的配置設定政策,适應的業務場景也不同。

最簡單的方式,引入一個中間的負載均衡層,讓它将外界的請求「輪流」的轉發給内部的叢集。比如叢集有 3 個節點,外界請求有 3 個,那麼每個節點都會處理 1 個請求,達到了配置設定請求的目的。

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

考慮到每個節點的硬體配置有所差別,我們可以引入權重值,将硬體配置更好的節點的權重值設高,然後根據各個節點的權重值,按照一定比重配置設定在不同的節點上,讓硬體配置更好的節點承擔更多的請求,這種算法叫做權重輪詢。

權重輪詢算法使用場景是建立在每個節點存儲的資料都是相同的前提。是以,每次讀資料的請求,通路任意一個節點都能得到結果。

但是,權重輪詢算法是無法應對「分布式系統」的,因為分布式系統中,每個節點存儲的資料是不同的。

當我們想提高系統的容量,就會将資料水準切分到不同的節點來存儲,也就是将資料分布到了不同的節點。比如一個分布式 KV(key-valu) 緩存系統,某個 key 應該到哪個或者哪些節點上獲得,應該是确定的,不是說任意通路一個節點都可以得到緩存結果的。

是以,我們要想一個能應對分布式系統的負載均衡算法。

使用雜湊演算法有什麼問題?

有的同學可能很快就想到了:雜湊演算法。因為對同一個關鍵字進行哈希計算,每次計算都是相同的值,這樣就可以将某個 key 确定到一個節點了,可以滿足分布式系統的負載均衡需求。

雜湊演算法最簡單的做法就是進行取模運算,比如分布式系統中有 3 個節點,基于

hash(key) % 3

公式對資料進行了映射。

如果用戶端要擷取指定 key 的資料,通過下面的公式可以定位節點:

hash(key) % 3
           

如果經過上面這個公式計算後得到的值是 0,就說明該 key 需要去第一個節點擷取。

但是有一個很緻命的問題,如果節點數量發生了變化,也就是在對系統做擴容或者縮容時,必須遷移改變了映射關系的資料,否則會出現查詢不到資料的問題。

舉個例子,假設我們有一個由 A、B、C 三個節點組成分布式 KV 緩存系統,基于計算公式

hash(key) % 3

将資料進行了映射,每個節點存儲了不同的資料:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

現在有 3 個查詢 key 的請求,分别查詢 key-01,key-02,key-03 的資料,這三個 key 分别經過 hash() 函數計算後的值為 hash( key-01) = 6、hash( key-02) = 7、hash(key-03) = 8,然後再對這些值進行取模運算。

通過這樣的雜湊演算法,每個 key 都可以定位到對應的節點。

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

當 3 個節點不能滿足業務需求了,這時我們增加了一個節點,節點的數量從 3 變化為 4,意味取模哈希函數中基數的變化,這樣會導緻大部分映射關系改變,如下圖:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

比如,之前的 hash(key-01) %

3

= 0,就變成了 hash(key-01) %

4

= 2,查詢 key-01 資料時,尋址到了節點 C,而 key-01 的資料是存儲在節點 A 上的,不是在節點 C,是以會查詢不到資料。

同樣的道理,如果我們對分布式系統進行縮容,比如移除一個節點,也會因為取模哈希函數中基數的變化,可能出現查詢不到資料的問題。

要解決這個問題的辦法,就需要我們進行遷移資料,比如節點的數量從 3 變化為 4 時,要基于新的計算公式 hash(key) % 4 ,重新對資料和節點做映射。

假設總資料條數為 M,雜湊演算法在面對節點數量變化時,最壞情況下所有資料都需要遷移,是以它的資料遷移規模是 O(M),這樣資料的遷移成本太高了。

是以,我們應該要重新想一個新的算法,來避免分布式系統在擴容或者縮容時,發生過多的資料遷移。

使用一緻性雜湊演算法有什麼問題?

一緻性雜湊演算法就很好地解決了分布式系統在擴容或者縮容時,發生過多的資料遷移的問題。

一緻雜湊演算法也用了取模運算,但與雜湊演算法不同的是,雜湊演算法是對節點的數量進行取模運算,而一緻雜湊演算法是對 2^32 進行取模運算,是一個固定的值。

我們可以把一緻雜湊演算法是對 2^32 進行取模運算的結果值組織成一個圓環,就像鐘表一樣,鐘表的圓可以了解成由 60 個點組成的圓,而此處我們把這個圓想象成由 2^32 個點組成的圓,這個圓環被稱為哈希環,如下圖:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

一緻性哈希要進行兩步哈希:

  • 第一步:對存儲節點進行哈希計算,也就是對存儲節點做哈希映射,比如根據節點的 IP 位址進行哈希;
  • 第二步:當對資料進行存儲或通路時,對資料進行哈希映射;

是以,一緻性哈希是指将「存儲節點」和「資料」都映射到一個首尾相連的哈希環上。

問題來了,對「資料」進行哈希映射得到一個結果要怎麼找到存儲該資料的節點呢?

答案是,映射的結果值往順時針的方向的找到第一個節點,就是存儲該資料的節點。

舉個例子,有 3 個節點經過哈希計算,映射到了如下圖的位置:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

接着,對要查詢的 key-01 進行哈希計算,确定此 key-01 映射在哈希環的位置,然後從這個位置往順時針的方向找到第一個節點,就是存儲該 key-01 資料的節點。

比如,下圖中的 key-01 映射的位置,往順時針的方向找到第一個節點就是節點 A。

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

是以,當需要對指定 key 的值進行讀寫的時候,要通過下面 2 步進行尋址:

  • 首先,對 key 進行哈希計算,确定此 key 在環上的位置;
  • 然後,從這個位置沿着順時針方向走,遇到的第一節點就是存儲 key 的節點。

知道了一緻哈希尋址的方式,我們來看看,如果增加一個節點或者減少一個節點會發生大量的資料遷移嗎?

假設節點數量從 3 增加到了 4,新的節點 D 經過哈希計算後映射到了下圖中的位置:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

你可以看到,key-01、key-03 都不受影響,隻有 key-02 需要被遷移節點 D。

假設節點數量從 3 減少到了 2,比如将節點 A 移除:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

你可以看到,key-02 和 key-03 不會受到影響,隻有 key-01 需要被遷移節點 B。

是以,在一緻雜湊演算法中,如果增加或者移除一個節點,僅影響該節點在哈希環上順時針相鄰的後繼節點,其它資料也不會受到影響。

上面這些圖中 3 個節點映射在哈希環還是比較分散的,是以看起來請求都會「均衡」到每個節點。

但是一緻性雜湊演算法并不保證節點能夠在哈希環上分布均勻,這樣就會帶來一個問題,會有大量的請求集中在一個節點上。

比如,下圖中 3 個節點的映射位置都在哈希環的右半邊:

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

這時候有一半以上的資料的尋址都會找節點 A,也就是通路請求主要集中的節點 A 上,這肯定不行的呀,說好的負載均衡呢,這種情況一點都不均衡。

另外,在這種節點分布不均勻的情況下,進行容災與擴容時,哈希環上的相鄰節點容易受到過大影響,容易發生雪崩式的連鎖反應。

比如,上圖中如果節點 A 被移除了,當節點 A 當機後,根據一緻性雜湊演算法的規則,其上資料應該全部遷移到相鄰的節點 B 上,這樣,節點 B 的資料量、通路量都會迅速增加很多倍,一旦新增的壓力超過了節點 B 的處理能力上限,就會導緻節點 B 崩潰,進而形成雪崩式的連鎖反應。

是以,一緻性雜湊演算法雖然減少了資料遷移量,但是存在節點分布不均勻的問題。

如何通過虛拟節點提高均衡度?

要想解決節點能在哈希環上配置設定不均勻的問題,就是要有大量的節點,節點數越多,哈希環上的節點分布的就越均勻。

但問題是,實際中我們沒有那麼多節點。是以這個時候我們就加入虛拟節點,也就是對一個真實節點做多個副本。

具體做法是,不再将真實節點映射到哈希環上,而是将虛拟節點映射到哈希環上,并将虛拟節點映射到實際節點,是以這裡有「兩層」映射關系。

比如對每個節點分别設定 3 個虛拟節點:

  • 對節點 A 加上編号來作為虛拟節點:A-01、A-02、A-03
  • 對節點 B 加上編号來作為虛拟節點:B-01、B-02、B-03
  • 對節點 C 加上編号來作為虛拟節點:C-01、C-02、C-03

引入虛拟節點後,原本哈希環上隻有 3 個節點的情況,就會變成有 9 個虛拟節點映射到哈希環上,哈希環上的節點數量多了 3 倍。

微信一面:什麼是一緻性哈希?用在什麼場景?解決了什麼問題?

你可以看到,節點數量多了後,節點在哈希環上的分布就相對均勻了。這時候,如果有通路請求尋址到「A-01」這個虛拟節點,接着再通過「A-01」虛拟節點找到真實節點 A,這樣請求就能通路到真實節點 A 了。

上面為了友善你了解,每個真實節點僅包含 3 個虛拟節點,這樣能起到的均衡效果其實很有限。而在實際的工程中,虛拟節點的數量會大很多,比如 Nginx 的一緻性雜湊演算法,每個權重為 1 的真實節點就含有160 個虛拟節點。

另外,虛拟節點除了會提高節點的均衡度,還會提高系統的穩定性。當節點變化時,會有不同的節點共同分擔系統的變化,是以穩定性更高。

比如,當某個節點被移除時,對應該節點的多個虛拟節點均會移除,而這些虛拟節點按順時針方向的下一個虛拟節點,可能會對應不同的真實節點,即這些不同的真實節點共同分擔了節點變化導緻的壓力。

而且,有了虛拟節點後,還可以為硬體配置更好的節點增權重重,比如對權重更高的節點增加更多的虛拟機節點即可。

是以,帶虛拟節點的一緻性哈希方法不僅适合硬體配置不同的節點的場景,而且适合節點規模會發生變化的場景。

總結

不同的負載均衡算法适用的業務場景也不同的。

輪訓這類的政策隻能适用與每個節點的資料都是相同的場景,通路任意節點都能請求到資料。但是不适用分布式系統,因為分布式系統意味着資料水準切分到了不同的節點上,通路資料的時候,一定要尋址存儲該資料的節點。

雜湊演算法雖然能建立資料和節點的映射關系,但是每次在節點數量發生變化的時候,最壞情況下所有資料都需要遷移,這樣太麻煩了,是以不适用節點數量變化的場景。

為了減少遷移的資料量,就出現了一緻性雜湊演算法。

一緻性哈希是指将「存儲節點」和「資料」都映射到一個首尾相連的哈希環上,如果增加或者移除一個節點,僅影響該節點在哈希環上順時針相鄰的後繼節點,其它資料也不會受到影響。

但是一緻性雜湊演算法不能夠均勻的分布節點,會出現大量請求都集中在一個節點的情況,在這種情況下進行容災與擴容時,容易出現雪崩的連鎖反應。

為了解決一緻性雜湊演算法不能夠均勻的分布節點的問題,就需要引入虛拟節點,對一個真實節點做多個副本。不再将真實節點映射到哈希環上,而是将虛拟節點映射到哈希環上,并将虛拟節點映射到實際節點,是以這裡有「兩層」映射關系。

引入虛拟節點後,可以會提高節點的均衡度,還會提高系統的穩定性。是以,帶虛拟節點的一緻性哈希方法不僅适合硬體配置不同的節點的場景,而且适合節點規模會發生變化的場景。

完!

微信搜尋公衆号:「小林coding」 ,回複「圖解」即可免費獲得「圖解網絡、圖解系統、圖解MySQL、圖解Redis」PDF 電子書