天天看點

Zookeeper的功能以及工作原理

1.ZooKeeper是什麼?

ZooKeeper是一個分布式的,開放源碼的分布式應用程式協調服務,是Google的Chubby一個開源的實作,它是叢集的管理者,監視着叢集中各個節點的狀态根據節點送出的回報進行下一步合理操作。最終,将簡單易用的接口和性能高效、功能穩定的系統提供給使用者

2.ZooKeeper提供了什麼?

1)檔案系統

2)通知機制

3.Zookeeper檔案系統

每個子目錄項如 NameService 都被稱作為znode,和檔案系統一樣,我們能夠自由的增加、删除znode,在一個znode下增加、删除子znode,唯一的不同在于znode是可以存儲資料的。 

有四種類型的znode: 

1、PERSISTENT-持久化目錄節點 

用戶端與zookeeper斷開連接配接後,該節點依舊存在 

2、PERSISTENT_SEQUENTIAL-持久化順序編号目錄節點 

用戶端與zookeeper斷開連接配接後,該節點依舊存在,隻是Zookeeper給該節點名稱進行順序編号 

3、EPHEMERAL-臨時目錄節點 

用戶端與zookeeper斷開連接配接後,該節點被删除 

4、EPHEMERAL_SEQUENTIAL-臨時順序編号目錄節點 

用戶端與zookeeper斷開連接配接後,該節點被删除,隻是Zookeeper給該節點名稱進行順序編号 

<ignore_js_op>

Zookeeper的功能以及工作原理

4.Zookeeper通知機制

用戶端注冊監聽它關心的目錄節點,當目錄節點發生變化(資料改變、被删除、子目錄節點增加删除)時,zookeeper會通知用戶端。

5.Zookeeper做了什麼?

1.命名服務   2.配置管理   3.叢集管理   4.分布式鎖  5.隊列管理

6.Zookeeper命名服務

在zookeeper的檔案系統裡建立一個目錄,即有唯一的path。在我們使用tborg無法确定上遊程式的部署機器時即可與下遊程式約定好path,通過path即能互相探索發現。

7.Zookeeper的配置管理

程式總是需要配置的,如果程式分散部署在多台機器上,要逐個改變配置就變得困難。現在把這些配置全部放到zookeeper上去,儲存在 Zookeeper 的某個目錄節點中,然後所有相關應用程式對這個目錄節點進行監聽,一旦配置資訊發生變化,每個應用程式就會收到 Zookeeper 的通知,然後從 Zookeeper 擷取新的配置資訊應用到系統中就好

Zookeeper的功能以及工作原理

8.Zookeeper叢集管理

所謂叢集管理無在乎兩點:是否有機器退出和加入、選舉master。 

對于第一點,所有機器約定在父目錄GroupMembers下建立臨時目錄節點,然後監聽父目錄節點的子節點變化消息。一旦有機器挂掉,該機器與 zookeeper的連接配接斷開,其所建立的臨時目錄節點被删除,所有其他機器都收到通知:某個兄弟目錄被删除,于是,所有人都知道:它上船了。

新機器加入也是類似,所有機器收到通知:新兄弟目錄加入,highcount又有了,對于第二點,我們稍微改變一下,所有機器建立臨時順序編号目錄節點,每次選取編号最小的機器作為master就好。

Zookeeper的功能以及工作原理

9.Zookeeper分布式鎖

有了zookeeper的一緻性檔案系統,鎖的問題變得容易。鎖服務可以分為兩類,一個是保持獨占,另一個是控制時序。 

對于第一類,我們将zookeeper上的一個znode看作是一把鎖,通過createznode的方式來實作。所有用戶端都去建立 /distribute_lock 節點,最終成功建立的那個用戶端也即擁有了這把鎖。用完删除掉自己建立的distribute_lock 節點就釋放出鎖。 

對于第二類, /distribute_lock 已經預先存在,所有用戶端在它下面建立臨時順序編号目錄節點,和選master一樣,編号最小的獲得鎖,用完删除,依次友善。

Zookeeper的功能以及工作原理

10.Zookeeper隊列管理

兩種類型的隊列:

1、同步隊列,當一個隊列的成員都聚齊時,這個隊列才可用,否則一直等待所有成員到達。 

2、隊列按照 FIFO 方式進行入隊和出隊操作。 

第一類,在約定目錄下建立臨時目錄節點,監聽節點數目是否是我們要求的數目。 

第二類,和分布式鎖服務中的控制時序場景基本原理一緻,入列有編号,出列按編号。

11.分布式與資料複制 

Zookeeper作為一個叢集提供一緻的資料服務,自然,它要在所有機器間做資料複制。資料複制的好處: 

1、容錯:一個節點出錯,不緻于讓整個系統停止工作,别的節點可以接管它的工作; 

2、提高系統的擴充能力 :把負載分布到多個節點上,或者增加節點來提高系統的負載能力; 

3、提高性能:讓用戶端本地通路就近的節點,提高使用者通路速度。 

從用戶端讀寫通路的透明度來看,資料複制叢集系統分下面兩種: 

1、寫主(WriteMaster) :對資料的修改送出給指定的節點。讀無此限制,可以讀取任何一個節點。這種情況下用戶端需要對讀與寫進行差別,俗稱讀寫分離; 

2、寫任意(Write Any):對資料的修改可送出給任意的節點,跟讀一樣。這種情況下,用戶端對叢集節點的角色與變化透明。

對zookeeper來說,它采用的方式是寫任意。通過增加機器,它的讀吞吐能力和響應能力擴充性非常好,而寫,随着機器的增多吞吐能力肯定下降(這也是它建立observer的原因),而響應能力則取決于具體實作方式,是延遲複制保持最終一緻性,還是立即複制快速響應。

12.Zookeeper角色描述

Zookeeper的功能以及工作原理

13.Zookeeper與用戶端

Zookeeper的功能以及工作原理

14.Zookeeper設計目的

1.最終一緻性:client不論連接配接到哪個Server,展示給它都是同一個視圖,這是zookeeper最重要的性能。 

2.可靠性:具有簡單、健壯、良好的性能,如果消息被到一台伺服器接受,那麼它将被所有的伺服器接受。 

3.實時性:Zookeeper保證用戶端将在一個時間間隔範圍内獲得伺服器的更新資訊,或者伺服器失效的資訊。但由于網絡延時等原因,Zookeeper不能保證兩個用戶端能同時得到剛更新的資料,如果需要最新資料,應該在讀資料之前調用sync()接口。 

4.等待無關(wait-free):慢的或者失效的client不得幹預快速的client的請求,使得每個client都能有效的等待。 

5.原子性:更新隻能成功或者失敗,沒有中間狀态。 

6.順序性:包括全局有序和偏序兩種:全局有序是指如果在一台伺服器上消息a在消息b前釋出,則在所有Server上消息a都将在消息b前被釋出;偏序是指如果一個消息b在消息a後被同一個發送者釋出,a必将排在b前面。 

15.Zookeeper工作原理

Zookeeper 的核心是原子廣播,這個機制保證了各個Server之間的同步。實作這個機制的協定叫做Zab協定。Zab協定有兩種模式,它們分别是恢複模式(選主)和廣播模式(同步)。當服務啟動或者在上司者崩潰後,Zab就進入了恢複模式,當上司者被選舉出來,且大多數Server完成了和 leader的狀态同步以後,恢複模式就結束了。狀态同步保證了leader和Server具有相同的系統狀态。 

為了保證事務的順序一緻性,zookeeper采用了遞增的事務id号(zxid)來辨別事務。所有的提議(proposal)都在被提出的時候加上了zxid。實作中zxid是一個64位的數字,它高32位是epoch用來辨別leader關系是否改變,每次一個leader被選出來,它都會有一個新的epoch,辨別目前屬于那個leader的統治時期。低32位用于遞增計數。

16.Zookeeper 下 Server工作狀态

每個Server在工作過程中有三種狀态: 

LOOKING:目前Server不知道leader是誰,正在搜尋

LEADING:目前Server即為選舉出來的leader

FOLLOWING:leader已經選舉出來,目前Server與之同步

17.Zookeeper選主流程(basic paxos)

當leader崩潰或者leader失去大多數的follower,這時候zk進入恢複模式,恢複模式需要重新選舉出一個新的leader,讓所有的Server都恢複到一個正确的狀态。Zk的選舉算法有兩種:一種是基于basic paxos實作的,另外一種是基于fast paxos算法實作的。系統預設的選舉算法為fast paxos。

1.選舉線程由目前Server發起選舉的線程擔任,其主要功能是對投票結果進行統計,并選出推薦的Server; 

2.選舉線程首先向所有Server發起一次詢問(包括自己); 

3.選舉線程收到回複後,驗證是否是自己發起的詢問(驗證zxid是否一緻),然後擷取對方的id(myid),并存儲到目前詢問對象清單中,最後擷取對方提議的leader相關資訊(id,zxid),并将這些資訊存儲到當次選舉的投票記錄表中; 

4.收到所有Server回複以後,就計算出zxid最大的那個Server,并将這個Server相關資訊設定成下一次要投票的Server; 

5.線程将目前zxid最大的Server設定為目前Server要推薦的Leader,如果此時獲勝的Server獲得n/2 + 1的Server票數,設定目前推薦的leader為獲勝的Server,将根據獲勝的Server相關資訊設定自己的狀态,否則,繼續這個過程,直到leader被選舉出來。 通過流程分析我們可以得出:要使Leader獲得多數Server的支援,則Server總數必須是奇數2n+1,且存活的Server的數目不得少于n+1. 每個Server啟動後都會重複以上流程。在恢複模式下,如果是剛從崩潰狀态恢複的或者剛啟動的server還會從磁盤快照中恢複資料和會話資訊,zk會記錄事務日志并定期進行快照,友善在恢複時進行狀态恢複。選主的具體流程圖所示: 

Zookeeper的功能以及工作原理

18.Zookeeper選主流程(fast paxos)

fast paxos流程是在選舉過程中,某Server首先向所有Server提議自己要成為leader,當其它Server收到提議以後,解決epoch和 zxid的沖突,并接受對方的提議,然後向對方發送接受提議完成的消息,重複這個流程,最後一定能選舉出Leader。

Zookeeper的功能以及工作原理

19.Zookeeper同步流程

選完Leader以後,zk就進入狀态同步過程。 

1. Leader等待server連接配接; 

2 .Follower連接配接leader,将最大的zxid發送給leader; 

3 .Leader根據follower的zxid确定同步點; 

4 .完成同步後通知follower 已經成為uptodate狀态; 

5 .Follower收到uptodate消息後,又可以重新接受client的請求進行服務了。

Zookeeper的功能以及工作原理

20.Zookeeper工作流程-Leader

1 .恢複資料; 

2 .維持與Learner的心跳,接收Learner請求并判斷Learner的請求消息類型; 

3 .Learner的消息類型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息,根據不同的消息類型,進行不同的處理。 

PING 消息是指Learner的心跳資訊;

REQUEST消息是Follower發送的提議資訊,包括寫請求及同步請求;

ACK消息是 Follower的對提議的回複,超過半數的Follower通過,則commit該提議;

REVALIDATE消息是用來延長SESSION有效時間。

Zookeeper的功能以及工作原理

21.Zookeeper工作流程-Follower

Follower主要有四個功能: 

1.向Leader發送請求(PING消息、REQUEST消息、ACK消息、REVALIDATE消息); 

2.接收Leader消息并進行處理; 

3.接收Client的請求,如果為寫請求,發送給Leader進行投票;

4.傳回Client結果。 

Follower的消息循環處理如下幾種來自Leader的消息: 

1 .PING消息: 心跳消息; 

2 .PROPOSAL消息:Leader發起的提案,要求Follower投票; 

3 .COMMIT消息:伺服器端最新一次提案的資訊; 

4 .UPTODATE消息:表明同步完成; 

5 .REVALIDATE消息:根據Leader的REVALIDATE結果,關閉待revalidate的session還是允許其接受消息; 

6 .SYNC消息:傳回SYNC結果到用戶端,這個消息最初由用戶端發起,用來強制得到最新的更新。

Zookeeper的功能以及工作原理

好了,以上就是我對zookeeper的 了解了,以後我還會繼續為大家更新新的技術請大家期待吧!!!

原文連結

歡迎關注微信公衆号:大資料從業者