天天看點

mongodb 3.4 叢集搭建:分片+副本集

mongodb是最常用的nodql資料庫,在資料庫排名中已經上升到了前六。這篇文章介紹如何搭建高可用的mongodb(分片+副本)叢集。

在搭建叢集之前,需要首先了解幾個概念:路由,分片、副本集、配置伺服器等。

先來看一張圖:

從圖中可以看到有四個元件:mongos、config server、shard、replica set。

mongos,資料庫叢集請求的入口,所有的請求都通過mongos進行協調,不需要在應用程式添加一個路由選擇器,mongos自己就是一個請求分發中心,它負責把對應的資料請求請求轉發到對應的shard伺服器上。在生産環境通常有多mongos作為請求的入口,防止其中一個挂掉所有的mongodb請求都沒有辦法操作。

config server,顧名思義為配置伺服器,存儲所有資料庫元資訊(路由、分片)的配置。mongos本身沒有實體存儲分片伺服器和資料路由資訊,隻是緩存在記憶體裡,配置伺服器則實際存儲這些資料。mongos第一次啟動或者關掉重新開機就會從 config server 加載配置資訊,以後如果配置伺服器資訊變化會通知到所有的 mongos 更新自己的狀态,這樣 mongos 就能繼續準确路由。在生産環境通常有多個 config server 配置伺服器,因為它存儲了分片路由的中繼資料,防止資料丢失!

shard,分片(sharding)是指将資料庫拆分,将其分散在不同的機器上的過程。将資料分散到不同的機器上,不需要功能強大的伺服器就可以存儲更多的資料和處理更大的負載。基本思想就是将集合切成小塊,這些塊分散到若幹片裡,每個片隻負責總資料的一部分,最後通過一個均衡器來對各個分片進行均衡(資料遷移)。

replica set,中文翻譯副本集,其實就是shard的備份,防止shard挂掉之後資料丢失。複制提供了資料的備援備份,并在多個伺服器上存儲資料副本,提高了資料的可用性, 并可以保證資料的安全性。

仲裁者(Arbiter),是複制集中的一個MongoDB執行個體,它并不儲存資料。仲裁節點使用最小的資源并且不要求硬體裝置,不能将Arbiter部署在同一個資料集節點中,可以部署在其他應用伺服器或者監視伺服器中,也可部署在單獨的虛拟機中。為了確定複制集中有奇數的投票成員(包括primary),需要添加仲裁節點做為投票,否則primary不能運作時不會自動切換primary。

簡單了解之後,我們可以這樣總結一下,應用請求mongos來操作mongodb的增删改查,配置伺服器存儲資料庫元資訊,并且和mongos做同步,資料最終存入在shard(分片)上,為了防止資料丢失同步在副本集中存儲了一份,仲裁在資料存儲到分片的時候決定存儲到哪個節點。

系統系統 centos6.5

三台伺服器:192.168.0.75/84/86

安裝包: mongodb-linux-x86_64-3.4.6.tgz

伺服器規劃

伺服器75

伺服器84

伺服器86

mongos

config server

shard server1 主節點

shard server1 副節點

shard server1 仲裁

shard server2 仲裁

shard server2 主節點

shard server2 副節點

shard server3 副節點

shard server3 仲裁

shard server3 主節點

端口配置設定:

分别在每台機器建立conf、mongos、config、shard1、shard2、shard3六個目錄,因為mongos不存儲資料,隻需要建立日志檔案目錄即可。

配置環境變量

mongodb3.4以後要求配置伺服器也建立副本集,不然叢集搭建不成功。

添加配置檔案

啟動三台伺服器的config server

登入任意一台配置伺服器,初始化配置副本集

其中,"_id" : "configs"應與配置檔案中配置的 replicaction.replSetName 一緻,"members" 中的 "host" 為三個節點的 ip 和 port

設定第一個分片副本集

配置檔案

啟動三台伺服器的shard1 server

登陸任意一台伺服器,初始化副本集

設定第二個分片副本集

啟動三台伺服器的shard2 server

設定第三個分片副本集

啟動三台伺服器的shard3 server

先啟動配置伺服器和分片伺服器,後啟動路由執行個體啟動路由執行個體:(三台機器)

啟動三台伺服器的mongos server

目前搭建了mongodb配置伺服器、路由伺服器,各個分片伺服器,不過應用程式連接配接到mongos路由伺服器并不能使用分片機制,還需要在程式裡設定分片配置,讓分片生效。

登陸任意一台mongos

目前配置服務、路由服務、分片服務、副本集服務都已經串聯起來了,但我們的目的是希望插入資料,資料能夠自動分片。連接配接在mongos上,準備讓指定的資料庫、指定的集合分片生效。

我們設定testdb的 table1 表需要分片,根據 id 自動分片到 shard1 ,shard2,shard3 上面去。要這樣設定是因為不是所有mongodb 的資料庫和表 都需要分片!

測試分片配置結果

可以看到資料分到3個分片,各自分片數量為: shard1 “count” : 42183,shard2 “count” : 38937,shard3 “count” : 18880。已經成功了!

mongodb的啟動順序是,先啟動配置伺服器,在啟動分片,最後啟動mongos.

關閉時,直接killall殺掉所有程序

參考:

<a href="http://www.lanceyan.com/category/tech/mongodb">搭建高可用mongodb叢集(四)—— 分片</a>

<a href="https://zhuanlan.zhihu.com/p/25594963">MongoDB3.4副本集分片叢集搭建</a>

<a href="http://www.xiamujun.cn/forum.php?mod=viewthread&amp;tid=373">Mongodb高可用叢集(四)——分片</a>