ZooKeeper場景實踐:集中式配置管理
在分布式的環境中,可能會有多個對等的程式讀取同樣的配置檔案,程式可以部署在多台機器上,如果配置采用檔案的話,則需要為部署該程式的機器也部署一個配置檔案,一旦要修改配置的時候就會非常麻煩,需要修改多個配置檔案,而且容易産生不一緻。
集中式配置管理的思路是,将配置資料集中釋出到ZooKeeper的節點上,供訂閱者動态擷取資料。實作配置的集中式管理和動态更新。可以簡單的了解為配置資料與程式分離。
通常來說,大部分項目裡面都有約定的配置檔案格式,如ini,xml等。一般都會有對應的解析庫類。這種解析庫類的基本工作模式為:
讀取檔案(open)
解析檔案(parse)
對外提供參數(get)
如果我們将檔案的内容全部放到ZooKeeper的某個節點上.解析類将配置資料全部下載下傳到本地,在完成解析的話,則可以用很小的改動就完成集中式配置管理的需求。
讀取Zookeeper上對應路徑的資料(read)
解析檔案(parse)
對外提供參數(get)
動态更新是希望不重新開機程式就能夠實時擷取更新的配置。在單機環境中,這種配置資料通常會放在資料庫中,修改配置隻需要update資料庫就可以了。
使用ZooKeeper的話,需要節點注冊一個watcher,監視配置資料的是否有變化,一定出現變化,則調用新的解析類來重新解析配置資料。
個人認為這個特征使用Zookeeper可以實作,但是并不是所有配置都需要這個功能,這種比較适合對配置敏感,需要實時更新配置的情況。
這裡我隻實作了集中式配置管理的功能,沒有實作動态更新,有需要的話你可以嘗試自己實作。
由于之前曾經做個一個ini檔案的庫類解析,這裡就直接拿過來改了。根據場景的分析,隻需要修改open這個函數就ok了。
看下原來的open函數
<b>[cpp]</b> view plain copy
/*讀取檔案名要改為位址和路徑*/
int IniFile::open(const string &filename)
{
release();
fname_ = filename;
IniSection *section = NULL;
/*讀取資料的方式需要修改*/
FILE *fp = fopen(filename.c_str(),"r");
if(fp == NULL ){
return -1;
}
string line;
string comment;
//增加預設段
section = new IniSection();
sections_[""] = section;
/*擷取行的方式需要修改*/
while(getline(line,fp) > 0){
...//省略單行的解析
fclose(fp);
return 0;
}
我們有三個主要需要修改的地方,分别是是入參,fopen和getline。下面是修改後的open函數
/*修改入參,host為Zookeeper的ip及端口位址,filepath為配置資料的路徑*/
int IniFile::open2(const string &host,const string &filepath)
fname_ = filepath;
char fp[2048]={0};
/*ZooKeeper來讀取*/
zkopen(host,filepath,fp,sizeof(fp));
if(fp[0] == 0){
char *p = fp;
/*調整getline的入參*/
while(getline2(line,p) > 0){
...//省略單行的解析
zkopen從Zookeeper的節點上讀取資料,并儲存到fp中。代碼如下:
string zkopen(const string &host,const string &filepath,char *fp,int len)
int timeout = 30000;
char path_buffer[512];
int bufferlen=sizeof(path_buffer);
char conf_data[2048];
int conf_len=sizeof(conf_data);
zoo_set_debug_level(ZOO_LOG_LEVEL_WARN); //設定日志級别,避免出現一些其他資訊
zhandle_t* zkhandle = zookeeper_init(host.c_str(),NULL, timeout, 0, (char *)"Monitor Test", 0);
if (zkhandle ==NULL)
{
fprintf(stderr, "Error when connecting to zookeeper servers...\n");
exit(EXIT_FAILURE);
int ret = zoo_get(zkhandle,filepath.c_str(),0,conf_data,&conf_len,NULL);
if(ret != ZOK){
fprintf(stderr,"failed to get the data of path %s!\n",filepath.c_str());
conf_data[0] = 0;
zookeeper_close(zkhandle);
strncpy(fp,conf_data,len);
return conf_data;
接下來在對比下調用的變化。
原來的調用方式:
/** read test **/
IniFile ini;
ini.open(g_filepath);
//擷取指定段的指定項的值
int ret = 0;
string db_name = ini.getStringValue("COMMON","DB",ret);
string db_passwd = ini.getStringValue("COMMON","PASSWD",ret);
現在的調用方式:
IniFile ini;
ini.open2(g_host,g_filepath);/*僅此處有變化*/
//擷取指定段的指定項的值
int ret = 0;
string db_name = ini.getStringValue("COMMON","DB",ret);
string db_passwd = ini.getStringValue("COMMON","PASSWD",ret);
由上可見,配置的改造還是很容易的,而且對程式的改動很小。
代碼詳見https://github.com/Winnerhust/ZooKeeper-Exam/tree/master/Config
需要注意一點,配置檔案中通常有很多換行,而ZooKeeper的用戶端指令行工作不支援字元轉義。比如你要将一個配置檔案test.ini的内容儲存到Zookeeper上,檔案内容如下。
[COMMON]
DB=mysql
PASSWD=root
你可能會在Zookeeper用戶端上輸入:
<code>[zk: 172.17.0.36:2181(CONNECTED) 39] create /Conf/test.ini [COMMON]\nDB=mysql\nPASSWD=root\n</code>
結果與我們希望的并不一樣:
<code>[zk: 172.17.0.36:2181(CONNECTED) 43] get /Conf/test.ini3[COMMON]\nDB=mysql\nPASSWD=root\n</code>
Zookeeper并沒有将字元串進行轉義,是以不能用ZooKeeper用戶端直接上傳配置檔案。是以在代碼裡我還增加了一個上傳配置的功能。隻需要将上一個參數<code>-r</code>就可以了。如将test.ini檔案的内容上傳到ZooKeeper:
<code>cat test.ini | testcase -r -p/Conf/test.ini -s172.17.0.36:2181</code>