ZooKeeper场景实践:集中式配置管理

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: ZooKeeper场景实践:集中式配置管理http://www.bieryun.com/1742.html 1. 基本介绍 在分布式的环境中,可能会有多个对等的程序读取同样的配置文件,程序可以部署在多台机器上,如果配置采用文件的话,则需要为部署该程序的机器也部署一个配置文件,一旦要修改配置的时候就会非常麻烦,需要修改多个配置文件,而且容易产生不一致。

ZooKeeper场景实践:集中式配置管理

1. 基本介绍

在分布式的环境中,可能会有多个对等的程序读取同样的配置文件,程序可以部署在多台机器上,如果配置采用文件的话,则需要为部署该程序的机器也部署一个配置文件,一旦要修改配置的时候就会非常麻烦,需要修改多个配置文件,而且容易产生不一致。
集中式配置管理的思路是,将配置数据集中发布到ZooKeeper的节点上,供订阅者动态获取数据。实现配置的集中式管理和动态更新。可以简单的理解为配置数据与程序分离。

2. 场景分析

(1).集中式配置管理

通常来说,大部分项目里面都有约定的配置文件格式,如ini,xml等。一般都会有对应的解析库类。这种解析库类的基本工作模式为:

  1. 读取文件(open)
  2. 解析文件(parse)
  3. 对外提供参数(get)

如果我们将文件的内容全部放到ZooKeeper的某个节点上.解析类将配置数据全部下载到本地,在完成解析的话,则可以用很小的改动就完成集中式配置管理的需求。

  1. 读取Zookeeper上对应路径的数据(read)
  2. 解析文件(parse)
  3. 对外提供参数(get)

(2).动态更新

动态更新是希望不重启程序就能够实时获取更新的配置。在单机环境中,这种配置数据通常会放在数据库中,修改配置只需要update数据库就可以了。
使用ZooKeeper的话,需要节点注册一个watcher,监视配置数据的是否有变化,一定出现变化,则调用新的解析类来重新解析配置数据。
个人认为这个特征使用Zookeeper可以实现,但是并不是所有配置都需要这个功能,这种比较适合对配置敏感,需要实时更新配置的情况。

3. 动手实践

这里我只实现了集中式配置管理的功能,没有实现动态更新,有需要的话你可以尝试自己实现。
由于之前曾经做个一个ini文件的库类解析,这里就直接拿过来改了。根据场景的分析,只需要修改open这个函数就ok了。

看下原来的open函数

[cpp] view plain copy

  1. /*读取文件名要改为地址和路径*/
  2. int IniFile::open(const string &filename)
  3. {
  4.     release();
  5.     fname_ = filename;
  6.     IniSection *section = NULL;
  7.     /*读取数据的方式需要修改*/
  8.     FILE *fp = fopen(filename.c_str(),"r");
  9.     if(fp == NULL ){
  10.         return -1;
  11.     }
  12.     string line;
  13.     string comment;
  14.     //增加默认段
  15.     section = new IniSection();
  16.     sections_[""] = section;
  17.     /*获取行的方式需要修改*/
  18.     while(getline(line,fp) > 0){
  19.         ...//省略单行的解析
  20.     }
  21.     fclose(fp);
  22.     return 0;
  23. }

我们有三个主要需要修改的地方,分别是是入参,fopen和getline。下面是修改后的open函数

[cpp] view plain copy

  1. /*修改入参,host为Zookeeper的ip及端口地址,filepath为配置数据的路径*/
  2. int IniFile::open2(const string &host,const string &filepath)
  3. {
  4.     release();
  5.     fname_ = filepath;
  6.     IniSection *section = NULL;
  7.     char fp[2048]={0};
  8.     /*ZooKeeper来读取*/
  9.     zkopen(host,filepath,fp,sizeof(fp));
  10.     if(fp[0] == 0){
  11.         return -1;
  12.     }
  13.     string line;
  14.     string comment;
  15.     //增加默认段
  16.     section = new IniSection();
  17.     sections_[""] = section;
  18.     char *p = fp;
  19.     /*调整getline的入参*/
  20.     while(getline2(line,p) > 0){
  21.           ...//省略单行的解析
  22.     }
  23.     return 0;
  24. }

zkopen从Zookeeper的节点上读取数据,并保存到fp中。代码如下:

[cpp] view plain copy

  1. string zkopen(const string &host,const string &filepath,char *fp,int len)
  2. {
  3.     int timeout = 30000;
  4.     char path_buffer[512];
  5.     int bufferlen=sizeof(path_buffer);
  6.     char conf_data[2048];
  7.     int conf_len=sizeof(conf_data);
  8.     zoo_set_debug_level(ZOO_LOG_LEVEL_WARN); //设置日志级别,避免出现一些其他信息  
  9.     zhandle_t* zkhandle = zookeeper_init(host.c_str(),NULL, timeout, 0, (char *)"Monitor Test", 0);
  10.     if (zkhandle ==NULL)
  11.     {
  12.         fprintf(stderr, "Error when connecting to zookeeper servers...\n");
  13.         exit(EXIT_FAILURE);
  14.     }
  15.     int ret = zoo_get(zkhandle,filepath.c_str(),0,conf_data,&conf_len,NULL);
  16.     if(ret != ZOK){
  17.         fprintf(stderr,"failed to get the data of path %s!\n",filepath.c_str());
  18.         conf_data[0] = 0;
  19.     }
  20.     zookeeper_close(zkhandle);
  21.     strncpy(fp,conf_data,len);
  22.     return conf_data;
  23. }

接下来在对比下调用的变化。
原来的调用方式:

[cpp] view plain copy

  1. /** read test **/
  2.   IniFile ini;
  3.   ini.open(g_filepath);
  4.   //获取指定段的指定项的值
  5.   int ret = 0;
  6.   string db_name = ini.getStringValue("COMMON","DB",ret);
  7.   string db_passwd = ini.getStringValue("COMMON","PASSWD",ret);

现在的调用方式:

[cpp] view plain copy

  1. /** read test **/
  2.    IniFile ini;
  3.    ini.open2(g_host,g_filepath);/*仅此处有变化*/
  4.    //获取指定段的指定项的值
  5.    int ret = 0;
  6.    string db_name = ini.getStringValue("COMMON","DB",ret);
  7.    string db_passwd = ini.getStringValue("COMMON","PASSWD",ret);

由上可见,配置的改造还是很容易的,而且对程序的改动很小。
代码详见https://github.com/Winnerhust/ZooKeeper-Exam/tree/master/Config

5.小提示

需要注意一点,配置文件中通常有很多换行,而ZooKeeper的客户端命令行工作不支持字符转义。比如你要将一个配置文件test.ini的内容保存到Zookeeper上,文件内容如下。
[COMMON]
DB=mysql
PASSWD=root

你可能会在Zookeeper客户端上输入:
[zk: 172.17.0.36:2181(CONNECTED) 39] create /Conf/test.ini [COMMON]\nDB=mysql\nPASSWD=root\n
结果与我们希望的并不一样:
[zk: 172.17.0.36:2181(CONNECTED) 43] get /Conf/test.ini3[COMMON]\nDB=mysql\nPASSWD=root\n

Zookeeper并没有将字符串进行转义,所以不能用ZooKeeper客户端直接上传配置文件。因此在代码里我还增加了一个上传配置的功能。只需要将上一个参数-r就可以了。如将test.ini文件的内容上传到ZooKeeper:
cat test.ini | testcase -r -p/Conf/test.ini -s172.17.0.36:2181

相关实践学习
基于MSE实现微服务的全链路灰度
通过本场景的实验操作,您将了解并实现在线业务的微服务全链路灰度能力。
相关文章
|
存储 Linux 开发者
Zookeeper基本原理与运用场景
Zookeeper基本原理与运用场景一、什么是Zookeeper? zookeeper是一个分布式的一致性协调服务。 换句话说,也可以把zookeeper看成一个小型的分布式文件系统。但是和FastDFS不同,zookeeper只适合用来存储一些小型的数据或者配置信息。
1063 0
|
Java
|
存储 监控 Java
ZooKeeper 配置管理(五)
前面我们学习了ZooKeeper的理论部分还有编程部分,当然最开始也安装和运行了ZooKeeper的单机和集群模式,然而若想要最大化的利用ZooKeeper,我们需要配置合适的ZooKeeper参数和了解每个参数的作用。
1060 0
|
运维 网络协议 Java
使用阿里云配置管理ACM实现zookeeper依赖服务的透明Failover迁移
在本文中我们介绍了,如何利用ACM解决服务发现场景中的下游依赖服务透明替换节点,调整服务连接超时参数等问题。 通过该例,我们可以看到,在将应用的静态配置文件方式迁移到ACM之后,通过应用主动动态监听配置变更,可以在应用和运维层面获得诸多好处,这包括省去了应用配置变更时,应用往往需要重新发布或者重启的成本,同时使Dev和Ops在配置变更场景下2者之间的沟通成本降到最低。
2412 0
|
Web App开发 存储 分布式计算
zookeeper基本原理及适用场景 转:http://blog.chinaunix.net/uid-26748613-id-4536290.html
1.1 zookeeper简介        Zookeeper 是 Hadoop 生态系统中的协同实现,是Hadoop集群管理的一个必不可少的模块,它主要来控制集群中的数据,如它管理Hadoop集群中的NameNode,还有Hbase中Master Election、Server之间状态同步等。Zookeeper 实际上是 Google 的 Chubby 一个开源的实现。Zookeepe
1724 0
|
关系型数据库 MySQL 数据库
ZooKeeper场景实践:(2)集中式配置管理
1. 基本介绍 在分布式的环境中,可能会有多个对等的程序读取同样的配置文件,程序可以部署在多台机器上,如果配置采用文件的话,则需要为部署该程序的机器也部署一个配置文件,一旦要修改配置的时候就会非常麻烦,需要修改多个配置文件,而且容易产生不一致。 集中式配置管理的思路是,将配置数据集中发布到ZooKeeper的节点上,供订阅者动态获取数据。实现配置的集中式管理和动态更
1814 0
|
监控 Dubbo 应用服务中间件
Zookeeper场景实践:(4)命名服务
1.基本介绍 命名服务是指通过指定的名字来获取资源或者服务的地址,提供者的信息。利用Zookeeper很容易创建一个全局的路径,而这个路径就可以作为一个名字,它可以指向集群中的集群,提供的服务的地址,远程对象等。简单来说使用Zookeeper做命名服务就是用路径作为名字,路径上的数据就是其名字指向的实体。 阿里巴巴集团开源的分布式服务框架Dubbo中使用ZooKee
1959 0
|
监控 调度
Zookeeper场景实践:(5)分布式通知/协调
1.基本介绍 通知/协调机制通常有两种方式。 系统调度模式:操作人员发送通知实际是通过控制台改变某个节点的状态,然后Zookeeper将这些变化发送给注册了这个节点的Watcher的所有客户端。 工作汇报模式:这个情况是每个工作进程都在某个目录下创建一个临时节点,并携带工作的进度数据。这样汇总的进程可以监控目录子节点的变化获得工作进度的实时的全局情况。 总的
1849 0
|
监控
ZooKeeper场景实践:(7) 分布式锁
1.基本介绍 分布式锁是控制分布式系统之间同步访问共享资源的一种方式,需要互斥来防止彼此干扰来保证一致性。利用Zookeeper的强一致性可以完成锁服务。Zookeeper的官方文档是列举了两种锁,独占锁和共享锁。独占锁保证任何时候都只有一个进程能或者资源的读写权限。共享锁可以同时有多个读,但是同一时刻最多只能有一个写,读和写是互斥的。 2.场景分析 我们
1433 0