MongoDB报表实例方案选型

本文涉及的产品
云数据库 MongoDB,通用型 2核4GB
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
简介:

背景介绍


在我们的生产环境使用的是复制集,为了将数据库服务器的业务压力分摊,我们将数据库拆分到了不同的复制集上运行。


我们在MongoDB复制集上运行应用程序,有时候有报表需求,常规用途是获得用户行为的分析,还有其他商业定制指标数据;有搜索引擎的查询需求,使用Solr从oplog.rs获取增量数据更新产品信息的索引。


这些报表查询和搜索引擎的查询需求,尽量不能影响到线上的业务正常运行,因此不能直接在生产数据库上运行报表。经过开发和运维讨论之后,在项目成立之初,计划隔断报表任务以致不会影响到生产任务。


来谈谈混淆生产和报表的问题


工作集(workingset),是MongoDB在任何的时间间隔读取和写入的整个数据库的一个子集。生产环境中的活跃用户操作文档数据,操作系统将它们保持在物理内存中。


注意:不要让你的工作集增长大过内存!可以使用MongoDB的监控服务Cloud Manager监控你的实例。如果确实出现这个问题,你需要分片,因此容量规划是很重要的,可以作为独立的专题来讲。即使数据库大小是可用内存的数百或数千倍,如果你在前期合理规划了架构并优化了索引,MongoDB同样也能高效运行。在工作集外的数据会保持和磁盘上一致,当用户空闲时,他们操作的文档将会不再使用,所占用的内存用于新的活跃用户的内存请求。


报表应用会查询大量的数据,一般不会重复访问相同的数据,每个报表应用可能完全访问不同的数据集合。这意味着需要持续提供内存给新的文档读取请求。如果你将报表应用和生产应用放在相同的实例上运行,报表应用将会与你的生产应用争夺内存,持续不断地请求活跃用户的数据,而你的生产应用持续不断的加载它(getmore)。那么数据库服务器性能将发生波动。


报表应用,将会有大量count、aggregate、mapReduce等聚合操作,这些操作对于MongoDB来说效率不高,因此将它与生产任务分开是一个好的做法。


使用专属报表实例的复制集


MongoDB复制集具有在线持久性,通过复制数据到一个集合中的所有节点,并对客户端提供无缝的故障转移。包含一个主节点提供写,而剩下的是只读副本。当条件需要的时候选举决定哪个节点是主。复制集应该包含一个奇数成员帮助快速选举。


判断不可达的机器是否宕机基本上无法判断,有可能被网络被分区了。因此如果复制集中的大多数节点下线了(也就是说,3个成员中的2个下线),即使一个健康的主节点保留,它会降级为一个只读的副本。不这么做可能导致多个机器在一个网络分区的情况下定义它们自己为主节点,出现多个主节点,导致可怕的数据不一致。


因此一个复制集包含至少3个成员,提供一个机器失败的错误容忍。


在MongoDB官方的文档中,推荐限制报表查询到专属节点。报表基本不需要写操作,而是统计最终一致性数据。如果提取的数据有秒级或分级延时,每日的报表是不允许的。如果你的计数统计丢失了一些操作,这将导致报表数据不准确。


你可以在MongoDB复制集环境构建专属的报表节点,方案有隐藏的复制集成员hidden member或者读偏好read preference设置相关的标签集合tag sets。第一种方法更简单,第二种方法更灵活。


下图是使用专属节点提供报表需求的架构图:

clip_image002



隐藏成员方案


参考:https://docs.mongodb.com/manual/tutorial/configure-a-hidden-replica-set-member/


隐藏成员是复制集的一部分,但是不能成为主,并且对客户端应用程序不可见。隐藏成员可以在选举中投票。


一个复制集的隐藏成员被配置为priority: 0,是为了阻止它们被选举为主。设置hidden: true,即使他们指定了一个读偏好为secondary,也会阻止客户端连接到复制集路由读操作到它。


从一个隐藏成员读数据,你只能通过直连该隐藏成员访问,并指定slave_ok,而不能通过MongoReplicaSetClient类。


隐藏成员设置


你可以使用mongo shell来隐藏一个存在复制集的成员:

1
2
3
4
5
6
7
$ mongo admin -uxucy -p
PRIMARY > conf = rs.config()
"_id"  "test" "version"  : 21,  "members"  : [ {  "_id"  : 0,  "host"  "xucy.local:27017" , }, {  "_id"  : 1,  "host"  "xucy.local:28017" , }, {  "_id"  : 2,  "host"  "xucy.local:29017" , } ] }
PRIMARY > conf.members[1].priority = 0
PRIMARY > conf.members[1].hidden =  true
PRIMARY > conf.version += 1
PRIMARY > rs.reconfig(conf)


xucy.local:28017现在隐藏了,它将继续复制操作和像往常一样在选举中投票,但是连接到复制集的客户端将不会从它读取,即使xucy.local:29017下线。


Ruby版的报表应用连接代码示例:

1
2
3
require  'mongo'
reporting = Mongo::MongoClient. new ( "xucy.local" "28017" , slave_ok:  true )
reporting[ 'my_application' ][ 'users' ].aggregate(...)


限制说明


使用隐藏的成员是一个最简单的方式,配置实例用于专属的工作负载,像报表和搜索引擎访问,然而使用上有一些限制需要说明的。


隐藏成员不能在紧急情况下读取


带有2个普通和1个隐藏成员在一个复制集中,对于写的错误容忍等价于一个常规的3个成员的集合。然而,你失去两个节点,你的生产应用将不能优雅的降级到只读模式,因为你的隐藏成员将不允许复制集客户端读取。如果你只是喜欢隐藏成员访问简单,土豪方案是使用一个5成员(带有一个隐藏成员)的复制集。


对于复制集的包装代码不能被使用


很多团队创建应用定制的包装代码时,使用MongoDB驱动提供的复制集连接访问方法,添加复制集连接的基本信息给客户端。因为你需要使用独立连接到你的报表实例,你不能重用它。



标签成员方案


参考:https://docs.mongodb.com/manual/tutorial/configure-replica-set-tag-sets/


标签成员,更加复杂,但是,是更灵活的方法,用于路由报表查询到一个专属节点去使用标签和读偏好。


设置一个成员为priority: 0,阻止它被选举为主,但是不设置它为隐藏,分配一个标签use: reporting:

1
2
3
4
5
6
PRIMARY > conf = rs.config()
"_id"  "test" "version"  : 21,  "members"  : [ {  "_id"  : 0,  "host"  "xucy.local:27017" , }, {  "_id"  : 1,  "host"  "xucy.local:28017" , }, {  "_id"  : 2,  "host"  "xucy.local:29017" , } ] }
PRIMARY > conf.members[1].priority = 0
PRIMARY > conf.members[1].tags = {  "use" "reporting"  }
PRIMARY > conf.version += 1
PRIMARY > rs.reconfig(conf)


在这种情况下,xucy.local:28017绝不会成为主。然而,当其他两个机器变得不可达,你的应用还能处理读请求到报表服务器。它会继续运行,不会导致你的报表应用在这样一个事件期间暂停。


Python版报表应用连接代码示例:

1
2
3
4
from  pymongo  import  MongoReplicaSetClient
from  pymongo.read_preferences  import  ReadPreference
rep_set  =  MongoReplicaSetClient(  'xucy.local:27017,xucy.local:28017,xucy.local:29017' , replicaSet  =  'test' , read_preference  =  ReadPreference.SECONDARY, tag_sets  =  [{ 'use' : 'reporting' }] )
rep_set.my_application.users.aggregate(...)


对于报表应用来说,在主可用的情况下,确保尽量不要在剩下的唯一的辅助成员上运行报表应用,因为这样将报表和生产混合在一起了。


以上只发送报表查询到标记有use: reporting的辅助成员,并且如果没有可用的主,我们应该从根本上阻止继续运行。在实践中,如果你发现没有主,你应该抛出异常并在你的扩展代码中处理它们。还要做好状态的监控,如:reporting_system.ok()。当发现异常时进行分支处理。


益处和考虑


使用标签和读偏好相对隐藏成员来说,带来一定的灵活性。


容易添加报表实例


因为你的连接代码是可定义的,而不是指定到一个专门的主机。你可以添加更多节点为报表实例,只需要添加并标记他们,像这样:

1
PRIMARY > rs. add ({_id:3, host: "xucy.local:30017" , priority:0, tags:{ 'use' : 'reporting' }})


你原来的代码将会利用到新的报表实例,并且复制集将继续运行,不用触发选举和从客户端断开连接。


报表实例可以被跳过或删除


当你想将目前使用的报表实例提供给其他应用时,报表标记在必要时可以被移动,或者移除。像这样的一个重新配置将会触发选举,并重连所有客户端,这是可以接受的。注意:这是一个逆向的方法,通过增加常用生产可用实例,分发生产读到副本成员。


一些驱动需要手工同步


检查你的驱动文档,例如,Ruby驱动(像1.9.2),不会刷新副本集的视图,除非客户端像这样使用refresh_mode: :sync显式初始化。



Solr生成全文索引


MongoDB复制集配置简单、容易上手是我喜欢MongoDB的原因之一。对于MongoDB报表实例,无论你使用隐藏成员还是标签成员,开发和部署都非常简单。我们在生产环境也将报表实例用于Solr生成全文索引。


Solr是一个独立的企业级搜索应用服务器,它对外提供类似于Web-service的API接口。用户可以通过http请求,向搜索引擎服务器提交一定格式的XML文件,生成索引;也可以通过Http Get操作提出查找请求,并得到XML格式的返回结果。


读取报表实例的方案选型


期初的方案是使用mongo-connector集成MongoDB到Solr实现增量索引。(http://ultrasql.blog.51cto.com/9591438/1696083/


mongo-connctor是一款用于同步MongoDB数据到其他系统组件,比如它能同步数据到Solr、ElasticSearch或者其他MongoDB集群中去。它的实现原理是依据MongoDB的Replica Set复制模式,通过分析oplog日志文件达到最终的同步目的。安装配置启动过程可参考 官方文档 。


由于是单进程版本的,效率对我们当时来说不高,如果能改成利用多核性能的话可能好些。


MongoDB Tailable Cursors


MongoDB 有一个叫 Tailable Cursors的特性,它类似于tail -f 命令,你在一个Capped Collection上面执行查询操作,当操作完成后,你可以不关闭返回的数据Cursor,并持续地从中读出新加入的数据。


在高写入的Capped Collection上,索引不可用时,可使用Tailable Cursors。例如,MongoDB复制使用了Tailable Cursors来获取Primary的尾oplog日志。


考虑以下与Tailable Cursors相关的行为:

  • Tailable Cursors不使用索引,并以自然排序返回文档。

  • 因为Tailable Cursors不使用索引,查询的初始扫描非常耗性能;但是,游标初始化完后,随后获取到的新增加的文档是很快速的。

  • Tailable Cursors如果遇到以下情况之一将会僵死或无效:

    • 查询无匹配结果。

    • 游标在集合尾部返回文档,随后应用程序删除了该文档。

僵死的游标id为0。


DBQuery.Option.awaitData


在使用TailableCursor时,此参数会在数据读尽时先阻塞一小段时间后再读取一次并进行返回。


跟踪oplog的示例:

1
2
3
4
5
6
use  local
var  cursor  = db.oplog.rs.find({ "op"  "u" "ns"  "MyDB.Product" },{ "ts" : 1,  "o2._id" : 1}).addOption(DBQuery. Option .tailable).addOption(DBQuery. Option .awaitData);
while( cursor .hasNext()){
var doc =  cursor . next ();
printjson(doc);
};


2.6版的游标方法:

cursor.addOption()

https://docs.mongodb.com/v2.6/reference/method/cursor.addOption/


3.2版的游标方法:

cursor.tailable()

https://docs.mongodb.com/manual/reference/method/cursor.tailable/


我们根据该特性,开发了Java应用程序,先初始化全量同步数据到Solr生成索引、记录同步时间。然后通过Tailable Cursors读取oplog.rs对比上次记录的同步时间,如果是新的变更,通过新的进程异步获取日志里记录的最新数据更新到Solr的文档里。

clip_image004



















相关实践学习
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。   相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
相关文章
|
2月前
|
人工智能 NoSQL atlas
4大企业实例解析:为何MongoDB Atlas成为AI服务构建的首选
本文所提及的仅是MongoDB Atlas在AI领域可实现功能的冰山一角
1666 1
|
2月前
|
存储 NoSQL MongoDB
使用mongodb数据库实例
【5月更文挑战第9天】MongoDB中的集合类似关系数据库的表,但不强制模式,允许嵌入式文档以实现更灵活的数据布局。安装MongoDB在Ubuntu上涉及添加源列表和更新,CentOS则需创建配置文件。MongoDB支持备份和恢复,以及全文搜索。其灵活模式和动态模式减少了开发中的复杂性,但并非无模式,大部分数据仍具结构化特点。
139 2
|
2月前
|
DataWorks NoSQL 关系型数据库
DataWorks操作报错合集之在使用 DataWorks 进行 MongoDB 同步时遇到了连通性测试失败,实例配置和 MongoDB 白名单配置均正确,且同 VPC 下 MySQL 可以成功连接并同步,但 MongoDB 却无法完成同样的操作如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
2月前
|
存储 监控 NoSQL
数据存储与分析:办公室电脑屏幕监控的MongoDB应用实例
在当今数字时代,数据的存储和分析变得愈发重要,尤其是在办公环境中,对电脑屏幕进行监控成为一种日益普遍的需求。本文将介绍如何利用MongoDB数据库实现办公室电脑屏幕监控,并通过代码实例展示其应用。
233 0
|
10月前
|
存储 NoSQL 自动驾驶
MongoDB在自动驾驶场景方案及最佳实践
MongoDB在自动驾驶场景方案及最佳实践
381 1
|
10月前
|
监控 NoSQL 安全
MongoDB在游戏行业方案介绍及最佳实践
MongoDB在游戏行业方案介绍及最佳实践
595 1
|
10月前
|
数据采集 NoSQL 容灾
如何实现不同MongoDB实例间的数据复制?
除了MongoDB迁移外,NineData支持MongoDB实例间的长期复制,可应用于数据容灾、读写分离、测试数据构建等业务场景。同时,NineData也已支持数十种常见数据库的迁移复制。NineData提供即开即用的SAAS模式,及企业专属集群模式,满足企业最高的数据安全合规要求。
109 0
如何实现不同MongoDB实例间的数据复制?
|
11月前
|
存储 NoSQL JavaScript
MongoDB实例:构建一个简单的任务管理应用
MongoDB作为一种灵活的文档型数据库,适用于多种应用场景。在本文中,我们将使用MongoDB构建一个简单的任务管理应用,展示其在实际应用中的使用。
116 1
|
11月前
|
存储 NoSQL Java