Mongodb Manual阅读笔记:CH3 数据模型(Data Models)

本文涉及的产品
云数据库 MongoDB,通用型 2核4GB
简介: 3数据模型(Data Models) Mongodb Manual阅读笔记:CH2 Mongodb CRUD 操作Mongodb Manual阅读笔记:CH3 数据模型(Data Models)Mongodb Manual阅读笔记:CH4 管理Mongodb Manual阅读笔记:CH5...

3数据模型(Data Models)

Mongodb Manual阅读笔记:CH2 Mongodb CRUD 操作
Mongodb Manual阅读笔记:CH3 数据模型(Data Models)
Mongodb Manual阅读笔记:CH4 管理
Mongodb Manual阅读笔记:CH5 安全性
Mongodb Manual阅读笔记:CH6 聚合
Mongodb Manual阅读笔记:CH7 索引
Mongodb Manual阅读笔记:CH8 复制集
Mongodb Manual阅读笔记:CH9 Sharding

 

数据在Mongodb中是固定框架,但是Collection不强制任何文档结构

3数据模型(Data Models)1

3.1数据模型简介... 2

3.1.1数据结构... 2

3.1.1.1引用... 2

3.1.1.2嵌入数据... 3

3.1.2 写操作的原子性... 3

3.1.3文档增长... 3

3.1.4数据使用和性能... 3

3.2数据模型概述... 3

3.2.1数据模型设计... 4

3.2.1.1嵌入数据模型... 4

3.2.1.2引用数据模型(normalized... 4

3.2.2可选的特性和数据模型... 4

3.2.2.1文档增长... 4

3.2.2.2原子性... 4

3.2.2.3Sharding. 5

3.2.2.4索引... 5

3.2.2.5大量的Collection. 5

3.2.2.6数据生命周期管理... 5

3.2.3 GridFS. 5

3.2.3.1GridFS Collection. 6

3.2.3.2GridFS 索引... 6

3.3数据模型的例子和方案... 6

3.3.1文档间关系模板... 6

3.3.1.1嵌入11模型... 6

3.3.1.2嵌入1对多模型... 6

3.3.1.3引用1对多模型... 6

3.3.2树结构模型... 6

3.3.2.1Model Tree Structures with Parent References. 7

3.3.2.2Model Tree Structures with Child References. 7

3.3.2.3Model Tree Structures with an Array of Ancestors. 7

3.3.2.4Model Tree Structures with Materialized Paths. 7

3.3.2.5Model Tree Structures with Nested Sets. 7

3.3.3特定应用程序上下文模型... 8

3.3.3.1原子操作数据模型... 8

3.3.3.2支持关键字查询的数据模型... 8

3.4数据模型 Reference. 9

3.4.1文档... 9

3.4.1.1文档格式... 9

3.4.1.2文档结构... 9

3.4.1.3字段名... 9

3.4.1.4文档的一些限制... 9

3.4.1.5_id字段... 9

3.4.1.6(.)字符... 10

3.4.2数据库引用... 10

3.4.2.1手动引用... 10

3.4.2.2DBRef10

3.4.3 GridFS Reference. 10

3.4.4 ObjectId. 10

3.4.5 BSON类型... 11

 

3.1数据模型简介

数据库模型的关键是平衡应用程序的需要,和数据库引擎的性能和数据取回方式。

3.1.1数据结构

数据结构有引用和嵌入2种文档。

3.1.1.1引用

引用方式是文档中存了一份,另外一个文档的_id然后通过,_id连接相关的文档。

3.1.1.2嵌入数据

就是文档以子文档的方式存在另外一个文档下面。

3.1.2 写操作的原子性

写操作的原子性是在文档级别的,只对单个文档内的支持。一些便利的原子写会限制应用程序使用数据,或者限制应用程序的修改。

3.1.3文档增长

当文档大小超过了分配的空间时,Mongodb会重新分配一个空间,增长的考虑会影响正常数据,和非正常数据。

3.1.4数据使用和性能

设计数据模型是,考虑应用程序如何使用数据,若应用程序只是用当前的一些数据,可以考虑使用Capped Collections。或者是以读为主的数据,增加索引来加强性能。

3.2数据模型概述

在设计数据模型时,有很多选项选择,每个都有好处和坏处。

3.2.1数据模型设计

数据设计时主要考虑的问题是:引用还是嵌入。

3.2.1.1嵌入数据模型

嵌入数据模型是非正常(denormalized)的数据模型。嵌入数据模型,可以存相关的信息到同一个记录,用很少的操作就能完成查询,更新。以下场景使用嵌入数据模型:

         1.对象之间是包含关系,11关系

         2.对象之间是1对多关系

通常嵌入方式可以通过比较好的读性能,也可以完成原子性,但是文档的增长会成为一个性能问题。而且需要小于BSON文档的最大值。

嵌入文档的访问可以通过.(点)符号来实现。

3.2.1.2引用数据模型(normalized

引用数据模型有一下好处:

         1.当嵌入模型有重复数据出现,用引用模型可以减少重复,但是不能提供读性能

         2.可以表示多对多关系

         3.表示巨大的多次数据集

引用类型需要多趟执行才能获得结果这个是最大的缺点。

3.2.2可选的特性和数据模型

模式化应用程序数据不单单是数据本身的问题,还有一些和Mongodb的特性有关,开发一个数据模型,用一下块来分析读写操作。

3.2.2.1文档增长

文档增长造成空间重新分配,导致性能问题,可以使用padding,预分频,或者重构数据模型来处理。

3.2.2.2原子性

Mongodb原子性只提供到文档级别,所有之上的级别都不支持原子性,可以把要保证原子性的数据放到同一个文档中,不需要的就放到其他文档。用文档的原子性来处理很方便,不然要把数据按读写分开处理数据(类似二阶段提交的方法)。

3.2.2.3Sharding

Sharding提供了水平扩展能力,集群可以支持大的数据集和高吞吐量,sharding是把数据分片到不同的实例上。shard key是分片的主要依据,所以选择一个合理的key是很关键的。

3.2.2.4索引

使用索引可以提升一些读取性能,当然Mongodb会自动在_id上创建唯一索引。在创建索引时考虑以下行为:

         1.每个索引至少8kb空间

         2.添加索引给写操作会带来负面性能

         3.Collection读多写少可以使用索,Collection读少写多要尽量减少索引

         4.每个索引都要消耗内存和磁盘空间,这方面的使用应该被跟踪并考虑到能力计划内

3.2.2.5大量的Collection

大量的Collection并不会给性能带来很大的影响,但是当使用大量collection的时候还是需要考虑一下几点:

         1.collection最小也好几个KB的大小

         2.每个索引至少要8KB的空间

         3.每个数据库都有一个名称空间文件,保存了所有的元数据,大量collection的数据库要考虑名称空间文件的大小问题。

         4.Mongodb名称空间有限制,需要考虑名称空间个数问题。查看已用的名称空间可以用db.system.namespace.count(),默认名称空间的大小是16MB,可以使用--nssize的启动参数来配置。

3.2.2.6数据生命周期管理

若数据有生命周期,可以考虑使用Time to Live or TTL特性来限制数据的持久性,如果数据只是用当前插入的,可以使用Capped Collections提供先进先出的管理。

3.2.3 GridFS

GridFS主要是来保存超过BSON文档的限制16MB的数据。GridFS会把一个文件分成多分,默认GridFS一块的大小为256KBGridFS2collection1个用户保存数据,1个用户保存元数据。

当查询这个GridFS的时候,驱动或者客户端或重新组合这些块。

3.2.3.1GridFS Collection

GridFS2CollectionChunks用户保存文件的二进制,files用于保存文件的元数据。默认这2collection是以fs为前缀。只要file中有一个文档,就说明在chunks中有一个文件。

3.2.3.2GridFS 索引

GridFSchunks上使用唯一,复合索引在files_idn 二个字段上。files_id包含了_idchunks的付文档,n表示chunks的顺序。

3.3数据模型的例子和方案

3.3.1文档间关系模板

主要介绍:使用嵌入的11模型,使用嵌入的1对多模型,使用引用的1对多模型

3.3.1.1嵌入11模型

就是用子文档的访问嵌入在父文档中,如果使用引用类型,那么会需要多趟查询才能得到结果。

3.3.1.2嵌入1对多模型

同嵌入11

3.3.1.3引用1对多模型

引用方式可以减少重复数据,如果有大量的重复数据那么可以考虑使用引用方式来减少空间浪费。

3.3.2树结构模型

主要介绍一下几种:

         Model Tree Structures with Parent References引用父节点,

         Model Tree Structures with Child References 引用子节点,

         Model Tree Structures with an Array of Ancestors用数据来记录先辈节点,

         Model Tree Structures with Materialized Paths用字符串来记录路径,

         Model Tree Structures with Nested Sets用前序遍历方式。

3.3.2.1Model Tree Structures with Parent References

父节点引用,在每个节点上存上父节点的_id。简单的实现了树的功能,但是比较难查询某一个子树。

3.3.2.2Model Tree Structures with Child References

在节点上增加一个数组,把子节点加入到数组中。实现方式很合适,但是子树上面不要有修改的操作,不然比较麻烦操作。

3.3.2.3Model Tree Structures with an Array of Ancestors

把祖先节点用在一个数组里面,使用这个方法,很容易找出子树的节点,并且可以马上查出祖先节点。

3.3.2.4Model Tree Structures with Materialized Paths

就是把祖先节点用,拼成一个字符串组成路径

3.3.2.5Model Tree Structures with Nested Sets

这种方式是存入父节点之外,用前序遍历的方式,把进入时,和退出时的步数记录下来,如:

db.categories.insert( { _id: "Books", parent: 0, left: 1, right: 12 } )

db.categories.insert( { _id: "Programming", parent: "Books", left: 2, right: 11 } )

db.categories.insert( { _id: "Languages", parent: "Programming", left: 3, right: 4 } )

db.categories.insert( { _id: "Databases", parent: "Programming", left: 5, right: 10 } )

db.categories.insert( { _id: "MongoDB", parent: "Databases", left: 6, right: 7 } )

db.categories.insert( { _id: "Postgres", parent: "Databases", left: 8, right: 9 } )

这种方式可以快速的查询出子树,但是如果修改树结构就不是很方便。

3.3.3特定应用程序上下文模型

3.3.3.1原子操作数据模型

当你保存在一个文档之后,你可以使用db.collection.findAndModify()方法来保证原子性,如:

db.books.findAndModify ( {

         query: {

                   _id: 123456789,

                   available: { $gt: 0 }

         },

         update: {

                   $inc: { available: -1 },

                   $push: { checkout: { by: "abc", date: new Date() } }

         }

} )

3.3.3.2支持关键字查询的数据模型

要支持这个模型,先要在文档中建一个数组,并把关键字逐个添加到数组中,然后在这个数据上面创建索引,当数组很大的时候insert会带来很大的负面性能。

关键字查询的限制:

         1.词干:关键字查询不能解析某个词的词根或者相关的词

         2.近义词:无法提供近义词查询,要在应用层实现

         3.权重:没有权重计算

         4.异步索引:Mongodb上索引都是同步的,但是对于全文索引而言异步索引提高性能

3.4数据模型 Reference

3.4.1文档

Mongodb中用户可以访问的基本上都是文档:

         1.所有数据库的记录

         2.查询选择器,定义了要过滤那些数据,显示那些数据

         3.更新定义,定义了那些数据要被更新

         4.索引,指定了索引的key

         5.Mongodb输出的配置信息和报告信息

3.4.1.1文档格式

Mongodb使用BSON格式报讯,BSON是用二进制表示JSON文档。

3.4.1.2文档结构

文档结构是jsonkey-value方式,value可以是任意的数据类型。

3.4.1.3字段名

字段名是字符串类型,不支持重复的字符串,尽管mongodb的内部文档中有重复的字符串,但是不会让用户文档添加。

3.4.1.4文档的一些限制

1.BSON文档最大为16MB,若超过这个到校可以用GridFS保存

2.字段名_id是保留的,不能以$作为字段的开头,字段不能包含字符“.

3.Mongodb不能保证BSON文档中字段的顺序

3.4.1.5_id字段

_id字段通常被用于索引,_id可以是任何类型但不能是数组,_id的值可以有以下几个选择:

         1.使用obejctid

         2.使用唯一标识符

         3.使用自增长数

         4.使用UUIDGUIDUUID的一种实现

         5.使用驱动的BSON UUID特性生成UUID

3.4.1.6(.)字符

Mongodb中点字符用来访问数组(array.index)和子文档(subdocument.field)

3.4.2数据库引用

在数据库中引用有2种方式:手动引用,DBRef(数据库引用),当对于到多个collection时使用DBRef

3.4.2.1手动引用

文档的_id被存在另外一个文档,应用程序要通过另外一个查询来获取引用的数据。手动引用最大的缺点是无法对应到数据库和collection名。所以无法关联多个collection。若关联多个collection可以使用DBRef

3.4.2.2DBRef

DBRef会多一下几个字段:$ref 保存collection的名字,$id保存关联的_id,$db 可选用于保存db名。

3.4.3 GridFS Reference

GridFS保存2collectionchunksfiles,以fs为前缀。可以用非fs前缀,可以在一个数据库中创建多个前缀。

3.4.4 ObjectId

ObjectId长度12字节的BSON类型:4字节:自Unix以来的秒数,3字节:机器标识符,2字节进程id3字节随机数。

Mongodb选用objectid是因为短,生成快,若客户端加了那么必须是唯一的,若不加就默认会用objectid

         1.可以用Objectid.getTimestamp()来查看Objectid的创建时间。

         2._id字段存了objectid的排序和创建时间排序一样。

但是在并行状态下,Objectid不能严格的表示插入的顺序,客户端之间的时间并不同,objectidclient driver生成的。

3.4.5 BSON类型

  1. MinKey (internal type)
  2. Null
  3. Numbers (ints, longs, doubles)
  4. Symbol, String
  5. Object
  6. Array
  7. BinData
  8. ObjectID
  9. Boolean
  10. Date, Timestamp
  11. Regular Expression
  12. MaxKey (internal type)

 

Objectid:小,唯一,快速生成,顺序的

String:BSON字符串是UTF-8

Timestamps:Mongodb内部使用BSON有特定的timestamp数据类型而不是用Date类型来做辅助,在复制中oplogts字段也是timestamp类型。

Date:日期类型,64位毫秒级表示从Unix产生到现在。

相关实践学习
MongoDB数据库入门
MongoDB数据库入门实验。
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。   相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
目录
相关文章
|
10月前
|
存储 NoSQL 关系型数据库
【Cassandra从入门到放弃系列 二】Column-based存储模式
【Cassandra从入门到放弃系列 二】Column-based存储模式
150 0
|
关系型数据库 MySQL PHP
软件开发入门教程网 Search之MySQL 元数据
软件开发入门教程网 Search之MySQL 元数据
|
canal 数据采集 关系型数据库
Elastic实战:通过pipeline实现mysql同步数据到es的数据预处理
首先canal是支持自定义客户端的,需要引入如下依赖,这种方式适合数据转换规则比较复杂,具有强定制性的场景,但是考虑到我这里还要做logstash的数据同步,因此需要一个比较通用的方式来实现数据转换处理,因此我用到了es的pipeline来做预处理
216 0
Elastic实战:通过pipeline实现mysql同步数据到es的数据预处理
|
SQL 存储 关系型数据库
TiDB Data Migration 术语表
本文档介绍 TiDB Data Migration (TiDB DM) 相关术语。 B Binlog 在 TiDB DM 中,Binlog 通常指 MySQL/MariaDB 生成的 binary log 文件,具体请参考 MySQL Binary Log 与 MariaDB Binary Log。 Binlog event MySQL/MariaDB 生成的 Binlog 文件中的数据变更信息,具体请参考 MySQL Binlog Event 与 MariaDB Binlog Event。 Binlog event filter 比 Black & white table list 更
114 0
|
数据库 Python
Py之Data Base:Python和数据库的那些嘻嘻哈哈事详细攻略
Py之Data Base:Python和数据库的那些嘻嘻哈哈事详细攻略
Py之Data Base:Python和数据库的那些嘻嘻哈哈事详细攻略
|
存储 SQL 分布式计算
从 Neo4j 导入 Nebula Graph 实践见 SPark 数据导入原理
本文主要讲述如何使用基于 Spark 的数据导入工具 Nebula Graph Exchange 将数据从 Neo4j 导入到 Nebula Graph Database。
679 0
|
SQL NoSQL 关系型数据库
教程:使用Data Lake Analytics读/写MongoDB数据
Data Lake Analytics 作为云上数据处理的枢纽,最近加入了对于MongoDB 的支持, 这篇教程带你玩转 DLA 的 MongoDB 支持。 创建数据库 在 DLA 里面创建一个底层映射到 MongoDB 的外表的语法如下: CREATE DATABASE `mongo_test`.
2821 0
教程:使用Data Lake Analytics读/写MongoDB数据
|
SQL 关系型数据库 MySQL
教程:如何使用Data Lake Analytics创建分区表
# 前言 [Data Lake Analytics ](https://www.aliyun.com/product/datalakeanalytics)(后文简称DLA)提供了无服务化的大数据分析服务,帮助用户通过标准的SQL语句直接对存储在OSS、TableStore上的数据进行查询分析。
3323 0
|
NoSQL
MongoDB · Feature · In-place update in MongoDB
There is a great new feature in the release note of MongoDB 3.5.12. Faster In-place Updates in WiredTiger This work brings improvements to in-p...
1399 0