mongodb3.4.4安装副本集,wt引擎配置优化(二)

本文涉及的产品
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
简介:

今天大概研究下wiredtiger引擎,mongo从3.0开始引入,主要为了解决吃内存多,占用大量磁盘空间的问题,其实即使用了wt引擎,在性能上还是比tokuft要差,但是tokuft 在功能上代码迭代的太慢,退而求其次大家还是用了mongo,首先3.0的时候默认还是mmapv1 引擎,所以需要重新指定wt引擎,从3.2版本后就是默认了wt了,我用的现在是3.4  主要是配置上的优化,看了好多人的写的东西,都特么是抄的,我写个官方文档上的吧,以此记录

1
2
3
4
5
6
7
8
9
10
11
storage.wiredTiger Options
storage:
    wiredTiger:
       engineConfig:
          cacheSizeGB: <number>
          journalCompressor: <string>
          directoryForIndexes: <boolean>
       collectionConfig:
          blockCompressor: <string>
       indexConfig:
          prefixCompression: <boolean>

这个是官方的,一下是我自己的

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
storage:
   dbPath:  /var/lib/mongo
   journal:
     enabled:  true
#  engine:
#  mmapv1:
#  wiredTiger:
    wiredTiger:
       engineConfig:
          cacheSizeGB: 0.25  
          ###这里Size是WT本身的Cache大小并不代表Mongod使用的内存,
          ###默认是Max(1G,内存的1/2),这里尽可能给多一些吧,尽量把热数据都可以Cache住,
          ###保证Dirty 不要超过1%,当然这个跟自己的业务、读写查询快慢有关,
          ###另外它Cache的单位是Page而不是Document。
          
          journalCompressor: snappy
          ##单独为Journal Log指定压缩方式,默认snappy,支持"none、snappy、zlib",
          ##一般情况下不需要用zlib,虽然压缩率较大,但cpu的占用率也高。
          
          directoryForIndexes:  true    ## Index文件和数据文件分离,索引一个目录,数据一个目录。
       collectionConfig:
          blockCompressor: zlib
          ####数据库中Collection的压缩方式,默认是snappy,同样支持"none、snappy、zlib"",
          ####一般snappy足够,snappy cpu使用率较低,压缩率不是非常高,但可以满足一般业务需求,
          ####zlib是压缩率最高的,cpu使用率也较高,如果cpu资源充裕,就为了降低磁盘空间可以选择zlib。
       indexConfig:
          prefixCompression:  true
          ###是否开启索引的前缀压缩,这里影响所有DB的索引。它会一次存储所有前缀一样的索引,
          ###减少内存、磁盘IO的消耗,默认开启。

官方原文:

Values can range from 256MB to 10TB and can be a float. In addition, the default value has also changed.

Starting in 3.4, the WiredTiger internal cache, by default, will use the larger of either:

  • 50% of RAM minus 1 GB, or

  • 256 MB.

Avoid increasing the WiredTiger internal cache size above its default value.

With WiredTiger, MongoDB utilizes both the WiredTiger internal cache and the filesystem cache.

Via the filesystem cache, MongoDB automatically uses all free memory that is not used by the WiredTiger cache or by other processes. Data in the filesystem cache is compressed.

由此可以看出,在内存足够大的情况下,还是要以提高cpu性能为主,zlib虽然是最高压缩,但也最吃cpu另外,在存储引擎切换的时候,先从second开始,进入服务器,db.shutdownServer(),把服务器关掉,然后清空所有数据,然后配置wt引擎,然后在挂载回去,进行重新同步

官方的原文:http://docs.mongoing.com/manual-zh/tutorial/change-replica-set-wiredtiger.html

步骤

这个步骤将复制集中 secondary 的数据完全移除, 然后使用 WiredTiger 存储引擎重启 mongod, 利用:doc:`初始化同步 完成数据同步.

在升级复制集中的成员存储引擎时, 首先升级 secondary 成员. 然后将 primary 降级为从节点, 之后升级降级为从节点的成员.

1

Shut down the secondary member.

In the mongo shell, shut down the secondary mongod instance you wish to upgrade.

db.shutdownServer()

2

Prepare a data directory for the new mongod running with WiredTiger.

Prepare a data directory for the new mongod instance that will run with the WiredTiger storage engine.mongod must have read and write permissions for this directory. You can either delete the contents of the stopped secondary member’s current data directory or create a new directory entirely.

mongod with WiredTiger will not start with data files created with a different storage engine.

3

Start mongod with WiredTiger.

Start mongod, specifying wiredTiger as the --storageEngine and the prepared data directory for WiredTiger as the --dbpath. Specify additional options as appropriate for this replica set member.

mongod --storageEngine wiredTiger --dbpath <newWiredTigerDBPath> --replSet <replSetName>

Since no data exists in the --dbpath, the mongod will perform an initial sync. The length of the initial sync process depends on the size of the database and network connection between members of the replica set.

You can also specify the options in a configuration file. To specify the storage engine, use thestorage.engine setting.

4

Repeat the procedure for other replica set secondaries you wish to upgrade.

Perform this procedure again for the rest of the secondary members of the replica set you wish to use the WiredTiger storage engine.









本文转自wks9751CTO博客,原文链接: http://blog.51cto.com/wks97/1924553,如需转载请自行联系原作者

相关实践学习
MongoDB数据库入门
MongoDB数据库入门实验。
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。 &nbsp; 相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
相关文章
|
3月前
|
存储 NoSQL MongoDB
掌握MongoDB索引优化策略:提升查询效率的关键
在数据库性能调优中,索引是提升查询效率的利器。本文将带你深入了解MongoDB索引的内部工作原理,探讨索引对查询性能的影响,并通过实际案例指导如何针对不同的查询模式建立有效的索引。不仅将涵盖单一字段索引,还会探讨复合索引的使用,以及如何通过分析查询模式和执行计划来优化索引,最终实现查询性能的最大化。
|
2月前
|
NoSQL 容灾 MongoDB
MongoDB主备副本集方案:两台服务器使用非对称部署的方式实现高可用与容灾备份
在资源受限的情况下,为了实现MongoDB的高可用性,本文探讨了两种在两台服务器上部署MongoDB的方案。方案一是通过主备身份轮换,即一台服务器作为主节点,另一台同时部署备节点和仲裁节点;方案二是利用`priority`设置实现自动主备切换。两者相比,方案二自动化程度更高,适合追求快速故障恢复的场景,而方案一则提供了更多的手动控制选项。文章最后对比了这两种方案与标准三节点副本集的优缺点,指出三节点方案在高可用性和数据一致性方面表现更佳。
128 5
|
3月前
|
存储 NoSQL MongoDB
MongoDB 复制(副本集)
10月更文挑战第17天
54 2
MongoDB 复制(副本集)
|
3月前
|
NoSQL Ubuntu Linux
Linux平台安装MongoDB
10月更文挑战第11天
99 5
|
3月前
|
NoSQL Shell MongoDB
Mac OSX 平台安装 MongoDB
10月更文挑战第11天
34 4
|
2月前
|
存储 NoSQL 网络协议
【赵渝强老师】MongoDB的安装与访问
本文介绍了在Linux系统上安装和部署MongoDB的详细步骤,包括安装依赖包、解压安装包、配置环境变量、创建数据目录及启动服务等。文中还提供了相关命令示例和注意事项,帮助用户顺利完成MongoDB的安装与配置。
|
3月前
|
NoSQL Shell MongoDB
Windows 平台安装 MongoDB
10月更文挑战第10天
73 0
Windows 平台安装 MongoDB
|
3月前
|
存储 监控 NoSQL
TDengine 3.3.3.0 版本上线:优化监控、增强 MongoDB 支持
今天我们非常高兴地宣布,TDengine 3.3.3.0 版本正式发布。本次更新引入了多项重要功能和性能优化,旨在为用户提供更高效、更灵活的数据解决方案。
75 0
|
24天前
|
存储 JSON NoSQL
学习 MongoDB:打开强大的数据库技术大门
MongoDB 是一个基于分布式文件存储的文档数据库,由 C++ 编写,旨在为 Web 应用提供可扩展的高性能数据存储解决方案。它与 MySQL 类似,但使用文档结构而非表结构。核心概念包括:数据库(Database)、集合(Collection)、文档(Document)和字段(Field)。MongoDB 使用 BSON 格式存储数据,支持多种数据类型,如字符串、整数、数组等,并通过二进制编码实现高效存储和传输。BSON 文档结构类似 JSON,但更紧凑,适合网络传输。
64 15
|
1月前
|
存储 NoSQL 关系型数据库
阿里云数据库MongoDB版助力信也科技 打造互联网金融企业样板
我们的风控系统引入阿里云数据库MongoDB版后,解决了特征类字段灵活加减的问题,大大提高了开发效率,极大的提升了业务用户体验,获得了非常好的效果
阿里云数据库MongoDB版助力信也科技 打造互联网金融企业样板