MongoDB的“value too large to reduce”错误

本文涉及的产品
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
简介:

在MongoDB下写了一个map/reduce程序,想针对海量数据按特征归类,因此设计中,reduce后的数据结构是下面这样的:

 
  1.     _id: "特征"
  2.     value: { data: ["内容1""内容2""内容3", ......] } 

在数据量不大的时候一切正常,当逐渐提高数据量时,比如到了5000万的量级时,出现了下面的13070错误:

 
  1. Web Dec 19 10:23:11 uncaught exception: map reduce failed: { 
  2.     "errmsg" : "exception: value too large to reduce"
  3.     "code" : 13070, 
  4.     "ok" : 0 

出现这个错误是由于reduce时的value太大了,我的reduce程序中,最终return的是一个数组,当reduce后这个数组过大(据说是超过8MB),就会导致reduce失败,查了查没有什么好的解决方案。目前暂时在reduce时发现数组过长就截断丢弃后面的数据,这样就不再报错了。

 




     本文转自 BoyTNT 51CTO博客,原文链接:http://blog.51cto.com/boytnt/1094026,如需转载请自行联系原作者


相关实践学习
MongoDB数据库入门
MongoDB数据库入门实验。
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。   相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
相关文章
|
数据库 NoSQL MongoDB
Mongodb中经常出现的错误(汇总)child process failed, exited with error number
异常处理汇总-服 务 器 http://www.cnblogs.com/dunitian/p/4522983.html 异常处理汇总-数据库系列  http://www.cnblogs.com/dunitian/p/4522990.
1446 0
|
存储 JSON 分布式计算
MongoDB:19-MongoDB-Map Reduce
MongoDB:19-MongoDB-Map Reduce
145 0
MongoDB:19-MongoDB-Map Reduce
|
NoSQL MongoDB
MongoDB服务无法启动,发生服务特定错误:100
问题:MongoDB服务无法启动,发生服务特定错误:100 原因:没有正常关闭mongod服务,导致mongod被锁 解决方案:进入db文件夹,删除mongod.
2789 0
|
分布式计算 NoSQL MongoDB