开发者社区> 技术小美> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

MongoDB实战(4)MapReduce

简介:
+关注继续查看

在 MongoDB 上使用 Map/Reduce进行并行"统计"很容易。
使用 MapReduce 要实现两个函数 Map 函数和 Reduce 函数,Map 函数调用 emit(key, value),
遍历 collection 中所有的记录, 将key 与 value 传递给 Reduce 函数进行处理。
Map函数和Reduce函数可以使用 JavaScript 来实现,可以通过 db.runCommand 或 mapReduce 命令来执行一个MapReduce 的操作:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
db.runCommand(
{
    mapReduce: <collection>,
    map: <function>,
    reduce: <function>,
    out: <output>,
    query: <document>,
    sort: <document>,
    limit: <number>,
    finalize: <function>,
    scope: <document>,
    jsMode: <boolean>,
    verbose: <boolean>
})

参数说明:
mapreduce: 要操作的目标集合。

map: 映射函数 (生成键值对序列,作为 reduce 函数参数)。

reduce: 统计函数。

out: 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。

query: 目标记录过滤

sort: 目标记录排序。

limit: 限制目标记录数量。

finalize: 最终处理函数 (对 reduce 返回结果进行最终整理后存入结果集合)

scope: 向 map、reduce、finalize 导入外部变量。

jsMode: 是否转换Bson格式在map和reduce执行间

verbose: 显示详细的时间统计信息。


下面我们来搞一个例子吧:

准备一些数据:

135332174.png

接下来我们演示如何统计各个班的学生数量

Map:

Map 函数必须调用 emit(key, value) 返回键值对,使用 this 访问当前待处理的 Document。

1
2
3
m = function(){
    emit(this.classid,1);
}

value 可以使用 JSON Object 传递 (支持多个属性值)。

例如:emit(this.classid, {count:1})
Reduce:

Reduce 函数接收的参数类似 Group 效果,将 Map 返回的键值序列组合成 { key, [value1,
value2, value3, value...] } 传递给 reduce。

1
2
3
4
5
r = function(key,values){
    var x = 0;
    values.forEach(function(v){x += v});
    return x;
}

Reduce 函数对这些 values 进行 "统计" 操作,返回结果可以使用 JSON Object。

Result:

140428607.png

mapReduce() 将结果存储在 "students_res" 表中。
140552995.png

Finalize:

利用 finalize() 我们可以对 reduce() 的结果做进一步处理。

1
2
3
f = function(key,value){
    return {classid:key,count:value}
}

我们再重新计算一次,看看结果:

141023438.png


Options:

我们还可以添加更多的控制细节。

1
2
3
4
5
6
7
8
db.runCommand({
    mapreduce:"stu",
    map:m,
    reduce:r,
    out:"stu_res",
    finalize:f,
    query:{age:{$gt:10}}
});

144409503.png


可以看到先进行了过滤,只取 age>10 的数据,然后再进行统计,所以就没有 age=9 的数
据了。

















本文转自shayang8851CTO博客,原文链接:http://blog.51cto.com/janephp/1323812,如需转载请自行联系原作者

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
《《玩转MongoDB 从入门到实战》》电子版地址
阿里云开发者数据团队推出了《玩转MongoDB从入门到实战》以理论+案例全方位解析,内含复制集、分片集群、ChangeStreams和事务功能的使用及原理介绍,帮助更多开发者快速掌握MongoDB核心架构及特色功能。
0 0
《《玩转MongoDB 从入门到实战》》下载电子版
阿里云开发者数据团队推出了《玩转MongoDB从入门到实战》以理论+案例全方位解析,内含复制集、分片集群、ChangeStreams和事务功能的使用及原理介绍,帮助更多开发者快速掌握MongoDB核心架构及特色功能。
0 0
《《玩转MongoDB 从入门到实战》》电子版地址下载
阿里云开发者数据团队推出了《玩转MongoDB从入门到实战》以理论+案例全方位解析,内含复制集、分片集群、ChangeStreams和事务功能的使用及原理介绍,帮助更多开发者快速掌握MongoDB核心架构及特色功能。
0 0
《《玩转MongoDB 从入门到实战》》电子版下载地址
阿里云开发者数据团队推出了《玩转MongoDB从入门到实战》以理论+案例全方位解析,内含复制集、分片集群、ChangeStreams和事务功能的使用及原理介绍,帮助更多开发者快速掌握MongoDB核心架构及特色功能。
0 0
《MongoDB 原理与实战 电子书发布 - 张友东》电子版地址
<<MongoDB 原理与实战>> 电子书发布 - 张友东
0 0
Spring Boot2.5 实战 MongoDB 与高并发 Redis 缓存|学习笔记
快速学习 Spring Boot2.5 实战 MongoDB 与高并发 Redis 缓存
0 0
Spring Boot 2.0实战 MongoDB 数据库与面试题|学习笔记
快速学习 Spring Boot 2.0实战 MongoDB 数据库与面试题。
0 0
《《玩转MongoDB 从入门到实战》》电子版下载
阿里云开发者数据团队推出了《玩转MongoDB从入门到实战》以理论+案例全方位解析,内含复制集、分片集群、ChangeStreams和事务功能的使用及原理介绍,帮助更多开发者快速掌握MongoDB核心架构及特色功能。
0 0
Docker实战:docker 安装mongodb
今天给大家分享Docker安装mongodb笔记,服务器基于Centos8,希望大家可以互相沟通交流! 今天给大家安装的mongodb版本为4.2,大家按照步骤执行命令就可以。
0 0
【云原生 | 25】Docker运行数据库实战之MongoDB
MongoDB是一款可扩展、高性能的开源文档数据库,是当今最流行的NoSQL数据库软件之一。它采用C++开发,支持复杂的数据类型和强大的查询语言,提供了关系数据库的绝大部分功能。由于MongoDB高性能、易部署、易使用等特点,已经在很多领域都得到了广泛的应用。............
0 0
+关注
文章
问答
文章排行榜
最热
最新
相关电子书
更多
MongoDB 应用数据平台助力快速构建您的应用
立即下载
<<MongoDB 原理与实战>> 电子书发布 - 张友东
立即下载
《玩转MongoDB 从入门到实战》
立即下载