开源SPL强化MangoDB计算

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
简介: 开源SPL强化MangoDB计算

MongoDB是NoSQL数据库的典型代表,支持文档结构的存储方式数据存储和使用更为便捷,数据存取效率也很高,但计算能力较弱,实际使用中涉及MongoDB的计算尤其是复杂计算会很麻烦,这就需要具备强计算能力的数据处理引擎与其配合。

开源集算器SPL是一款专业结构化数据计算引擎,拥有丰富的计算类库和完备、不依赖数据库的计算能力。SPL提供了独立的过程计算语法,尤其擅长复杂计算,可以增强MongoDB的计算能力,完成分组汇总、关联计算、子查询等通通不在话下。

1常规查询

MongoDB不容易搞定的连接JOIN运算,用SPL很容易搞定:

A B
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb") /连接MongDB
2 =mongo_shell(A1,"c1.find()").fetch() /获取数据
3 =mongo_shell(A1,"c2.find()").fetch()
4 =A2.join(user1:user2,A3:user1:user2,output) /关联计算
5 >A1.close() /关闭连接

 

单表多次参与运算,复用计算结果:

A B
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
2 =mongo_shell(A1,“course.find(,{_id:0})”).fetch() /获取数据
3 =A2.group(Sno).((avg   = ~.avg(Grade), ~.select(Grade>avg))).conj() /计算成绩大于平均值
4 >A1.close()

 

IN计算:

A B
1 =mongo_open("mongodb://localhost:27017/test")
2 =mongo_shell(A1,"orders.find(,{_id:0})") /获取数据
3 =mongo_shell(A1,"employee.find({STATE:'California'},{_id:0})").fetch() /过滤employee数据
4 =A3.(EID).sort() /取出EID并排序
5 =A2.select(A4.pos@b(SELLERID)).fetch() /二分法查找
6 >A1.close()

 

外键对象化,外键指针不仅方便,效率也高:

A B
1 =mongo_open("mongodb://localhost:27017/local")
2 =mongo_shell(A1,"Progress.find({},   {_id:0})").fetch() /获取Progress数据
3 =A2.groups(courseid;   count(userId):popularityCount) /按课程分组计数
4 =mongo_shell(A1,"Course.find(,{title:1})").fetch() /获取Course数据
5 =A3.switch(courseid,A4:_id) /外键连接
6 =A5.new(popularityCount,courseid.title) /创建结果集
7 =A1.close()

 

APPLY算法的简单实现:

A B
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
2 =mongo_shell(A1,"users.find()").fetch() /获取users数据
3 =mongo_shell(A1,"workouts.find()").fetch() /获取workouts数据
4 =A2.conj(A3.select(A2.workouts.pos(_id)).derive(A2.name)) /查询_id 值workouts 序列的记录
5 >A1.close()

 

集合运算,合并交差:

A B
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
2 =mongo_shell(A1,"emp1.find()").fetch()
3 =mongo_shell(A1,"emp2.find()").fetch()
4 =[A2,A3].conj() /多序列合集
5 =[A2,A3].merge@ou() /全行对比求并集
6 =[A2,A3].merge@ou(_id,   NAME) /键值对比求并集
7 =[A2,A3].merge@oi() /全行对比求交集
8 =[A2,A3].merge@oi(_id,   NAME) /键值对比求交集
9 =[A2,A3].merge@od() /全行对比求差集
10 =[A2,A3].merge@od(_id,   NAME) /键值对比求差集
11 >A1.close()

 

在序列中查找成员序号:

A B
1 =mongo_open("mongodb://localhost:27017/local)
2 =mongo_shell(A1,"users.find({name:'jim'},{name:1,friends:1,_id:0})")   .fetch()
3 =A2.friends.pos("luke") /从friends序列中获取成员序号
4 =A1.close()

 

多成员集合的交集:

A B
1 [Chemical,   Biology, Math] /课程
2 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
3 =mongo_shell(A2,"student.find()").fetch() /获取student数据
4 =A3.select(Lesson^A1!=[]) /查询选修至少一门的记录
5 =A4.new(_id,   Name, ~.Lesson^A1:Lession) /计算出结果
6 >A2.close()

2复杂计算

TOPN运算:

A B
1 =mongo_open("mongodb://127.0.0.1:27017/test")
2 =mongo_shell(A1,"last3.find(,{_id:0};{variable:1})") /获取last3数据,并按variable排序
3 for A2;variable =A3.top(3;-timestamp) /选出timestamp最晚的3个
4 =@|B3 /将选出文档追加到B4中
5 =B4.minp(~.timestamp)      /选出timstamp最早的文档
6 >mongo_close(A1)

 

嵌套结构的聚合:

A
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
2 =mongo_shell(A1,"computer.find()").fetch()
3 =A2.new(_id:ID,income.array().sum():INCOME,output.array().sum():OUTPUT)
4 >A1.close()

 

合并多属性子文档:

A B C
1 =mongo_open("mongodb://localhost:27017/local")
2 =mongo_shell(A1,"c1.find(,{_id:0};{name:1})")
3 =create(_id,   readUsers) /创建结果序表
4 for   A2;name =A4.conj(acls.read.users|acls.append.users|acls.edit.users|acls.fullControl.users).id() /取出所有users字段
5 >A3.insert(0,   A4.name, B4) /插入本组数据
6 =A1.close()

 

嵌套List子文档的查询

A B
1 =mongo_open("mongodb://localhost:27017/local")
2 =mongo_shell(A1,"Cbettwen.find(,{_id:0})").fetch()
3 =A2.conj((t=~.objList.data.dataList,   t.select((s=float(~.split@c1()(1)), s>6154   && s<=6155)))) /找到符合条件的字符串
4 =A1.close()

 

交叉汇总:

A
1 =mongo_open("mongodb://localhost:27017/local")
2 =mongo_shell(A1,"student.find()").fetch()
3 =A2.group(school)
4 =A3.new(school:school,~.align@a(5,sub1).(~.len()):sub1,~.align@a(5,sub2).(~.len()):sub2)
5 =A4.new(school,sub1(5):sub1-5,sub1(4):sub1-4,sub1(3):sub1-3,sub1(2):sub1-2,sub1(1):sub1-1,sub2(5):sub2-5,sub2(4):sub2-4,sub2(3):sub2-3,sub2(2):sub2-2,sub2(1):sub2-1)
6 =A1.close()

 

分段分组

A B
1 [3000,5000,7500,10000,15000] /Sales分段区间
2 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
3 =mongo_shell(A2,"sales.find()").fetch()
4 =A3.groups(A1.pseg(~.SALES):Segment;count(1):   number) /根据 SALES 区间分组统计员工数
5 >A2.close()

 

分类分组

A B
1 =mongo_open("mongodb://127.0.0.1:27017/raqdb")
2 =mongo_shell(A1,"books.find()")
3 =A2.groups(addr,book;count(book):   Count) /分组计数
4 =A3.groups(addr;sum(Count):Total) /分组统计
5 =A3.join(addr,A4:addr,Total) /关联计算
6 >A1.close()

 

3数据写入

导出成CSV:

A B
1 =mongo_open("mongodb://localhost:27017/raqdb")
2 =mongo_shell(A1,"carInfo.find(,{_id:0})")
3 =A2.conj((t=~,cars.car.new(t.id:id,   t.cars.name, ~:car))) /对car字段进行拆分成行
4 =file("D:\\data.csv").export@tc(A3) /导出生成csv文件
5 >A1.close()

 

更新数据库(MongoDB到MySQL):

A B
1 =mongo_open("mongodb://localhost:27017/raqdb") /连接MongDB
2 =mongo_shell(A1,"course.find(,{_id:0})").fetch()
3 =connect("myDB1") /连接mysql
4 =A3.query@x("select   * from course2").keys(Sno, Cno)
5 >A3.update(A2:A4,   course2, Sno, Cno, Grade; Sno,Cno) /向mysql更新数据
6 >A1.close()

 

更新数据库(MySQL到MongoDB):

A B
1 =connect("mysql") /连接mysql
2 =A1.query@x("select   * from course2") /获取表course2数据
3 =mongo_open("mongodb://localhost:27017/raqdb") /连接MongDB
4 =mongo_insert(A3,   "course",A2) /将MySQL表course2导入MongoDB集合course
5 >A3.close()

 

4混合计算

借助SPL还很容易实现MongoDB与其他数据源进行混合计算:

A B
1 =mongo_open("mongodb://localhost:27017/test") /连接MongDB
2 =mongo_shell(A1,"emp.find({'$and':[{'Birthday':{'$gte':'"+string(begin)+"'}},{'Birthday':{'$lte':'"+string(end)+"'}}]},{_id:0})").fetch() /查询某时间段的记录
3 =A1.close() /关闭MongoDB
4 =myDB1.query("select   * from cities") /获取mysql中表cities数据
5 =A2.switch(CityID,A4:   CityID) /外键关联
6 =A5.new(EID,Dept,CityID.CityName:CityName,Name,Gender) /创建结果集
7 return   A6 /返回

5SQL支持

SPL除了原生语法,还提供了相当于SQL92标准的SQL支持,可以使用SQL查询MongoDB了,比如前面的关联计算:

A
1 =mongo_open("mongodb://127.0.0.1:27017/test")
2 =mongo_shell(A1,"c1.find()").fetch()
3 =mongo_shell@x(A1,"c2.find()").fetch()
4 $select s.* from {A2} as s left join {A3}   as r on s.user1=r.user1 and s.user2=r.user2 where r.income>0.3

6应用集成

不仅如此,SPL提供了标准JDBC/ODBC等应用程序接口,集成调用很方便。如JDBC的使用:


Class.forName("com.esproc.jdbc.InternalDriver");
Connection conn = DriverManager.getConnection("jdbc:esproc:local://");
PrepareStatement st=con.prepareStatement("call splScript(?)"); // splScript为spl脚本文件名
st.setObject(1,"California");
st.execute();
ResultSet rs = st.getResultSet();

有了这些功能,增强MongoDB的计算能力可不是说说而已,要不要下载试试?

7SPL资料

相关实践学习
MongoDB数据库入门
MongoDB数据库入门实验。
快速掌握 MongoDB 数据库
本课程主要讲解MongoDB数据库的基本知识,包括MongoDB数据库的安装、配置、服务的启动、数据的CRUD操作函数使用、MongoDB索引的使用(唯一索引、地理索引、过期索引、全文索引等)、MapReduce操作实现、用户管理、Java对MongoDB的操作支持(基于2.x驱动与3.x驱动的完全讲解)。 通过学习此课程,读者将具备MongoDB数据库的开发能力,并且能够使用MongoDB进行项目开发。 &nbsp; 相关的阿里云产品:云数据库 MongoDB版 云数据库MongoDB版支持ReplicaSet和Sharding两种部署架构,具备安全审计,时间点备份等多项企业能力。在互联网、物联网、游戏、金融等领域被广泛采用。 云数据库MongoDB版(ApsaraDB for MongoDB)完全兼容MongoDB协议,基于飞天分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容、容灾、备份回滚、性能优化等解决方案。 产品详情: https://www.aliyun.com/product/mongodb
相关文章
|
存储 SQL 运维
涨姿势 | 一文读懂备受大厂青睐的ClickHouse高性能列存核心原理
本文尝试解读ClickHouse存储层的设计与实现,剖析它的性能奥妙
3624 0
涨姿势 | 一文读懂备受大厂青睐的ClickHouse高性能列存核心原理
|
3月前
|
存储 数据处理 Apache
超越传统数据库:揭秘Flink状态机制,让你的数据处理效率飞升!
【8月更文挑战第26天】Apache Flink 在流处理领域以其高效实时的数据处理能力脱颖而出,其核心特色之一便是状态管理机制。不同于传统数据库依靠持久化存储及 ACID 事务确保数据一致性和可靠性,Flink 利用内存中的状态管理和分布式数据流模型实现了低延迟处理。Flink 的状态分为键控状态与非键控状态,前者依据数据键值进行状态维护,适用于键值对数据处理;后者与算子实例关联,用于所有输入数据共享的状态场景。通过 checkpointing 机制,Flink 在保障状态一致性的同时,提供了更适合流处理场景的轻量级解决方案。
60 0
|
3月前
|
SQL 存储 JSON
更快更强,SLS 推出高性能 SPL 日志查询模式
从海量的日志数据中,按照各种灵活的条件进行即时查询搜索,是可观测场景下的基本需求。本文介绍了 SLS 新推出的高性能 SPL 日志查询模式,支持 Unix 风格级联管道式语法,以及各种丰富的 SQL 处理函数。同时通过计算下推、向量化计算等优化,使得 SPL 查询可以在数秒内处理亿级数据,并支持 SPL 过滤结果分布图、随机翻页等特性。
12039 106
|
4月前
|
存储 JSON 数据格式
通用研发提效问题之存储模型选择存储方式,如何解决
通用研发提效问题之存储模型选择存储方式,如何解决
|
6月前
|
人工智能 NoSQL atlas
官宣!MongoDB Atlas再添新功能!进一步简化构建现代应用程序
利用数据简化高响应性应用程序的构建过程
3181 0
|
存储 机器学习/深度学习 缓存
存储和操作n维数据的难题,谷歌用一个开源软件库解决了
存储和操作n维数据的难题,谷歌用一个开源软件库解决了
140 0
|
存储 NoSQL 算法
开源 SPL 强化 MongoDB 计算
开源 SPL 强化 MongoDB 计算
246 5
开源 SPL 强化 MongoDB 计算
|
存储 SQL 分布式计算
从SPL看开放计算能力的意义
从SPL看开放计算能力的意义
从SPL看开放计算能力的意义
|
存储 SQL BI
开源 SPL 打破数据库计算的封闭性
开源 SPL 打破数据库计算的封闭性
开源 SPL 打破数据库计算的封闭性
下一篇
无影云桌面