ROLAP与大数据

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
简介:

OLAP

大数据相关的场景比较多,常见的有:ETL(数据提取、转换、加载)、实时流式(监控报警、风控等)、机器学习(推荐引擎、用户画像等)、非结构化分析(视频、图片、语音、文本等)、海量大数据在线存储(HBase)、搜索及我们本文讲的OLAP。 其中OLAP(在线联机分析)在很多企业占住分析类的大部分。按照一般的理论又分为,M-OLAP,R-OLAP,H-OLAP。简单区别就是 M-OLAP是基于多维数组的存储模型,也是最原始的OLAP,但需要对数据进行预处理才能形成多维结构,大数据领域Kylin属于此类;R-OLAP是完全基于关系模型进行存放的,只是它根据分析的需要对模型的结构和组织形式进行了优化,目前MPP(greenplum)及MPP on HDFS(Presto、Impala)及SQL on DAG(Hive、Spark)均是此类。当然还有一类是H-OLAP,也就是说两者均满足需求,也是一种混合架构。

OLAP 与 大数据

大数据这个词,是从Hadoop之后才慢慢提出来的,开始的时候并不叫做大数据,很多企业叫做数据仓库部门,使用的基本是商用的组件。
随着Hadoop的兴起及MPP on廉价机器的发展,SQL on Hadoop类的引擎越来越多,比如有:Hive、Presto、Impala、Drill、Spark SQL、phoenix(SQL on HBase)、kylin(cube on HBase)等。特别是得益于分布式存储(HDFS)的发展,各类基于HDFS的分析组件越来越多,当然很多组件也支持HDFS之外的如:mysql、mongodb等数据源。下面笔者主要对比下目前主流R-OLAP模式的引擎,后续再有机会谈M-OLAP。
R-OLAP+大数据 也得益于列存储及内存存储的发展,再加上传统数据库的优化技术,在性能上也在不断加速。

R-OLAP

目前主流的ROLAP的支持的软件如下:

screenshot
Hive On MR应该是最先支持P级别的分析引擎之一,由于实在太慢了,出现一大卡车的优化技术,主要体现在下面的一些产品中。
其中 Hive On Tez、Hive On Tez with LLAP、SparkSQL 、Presto、Phoenix 较为看好,具体如果单单做OLAP,Hive On tez最为合适,如果有其它分析类需求混合使用SQL,则Spark较为合适;Presto从理论上讲,应该较快,追求高性能;另外,如果数据存在Hbase中,想做一些简单的分析,可以使用phoenix。
对于Flink,看好StreamingSQL,不过OLAP一块,目前实在没有发力。

后续再分享M-OLAP的内容,OLAP基础理论参考google。


HBase技术交流社区 - 阿里官方“HBase生态+Spark社区大群”点击加入:https://dwz.cn/Fvqv066s

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
Linux 应用服务中间件 nginx
【PUSDN】centos查看日志文件内容,包含某个关键字的前后5行日志内容,centos查看日志的几种方法
【PUSDN】centos查看日志文件内容,包含某个关键字的前后5行日志内容,centos查看日志的几种方法
405 0
|
Linux iOS开发 MacOS
typora下载和破解(仅供学习)
Typora 一款 Markdown 编辑器和阅读器 风格极简 / 多种主题 / 支持 macOS,Windows 及 Linux 实时预览 / 图片与文字 / 代码块 / 数学公式 / 图表 目录大纲 / 文件管理 / 导入与导出 ……
163350 11
typora下载和破解(仅供学习)
|
存储 弹性计算 监控
要怎么与阿里云合作
5月更文挑战第13天
剑指Offer LeetCode 面试题10- I. 斐波那契数列
剑指Offer LeetCode 面试题10- I. 斐波那契数列
81 0
|
存储 算法 Linux
Linux程序地址空间
Linux程序地址空间
253 0
Linux程序地址空间
|
SQL XML JSON
分享5个免费的在线 SQL 数据库环境,简直太方便了!
分享5个免费的在线 SQL 数据库环境,简直太方便了!
2840 0
分享5个免费的在线 SQL 数据库环境,简直太方便了!
|
消息中间件 缓存 Java
记生产环境 rabbitmq 部分客户端 channel 持续积压消息不进行ack
记生产环境 rabbitmq 部分客户端 channel 持续积压消息不进行ack
585 0
|
分布式计算 调度 监控
阿里任务调度Schedulerx2.0之MapReduce模型
阿里巴巴任务调度Schedulerx2.0自研轻量级分布式模型MapReduce,可以进行大数据的实时/离线跑批。通过一个map方法就能将海量数据分布式到多台机器上执行,通过process方法处理子任务的业务,最后通过reduce方法可以获取所有子任务执行的状态和结果
7097 1
|
数据采集 数据挖掘 API
Python爬虫入门教程 31-100 36氪(36kr)数据抓取 scrapy
1. 36氪(36kr)数据----写在前面 今天抓取一个新闻媒体,36kr的文章内容,也是为后面的数据分析做相应的准备的,预计在12月底,爬虫大概写到50篇案例的时刻,将会迎来一个新的内容,系统的数据分析博文,记得关注哦~ 36kr 让一部分人先看到未来,而你今天要做的事情确实要抓取它的过去。
10504 0
|
传感器 编解码 边缘计算