ROLAP与大数据

本文涉及的产品
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介:

OLAP

大数据相关的场景比较多,常见的有:ETL(数据提取、转换、加载)、实时流式(监控报警、风控等)、机器学习(推荐引擎、用户画像等)、非结构化分析(视频、图片、语音、文本等)、海量大数据在线存储(HBase)、搜索及我们本文讲的OLAP。 其中OLAP(在线联机分析)在很多企业占住分析类的大部分。按照一般的理论又分为,M-OLAP,R-OLAP,H-OLAP。简单区别就是 M-OLAP是基于多维数组的存储模型,也是最原始的OLAP,但需要对数据进行预处理才能形成多维结构,大数据领域Kylin属于此类;R-OLAP是完全基于关系模型进行存放的,只是它根据分析的需要对模型的结构和组织形式进行了优化,目前MPP(greenplum)及MPP on HDFS(Presto、Impala)及SQL on DAG(Hive、Spark)均是此类。当然还有一类是H-OLAP,也就是说两者均满足需求,也是一种混合架构。

OLAP 与 大数据

大数据这个词,是从Hadoop之后才慢慢提出来的,开始的时候并不叫做大数据,很多企业叫做数据仓库部门,使用的基本是商用的组件。
随着Hadoop的兴起及MPP on廉价机器的发展,SQL on Hadoop类的引擎越来越多,比如有:Hive、Presto、Impala、Drill、Spark SQL、phoenix(SQL on HBase)、kylin(cube on HBase)等。特别是得益于分布式存储(HDFS)的发展,各类基于HDFS的分析组件越来越多,当然很多组件也支持HDFS之外的如:mysql、mongodb等数据源。下面笔者主要对比下目前主流R-OLAP模式的引擎,后续再有机会谈M-OLAP。
R-OLAP+大数据 也得益于列存储及内存存储的发展,再加上传统数据库的优化技术,在性能上也在不断加速。

R-OLAP

目前主流的ROLAP的支持的软件如下:

screenshot
Hive On MR应该是最先支持P级别的分析引擎之一,由于实在太慢了,出现一大卡车的优化技术,主要体现在下面的一些产品中。
其中 Hive On Tez、Hive On Tez with LLAP、SparkSQL 、Presto、Phoenix 较为看好,具体如果单单做OLAP,Hive On tez最为合适,如果有其它分析类需求混合使用SQL,则Spark较为合适;Presto从理论上讲,应该较快,追求高性能;另外,如果数据存在Hbase中,想做一些简单的分析,可以使用phoenix。
对于Flink,看好StreamingSQL,不过OLAP一块,目前实在没有发力。

后续再分享M-OLAP的内容,OLAP基础理论参考google。


HBase技术交流社区 - 阿里官方“HBase生态+Spark社区大群”点击加入:https://dwz.cn/Fvqv066s

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
7月前
|
机器学习/深度学习 存储 分布式计算
大数据介绍
大数据介绍
83 2
|
SQL 数据采集 算法
大数据到底应该如何学?
大数据到底应该如何学?
112 0
|
SQL 机器学习/深度学习 数据可视化
漫谈对大数据的思考(下)
“大数据”已跃升为我们行业中最受炒作的术语之一,但炒作不应使人们忽视这样一个事实,即这是数据在世界上的作用真正重要的转变。
漫谈对大数据的思考(下)
|
SQL 存储 分布式计算
一篇文章让你了解大数据
一篇文章让你了解大数据
一篇文章让你了解大数据
|
大数据 数据库
大数据使“定制”新的经济指标成为可能
大数据使“定制”新的经济指标成为可能
138 0
大数据使“定制”新的经济指标成为可能
|
大数据
大数据
大数据学习
117 0
|
人工智能 分布式计算 Oracle
大数据浅谈1
小弟不才,针对于大数据入门的一些小总结,希望能共同成长进步,大咖请绕路!!!
195 0
|
SQL 存储 大数据
ROLAP与大数据
大数据相关的场景比较多,常见的有:ETL(数据提取、转换、加载)、实时流式(监控报警、风控等)、机器学习(推荐引擎、用户画像等)、非结构化分析(视频、图片、语音、文本等)、海量大数据在线存储(HBase)、搜索及我们本文讲的OLAP。 其中OLAP(在线联机分析)在很多企业占住分析类的大部分。
6580 0
|
新零售 存储 Java
关于大数据最常见的10个问题,必看!
1、云计算与大数据是什么关系?   云计算的关键词在于“整合”,无论你是通过现在已经很成熟的传统的虚拟机切分型技术,还是通过google后来所使用的海量节点聚合型技术,他都是通过将海量的服务器资源通过网络进行整合,调度分配给用户,从而解决用户因为存储计算资源不足所带来的问题。
1313 0