HSAP 理念与 Hologres 设计原理(一)|学习笔记

本文涉及的产品
实时数仓Hologres,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 快速学习 HSAP 理念与 Hologres 设计原理(一)

开发者学堂课程【实时数仓 Hologres 实战课程HSAP 理念与 Hologres 设计原理(一)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址https://developer.aliyun.com/learning/course/904/detail/14367


HSAP 理念与 Hologres 设计原理(一)


目录:

一、公司开发中的大数据

二,传统技术介绍

三,新一代技术理念 HSAP:分析,服务一体化

四,几种典型的应用场景介绍

五,常见的应用案例分析

六,课后学习资源分享

 

一、公司开发中的大数据

典型业务场景列举

image.png

l 简介:Hologres 的典型业务场景,主要有实时大屏,实时报表,用户画像,监控预警。

Ø 实时大屏主要应用在一些大型活动现场或者是公司重要决策会议现场使用;

Ø 实时报表主要应用运维场景,公司总裁也比较青睐于实时报表的使用;

Ø 用户画像在数据推送时应用的较多;

² 预警监控主要应用于浏览器流量监控,用户上线监控等方面。


二、传统技术介绍

传统数据仓库数据流程

image.png

批量数据分析流程

l T+0 数据接入

l 多种数据源接入

l 定时数据开发与应用

l 数据提取/数据转换/数据

加载

l ODs 数据处理.DWD 标准数据场景. MDM 元数据

l 数据集市应用

l 核心痛点

l ETL 计算/存储/时间成本过高

l 数据处理链路过长

l 无法支持实时/近实时数据分析

问题:缺陷多,无法适应新的业务场景,逐渐被市场淘汰。

Lambda 架构的问题:

1.由多种引擎和系统组合而成,开发和维护成本高,学习成本高

2.数据在不同的 View 中存储多份,空间浪费,数据一致性的问题如何解决

3.从使用上来说, Batch, Streaming 及 MergeQuery 均使用不同的 language,使用起来并不容易

image.png

问题一:Lambda架构组成复杂,由多种引擎和系统组成,如离线数仓,开源的 Have。

问题二:易造成数据冗余,导致存储空间浪费且数据一致性的问题难以统一

问题三:学习成本高,学习周期长。

阿里业务场景原架构

image.png


三、新一代技术理念 HSAP:分析,服务一体化

image.png

HSAP 简介:

核心是具备一套强大的存储系统,能够将实时的数据以及离线的数据存入系统之内。

与此同时,高效的数据查询服务能够支持很高的 QBS 的点查询及复杂的分析,联邦的查询分析。理论上具备一套这样的存储引擎及查询引擎,我们就能够将实时的数据以及离线的数据都导入到一个系统里面去,最后在前端的数据应用,BI 报表以及一些的在线服务都可以直接对接到这个系统里面去,如此,便解决了搭建架构的复杂问题了。如今,人们将这样的设计理念称之为 HSAP。

理念的体现产品便是 Hologres。

Hologres 交互式分析

基于 HSAP 理念,兼容 PostgreSQL 生态、支持 MaxCompute 数据直接查询,支持实时写入实时查询,"卖时离线联邦分析,低成本、高时效、快速构筑企业实时数据仓库。

下图中黄色的部分都是可以放入容器之中的,整个分布系统是能够做一个高度容错的产品的;因为 Hologres 兼容了 PostgreSQL 生态,所以市场上的一些开源或者是商业化的 BI 工具,webid 以及能够与 PostgreSQL 打通并能够与 Hologres 进行对接的一些工具

特点:

统一存储

Ø Point Query(Hbase场景)

Ø Ad-hoc Query(Druid场景)

Ø OLAP Query(impala场景)

以实时分析为中心设计

设计理念就是快速反应需求

Ø 极速查询响应

Ø 支持实时写入、批量效据导入

Ø 超高导入性能

存储计算分离

Ø 存储计算分离架构,弹性扩缩容

Ø 异构数据源交互式分析

Ø MaxCompute 无缝打通

PG 生态

Ø PG 开发工具

Ø Bl 工具对接

Ø DataWorks —站式开发平台

存储计算分离

image.png

传统的分布式储存里,较为常见的是 Storeage Area Network。Storeage Area Network 就好比一个集群,集群上面挂载了许多的盘使得其他的计算机节点都能够看到这些盘。第二种便是现在的 Interconnect NetWork,它的特点是计算机各节点之间可以相互通信,但是各个盘之间是不通的,缺点是易造成资源的浪费。第三种是大磁盘与缓存之间的高效配合使用。好处易扩容,好管理。

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
相关文章
|
5月前
|
分布式计算 关系型数据库 MySQL
实时数仓 Hologres产品使用合集之要将CTAS映射到其他工具或系统中,该怎么操作
实时数仓Hologres的基本概念和特点:1.一站式实时数仓引擎:Hologres集成了数据仓库、在线分析处理(OLAP)和在线服务(Serving)能力于一体,适合实时数据分析和决策支持场景。2.兼容PostgreSQL协议:Hologres支持标准SQL(兼容PostgreSQL协议和语法),使得迁移和集成变得简单。3.海量数据处理能力:能够处理PB级数据的多维分析和即席查询,支持高并发低延迟查询。4.实时性:支持数据的实时写入、实时更新和实时分析,满足对数据新鲜度要求高的业务场景。5.与大数据生态集成:与MaxCompute、Flink、DataWorks等阿里云产品深度融合,提供离在线
|
4月前
|
存储 数据挖掘 BI
数据仓库深度解析与实时数仓应用案例探析
随着数据量的不断增长和数据应用的广泛深入,数据治理和隐私保护将成为数据仓库建设的重要议题。企业需要建立完善的数据治理体系,确保数据的准确性、一致性和完整性;同时加强隐私保护机制建设,确保敏感数据的安全性和合规性。
460 55
|
6月前
|
SQL Cloud Native 数据挖掘
云原生数据仓库产品使用合集之在使用 ADB 进行数据分析处理时,出现分区倾斜的情况,如何解决
阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。
|
3月前
|
存储 分布式计算 监控
实时数仓 Hologres产品使用合集之如何实现弱感知或无感知升级
实时数仓Hologres是阿里云推出的一款高性能、实时分析的数据库服务,专为大数据分析和复杂查询场景设计。使用Hologres,企业能够打破传统数据仓库的延迟瓶颈,实现数据到决策的无缝衔接,加速业务创新和响应速度。以下是Hologres产品的一些典型使用场景合集。
|
4月前
|
SQL Cloud Native 关系型数据库
云原生数据仓库使用问题之分组优化如何实现
阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。
|
5月前
|
DataWorks 安全 数据库
DataWorks产品使用合集之简单模式下,如何实现数仓分层
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
84 3
|
数据采集 运维 DataWorks
客户案例:数仓规范化-菜鸟数据模型管理实践(一)| 学习笔记
快速学习客户案例:数仓规范化-菜鸟数据模型管理实践。
555 0
客户案例:数仓规范化-菜鸟数据模型管理实践(一)| 学习笔记
|
存储 分布式计算 大数据
二、【计算】流|批|OLAP一体 的Fllink引擎 (上)| 青训营笔记
二、【计算】流|批|OLAP一体 的Fllink引擎 (上)| 青训营笔记
二、【计算】流|批|OLAP一体 的Fllink引擎 (上)| 青训营笔记
|
SQL 数据采集 存储
客户案例:数仓规范化-菜鸟数据模型管理实践(三)| 学习笔记
快速学习客户案例:数仓规范化-菜鸟数据模型管理实践。
279 0
客户案例:数仓规范化-菜鸟数据模型管理实践(三)| 学习笔记
|
数据采集 自然语言处理 分布式计算
客户案例:数仓规范化-菜鸟数据模型管理实践(二)| 学习笔记
快速学习客户案例:数仓规范化-菜鸟数据模型管理实践。
344 0
客户案例:数仓规范化-菜鸟数据模型管理实践(二)| 学习笔记