《CDP企业数据云平台从入门到实践》——CDP之操作型数据库(1)

简介: 《CDP企业数据云平台从入门到实践》——CDP之操作型数据库(1)


CDP 之操作型数据库


一、 什么是操作型数据库(OPDB)


1. 操作型数据库(OPDB)定义


Cloudera 操作型数据库(Operational Database)由 Apache HBase 和 Apache Phoenix 提供支持。Apache HBase 是一个 NoSQL 数据库,提供对大型数据集的实时读/写访问。Apache Phoenix 提供了一个 SQL 接口来管理 Apache HBase 中的数据。由Apache Accumulo 提供支持的操作数据库是 Apache Accumulo 的 Cloudera软件包。


Cloudera 操作型数据库提供实时、始终可用、可扩展的操作数据库,在统一的操作和仓储平台内为传统结构化数据和非结构化数据提供服务。


Cloudera 操作型数据库在企业数据生命周期中扮演着数据存储的关键角色。下图显示了典型的操作型数据库部署中的一些关键元素。

image.png

操作数据库具有以下组件:


• Apache Phoenix 提供了一个在 Apache HBase 之上运行的 SQL 接口。

• Apache HBase 为键值存储提供了巨大的可扩展性,因此您可以在单一平台中存储无限量的数据,并满足不断增长的数据服务需求。

• Apache ZooKeeper 提供分布式配置服务、同步服务和命名注册表。

• Apache Knox Gateway 提供外围安全性,以便企业可以放心地将访问权限扩展到新用户。

• Apache HDFS 用于编写 Apache HBase WAL。

• Hue 提供了一个基于 Web 的编辑器来创建和浏览 Apache HBase 表。

• Amazon S3和Microsoft ADLS Gen2等对象存储用于存储Apache HBase HFiles。

• CLoudera Shared Data Experience(SDX)用于安全和治理功能。安全和治理策略设置一次并应用于所有数据和工作负载。

• IDBroker 提供作为 Apache Knox 身份验证服务的一部分构建的身份验证机制。


它允许经过身份验证和授权的用户交换一组凭据或令牌以获取云供应商访问令牌。

操作型数据库的两个主要特性:


1) 快速灵活


Not-only-SQL 数据库能够每秒处理数百万个事务,支持:

• Schema 演变

• 多行事务

• 二级索引

• 时间旅行查询


2) 企业就绪


容错、开源、分布式数据库,可扩展到 PB 级,具有:


• 高可用性

• 批量加载、快照和复制

• 安全和角色管理

• 资源分配

• 混合部署


2. OPDB 应用场景


OPDB 支持的场景涉及制造、医疗保健、金融服务和其他行业,用户包括 Cerner、

智能手机制造商、财经媒体之家、保险供应商、图书馆服务供应商等。

image.png


3. OPDB 的组成


OPDB 由两部分组成:APACHE HBASE 和 PHOENIX。


1) APACHE HBASE:低成本、高扩展、云智能的大数据 NoSQL。

Apache HBase 数据库提供对数据的随机、持久访问。Apache HBase 非常适合需要为最终用户应用程序提供实时分析和表格数据的场景。


作为一个原生的非关系数据库,Apache HBase 可以组合使用各种结构和模式的数据源。HBase 专为弹性数据存储而设计,旨在托管具有稀疏数据的非常大的表。Apache HBase 可以托管大数据表,因为它可以线性扩展以处理非常大(PB 级)、面向列的数据集。数据存储基于支持分布式环境中低延迟读取、写入和更新的键值模型。


特性:


• 可靠、成熟的存储引擎

• 高扩展性:扩展到 PB

• 容错和弹性

• 支持快照和复制

• 带配额的资源管理

• 基于 Kerberos 和 Ranger 的安全性

• 时间旅行查询


缺点:


• 提供低级编程接口,对用户编程能力要求较高。

• 开发人员需要管理数据序列化,操作复杂度高。


2) PHOENIX:在 HBase 之上的一个 SQL 关系层


Apache Phoenix 是 Apache HBase 的 SQL 层,它提供了一个程序化的 ANSI SQL 接

口。


Apache Phoenix 实施最佳实践优化,使软件工程师能够开发基于 HBase 的下一代应用程序来操作大数据。使用 Phoenix,您可以使用 Phoenix 标准 JDBC API 以典型DDL/DML 语句的形式创建表并与之交互。


可以使用 Apache Phoenix SQL 命令来创建、删除或修改 Apache HBase 表。您还可以创建 Apache Phoenix 视图,这些视图是共享同一个 Apache HBase 表的虚拟表。


特性:

• 熟悉的 SQL 接口

• 支持类型的标准编码

• Schema 演变

• 多行事务

• 二级索引


《CDP企业数据云平台从入门到实践》——CDP之数据储存(2) https://developer.aliyun.com/article/1226409?spm=a2c6h.13148508.setting.14.12f54f0eNj6eW1



目录
相关文章
|
12月前
|
SQL 关系型数据库 数据库
Python SQLAlchemy模块:从入门到实战的数据库操作指南
免费提供Python+PyCharm编程环境,结合SQLAlchemy ORM框架详解数据库开发。涵盖连接配置、模型定义、CRUD操作、事务控制及Alembic迁移工具,以电商订单系统为例,深入讲解高并发场景下的性能优化与最佳实践,助你高效构建数据驱动应用。
1179 7
|
存储 JSON 关系型数据库
【干货满满】解密 API 数据解析:从 JSON 到数据库存储的完整流程
本文详解电商API开发中JSON数据解析与数据库存储的全流程,涵盖数据提取、清洗、转换及优化策略,结合Python实战代码与主流数据库方案,助开发者构建高效、可靠的数据处理管道。
|
存储 缓存 数据库
数据库数据删除策略:硬删除vs软删除的最佳实践指南
在项目开发中,“删除”操作常见但方式多样,主要分为硬删除与软删除。硬删除直接从数据库移除数据,操作简单、高效,但不可恢复;适用于临时或敏感数据。软删除通过标记字段保留数据,支持恢复和审计,但增加查询复杂度与数据量;适合需追踪历史或可恢复的场景。两者各有优劣,实际开发中常结合使用以满足不同需求。
1584 4
|
存储 数据管理 数据库
数据字典是什么?和数据库、数据仓库有什么关系?
在数据处理中,你是否常困惑于字段含义、指标计算或数据来源?数据字典正是解答这些问题的关键工具,它清晰定义数据的名称、类型、来源、计算方式等,服务于开发者、分析师和数据管理者。本文详解数据字典的定义、组成及其与数据库、数据仓库的关系,助你夯实数据基础。
数据字典是什么?和数据库、数据仓库有什么关系?
|
数据采集 关系型数据库 MySQL
python爬取数据存入数据库
Python爬虫结合Scrapy与SQLAlchemy,实现高效数据采集并存入MySQL/PostgreSQL/SQLite。通过ORM映射、连接池优化与批量提交,支持百万级数据高速写入,具备良好的可扩展性与稳定性。
|
人工智能 Java 关系型数据库
使用数据连接池进行数据库操作
使用数据连接池进行数据库操作
294 11
|
数据采集 数据库 Python
有哪些方法可以验证用户输入数据的格式是否符合数据库的要求?
有哪些方法可以验证用户输入数据的格式是否符合数据库的要求?
937 174
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
1169 0

热门文章

最新文章