入门GreenPlum

简介: 一文了解GreenPlum

一、数据存储方式

关于数据库的数据存储方式一般分为行存储和列存储。

行式数据库是按照行存储的,行存储就是各行放入连续的物理位置,就行我们平时写字一样,一行一行的写,读取的时候也是一行一行的读取。像SQL server,Oracle,mysql等传统的关系型数据库都属于行式数据库范畴。

列式数据库是按照列存储的,列存储是把多行数据的每一列按照列存储在磁盘,就像一把数据写入excel表格中,每次按照列读取数据,像Vertica,GreenPlum,HBase(HBase其实不是真正的列式数据库,是按照列簇存储的)。

二、GreenPlum架构


massively parallel processing 简称MPP,即无共享、大规模并行处理。

MPP架构有如下特点: 

Share Nothing节点之间数据不共享,只有通过网络连接实现的协同,每个节点有独立的存储和内存。 

数据根据某种规则(如Hash)散布到各个节点 

计算任务也是会发布到各个节点并行执行,最后再将结果聚合到整体返回 

用户使用时会看做整体

Greenplum 数据库软件将数据平均分布到系统的所有节点服务器上,所以节点存储每张表或表分区的部分行,所有数据加载和查询都是自动在各个节点服务器上并行运行,并且该架构支持扩展到上万个节点。

三、GreenPlum权限体系管理

我们前面已经说了,GPDB是一个数据库,数据库都有什么特性呢?都能做什么呢?熟悉MySQL,Oracle的同学可能就比较清楚关系型数据库的管理,下面我们就来说下GPDB的一些管理和常用操作。

数据库常用操作分为:创建数据库、创建schema、创建资源池、创建角色、创建用户、创建表。下面我们一一来说下GPDB这些常用操作,和关系型数据库MYSQL有什么不同呢?

  • 创建数据库
gp_sydb=# CREATE DATABASE GPTEST;

你也可以通过 createdb 创建数据库

 [gpadmin@mpp01 ~]$ createdb -h mpp01 -p 5432 GPTEST 

查看创建的数据库

gp_sydb=# \l
  • 删除数据库
gp_sydb=# DROP DATABASE GPTEST;
  • 创建schema
GPTEST=# CREATE SCHEMA bdp;

查看schema

GPTEST=# \dn

查看当前的schema

GPTEST=# SELECT current_schema();

可以看到当前schema是public,这是创建用户的时候,我们没有给它分配schema,那就是用默认的schema public。

把新建的schema赋给数据库gptest

gptest=# \dn

可以看到赋了新的schema。

  • 创建角色

创建角色,如果有很多用户对于一批表都有一样的权限,这时候可以创建一个角色,把这些权限先赋给角色,然后把角色赋权给各个用户。

gptest=# create role selectbdp;

可以看到角色已经创建成功。
赋权角色。

gptest=# grant selectbdp to gpadmin;     

角色其实就是一个用户组。

  • 创建用户
gptest=# create user bdp01 WITH PASSWORD 'passwd123';

使用用户登录:

 psql -Ubdp01 -d gptest -w 'passwd123'

发现报错了……

[gpadmin@mpp01 gpseg-1]$ psql -Ubdp01 -d gptest -w 'passwd123'

GPDB登录需要在pg_hba.conf文件中添加信任的用户。

local    all         bdp01      trust

添加后,使配置文件生效,再次登录就可以了。

[gpadmin@mpp01 gpseg-1]$ psql -Ubdp01 -d gptest -w 'passwd123'
  •  创建资源队列

为什么要创建资源队列呢?我们知道一个数据库肯定不是给一个用户使用的,通常是有ETL用户,进行数据加载,数据清洗。还有WEB端用户进行查询,还有个人用户进行开发查询使用等等。这么多用户,如果不进行资源队列管控,那么就会出现资源争抢现象,影响线上应用功能。比如一个新手开发人员写了一个比较菜的查询语句,占用了大量资源,此时数据库的其他查询用户都需要排队等待了。再比如加载数据是需要使用大量资源,那么也会影响查询性能,以上你会发现,你需要把不同类型的操作进行资源隔离,这就是为什么要有资源队列了。

查看已有的资源队列:

gptest=> SELECT rolname, rsqname FROM pg_roles, gp_toolkit.gp_resqueue_status

创建一个新的资源队列

gptest=#  create resource queue load_queue with (active_statements=3,MEMORY_LIMIT='1024MB',PRIORITY=LOW);                                                 

把创建的资源队列赋权给刚才创建的用户bdp01

gptest=#  ALTER USER bdp01  resource queue load_queue;                                              

再次查询资源池分配情况

gptest=# SELECT rolname, rsqname FROM pg_roles, gp_toolkit.gp_resqueue_status                                                                             WHERE pg_roles.rolresqueue=gp_toolkit.gp_resqueue_status.queueid;

可以看到bpd01已经使用了新的资源池了。

四、GreenPlum分区表

分区是把一张大表按照适合的维度进行分割,通过表的继承,规则,约束实现。并不是每个表都适合分区,只有很大的表才适合分区,因为分区多了会增加表的元数据信息,特别是多级分区。

如果一个表被按照日和城市划分并且有1000个日以及1000个城市,那么分区的总数就是一百万。列存表会把每一列存在一个物理表中,因此如果这个表有100个列,系统就需要为该表管理一亿个文件。一方面Linux的iNode可能不会有这么大,就会出现文件查询报错等,分区过多了,对于数据库停止和恢复也会造成很大影响的。所以建立分区表的时候,对分区进行自动的创建和删除,以保障合适的数据周期很重要。

五、GreenPlum分布键

在MPP架构中,一个查询是需要从所有segment获取数据然后在master汇总得到结果的。那么这样,影响查询性能的就有两个问题,查询最慢的segment和网络带宽。分布键就是为了解决第一个问题,让数据尽可能均匀的分布在每个segment上,从而避免数据倾斜导致的查询效率问题。第二个网络问题,MPP数据集群搭建要求集群内部为万兆网连接,并且机器配置一样,从而避免影响。

所以分布键一般选择主键,比如手机号等。尽量让数据在集群各个节点分布均匀,提高查询效率。

相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
3月前
|
存储 JSON 关系型数据库
《Postgresql实战》笔记(二)
《Postgresql实战》笔记(二)
36 0
|
3月前
|
关系型数据库 网络安全 数据库
《Postgresql实战》笔记(一)
《Postgresql实战》笔记(一)
48 0
|
存储 SQL 缓存
PostgreSQL DirectIO开发实践
在数据库开源的背景下,基于PG的DirectIO的研发方案分享。
PostgreSQL DirectIO开发实践
|
存储 SQL 关系型数据库
阿里云 PostgreSQL_ 开发实践_6 | 学习笔记
简介:快速学习阿里云 PostgreSQL_ 开发实践_6
90 0
|
存储 SQL 监控
阿里云 PostgreSQL_开发实践_4 | 学习笔记
简介:快速学习阿里云 PostgreSQL_开发实践_4
127 0
阿里云 PostgreSQL_开发实践_4 | 学习笔记
|
关系型数据库 MySQL 数据挖掘
阿里云PostgreSQL_开发实践_5 | 学习笔记
简介:快速学习阿里云PostgreSQL_开发实践_5
310 0
阿里云PostgreSQL_开发实践_5 | 学习笔记
|
SQL 数据采集 算法
阿里云PostgreSQL_开发实践_1 | 学习笔记
简介:快速学习阿里云PostgreSQL_开发实践_1
133 1
阿里云PostgreSQL_开发实践_1 | 学习笔记
|
SQL 关系型数据库 网络安全
阿里云PostgreSQL_开发实践 | 学习笔记
简介:快速学习阿里云PostgreSQL_开发实践
164 0
阿里云PostgreSQL_开发实践 | 学习笔记
|
SQL 存储 Oracle
阿里云PostgreSQL_开发实践_3 | 学习笔记
简介:快速学习阿里云PostgreSQL_开发实践_3
94 0
阿里云PostgreSQL_开发实践_3 | 学习笔记
|
SQL 存储 NoSQL
Greenplum应用最佳实践
Greenplum分布式分析数据库 通用操作的最佳实践。持续更新
1269 0
Greenplum应用最佳实践