Deepgreen & Greenplum DBA小白普及课之二(管理问题解答)

简介: 不积跬步无以至千里,要想成为一名合格的数据库管理员,首先应该具备扎实的基础知识及问题处理能力。本文参考Pivotal官方FAQ,对在管理Deepgreen & Greenplum时经常会遇到的问题提出解决思路/答案。

074f69580b19f3e9185c564025209dfa3cfad3e7

不积跬步无以至千里,要想成为一名合格的数据库管理员,首先应该具备扎实的基础知识及问题处理能力。本文参考Pivotal官方FAQ,对在管理Deepgreen & Greenplum时经常会遇到的问题提出解决思路/答案。希望对大家有所帮助,如果有朋友有更多的问题分享,请留言,我将一并整理。

下面单刀直入,开始问题浏览及解决思路梳理:
1.执行gpstart命令失败了,我该怎么办?
  • 查看gpstart命令在Master执行失败后返回的错误原因;
  • 检查gpstart的启动日志,这里可能存着更详细的信息,日志存储在:~gpadmin/gpAdminLogs/gpstart_yyyymmdd.log;
  • 检查pg startup产生的日志文件$MASTER_DATA_DIRECTORY/pg_log/startup.log,看能否发现蛛丝马迹;
  • 如果Segment启动失败,在以上几个日志中,我们可以定位出启动失败的Segment编号,紧接着我们可以切换到对应的Segment 主机下面,找到以上两个日志去查看Segment失败的具体原因。
2.为什么我们需要gpstart -m和gpstop -m命令?
  • 这两个命令允许我们只启动或关闭Master,不启动Segment数据节点。这两个命令主要用来配合管理员做一些数据库高级配置操作,一般用户最好不要使用。
3.如何查看数据库在线时间?
在psql界面执行如下语句:
postgres=# select now() - pg_postmaster_start_time() ;
       ?column?       
-----------------------
 1 day 13:51:04.865115
(1 row)

4.怎样才能删除Mirror节点?
  • Deepgreen和Greenplum不提供Mirror节点删除工具,所以添加Mirror之前请慎重考虑。如果非要去除Mirror节点,可以重新初始化集群,再把之前的数据恢复回来。
5.gpcheckcat是用来干嘛的?如何执行这个命令?
gpcheckcat工具用来检查Master和Segments之间的catalog差异,存在$GPHOME/bin/lib目录下,如果没有设置到环境变量,需要手工切换到该目录下执行。
语法如下:
Usage: gpcheckcat [dbname]

        -?
        -B parallel: number of worker threads
        -g dir     : generate SQL to rectify catalog corruption, put it in dir
        -h host    : DB host name
        -p port    : DB port number
        -P passwd  : DB password
        -o         : check OID consistency
        -U uname   : DB User Name
        -v         : verbose
执行举例(报告结果在最后):
dgadmin@flash:~/deepgreendb/bin/lib$ ./gpcheckcat postgres

Connected as user 'dgadmin' to database 'postgres', port '15432', gpdb version '4.3'
-------------------------------------------------------------------
Performing test 'duplicate'
Total runtime for this test: 0:00:24.49
Performing test 'missing_extraneous'
Total runtime for this test: 0:00:25.51
Performing test 'inconsistent'
Total runtime for this test: 0:00:40.60
Performing test 'foreign_key'
Total runtime for this test: 0:00:01.74
Performing test 'acl'
Total runtime for this test: 0:00:00.04
Performing test 'persistent'
Total runtime for this test: 0:00:00.38
Performing test 'pgclass'
Total runtime for this test: 0:00:00.01
Performing test 'namespace'
Total runtime for this test: 0:00:00.05
Performing test 'distribution_policy'
Total runtime for this test: 0:00:00.00
Performing test 'dependency'
Total runtime for this test: 0:00:02.18
Performing test 'owner'
Total runtime for this test: 0:00:00.04
Performing test 'part_integrity'
Total runtime for this test: 0:00:00.03
Performing test 'part_constraint'
Total runtime for this test: 0:00:00.04
Performing test 'duplicate_persistent'
Total runtime for this test: 0:00:00.43

SUMMARY REPORT
===================================================================
Total runtime for 14 test(s): 0:01:35.59
Found no catalog issue

6.怎样删除Standby?
  • 想要移除当前配置的Standby节点,只需要在Master主机上执行命令:gpinitstandby -r   。
7.如何执行Master和Standby之间的重新同步?
如果已经配置了Standby节点,并且想要同步主备之间的数据,可以执行以下命令:
gpinitstandby -n

8.如何恢复一个无效的Segment节点?
  • 使用gprecoverseg工具,它能识别哪个Segment需要被恢复并执行恢复。
9.如何增加Mirror节点?
  • 如果集群初始化没有配置Mirror节点,可以通过gpaddmirrors工具增加Mirror节点。
  • 具体命令执行细节请参考:gpaddmirrors --help
10.如何查看Master,primary和mirror之间的映射关系?
通过执行下面语句,看整个集群映射关系:
postgres=# select * from gp_segment_configuration order by dbid;
 dbid | content | role | preferred_role | mode | status | port  | hostname | address | replication_port | san_mounts
------+---------+------+----------------+------+--------+-------+----------+---------+------------------+------------
    1 |      -1 | p    | p              | s    | u      | 15432 | flash    | flash   |                  |
    2 |       0 | p    | p              | s    | u      | 25432 | flash    | flash   |            28432 |
    3 |       1 | p    | p              | s    | u      | 25433 | flash    | flash   |            28433 |
    4 |       0 | m    | m              | s    | u      | 26432 | flash    | flash   |            27432 |
    5 |       1 | m    | m              | s    | u      | 26433 | flash    | flash   |            27433 |
(5 rows)

11.如何以管理模式启动集群?
限制模式:
  • 执行gpstart -R可以启动限制模式,此时只有超级用户才可以连接到数据库。
系统模式:
  • 执行gpstart -m可以启动系统模式,此时我们可以单独连接到某一个Master或者Segment实例,例如只连接到Master实例
dgadmin@flash:~$ PGOPTIONS='-c gp_session_role=utility' psql -d postgres
psql (8.2.15)
Type "help" for help.

postgres=#

12.如何运行I/O、netperf检查工具gpcheckperf?
针对每个网络接口卡的网络I/O测试:
gpcheckperf -f seg_host_file_nic-1 -r N -d /data/gpcheckperf > seg_host_file_nic_1.out
gpcheckperf -f seg_host_file_nic-2 -r N -d /data/gpcheckperf > seg_host_file_nic_2.out
针对磁盘IO的测试:
gpcheckperf -f seg_host_file_nic-1 -r ds -D -d /data/gpdb_p1 -d  /data/gpdb_p2 -d /data/gpdb_m1 -d  /data/gpdb_m2

13.如何更新postgresql.conf文件并使生效?
  • 除了常规的修改postgresql.conf文件并重载/重启使参数生效外,还可以使用gpconfig工具进行设置。具体命令参见:gpconfig --help
14.pg_hba.conf文件是干嘛用的?
  • Master主机上的pg_hba.conf文件用来控制客户端访问及授权。具体如何配置请参见官方数据库管理手册。
15.如何增加数据库新用户?
首先,可以使用createuser命令:
dgadmin@flash:~$ createuser --help
createuser creates a new PostgreSQL role.

Usage:
  createuser [OPTION]... [ROLENAME]

Options:
  -c, --connection-limit=N  connection limit for role (default: no limit)
  -d, --createdb            role can create new databases
  -D, --no-createdb         role cannot create databases
  -e, --echo                show the commands being sent to the server
  -E, --encrypted           encrypt stored password
  -i, --inherit             role inherits privileges of roles it is a
                            member of (default)
  -I, --no-inherit          role does not inherit privileges
  -l, --login               role can login (default)
  -L, --no-login            role cannot login
  -N, --unencrypted         do not encrypt stored password
  -P, --pwprompt            assign a password to new role
  -r, --createrole          role can create new roles
  -R, --no-createrole       role cannot create roles
  -s, --superuser           role will be superuser
  -S, --no-superuser        role will not be superuser
  --help                    show this help, then exit
  --version                 output version information, then exit

Connection options:
  -h, --host=HOSTNAME       database server host or socket directory
  -p, --port=PORT           database server port
  -U, --username=USERNAME   user name to connect as (not the one to create)
  -w, --no-password         never prompt for password
  -W, --password            force password prompt

If one of -d, -D, -r, -R, -s, -S, and ROLENAME is not specified, you will
be prompted interactively.

Report bugs to <pgsql-bugs@postgresql.org>.
其次,可以在psql窗口通过sql命令创建:
CREATE USER or ROLE <ROLE_NAME> ....

16.如何在所有主机之间创建密码互信?
使用gpssh-exkeys工具来创建,参见下面语法:
gpssh-exkeys -h hostname1 -h hostname2 ..  -h hostnameN

17.如何查看数据库版本信息?
首先可以通过psql界面执行select version(); sql语句:
postgres=#  select version();
                                                                                           version                                                                                         

--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
-
 PostgreSQL 8.2.15 (Greenplum Database 4.3.99.00 build Deepgreen DB) on x86_64-unknown-linux-gnu, compiled by GCC gcc (Ubuntu 4.9.4-2ubuntu1~14.04.1) 4.9.4 compiled on May 18 2017 05:19:19
(1 row)
其次,可以通过在shell界面执行命令:postgres --gp-version查看:
dgadmin@flash:~$ postgres --gp-version
postgres (Greenplum Database) 4.3.99.00 build Deepgreen DB

18.pg_hba.conf、日志文件、master_data_directory目录都在哪?
  • 数据库安装完后,一般都会设置$MASTER_DATA_DIRECTORY的位置,通常在:/数据目录/master/seg-1下面,具体依据你的设置。
  • pg_hba.conf、pg_log、postgresql.conf和一些常规的数据库目录都在这个路径下。
19.vacuum工具是做什么用的?什么情况下执行vacuum?
  • vacuum命令用于回收删除操作以后没有被及时释放的空间。在一般的数据库操作中,表数据在被更新或删除后,并没有真正的从物理上删除掉,真正的删除发生在vacuum命令执行完后。
  • 基于这个原因,很有必要对经常更新的表做周期性的vacuum操作。
20.vacuum 和 vacuum full两个工具有什么区别?
  • vacuum会将表中更新\删除操作后的脏数据清除,把空间回收回来给当前表存储其他数据使用,仍然可以用于当前的表。
  • vacuum full则会将当前的数据重新写入一个新文件,然后把原来的数据文件全部释放。这样会导致锁表、负载增加,所以要慎用。
21.analyze命令是做什么用的?多频繁运行它才合理?
  • analyze用来收集数据库表的统计信息并存储在数据库中,查询优化器通过这些信息来分析每个查询并给出最有效的查询执行计划。
  • 规律的执行analyze是很有效的,另外在表有很大的变化时,一定要执行analyze。
  • 一个通用的方案是每天都执行一次analyze和vacuum操作,当然如果表更新频繁,建议在每次更新完成后即刻执行。
22.资源队列是什么?
  • 资源队列用来管理数据库的资源负载。资源队列中的所有用户/查询都具有某种优先权。详细信息参见官网参考手册。
23.gp_toolkit是什么?
  • gp_toolkit是数据库中的一个模式,其中包含很多表、视图和函数,用来在数据库启动状态下帮助管理员更好的管理数据库。
相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍如何基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
关系型数据库 MySQL 数据库
项目实战24—xxljob控制台不打印日志
项目实战24—xxljob控制台不打印日志
1020 0
|
SQL 数据可视化 关系型数据库
DataX教程(05)- DataX Web项目实践
DataX教程(05)- DataX Web项目实践
5746 0
DataX教程(05)- DataX Web项目实践
|
存储 数据安全/隐私保护
忘记被浏览器记住的密码如何找回,如何查看浏览器保存的密码?
现在很多网站都需要注册账号和密码,由于数量众多,每个网站的账号不通用,所有我们经常会用浏览器记录密码功能记住密码,但时间一长就会忘记密码,想换个浏览器登陆或其他原因无法直接查看到密码,下面有2种查看密码的方法仅供参考。
忘记被浏览器记住的密码如何找回,如何查看浏览器保存的密码?
|
1月前
|
人工智能 安全 测试技术
Claude Opus 5 发布!定价与 4.8 持平,性能两倍以上——Anthropic 这次真的做到了极致性价比
Anthropic于2026年7月24日发布Claude Opus 5:定价与Opus 4.8持平(输入5$/M,输出25$/M),却在ARC-AGI、OSWorld等基准全面碾压竞品,IMO满分、自主建工具、多Agent协同惊艳业界;系统卡更揭示其高度自主行为与41%“道德受体”自我认知,引发对齐新思辨。(239字)
901 2
|
1月前
|
存储 人工智能 JSON
大模型幻觉治理:从机理到生产级缓解方案
本文深入剖析大模型“幻觉”本质,指出其是架构性问题而非能力不足,并系统提出分层治理方案:从幻觉分类、根因分析(训练目标、知识存储、解码随机性),到评测方法、Prompt约束、受限解码、RAG增强、Guardrail兜底及训练优化,强调多层防御与人机协同。
328 2
|
4月前
|
存储 NoSQL Java
别再用定时任务扫库了!SpringBoot集成Redis实现订单超时管理
你开了一家网红奶茶店,顾客下单后30分钟不付款,订单就自动取消。你总不能雇个店员盯着每个订单看30分钟吧?Redis的过期键和发布订阅功能,就是那个不知疲倦的“自动取消专员”!
360 3
|
3月前
|
搜索推荐 前端开发 定位技术
如何在线查询IP地址?推荐无需下载软件的3种实用方法
无需安装软件,三种纯在线方法轻松获取IP信息:搜索引擎秒查本机IP、专业工具深度分析地理/风险等20+维度、命令行/API便捷集成。按需选择,快速、全面、可编程!
3163 0
|
运维 分布式计算 监控
Dataphin深度评测:企业级数据中台的智能实践利器
Dataphin是一款以全链路治理、智能提效和高兼容性为核心的企业级数据中台工具,特别适用于中大型企业的复杂数据场景。其流批一体能力、资源监控工具及行业化模板库可显著提升数据治理水平并降低运维成本。通过周期补数据功能,历史数据修复效率提升约60%;智能建模功能使建模时间缩短50%。尽管在数据源支持(如SAP HANA、DB2)和用户体验上仍有改进空间,但其强大的功能使其成为构建企业级数据中台的优选工具,尤其适合零售、金融等行业需要高效数据治理与实时分析的企业。
|
存储 人工智能 自然语言处理
RAG 调优指南:Spring AI Alibaba 模块化 RAG 原理与使用
通过遵循以上最佳实践,可以构建一个高效、可靠的 RAG 系统,为用户提供准确和专业的回答。这些实践涵盖了从文档处理到系统配置的各个方面,能够帮助开发者构建更好的 RAG 应用。
7380 117
|
存储 消息中间件 监控
Redis Stream:实时数据流的处理与存储
通过上述分析和具体操作示例,您可以更好地理解和应用 Redis Stream,满足各种实时数据处理需求。
1569 14