PostgreSQL Daily Maintenance - Timing Tasks

本文涉及的产品
云原生数据库 PolarDB MySQL 版,通用型 2核8GB 50GB
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
简介:
定时任务管理 : 
PostgreSQL 定时任务可以通过操作系统的定时任务功能来实现, 例如Linux 的crontab. 
也可以通过pgagent插件来实现.
pgagent的调度信息存储在PostgreSQL数据库的postgres库中, 可以通过pgadmin可以在图形化界面来配置调度表.
pgagent是一个后台进程, 时刻读取配置好的调度信息, 根据调度信息执行job, 并记录执行日志.
一般来说建议将pgagent安装在本地数据库服务器中, 调度信息也存放在本地数据库的postgres库中, 那么在执行job时, pgagent连接本地数据库即可. 否则的话还需要配置目标库的密码, 建议用.pgpass来配置, 如果配置在命令行中容易被ps进程发现.
pgagent的安装 : 
首先下载pgagent : 
阅读README, 编译pgagent需要先安装以下软件 :
- A C/C++ compiler, such as GCC or Microsoft Visual C++ on Windows.
- CMake 2.6 (from www.cmake.org)
- A wxWidgets 2.8.x installation, configured per the requirements for
  pgAdmin:
  http://git.postgresql.org/gitweb/?p=pgadmin3.git;a=blob_plain;f=INSTALL;hb=HEAD
- A PostgreSQL 8.3 or higher installation


安装gcc
rpm -ivh gcc-4.1.2-51.el5

安装cmake
tar -zxvf cmake-2.8.8.tar.gz
cd cmake-2.8.8
./bootstrap --prefix=/opt/cmake2.8.8
gmake
gmake install
安装好后将cmake的bin目录放到PATH变量.
vi ~/.bash_profile
export PATH=/opt/cmake2.8.8/bin:$PATH
. ~/.bash_profile

安装wxWidgets
wget http://prdownloads.sourceforge.net/wxwindows/wxGTK-2.8.12.tar.gz
tar -zxvf wxGTK-2.8.12.tar.gz
cd wxGTK-2.8.12
./configure --enable-shared=no --enable-unicode=yes --prefix=/opt/wxGTK-2.8.12
make
make install
将bin加入PATH
vi ~/.bash_profile
export PATH=/opt/wxGTK-2.8.12/bin:$PATH
export LD_LIBRARY_PATH=/opt/wxGTK-2.8.12/lib:$LD_LIBRARY_PATH
. ~/.bash_profile

安装PostgreSQL, 略.
将pg_config加入PATH
vi ~/.bash_profile
export PATH=/opt/pgsql9.3/bin:$PATH
. ~/.bash_profile

安装pgagent
tar -zxvf pgagent-d6c5a80.tar.gz
cd pgagent-d6c5a80
ccmake ./
生成配置
 CMAKE_BUILD_TYPE                                                                                                                  
 CMAKE_INSTALL_PREFIX             修改为此项 /opt/pgagent                                                                                     
 PG_CONFIG_PATH                   /opt/pgsql9.3/bin/pg_config                                                                      
 STATIC_BUILD                     ON                                                                                               
 WX_CONFIG_PATH                   /opt/wxGTK-2.8.12/bin/wx-config                                                                  
 WX_DEBUG                         OFF
按c配置,然后按g产生配置
接下来就可以编译安装了
make
make install
配置.bash_profile
vi ~/.bash_profile
export PATH=/opt/pgagent/bin:$PATH
. ~/.bash_profile

在本地库的postgres库中创建调度信息, 表, 函数 : 
psql -h 127.0.0.1 -p 1999 -U postgres -d postgres -f /opt/pgagent/share/pgagent.sql

安装好后, 使用pgadmin连接到本地库就可以看到jobs选项 : 
PostgreSQL Daily Maintenance - Timing Tasks - 德哥@Digoal - PostgreSQL
 
pgagent配置举例
启动pgagent.
pgagent是一个后台进程, 时刻要去读取存储在数据库中的调度信息以执行定时任务. 所以首先要启动pgagent.
[root@db-172-16-3-33 ~]# pgagent --help
Usage:
pgagent [options] <connect-string>
options:
-f run in the foreground (do not detach from the terminal)
-t <poll time interval in seconds (default 10)>
-r <retry period after connection abort in seconds (>=10, default 30)>
-s <log file (messages are logged to STDOUT if not specified>
-l <logging verbosity (ERROR=0, WARNING=1, DEBUG=2, default 0)>

例如, -t 1表示每秒读取一次调度数据 : 
pgagent -t 1 -l 2 -s /var/log/pgagent.log hostaddr=127.0.0.1 port=1999 dbname=postgres user=postgres
不要把password配置在命令行中, 尽量配置在密码文件中 : 
vi ~/.pgpass
127.0.0.1:1999:postgres:postgres:postgres
chmod 400 ~/.pgpass

启动好pgagent后就可以配置job了.

案例1 : 
需求 : 在本地数据库中定时执行sql
job配置
1. 在pgadmin的jobs上右键新建job.
2. 在属性栏配置job name, 例如j1.
3. 在steps中新建并配置step name, 本地库名;
在定义栏配置要执行的sql :
create table if not exists test_sum(sdate date, cnt int8);
insert into test_sum select current_date,count(*) from pg_class group by current_date;

可以配置多个step, 执行时按名称以及step id排序执行 : 
// job.cpp - pgAgent job

int Job::Execute()
{
        int rc = 0;
        bool succeeded = false;
        DBresult *steps = threadConn->Execute(
                              wxT("SELECT * ")
                              wxT("  FROM pgagent.pga_jobstep ")
                              wxT(" WHERE jstenabled ")
                              wxT("   AND jstjobid=") + jobid +
                              wxT(" ORDER BY jstname, jstid"));

4. 在schedule栏中 新建并 配置调度名, 开始时间, 如果有结束时间的话还需要配置结束时间.
days中可以配置周, 月, 日
times中可以配置小时, 分钟.
exceptions中配置排他.
配置完后, 在steps以及jos的统计信息栏可以看到每次JOB或者step执行的情况.

案例2 : 
需求 : 定时执行脚本(batch)
脚本配置
[root@db-172-16-3-33 ~]# cat /root/b.sh
#!/bin/bash
psql -h 127.0.0.1 -p 1999 -U postgres postgres <<EOF
create table if not exists t(id int);
insert into t values (1);
EOF
exit $?
chmod 500 b.sh

以上假设pgagent是以root用户执行的. 否则要考虑脚本的可执行权限.
job配置, 同上
schedule 配置, 同上
step 配置, 选择batch, 不需要选择数据库. 定义中输入/root/b.sh .其他同上.

案例3 : 
需求 : 在远程数据库中定时执行SQL
job配置, 同上.
schedule 配置, 同上.
step 配置, 需要输入远程数据库的连接信息. 密码配置在conn string中. 所以不安全.
例如 :
hostaddr=172.16.3.150 port=1000 user=postgres dbname=postgres password=pwd

这里支持.pgpass. 所以建议不要使用远程定时任务.
连接信息参考 : 

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍如何基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
关系型数据库 Java 数据库
|
存储 索引 关系型数据库
|
5月前
|
存储 关系型数据库 测试技术
拯救海量数据:PostgreSQL分区表性能优化实战手册(附压测对比)
本文深入解析PostgreSQL分区表的核心原理与优化策略,涵盖性能痛点、实战案例及压测对比。首先阐述分区表作为继承表+路由规则的逻辑封装,分析分区裁剪失效、全局索引膨胀和VACUUM堆积三大性能杀手,并通过电商订单表崩溃事件说明旧分区维护的重要性。接着提出四维设计法优化分区策略,包括时间范围分区黄金法则与自动化维护体系。同时对比局部索引与全局索引性能,展示后者在特定场景下的优势。进一步探讨并行查询优化、冷热数据分层存储及故障复盘,解决分区锁竞争问题。
679 2
|
关系型数据库 分布式数据库 PolarDB
|
关系型数据库 分布式数据库 数据库
|
关系型数据库 分布式数据库 PolarDB
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
555 0
|
存储 缓存 关系型数据库
|
存储 SQL 并行计算
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍(中)
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍
640 0
|
存储 算法 安全
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍(下)
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍
565 0

热门文章

最新文章

推荐镜像

更多