PostgreSQL+Citus分布式数据库

本文涉及的产品
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
云原生数据库 PolarDB MySQL 版,通用型 2核4GB 50GB
简介: PostgreSQL+Citus分布式数据库
  1. 概述
    Citus是基于PostgreSQL插件实现的一款开源分布式数据库,它允许数据库服务器(称为节点)在“无共享”架构中相互协调。这些节点形成一个集群,允许PostgreSQL保存更多数据并使用比单台计算机更多的CPU内核。这种架构还允许通过简单地向集群添加更多节点来扩展数据库。

  2. 前期准备
    规划4台机器
    coordinator节点 192.168.10.200
    worker节点1 192.168.10.201
    worker节点2 192.168.10.202
    worker节点3 192.168.10.203

  3. 安装 PostGreSQL
    3.1 创建用户
    useradd postgres
    passwd postgres
    su – postgres
    接下来所有操作均在 postgres 用户下执行

3.2 创建相对应路径
mkdir /home/postgres/postgesql #创建 postgresql 安装路径
mkdir /home/postgres/data #创建数据存放路径
mkdir /home/postgres/log #创建日志存放路径
3.3 安装 postgresql
tar zxvf postgresql-12.3.tar.gz
cd postgresql-12.3
./configure --prefix=/home/postgres/postgresql --with-pgport=5432 --without-zlib
–with-pgport:指定实例端口为 5432
–without-zlib:不使用 zlib 库包,为了防止服务器缺少这些库包;
注:若在编译 postgresql 时提示缺少 readline 的包,需要从镜像安装 readline,readline-devel和curl-devel相关包。

make && make install
安装 pg_stat_statements

cd /home/postgres/postgresql-12.3/contrib/pg_stat_statements
make && make install

  1. 安装 Citus 组件
    安装 citus

tar zxvf citus-9.5.0.tar.gz
cd citus-9.5.0
./configure PG_CONFIG=/home/postgres/postgresql/bin/pg_config
注:若在编译 citus 时提示缺少 libcurl 包,需要从在线或者下载 curl-devel 包并安装

make && make install

  1. 配置 PostGreSQL 和 Citus
    初始化数据目录(即初始化实例)

/home/postgres/postgresql/bin/initdb -D /home/postgres/data/postgresql –W
注:-W 表示使用当前用户做数据库用户

参数配置(数据库实例参数配置)
配置 postgresql.auto.conf:
编辑 postgresql.auto.conf 配置文件,加入如下内容:

listen_addresses = '*'
port = '5432'
max_connections = '2000'
shared_buffers = '96GB'
default_text_search_config = 'pg_catalog.english'
shared_preload_libraries = 'citus,pg_stat_statements'
citus.replication_model = 'streaming'
配置 pg_hba.conf:

vi /home/postgres/data/postgresql/pg_hba.conf
添加以下内容:

host all all 0.0.0.0/0 trust

  1. 启动服务
    启动 postgresql 服务

/home/postgres/postgresql/bin/pg_ctl -D /home/postgres/data/postgresql -l/home/postgres/log/postgresql/postgresql.log start &

  1. 安装插件
    7.1 创建extention
    /home/postgres/postgresql/bin/psql -p5432 –Upostgres postgrespostgres

    create extension citus; postgres=# create extension pg_stat_statements;

    备注:以上操作每个节点都执行

给每个 worker 节点添加双实例(只在3台worker节点操作)

7.2 初始化双实例数据目录
在每个 worker 节点分别执行以下命令:

/home/postgres/postgresql/bin/initdb -D /home/postgres/data/postgresql2 –W
将 5432 实例的 postgresql.auto.conf 和 pg_hba.conf 文件拷贝并替换 postgresql2 目录下的文件:

cp /home/postgres/data/postgresql/postgresql.auto.conf /home/postgres/data/postgresql2/
cp /home/postgres/data/postgresql/pg_hba.conf /home/postgres/data/postgresql2/
vi /home/postgres/data/postgresql2/postgres.auto.conf
将端口号改成 5433(port = 5433),保存并退出;

7.3 启动 postgresql 服务
/home/postgres/postgresql/bin/pg_ctl -D /home/postgres/data/postgresql2/ -l/home/postgres/log/postgresql2/postgresql.log start &
7.4 安装插件
/home/postgres/postgresql/bin/psql -p5433 –Upostgres postgres
postgres=# create extension citus; postgres=# create extension pg_stat_statements;

  1. 连接测试
    8.1 连接测试
    所有服务器执行以下步骤:

systemctl stop firewalld
systemctl disable firewalld
/home/postgres/postgresql/bin/psql –h192.168.10.201 -p5432 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.202 -p5432 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.201 -p5433 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.203 -p5432 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.202 -p5433 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.200 -p5432 –Upostgres postgres
/home/postgres/postgresql/bin/psql –h192.168.10.203 -p5433 –Upostgres postgres
8.2 citus 主服务器(coordinator)添加数据节点(worker)
在 citus 主服务器(coordinator,即 192.168.10.200)执行以下操作:

/home/postgres/postgresql/bin/psql -p5432 –Upostgres postgres
postgres=# SELECT from master_add_node('192.168.10.203',5432);
postgres=# SELECT
from master_add_node('192.168.10.203',5433);
postgres=# SELECT from master_add_node('192.168.10.202',5432);
postgres=# SELECT
from master_add_node('192.168.10.202',5433); postgres=# SELECT from master_add_node('192.168.10.201',5432);
postgres=# SELECT
from master_add_node('192.168.10.201',5433);
8.3 查看是否添加成功
postgres=# SELECT * FROM master_get_active_worker_nodes();

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
2月前
|
SQL 关系型数据库 MySQL
乐观锁在分布式数据库中如何与事务隔离级别结合使用
乐观锁在分布式数据库中如何与事务隔离级别结合使用
|
6天前
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL的数据库集群
PostgreSQL的逻辑存储结构涵盖了数据库集群、数据库、表、索引、视图等对象,每个对象都有唯一的oid标识。数据库集群是由单个PostgreSQL实例管理的所有数据库集合,共享同一配置和资源。集群的数据存储在一个称为数据目录的单一目录中,可通过-D选项或PGDATA环境变量指定。
|
28天前
|
SQL 关系型数据库 数据库
PostgreSQL性能飙升的秘密:这几个调优技巧让你的数据库查询速度翻倍!
【10月更文挑战第25天】本文介绍了几种有效提升 PostgreSQL 数据库查询效率的方法,包括索引优化、查询优化、配置优化和硬件优化。通过合理设计索引、编写高效 SQL 查询、调整配置参数和选择合适硬件,可以显著提高数据库性能。
152 1
|
1月前
|
存储 关系型数据库 MySQL
MySQL vs. PostgreSQL:选择适合你的开源数据库
在众多开源数据库中,MySQL和PostgreSQL无疑是最受欢迎的两个。它们都有着强大的功能、广泛的社区支持和丰富的生态系统。然而,它们在设计理念、性能特点、功能特性等方面存在着显著的差异。本文将从这三个方面对MySQL和PostgreSQL进行比较,以帮助您选择更适合您需求的开源数据库。
113 4
|
2月前
|
SQL 关系型数据库 分布式数据库
Citus 简介,将 Postgres 转换为分布式数据库
【10月更文挑战第4天】Citus 简介,将 Postgres 转换为分布式数据库
88 4
|
2月前
|
SQL NoSQL MongoDB
一款基于分布式文件存储的数据库MongoDB的介绍及基本使用教程
一款基于分布式文件存储的数据库MongoDB的介绍及基本使用教程
46 0
|
关系型数据库 分布式数据库 PolarDB
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
365 0
|
存储 缓存 关系型数据库
|
存储 SQL 并行计算
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍(中)
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍
424 0
|
存储 算法 安全
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍(下)
PolarDB for PostgreSQL 开源必读手册-开源PolarDB for PostgreSQL架构介绍
384 0