【学习视频】第10期2017-PostgreSQL 应用场景实践 - 适合架构师与业务开发者

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
对象存储 OSS,20GB 3个月
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
简介: 大家好,这里是PostgreSQL 多应用场景实践 - 沙箱实验

背景


为了能够让用户可以更快的上手PostgreSQL,与云栖团队的小伙伴制作了一系列阿里云RDS PostgreSQL沙箱实验。

所有实验内容都结合了应用场景,非常具有代表性,兴趣性与一定的挑战性。

如果你想自己安装PG进行如下实践,可以参考安装文档,建议使用PG的最新稳定版(PG每一年会发布一个大版本,稳定GA):

《PostgreSQL 11 参数模板 - 珍藏级》

《PostgreSQL 10 + PostGIS + Sharding(pg_pathman) + MySQL(fdw外部表) on ECS 部署指南(适合新用户) - 珍藏级》

如果你想体系化的学习PG,可以参考:

《PostgreSQL 2天培训大纲》

以及

《PostgreSQL、Greenplum 《如来神掌》》

《阿里云 PostgreSQL 产品生态;案例、开发实践、管理实践、数据库原理 - 含学习资料、学习视频》

《Oracle DBA 转型 PostgreSQL,Greenplum 学习规划》

沙箱简介


基础知识准备

http://www.postgresqltutorial.com/

客户端准备

安装 postgresql 11客户端 (需包含psql, pgbench 命令)

https://www.postgresql.org/download/

建议沙箱规格

建议要看效果的话,至少来个 RDS PG 11, 4核, 32G, 100G 空间

功能演示,可以小一点的规格

第1期:PostgreSQL 构造海量数据

知识点:pgbench, plpgsql开发, srf函数

本期视频讲解

相关链接:

1、PostgreSQL 如何快速构建 海量 逼真 测试数据

https://github.com/digoal/blog/blob/master/201711/20171121_01.md

https://github.com/digoal/blog/blob/master/201711/readme.md

《PostgreSQL 11 1Kw TPCC , 1亿 TPCB 7*24 强压耐久测试》

《PostgreSQL 11 1万亿 tpcb 性能测试 on 阿里云ECS + ESSD + zfs/lvm2条带 + block_size=32K》

《PostgreSQL 11 1000亿 tpcb、1000W tpcc 性能测试 - on 阿里云ECS + ESSD (含quorum based 0丢失多副本配置与性能测试)》

《PostgreSQL 11 100亿 tpcb 性能测试 on ECS》

《PostgreSQL 11 tpcc 测试(103万tpmC on ECS) - use sysbench-tpcc by Percona-Lab》

《(TPC-H测试 SF=10,SF=200) PostgreSQL 11 vs 10 vs Deepgreen》

第2期:PostgreSQL 秒杀场景实践

知识点:行锁,等待,ad lock。

本期视频讲解

相关链接:

1、PostgreSQL 秒杀4种方法 - 增加 批量流式加减库存 方法

https://github.com/digoal/blog/blob/master/201801/20180105_03.md

2、HTAP数据库 PostgreSQL 场景与性能测试之 30 - (OLTP) 秒杀 - 高并发单点更新

https://github.com/digoal/blog/blob/master/201711/20171107_31.md

3、聊一聊双十一背后的技术 - 不一样的秒杀技术, 裸秒

https://github.com/digoal/blog/blob/master/201611/20161117_01.md

4、PostgreSQL 秒杀场景优化

https://github.com/digoal/blog/blob/master/201509/20150914_01.md

第3期:PostgreSQL 实时搜索实践

知识点:GIN、RUM索引,分词、pg_trgm、全文检索、正则、模糊查询、文本相似搜索、词频统计

本期视频讲解

相关链接:

1、使用阿里云PostgreSQL zhparser中文分词时不可不知的几个参数

https://github.com/digoal/blog/blob/master/201603/20160310_01.md

2、用PostgreSQL 做实时高效 搜索引擎 - 全文检索、模糊查询、正则查询、相似查询、ADHOC查询

https://github.com/digoal/blog/blob/master/201712/20171205_02.md

3、PostgreSQL 模糊查询最佳实践 - (含单字、双字、多字模糊查询方法)

https://github.com/digoal/blog/blob/master/201704/20170426_01.md

4、PostgreSQL 相似搜索设计与性能 - 地址、QA、POI等文本 毫秒级相似搜索实践

https://github.com/digoal/blog/blob/master/201802/20180202_01.md

5、PostgreSQL 相似搜索分布式架构设计与实践 - dblink异步调用与多机并行(远程 游标+记录 UDF实例)

https://github.com/digoal/blog/blob/master/201802/20180205_03.md

6、HTAP数据库 PostgreSQL 场景与性能测试之 12 - (OLTP) 字符串搜索 - 前后模糊查询

https://github.com/digoal/blog/blob/master/201711/20171107_13.md

7、HTAP数据库 PostgreSQL 场景与性能测试之 13 - (OLTP) 字符串搜索 - 相似查询

https://github.com/digoal/blog/blob/master/201711/20171107_14.md

8、HTAP数据库 PostgreSQL 场景与性能测试之 14 - (OLTP) 字符串搜索 - 全文检索

https://github.com/digoal/blog/blob/master/201711/20171107_15.md

9、HTAP数据库 PostgreSQL 场景与性能测试之 16 - (OLTP) 文本特征向量 - 相似特征(海明...)查询

https://github.com/digoal/blog/blob/master/201711/20171107_17.md

10、HTAP数据库 PostgreSQL 场景与性能测试之 17 - (OLTP) 数组相似查询

https://github.com/digoal/blog/blob/master/201711/20171107_18.md

11、PostgreSQL 全文检索 - 词频统计

https://github.com/digoal/blog/blob/master/201803/20180309_02.md

12、《如何加快PostgreSQL结巴分词pg_jieba加载速度》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 3 - citus 8机128shard (4亿图像)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 2 - 单机分区表 (dblink 异步调用并行) (4亿图像)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 1 - 单机单表 (4亿图像)》

《PostgreSQL 相似搜索插件介绍大汇总 (cube,rum,pg_trgm,smlar,imgsmlr,pg_similarity) (rum,gin,gist)》

第4期:PostgreSQL 实时多维分析

知识点:GIN、RUM索引,任意字段组合查询,数组相交、包含、相似搜索

本期视频讲解

相关链接:

1、PostgreSQL ADHoc(任意字段组合)查询 与 字典化 (rum索引加速) - 实践与方案1

https://github.com/digoal/blog/blob/master/201802/20180228_01.md

2、PostgreSQL ADHoc(任意字段组合)查询(rums索引加速) - 非字典化,普通、数组等组合字段生成新数组

https://github.com/digoal/blog/blob/master/201805/20180518_02.md

3、HTAP数据库 PostgreSQL 场景与性能测试之 17 - (OLTP) 数组相似查询

https://github.com/digoal/blog/blob/master/201711/20171107_18.md

4、HTAP数据库 PostgreSQL 场景与性能测试之 18 - (OLAP) 用户画像圈人场景 - 数组包含查询与聚合

https://github.com/digoal/blog/blob/master/201711/20171107_19.md

5、HTAP数据库 PostgreSQL 场景与性能测试之 19 - (OLAP) 用户画像圈人场景 - 数组相交查询与聚合

https://github.com/digoal/blog/blob/master/201711/20171107_20.md

6、HTAP数据库 PostgreSQL 场景与性能测试之 20 - (OLAP) 用户画像圈人场景 - 多个字段任意组合条件筛选与透视

https://github.com/digoal/blog/blob/master/201711/20171107_21.md

第5期:PostgreSQL 估值、概率计算

知识点:统计信息、采样接口、概率计算插件HLL\CMS_TOPN、滑窗分析、EXPLAIN 估值

本期视频讲解

相关链接:

1、《秒级任意维度分析1TB级大表 - 通过采样估值满足高效TOP N等统计分析需求》

https://github.com/digoal/blog/blob/master/201709/20170911_02.md

2、《PostgreSQL count-min sketch top-n 概率计算插件 cms_topn (结合窗口实现同比、环比、滑窗分析等) - 流计算核心功能之一》

https://github.com/digoal/blog/blob/master/201803/20180301_03.md

3、《PostgreSQL 任意列组合条件 行数估算 实践 - 采样估算》

https://github.com/digoal/blog/blob/master/201804/20180403_03.md

4、《妙用explain Plan Rows快速估算行》

https://github.com/digoal/blog/blob/master/201509/20150919_02.md

5、《PostgreSQL pg_stats used to estimate top N freps values and explain rows》

https://github.com/digoal/blog/blob/master/201308/20130811_01.md

6、HLL估值,滑窗分析

https://github.com/aggregateknowledge/postgresql-hll

https://github.com/digoal/blog/blob/master/201302/20130226_01.md

https://github.com/digoal/blog/blob/master/201302/20130227_01.md

https://github.com/digoal/blog/blob/master/201302/20130228_01.md

第6期:用户画像系统实践

知识点:标签聚合计算,varbit插件, 异步消费, BIT位计算, dblink异步并行

本期视频讲解

相关链接:

1、《阿里云RDS for PostgreSQL varbitx插件与实时画像应用场景介绍》

https://github.com/digoal/blog/blob/master/201705/20170502_01.md

2、《基于 阿里云RDS PostgreSQL 打造实时用户画像推荐系统》

https://github.com/digoal/blog/blob/master/201610/20161021_01.md

3、《阿里云RDS PostgreSQL varbitx实践 - 流式标签 (阅后即焚流式批量计算) - 万亿级,任意标签圈人,毫秒响应》

https://github.com/digoal/blog/blob/master/201712/20171212_01.md

4、《惊天性能!单RDS PostgreSQL实例 支撑 2000亿 - 实时标签透视案例 (含dblink异步并行调用)》

https://github.com/digoal/blog/blob/master/201712/20171223_01.md

5、《PostgreSQL 多维空间几何对象 相交、包含 高效率检索实践 - cube》

6、《PostgreSQL 相似人群圈选,人群扩选,向量相似 使用实践 - cube》

7、Roaring bitmap 圈选

《Greenplum roaring bitmap与业务场景 (类阿里云RDS PG varbitx, 应用于海量用户 实时画像和圈选、透视)》

《PostgreSQL (varbit, roaring bitmap) VS pilosa(bitmap库)》

《Roaring Bitmap - A better compressed bitset》

第7期:PostgreSQL 并行计算

知识点:并行计算、优化器参数、内置并行与异步并行、自定义并行聚合函数

本期视频讲解

相关链接:

1、并行计算算法

《PostgreSQL 11 并行计算算法,参数,强制并行度设置》

《PostgreSQL 9.6 并行计算 优化器算法浅析》

《PostgreSQL 9.6 并行计算 优化器算法浅析 - 以及如何强制并行度》

《PostgreSQL 9.6 引领开源数据库攻克多核并行计算难题》

《分析加速引擎黑科技 - LLVM、列存、多核并行、算子复用 大联姻 - 一起来开启PostgreSQL的百宝箱》

2、PG 10 并行计算增强

《PostgreSQL 10.0 preview 功能增强 - 逻辑复制支持并行COPY初始化数据》

《PostgreSQL 10.0 preview 多核并行增强 - 控制集群并行度》

《PostgreSQL 10.0 preview 多核并行增强 - 索引扫描、子查询、VACUUM、fdw/csp钩子》

《PostgreSQL 10.0 preview sharding增强 - 支持Append节点并行》

《PostgreSQL 10.0 preview 多核并行增强 - 并行hash join支持shared hashdata, 节约哈希表内存提高效率》

《PostgreSQL 10.0 preview sharding增强 - postgres_fdw 多节点异步并行执行》

《PostgreSQL 10.0 preview 多核并行增强 - tuplesort 多核并行创建索引》

3、PG 11并行计算增强

《PostgreSQL 11 preview - 并行计算 增强 汇总》

《PostgreSQL 11 preview - 分区表智能并行聚合、分组计算(已类似MPP架构,性能暴增)》

《PostgreSQL 11 preview - Parallel Append(包括 union all\分区查询) (多表并行计算) sharding架构并行计算核心功能之一》

《PostgreSQL 11 preview - 并行排序、并行索引 (性能线性暴增) 单实例100亿TOP-K仅40秒》

《PostgreSQL 11 preview - 分区表智能并行JOIN (已类似MPP架构,性能暴增)》

4、并行计算压测(版本10)

《HTAP数据库 PostgreSQL 场景与性能测试之 23 - (OLAP) 并行计算》

5、dblink 异步调用并行计算

《PostgreSQL dblink异步调用实现 并行hash分片JOIN - 含数据交、并、差 提速案例 - 含dblink VS pg 11 parallel hash join VS pg 11 智能分区JOIN》

《惊天性能!单RDS PostgreSQL实例 支撑 2000亿 - 实时标签透视案例 (含dblink异步并行调用)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 2 - 单机分区表 (dblink 异步调用并行) (4亿图像)》

《PostgreSQL dblink异步调用实践,跑并行多任务 - 例如开N个并行后台任务创建索引, 开N个后台任务跑若干SQL》

《阿里云RDS PostgreSQL OSS 外部表实践 - (dblink异步调用封装并行) 从OSS并行导入数据》

《PostgreSQL 变态并行拉取单表的方法 - 按块并行(按行号(ctid)并行) + dblink 异步调用》

《PostgreSQL VOPS 向量计算 + DBLINK异步并行 - 单实例 10亿 聚合计算跑进2秒》

《PostgreSQL 相似搜索分布式架构设计与实践 - dblink异步调用与多机并行(远程 游标+记录 UDF实例)》

《阿里云RDS PostgreSQL OSS 外部表实践 - (dblink异步调用封装并行) 数据并行导出到OSS》

《PostgreSQL 多维、图像 欧式距离、向量距离、向量相似 查询优化 - cube,imgsmlr - 压缩、分段、异步并行》

6、函数并行计算,聚合函数多阶段并行计算

《PostgreSQL 11 preview - 多阶段并行聚合array_agg, string_agg》

《PostgreSQL Oracle 兼容性之 - 自定义并行聚合函数 PARALLEL_ENABLE AGGREGATE》

《PostgreSQL 10 自定义并行计算聚合函数的原理与实践 - (含array_agg合并多个数组为单个一元数组的例子)》

7、GPU并行计算

《PostgreSQL GPU 加速(HeteroDB pg_strom) (GPU计算, GPU-DIO-Nvme SSD, 列存, GPU内存缓存)》

8、其他

《PostgreSQL 大版本升级方法之一 - 不落地并行导出导入》

《PostGIS 地理信息、栅格数据 多核并行处理(st_memunion, st_union)》

《PostgreSQL 如何让 列存(外部列存) 并行起来》

《PostgreSQL 多路并行 xlog 设计》

《PostgreSQL pg_basebackup 并行压缩备份》

《PostgreSQL 并行逻辑备份与一致性讲解 - PostgreSQL 9.3 parallel pg_dump》

第8期:PostgreSQL 简单空间应用实践

知识点:GiST索引,BRIN索引,BTREE索引。cluster,geometry类型,GEOHASH。近邻搜索,点面判断,电子围栏。空间索引结构

本期视频讲解

相关链接:

1、《PostgreSQL 黑科技 - 空间聚集存储, 内窥GIN, GiST, SP-GiST索引》

https://github.com/digoal/blog/blob/master/201709/20170905_01.md

2、《PostGIS空间索引(GiST、BRIN、R-Tree)选择、优化 - 阿里云RDS PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170820_01.md

3、《万亿级电商广告 - brin黑科技带你(最低成本)玩转毫秒级圈人(视觉挖掘姊妹篇) - 阿里云RDS PostgreSQL, HybridDB for PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170823_01.md

4、《PostgreSQL 物流轨迹系统数据库需求分析与设计 - 包裹侠实时跟踪与召回》

https://github.com/digoal/blog/blob/master/201704/20170418_01.md

5、《菜鸟末端轨迹(解密支撑每天251亿个包裹的数据库) - 阿里云RDS PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170803_01.md

6、《HTAP数据库 PostgreSQL 场景与性能测试之 29 - (OLTP) 空间应用 - 高并发空间位置更新(含空间索引)》

https://github.com/digoal/blog/blob/master/201711/20171107_30.md

7、《HTAP数据库 PostgreSQL 场景与性能测试之 5 - (OLTP) 空间应用 - 空间包含查询(表内多边形 包含 输入空间对象)》

https://github.com/digoal/blog/blob/master/201711/20171107_06.md

8、《HTAP数据库 PostgreSQL 场景与性能测试之 6 - (OLTP) 空间应用 - KNN查询(搜索附近对象,由近到远排序输出)》

https://github.com/digoal/blog/blob/master/201711/20171107_07.md

9、《PostgreSQL 空间切割(st_split, ST_Subdivide)功能扩展 - 空间对象网格化 (多边形GiST优化)》

https://github.com/digoal/blog/blob/master/201710/20171005_01.md

10、《PostgreSQL 空间st_contains,st_within空间包含搜索优化 - 降IO和降CPU(bound box) (多边形GiST优化)》

https://github.com/digoal/blog/blob/master/201710/20171004_01.md

11、《PostgreSQL multipolygon 空间索引查询过滤精简优化 - IO,CPU放大优化》

https://github.com/digoal/blog/blob/master/201711/20171122_03.md

12、《PostgreSQL 电子围栏的应用场景和性能(大疆、共享设备、菜鸟。。。)》

https://github.com/digoal/blog/blob/master/201710/20171031_01.md

《PostgreSQL 空间聚合性能 - 行政区、电子围栏 空间聚合 - 时间、空间热力图》

《PostgreSQL 生成空间热力图》

《HTAP数据库 PostgreSQL 场景与性能测试之 47 - (OLTP) 空间应用 - 高并发空间位置更新、多属性KNN搜索并测(含空间索引)末端配送、新零售类项目》

第9期:PostgreSQL 时空业务实践

知识点:时空partial index,时空搜索。空间复合索引。

本期视频讲解

相关链接:

1、《空间复合索引加速空间搜索》

https://github.com/digoal/blog/blob/master/201706/20170620_01.md

2、《时间+空间 实时多维数据透视》

https://github.com/digoal/blog/blob/master/201704/20170413_02.md

3、《PostgreSQL\GPDB 毫秒级海量 时空数据透视 典型案例分享》

https://github.com/digoal/blog/blob/master/201706/20170629_01.md

4、《时间、空间、对象多维属性 海量数据任意多维 高效检索 - 阿里云RDS PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201707/20170722_01.md

5、《(新零售)商户网格化(基于位置GIS)运营 - 阿里云RDS PostgreSQL、HybridDB for PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170802_02.md

《PostgreSQL pipelinedb 流计算插件 - IoT应用 - 实时轨迹聚合》

《PostgreSQL 实时位置跟踪+轨迹分析系统实践 - 单机顶千亿轨迹/天》

《PostgreSQL + PostGIS 时态分析》

《HTAP数据库 PostgreSQL 场景与性能测试之 47 - (OLTP) 空间应用 - 高并发空间位置更新、多属性KNN搜索并测(含空间索引)末端配送、新零售类项目》

《PostgreSQL IoT,车联网 - 实时轨迹、行程实践 2 - (含index only scan类聚簇表效果)》

《PostgreSQL IoT,车联网 - 实时轨迹、行程实践 1》

第10期:PostgreSQL 时空数据调度实践

知识点:近邻查询,拼车,空间热点消除

本期视频讲解

相关链接:

1、《滴滴打车派单系统思考 数据库设计与实现》

https://github.com/digoal/blog/blob/master/201804/20180414_03.md

2、《PostgreSQL 滴滴派单 高峰区域集中打车冲突优化1 - 宇宙大爆炸理论与PostgreSQL实践》

https://github.com/digoal/blog/blob/master/201804/20180416_02.md

3、《为什么geometry+GIST 比 geohash+BTREE更适合空间搜索 - 多出的不仅仅是20倍性能提升》

https://github.com/digoal/blog/blob/master/201804/20180417_01.md

第11期:PostgreSQL 在社交应用领域的最佳实践

知识点:关系数据,大V热点,正反向关系,计数器缓存

本期视频讲解

相关链接:

1、《PCC性能大赛 - facebook\微博 like场景 - 数据库设计与性能压测》

https://github.com/digoal/blog/blob/master/201705/20170512_02.md

2、《facebook linkbench 测试PostgreSQL社交关系图谱场景性能》

https://github.com/digoal/blog/blob/master/201609/20160911_01.md

3、《PostgreSQL 社交类好友关系系统实践 - 正反向关系查询加速》

https://github.com/digoal/blog/blob/master/201803/20180302_01.md

第12期:PostgreSQL 物联网最佳实践

知识点:时序数据特性,SCHEMAless设计思路,递归调用,规则,流式计算,滑窗聚合

本期视频讲解

相关链接:

1、《时序数据合并场景加速分析和实现 - 复合索引,窗口分组查询加速,变态递归加速》

https://github.com/digoal/blog/blob/master/201611/20161128_01.md

2、《PostgreSQL 证券行业数据库需求分析与应用》

https://github.com/digoal/blog/blob/master/201704/20170417_01.md

3、《PostgreSQL 海量时序数据(任意滑动窗口实时统计分析) - 传感器、人群、物体等对象跟踪》

https://github.com/digoal/blog/blob/master/201707/20170705_01.md

4、《时序业务,求每个传感器、对象的最新值(从7秒到7毫秒的优化之旅) - 阿里云RDS PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170823_02.md

5、《泛电网系统 海量实时计算+OLTP+OLAP DB设计 - 阿里云(RDS、HybridDB) for PostgreSQL最佳实践》

https://github.com/digoal/blog/blob/master/201708/20170826_01.md

6、《PostgreSQL 在铁老大订单系统中的schemaless设计和性能压测》

https://github.com/digoal/blog/blob/master/201709/20170927_03.md

《PostgreSQL pipelinedb 流计算插件 - IoT应用 - 实时轨迹聚合》

《HTAP数据库 PostgreSQL 场景与性能测试之 33 - (OLAP) 物联网 - 线性字段区间实时统计》

《HTAP数据库 PostgreSQL 场景与性能测试之 27 - (OLTP) 物联网 - FEED日志, 流式处理 与 阅后即焚 (CTE)》

《HTAP数据库 PostgreSQL 场景与性能测试之 24 - (OLTP) 物联网 - 时序数据并发写入(含时序索引BRIN)》

《HTAP数据库 PostgreSQL 场景与性能测试之 15 - (OLTP) 物联网 - 查询一个时序区间的数据》

《SQL流式案例 - 旋转门压缩(前后计算相关滑窗处理例子)》

《PostgreSQL 三角函数的用法举例 - 已知3点求任意夹角(旋转门续)》

《旋转门数据压缩算法在PostgreSQL中的实现 - 流式压缩在物联网、监控、传感器等场景的应用》

https://commitfest.postgresql.org/21/1294/

第13期:PostgreSQL 图式关系数据应用实践

知识点:图式关系、递归查询、广度优先搜索

本期视频讲解

相关链接:

1、《PostgreSQL 家谱、族谱类应用实践 - 图式关系存储与搜索》

https://github.com/digoal/blog/blob/master/201804/20180408_03.md

2、《金融风控、公安刑侦、社会关系、人脉分析等需求分析与数据库实现 - PostgreSQL图数据库场景应用》

https://github.com/digoal/blog/blob/master/201612/20161213_01.md

3、《PostgreSQL 图式搜索(graph search)实践 - 百亿级图谱,毫秒响应》

https://github.com/digoal/blog/blob/master/201801/20180102_04.md

4、《PostgreSQL 递归妙用案例 - 分组数据去重与打散》

https://github.com/digoal/blog/blob/master/201804/20180406_01.md

5、《PostgrSQL 递归SQL的几个应用 - 极客与正常人的思维》

https://github.com/digoal/blog/blob/master/201705/20170519_01.md

《PostgreSQL 图式搜索(graph search)实践 - 百亿级图谱,毫秒响应》

第14期:PostgreSQL 数据清洗、采样、脱敏、批处理、合并

知识点:数据清洗、去重、采样、脱敏、批处理、合并

本期视频讲解

相关链接:

1、数据采样和脱敏实践

《PostgreSQL 数据采样与脱敏》

https://github.com/digoal/blog/blob/master/201706/20170602_02.md

《PostgreSQL 巧妙的数据采样方法》

https://github.com/digoal/blog/blob/master/201609/20160929_01.md

2、数据清洗和去重实践

《PostgreSQL 数据去重方法大全》

https://github.com/digoal/blog/blob/master/201706/20170602_01.md

《PostgreSQL 重复 数据清洗 优化教程》

https://github.com/digoal/blog/blob/master/201612/20161230_01.md

《车联网案例,轨迹清洗 - 阿里云RDS PostgreSQL最佳实践 - 窗口函数》

https://github.com/digoal/blog/blob/master/201707/20170722_02.md

《PostgreSQL 分区表、继承表 记录去重方法》

《PostgreSQL 递归妙用案例 - 分组数据去重与打散》

3、《数据入库实时转换 - trigger , rule》

https://github.com/digoal/blog/blob/master/201706/20170619_02.md

4、《PostgreSQL 如何实现批量更新、删除、插入》

https://github.com/digoal/blog/blob/master/201704/20170424_05.md

5、《PostgreSQL upsert功能(insert on conflict do)的用法》

https://github.com/digoal/blog/blob/master/201704/20170424_04.md

6、《PostgreSQL 如何实现upsert与新旧数据自动分离》

https://github.com/digoal/blog/blob/master/201605/20160524_02.md

7、《PostgreSQL 数据rotate用法介绍 - 按时间覆盖历史数据》

https://github.com/digoal/blog/blob/master/201703/20170321_02.md

8、《PostgreSQL rotate table 自动清理调度 - 约束,触发器》

https://github.com/digoal/blog/blob/master/201803/20180311_06.md

9、《PostgreSQL 相似文本检索与去重 - (银屑病怎么治?银屑病怎么治疗?银屑病怎么治疗好?银屑病怎么能治疗好?)》

https://github.com/digoal/blog/blob/master/201803/20180329_01.md

第15期:PostgreSQL 新类型提高开发生产力

知识点:JSON, ARRAY, RANGE, 几何, roaring bitmap, varbitx, uuid, domain, 自定义复合类型, cube, imgsmlr, PostGIS, geometry, geograph, raster, ltree, 全文检索, smlar, 自定义底层类型

本期视频讲解

相关链接:

https://www.postgresql.org/docs/11/datatype.html

多值字段(数组、多重含义数组、全文检索) + 单值字段 组合查询加速案例

1、《PostgreSQL 店铺运营实践 - JSON[]数组 内部标签数据等值、范围检索100倍+加速示例 (含,单值+多值列合成)》

https://github.com/digoal/blog/blob/master/201802/20180208_01.md

《PostgreSQL 随机记录返回 - 300倍提速实践 (随机数组下标代替order by random())》

《PostgreSQL 电商业务(任意维度商品圈选应用) - json包range数组的命中优化 - 展开+索引优化》

《PostgreSQL ADHoc(任意字段组合)查询(rums索引加速) - 非字典化,普通、数组等组合字段生成新数组》

2、《PostgreSQL UDF实现tsvector(全文检索), array(数组)多值字段与scalar(单值字段)类型的整合索引(类分区索引) - 单值与多值类型复合查询性能提速100倍+ 案例 (含,单值+多值列合成)》

https://github.com/digoal/blog/blob/master/201802/20180207_02.md

3、《PostgreSQL 多重含义数组检索与条件过滤 (标签1:属性, 标签n:属性) - 包括UPSERT操作如何修改数组、追加数组元素》

https://github.com/digoal/blog/blob/master/201801/20180124_02.md

4、《会议室预定系统实践 - PostgreSQL tsrange(时间范围类型) + 排他约束》

https://github.com/digoal/blog/blob/master/201712/20171223_02.md

5、《PostgreSQL 黑科技 range 类型及 gist index 20x+ speedup than Mysql index combine query》

https://github.com/digoal/blog/blob/master/201206/20120607_01.md

《PostgreSQL SELECT 的高级用法(CTE, LATERAL, ORDINALITY, WINDOW, SKIP LOCKED, DISTINCT, GROUPING SETS, ...) - 珍藏级》

《PostgreSQL Oracle 兼容性之 - nested table》

《导购系统 - 电商内容去重\内容筛选应用(实时识别转载\盗图\侵权?) - 文本、图片集、商品集、数组相似判定的优化和索引技术》

《Greenplum roaring bitmap与业务场景 (类阿里云RDS PG varbitx, 应用于海量用户 实时画像和圈选、透视)》

《阿里云RDS PostgreSQL varbitx实践 - 流式标签 (阅后即焚流式批量计算) - 万亿级,任意标签圈人,毫秒响应》

《阿里云RDS for PostgreSQL varbitx插件与实时画像应用场景介绍》

《地理位置画像、连锁店圈人、地理围栏圈人、多地圈选、multi-polygon圈选、多点圈选》

《PostgreSQL 多维、图像 欧式距离、向量距离、向量相似 查询优化 - cube,imgsmlr - 压缩、分段、异步并行》

《PostgreSQL 相似人群圈选,人群扩选,向量相似 使用实践 - cube》

相似人群圈选-视频讲解

《PostgreSQL 多维空间几何对象 相交、包含 高效率检索实践 - cube》

《PostgreSQL cube 插件 - 多维空间对象》

多维空间计算视频讲解

《PostgreSQL 相似搜索插件介绍大汇总 (cube,rum,pg_trgm,smlar,imgsmlr,pg_similarity) (rum,gin,gist)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 3 - citus 8机128shard (4亿图像)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 2 - 单机分区表 (dblink 异步调用并行) (4亿图像)》

《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 1 - 单机单表 (4亿图像)》

《海量数据,海明(simhash)距离高效检索(smlar) - 阿里云RDS PosgreSQL最佳实践》

《PostgreSQL结合余弦、线性相关算法 在文本、图片、数组相似 等领域的应用 - 3 rum, smlar应用场景分析》

《PostgreSQL结合余弦、线性相关算法 在文本、图片、数组相似 等领域的应用 - 2 smlar插件详解》

《PostgreSQL结合余弦、线性相关算法 在文本、图片、数组相似 等领域的应用 - 1 文本(关键词)分析理论基础 - TF(Term Frequency 词频)/IDF(Inverse Document Frequency 逆向文本频率)》

《PostgreSQL 树状数据存储与查询(非递归) - Use ltree extension deal tree-like data type》

《经营、销售分析系统DB设计之PostgreSQL, Greenplum - 共享充电宝 案例实践》



相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
相关文章
|
6月前
|
消息中间件 监控 大数据
Kafka消息队列架构与应用场景探讨:面试经验与必备知识点解析
【4月更文挑战第9天】本文详尽探讨了Kafka的消息队列架构,包括Broker、Producer、Consumer、Topic和Partition等核心概念,以及消息生产和消费流程。此外,还介绍了Kafka在微服务、实时数据处理、数据管道和数据仓库等场景的应用。针对面试,文章解析了Kafka与传统消息队列的区别、实际项目挑战及解决方案,并展望了Kafka的未来发展趋势。附带Java Producer和Consumer的代码示例,帮助读者巩固技术理解,为面试做好准备。
565 0
|
11天前
|
人工智能 运维 Cloud Native
上新丨统一多层网关架构系列视频课程
《统一多层网关架构系列视频教程》将于 11 月初上线。通过该课程,您将体系化了解应用网关的发展趋势和最佳实践。课程配套资料或服务包括 PPT(PDF 版)、演示 Demo、视频回放和群内答疑等。
|
30天前
|
消息中间件 NoSQL Kafka
大数据-52 Kafka 基础概念和基本架构 核心API介绍 应用场景等
大数据-52 Kafka 基础概念和基本架构 核心API介绍 应用场景等
59 5
|
2月前
|
机器学习/深度学习
ACM MM24:复旦提出首个基于扩散模型的视频非限制性对抗攻击框架,主流CNN和ViT架构都防不住它
【9月更文挑战第23天】复旦大学研究团队提出了ReToMe-VA,一种基于扩散模型的视频非限制性对抗攻击框架,通过时间步长对抗性潜在优化(TALO)与递归令牌合并(ReToMe)策略,实现了高转移性且难以察觉的对抗性视频生成。TALO优化去噪步骤扰动,提升空间难以察觉性及计算效率;ReToMe则确保时间一致性,增强帧间交互。实验表明,ReToMe-VA在攻击转移性上超越现有方法,但面临计算成本高、实时应用受限及隐私安全等挑战。[论文链接](http://arxiv.org/abs/2408.05479)
69 3
|
6月前
|
资源调度 前端开发 JavaScript
第十章(应用场景篇) Single-SPA微前端架构深度解析与实践教程
第十章(应用场景篇) Single-SPA微前端架构深度解析与实践教程
218 0
|
5月前
|
存储 SQL BI
深入解析实时数仓Doris:介绍、架构剖析、应用场景与数据划分细节
深入解析实时数仓Doris:介绍、架构剖析、应用场景与数据划分细节
|
5月前
|
传感器 边缘计算 监控
边缘云作为一种分布式云计算架构,正在为多个行业和应用场景带来革命性的变化
边缘云应用于智能城市、工业物联网、零售、农业、AI、5G优化、制造、物流、医疗、交通和家居等领域,实现低延迟的数据处理、实时分析与优化。例如,智能交通利用边缘计算优化信号灯,减少拥堵;工业场景中,设备监控与预测性维护提升效率;在医疗中,实时监测患者数据支持远程诊断。此外,边缘云还助力零售业的个性化推荐、农业的精准作业和云游戏的高性能体验。
|
5月前
|
自然语言处理 监控 搜索推荐
《百炼成金-大金融模型新篇章》––12.应用场景与技术架构选型(1)
百炼必定成金,新质生产力会催生新质劳动力,谨以此文抛砖引玉,希望与业内的各位朋友一同探讨如何积极拥抱并运用大模型技术,以应对和驾驭不断变化的市场环境,实现科技金融持续稳定的提质增效和创新发展,携手开启金融大模型未来新篇章。
107 1
|
5月前
|
数据采集 人工智能 自然语言处理
《百炼成金-大金融模型新篇章》––12.应用场景与技术架构选型(2)
百炼必定成金,新质生产力会催生新质劳动力,谨以此文抛砖引玉,希望与业内的各位朋友一同探讨如何积极拥抱并运用大模型技术,以应对和驾驭不断变化的市场环境,实现科技金融持续稳定的提质增效和创新发展,携手开启金融大模型未来新篇章。
|
5月前
|
存储 SQL 数据库
数据库技术探索:基础架构、应用场景与未来展望
一、引言 数据库技术是信息时代的基石,为企业和组织提供了数据存储、检索、分析和管理的核心支撑