炮灰到精英的必备神器-PGSQL快速导入表新特性

简介:

因为不知道PostgreSQL 9.5 IMPORT FOREIGN SCHEMA的新特性,坚守传统方法,小明在职场上成为了同事小强的炮灰。今天高强老师为你具体介绍如何运用PostgreSQL 9.5快速导入外部表的新特性,赶紧来看看吧,不知道你就out了。

 

 

在一个风和日丽,没有雾霾的早上,技术部领导把小明叫到了办公室,问:“兄弟,我想在新的系统上查询一下在用的生产系统的数据,有没有比较快速、方便的方法?新的用的PG的数据库有这种方案吗?”

 

小明:“领导,把数据从生产系统中导出,然后导入到新系统不就OK?”

 

领导:“比较快速、方便的方法有没有?”

 

小明:“领导,把数据从生产系统中导出,然后导入到新系统就很快。”

 

领导:“更快速、方便的方法有没有?”

 

小明:“领导,把数据从生产系统中导出,然后导入新系统就已经很快了!”

 

领导对于小明复读机似的回答有些恼火,按耐住心中的不耐烦,问了一句:“导入外部表需要做什么准备工作吗?”

 

 

小明胸有成竹的讲:“领导,就是实现创建好ddl就行。”

 

领导认真的问到:“一共多少张表?”

 

小明有些不确定:“200张?”

 

领导有些惊讶:“这么多?!”

 

小明突然又想起了些什么,小声的说:“领导... ...我刚想起来...还有一个用户,里面大概有300张表...”( -__-|||)(声音小的连他自己都快听不到了)

 

领导有点沉不住气了:“滚出去!”

 

小明红着脸说:“领导!你听我说...”

 

领导这次彻底的被点燃了:“滚出去!!!”

 

 

小明默默的在外面帮领导关上了门... ...

 

领导已经气的不行,此时老板的电话已打过来:“怎么样?搞定没?”

 

领导:“没问题,老板,稍等片刻!”

 

老板:“好的,搞好了说一声,好跟客户介绍咱们新开发的系统,起码有个查询体验,等你消息!抓紧。”

 

领导此时想起了公司新来的同事小强,虽然小强平时看起来比较逗逼和活泼,但是小强已经是公司为数不多做数据库的员工了。领导想好了如何跟老板解释系统开发进度慢,拖延体验时间的解释。抱着试试看的心态,传召了小强,表达了在此情景下的需求。

 

小强:“领导,这个问题,我不敢保证能做好,我尽力。”

 

领导:“平时看你活泼夸张,今天说话有所保留;说说看,你有什么思路?”

 

小强:“领导,不动数据库什么玩笑我都敢开,真刀真枪干事儿了,不来那些没用的话。我前段时间看到PostgreSQL 9.5有个新特性,可以简单的导入外部表,按模式导入,我觉得可以尝试一下。”

 

领导:“好,去做吧,注意操作谨慎,别粗心。”

 

小强:“知道了,半个小时内给您回消息,不论成功还是失败,都即时汇报给您。”

 

小强出门后,领导点了一颗烟,静待平时看起来“不靠谱”的小强。

 

同时,领导也在想,小强说的方法理论上听起来确实不错,不知道放在实践中如何,他对比了一下两位员工的方案:

 

小明的方案:

 

 

小强的方案:

 

 

小强回到工位上,倒了杯水,心理有一些压力,尽管自己刚测试过新功能(导入外部模式),但是心理还是很紧张,因为他觉得要对领导的信任负责任,要对生产系统的稳定运行负责任,这绝对不是平时打打闹闹、说说笑笑之类的胡闹。

 

他打开笔记本,深吸了一口气,谨慎的进行了操作:

 

1.确定一下新环境的数据库版本:

 

 

2.创建基于用户的模式:

 

 

3.安装postgres_fdw插件:

 

 

4.创建外部服务器对象:

 

 

5.创建用户映射对象:

 

 

连接到生产库看一下生产库的表信息:

 

 

6.远程导入整个schema:

 

 

7.查看新系统表状态:

 

 

8.调整属主和权限:

 

 

9.验证数据量:

 

 

数据已经导入到了新的系统中,小强立刻给领导打电话通报。

 

领导:“不错,小强,如果上面要求屏蔽掉某些敏感的表或者是只提供基础数据好实现吗?”

 

小强:“没问题,我给你我的测试报告吧,最近刚做的。”

 

测试报告:

 

在源端创建2个新的表:

 

 

排除某个表:

 

 

查看一下导入效果:

 

 

已经排除表summary。

 

删掉目标库的表,再测试一下包含某个表的用法:

 

 

领导:“谢谢你,小强,回去工作吧”

 

说着,领导拨通了小明的电话,心想还是要维系好同事关系,多一份人脉,多很多机会,再说小明也是老员工了,刚才对他发火也有些冲动。

 

小明进了办公司,领导微笑着,说:“小明,刚才事出紧急,有些急躁,抱歉。”

 

小明:“领导,没关系,确实是我技术不精,以后多多学习!”

 

领导:“刚才小强把表都整过来了,我看查询有些慢,你给看一下原因。”

 

小明:“好的领导,我收集一下信息,完事儿立刻给你汇报!”

 

小明回到工位执行了几条命令,收集了一下性能方面的信息:

 

在新系统上:

 

 

在生产系统的服务器看:

 

 

小明把以上信息提交给了领导,解释说:”领导,你看收集到的信息显示,远程的表查询起来就是慢,看来这功能还是不靠谱啊,我建议还是用我的方案,导数据,或者可以买第三方软件进行同步数据,把数据实时同步到本地。”

 

领导:”小明...老师...公司花钱请你来是让你给个报告然后告诉老板要花钱买新产品的吗?那还用你做啥?同步数据可以用HotStandby,还用第三方软件?你一个导数据的方案想通吃所有项目?!目前这查询速度客户是可以接受的,并不是相对速度慢就是不可以好吗?!!想要查远程数据并且提升一下性能可以用物化视图好吗?!!!“

 

小明:”领导,不好意思...物化视图是...什么?“

 

领导:”滚出去!!!“

 

 

外部表在查询速度上还是有一定的延迟的,如果在项目中可以接受实际的查询速度就OK。如果接受不了,可以尝试使用物化视图,当然还有很多方案,方法总比困难多~~~

 

作者介绍:高强

  • 【DBA+社群】联合发起人

  • SDOUG核心成员,ITPUB 名人堂嘉宾。

  • Oracle用户组年轻专家。ChinaUnix 社区 Oracle 板块版主,ChinaUnix 社区博客专家。

  • 优酷网认证音乐牛人:EricGuitar。



本文来自云栖社区合作伙伴"DBAplus",原文发布时间:2016-01-19

目录
相关文章
|
Shell Linux C语言
【Shell 命令集合 网络通讯 】Linux 向指定用户或终端发送消息 write命令 使用指南
【Shell 命令集合 网络通讯 】Linux 向指定用户或终端发送消息 write命令 使用指南
307 0
|
SQL JSON 分布式计算
ODPS SQL ——列转行、行转列这回让我玩明白了!
本文详细介绍了在MaxCompute中如何使用TRANS_ARRAY和LATERAL VIEW EXPLODE函数来实现列转行的功能。
|
小程序 JavaScript 开发者
小程序项目开发实战:从零到上线
小程序项目开发实战:从零到上线
211 0
|
10月前
|
编解码
网站视频下载工具分享
[Cobalt](https://cobalt.tools/) 是一款无广告、无跟踪器的高效媒体下载器。它支持全平台内容下载,包括B站、YouTube、Instagram等,涵盖视频、音频、字幕等格式,分辨率从480P到8K+。无需注册,直接使用,简单快捷。还提供批量下载和自定义选项,提升下载效率。
|
12月前
|
Kubernetes 监控 容器
ly~
|
安全 Java 编译器
Java 是如何实现跨平台的?
Java 通过 Java 拟机(JVM)实现了跨平台功能。首先,Java 源代码经编译器转换为与平台无关的字节码,这种中间代码可在任何具备 JVM 的平台上运行。其次,JVM 解释执行字节码,并根据需要利用即时编译(JIT)技术将其转换为目标平台的本地机器码以提升性能。此外,JVM 还提供了统一的运行环境,包括内存管理、线程管理以及安全控制等功能,确保 Java 程序在不同操作系统上具有一致的行为表现。
ly~
879 9
|
11月前
|
Kubernetes Java 调度
Kubernetes中的Pod垃圾回收策略是什么
Kubernetes中的Pod垃圾回收策略是什么
|
算法 自动驾驶 物联网
解读蜂窝网络中的频谱共享技术
解读蜂窝网络中的频谱共享技术
446 5
|
12月前
|
数据可视化 搜索推荐 BI
哪些任务进度管理器值得推荐?几款工具使用测评
在快节奏的工作环境中,任务进度管理器成为提高效率和协作的关键工具。本文介绍了三款高效实用的管理软件:板栗看板、Trello 和 Asana。这些工具不仅帮助用户更好地规划和跟踪项目进度,还能确保任务按时完成。板栗看板以其直观的看板和灵活的自定义选项受到青睐;Trello 通过丰富的插件和跨平台支持,成为全球广泛使用的工具;Asana 则以强大的功能和灵活的工作流管理,适合大型企业和复杂项目的管理需求。用户可根据自身需求选择合适的工具,提高团队协作效率,达成项目目标。
|
数据采集 API
快手商品数据采集神器,助你轻松获取商品详情数据
快手商品数据采集神器,助你轻松获取商品详情数据