datastage 配置 增量抽取

简介: 1 三个控件:   TRANSFORMER:对于任何需要转换的数据集合进行转化并负责传入到其他活动的STAGE SELECT XM XM_BM,XB XB_BM, F_15TO18(SFZH) SFZH,AGE AGE_BM FROM XXX   ORACLE CONNECTOR:连接Oracle数据,传送或者被写入数据。

1

三个控件:

 

TRANSFORMER:对于任何需要转换的数据集合进行转化并负责传入到其他活动的STAGE

SELECT XM XM_BM,XB XB_BM, F_15TO18(SFZH) SFZH,AGE AGE_BM

FROM XXX

 

ORACLE CONNECTOR:连接Oracle数据,传送或者被写入数据。

INSERT 

UPDATE

SELECT 

DELETE

 

 

AGGREGATOR:对于单一的输入数据进行分组并且计算每一组的合计和总计

ASH:最好自定义,这样子数据就比较全面

SELECT MAX(AGE_BM) ,ASH FROM XXX GROUP BY ASH;

 

A经过转换出来 将符合的字段传入B中,其中在转换过程中,取出A的最大时间戳并将其传入到时间戳表中。

 

A下次活动时取出时间戳之后的值将其存入到B

 

这样的话就需给A赋值

 

右击方案的PROPERTIES

添加时间戳类型一般默认为STRING


 

 

上面的方案主要解决存入数据并将最大时间戳存入到数据库中

现在如何将变量传送进去

 

2

 

HASH FILE:可以认为是一个txt文件存储关键字和时间戳

 

A的时间戳值存入到HASH_FILE

 

3

 

JOB ACTIVITY:类似Oraclejob

 

HASH_FILE读取数据并传入1

目录
相关文章
|
4月前
|
存储 人工智能 数据库
点我!1分钱获取你的专属表白网页,浪漫由大模型代运营
MCP 技术持续走红,应用场景不断拓展。近期支付功能上线,推动商业化落地。作者借助「百宝箱智能体平台」打造了一款名为「与你」的情侣互动助手,支持游玩攻略、牵手技巧、告白网页定制等功能,并结合 MCP 实现支付宝支付与网页部署,兼具实用性与仪式感,助力恋爱小白提升情感表达。
207 2
点我!1分钱获取你的专属表白网页,浪漫由大模型代运营
|
4月前
|
SQL DataWorks 关系型数据库
DataWorks+Hologres:打造企业级实时数仓与高效OLAP分析平台
本方案基于阿里云DataWorks与实时数仓Hologres,实现数据库RDS数据实时同步至Hologres,并通过Hologres高性能OLAP分析能力,完成一站式实时数据分析。DataWorks提供全链路数据集成与治理,Hologres支持实时写入与极速查询,二者深度融合构建离在线一体化数仓,助力企业加速数字化升级。
|
API 开发者
提供一份 1688 商品详情接口的错误码及解决方法
本文介绍了 1688 商品详情接口常见的错误码及其解决方法,包括 401(未授权)、403(禁止访问)、404(未找到)、429(请求过多)和 500/502/504(服务器错误),帮助开发者快速定位并解决问题。
|
Unix
自己总结的aix的常用命令
自己总结的aix的常用命令
389 1
|
SQL 分布式计算 关系型数据库
彻底理解Hive中的锁
前面遇到过一次因为Hive中表被锁住了,导致定时任务一直失败。这两天又出现了表被锁,原因是连接hiveserver2过于频繁,mysql连接被打满,引发的连锁反应,导致我们的小时任务一直失败,下午重点注意到这个问题,才解决好。
1820 0
彻底理解Hive中的锁
|
小程序 前端开发 开发者
TDesign电商小程序模板解析01-自定义底部导航栏
TDesign电商小程序模板解析01-自定义底部导航栏
|
SQL 分布式计算 资源调度
[已解决]FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask. Unable to
[已解决]FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask. Unable to
642 0
|
缓存 Java Linux
Linux系统内存使用率与top进程展示使用率不一致问题
使用top/htop工具查看的内存占用率与free/云监控不一致问题
Linux系统内存使用率与top进程展示使用率不一致问题
|
存储 SQL 数据采集
IoT设备数据的存储、解析和价值挖掘实践
本实践以一个道路交通场景下设备运营管理的真实需求为背景来介绍如何使用物联网平台的数据服务完成对设备数据的存储、备份、预处理和深度分析,以达到企业经营提效的效果。
1276 0
IoT设备数据的存储、解析和价值挖掘实践