ETL工具 Kettle 中 kettle循环传递变量_(最简单的方法)

简介: 本文详细介绍了如何在Kettle工具中使用循环传递变量,通过示例展示了如何将movies表数据按月插入到ods_movies表,涉及新建转换、获取变量、作业配置和执行,呈现了一个嵌套作业结构.

第二章 ETL工具 Kettle 中循环传递变量


前言

Kettle 中循环传递变量,在企业中最直接应用就是数仓重跑数据。

CSDN 也看了一些,我这里举一个最简单的示例。

一、新建示例用的表

具体见 我的上一篇,使用的表还是 之前的2张表ods_movies和 movies

本示例的目的是将movies 表的数据循环 insert到 ods_movies 表中


二、使用

1.新建转换 循环列表

加2个对象 表输入 和 复制记录到结果


select DATE_FORMAT(yyyy_mm_dd, '%Y-%m-%d') as 'cur_month' from  movies where year(yyyy_mm_dd)='2019'


到这里 循环列表转换就建好了。

2.新建转换 获取每一行变量

新建2个对象,如下


这个将 变量名设置为 CUR_MONTH

变量活动类型设置为 :Valid in the Java Virtual Machine

3.新建作业 执行每一行


'可以看到 这个记录每次只能insert 一条 记录' 
insert into ods_movies
select yyyy_mm_dd,movies_name,total_gross,currency,now() as 'etl_time'
from movies where yyyy_mm_dd='${CUR_MONTH}'

4.新建作业名循环执行

配置循环列表如下

配置执行每一行

注意执行每一个输入行需要打✔


5.执行

如下图

6.结果



总结

以上就是今天要讲的内容,这个可以理解是一个嵌套的关系

作业里含了另一个作业,然后让这个作业执行每一个输入行



目录
相关文章
|
22天前
|
人工智能 Cloud Native Serverless
2024云栖大会资料精选,《云原生+AI核心技术&最佳实践》PPT全量放送!
关注阿里云云原生公众号,后台回复:2024 云栖大会,即可免费下载云原生云栖大会核心资料合集。
832 34
|
24天前
|
JavaScript 前端开发
JavaScript如何判断变量undefined
JavaScript如何判断变量undefined
|
18天前
|
存储 程序员
C 标准库 - <time.h>详解
`&lt;time.h&gt;` 是 C 标准库中用于处理时间和日期的头文件,提供了多种函数、宏和类型来获取和操作时间信息。重要数据类型包括 `time_t` 和 `struct tm`,前者表示从 1970 年 1 月 1 日以来的秒数,后者包含详细的日期和时间字段。
|
25天前
|
监控 API 数据库
什么是API?
API是应用程序编程接口(Application Programming Interface)的缩写,它定义了软件组件之间如何相互通信。API充当不同软件间的桥梁,允许应用程序使用另一个应用程序的功能或数据。
46 4
|
25天前
|
5G 调度 UED
5G中的动态频谱共享(DSS):高效利用频谱资源,加速5G网络演进
5G中的动态频谱共享(DSS):高效利用频谱资源,加速5G网络演进
204 4
|
1天前
|
存储 关系型数据库 MySQL
PACS系统 中 dicom 文件在mysql 8.0 数据库中的 存储和读取(pydicom 库使用)
PACS系统 中 dicom 文件在mysql 8.0 数据库中的 存储和读取(pydicom 库使用)
7 2
|
1天前
|
数据可视化 JavaScript 前端开发
光芒绽放:妙用“GLAD原则”打造标准的数据可视化图表
光芒绽放:妙用“GLAD原则”打造标准的数据可视化图表
13 2
|
1天前
|
关系型数据库 MySQL 数据库
mysql 8.0 递归(例子分享)(sample database classicmodels _No.4)
本文介绍了如何在MySQL8.0中使用递归查询处理部门表和员工表的树形结构数据,包括查看文档、准备数据、递归处理以及提取层级信息。作者通过示例展示了WITHRECURSIVE语句的应用及其在数仓中的结构表示。
6 2
|
1天前
|
存储 关系型数据库 MySQL
环比、环比增长率、同比、同比增长率 ,占比,Mysql 8.0 实例(最简单的方法之一)(sample database classicmodels _No.2 )
环比、环比增长率、同比、同比增长率 ,占比,Mysql 8.0 实例(最简单的方法之一)(sample database classicmodels _No.2 )
8 1
|
5天前
|
定位技术