ETL工具 Kettle 中怎么通过变量传参

简介: ETL工具 Kettle 中怎么通过变量传参

第一章 ETL工具 Kettle 中怎么通过变量传参

前言


作为一个数据产品经理,什么都要会点,今天就说下 Kettle ,大企业的数据开发职位用的会比较多。但 Kettle 核心对象用的最频繁 不会超过 10个

一般主要 有2种

转换 : 表输入,表输出 ,执行 sql 脚本 ,邮件(提醒),变量(传参)。

作业: start ,作业,转换,成功。


下面我来举个例子我最简单的方法告诉大家

太基础的我就不说了,本示例请先安装好 Kettle(8.0以上版本) 和MySQL 数据库

一、新建示例用的表

请在mysql 下执行 

 drop table movies
 drop table ods_movies
  
CREATE TABLE `movies` (
  `yyyy_mm_dd` Date DEFAULT NULL,
  `movies_name` varchar(50) DEFAULT NULL,
  `total_gross` double DEFAULT NULL,
  `currency` varchar(50) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci

CREATE TABLE `ods_movies` (
  `yyyy_mm_dd` Date DEFAULT NULL,
  `movies_name` varchar(50) DEFAULT NULL,
  `total_gross` double DEFAULT NULL,
  `currency` varchar(50) DEFAULT NULL,
  `etl_time` Datetime DEFAULT NULL
) ENGINE=MyISAM DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;

insert into movies(yyyy_mm_dd,movies_name,total_gross,currency)
values 
('2019/7/1','《复仇者联盟:终局之战》','2885000000','USD'),
('2015/12/1','《星球大战:原力觉醒》','2486000000','USD'),
('2019/12/1','《星球大战:天行者崛起》','1085000000','USD'),
('2018/6/1','《超人总动员2》','1243000000','USD'),
('2016/11/1','《海底总动员2:多莉去哪儿》','1053000000','USD'),
('2017/3/1','《美女与野兽》','1263000000','USD'),
('2019/9/1','《狮子王》','1106000000','USD'),
('2019/8/1','《美国队长3:内战》','1157000000','USD'),
('2018/2/1','《黑豹》','1345000000','USD')


说明:如果要用 MYSQL 8.0建立数据仓库 建议表引擎用ENGINE=MyISAM ,原理这里就不说的,懂的都懂。😃

二、使用

1.新建转换-时间变量


2.转换中加入表输入

select yyyy_mm_dd as 'cur_day' from movies where yyyy_mm_dd='2019-07-01'
///这里将字段名先设置为 cur_day

3.设置变量

这个将 变量名设置为 CUR_DAY

变量活动类型设置为 :Valid in the Java Virtual Machine

4.变量设置完成

5.再新建转换-传参数插入表

拖入 表输入和 表输出

6.传参数插入表-表输入

select yyyy_mm_dd,movies_name ,total_gross ,currency ,
now() as 'etl_time'
from movies where yyyy_mm_dd='${CUR_DAY}'

替换SQL语句里的变量这个很重要已经要勾上

7.传参数插入表-表输出

目标表 ods_movies

目标是 将 movies表数据输出到 ods_movies表中


8.新建作业

在通用里面拖入 3个对象,


9.执行作业和保存


10.数据库结果

总结

以上就是今天要讲的内容,本文仅仅简单介绍了变量的基础使用。希望可以帮助到 一些朋友。



目录
相关文章
|
6月前
|
SQL
kettle开发篇-参数
kettle开发篇-参数
132 0
|
6月前
|
数据采集 数据挖掘
kettle开发-数据清洗之字符串替换
kettle开发-数据清洗之字符串替换
293 2
|
1月前
|
Java
ETL工具 Kettle 中 kettle循环传递变量_(最简单的方法)
本文详细介绍了如何在Kettle工具中使用循环传递变量,通过示例展示了如何将movies表数据按月插入到ods_movies表,涉及新建转换、获取变量、作业配置和执行,呈现了一个嵌套作业结构.
76 3
|
5月前
|
SQL 分布式计算 大数据
MaxCompute产品使用问题之建了一个python 的 UDF脚本,生成函数引用总是说类不存在,是什么导致的
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
6月前
|
SQL XML JSON
Hive函数全解——思维导图 + 七种函数类型
Hive函数全解——思维导图 + 七种函数类型
132 2
Hive函数全解——思维导图 + 七种函数类型
|
6月前
|
SQL Java 数据库
Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
【2月更文挑战第10天】Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
260 0
|
6月前
|
Oracle 关系型数据库
kettle开发篇-替换空值
kettle开发篇-替换空值
290 0
|
消息中间件 分布式计算 BI
ETL和ELT到底有啥区别???
ETL和ELT到底有啥区别???
|
SQL Java Maven
Hive利用宏自定义简短的函数
Hive利用宏自定义简短的函数