一、问题提出
   在一个数据仓库应用中,每天新建一个MySQL数据库,以当天日期命名,如d_p20161201、d_p20161202等,并使用Kettle连接这些数据库做数据清洗和ETL工作。由于数据库是用脚本每天动态生成的,Kettle如何连接动态分库呢?

二、解决方案
1. 建立数据库连接,在数据库名称中引入变量。此时是无法连接到数据库的。
2. 建立转换,用JavaScript步骤设置上一步引用的变量,作为数据库名称中的日期部分。
3. 建立作业,在开始后首先调用上一步建立的转换,后续的转换或作业即可正常使用第1步建立的数据库连接。

三、验证步骤
1. 建立测试数据库表。
create database if not exists d_20161225;
use d_20161225;
drop table if exists t1;
create table t1 (a int);
insert into t1 values (101),(102);
commit;
2. 新建一个转换,保存为set_dbname.ktr

3. 建立数据库连接如下:

使用Kettle连接动态分库

如图所示,在“数据库名称”中引用了一个变量${current_date},此时该变量还没有定义。如果测试数据库连接会报以下错误:

使用Kettle连接动态分库

4. 将mydb设为共享。

使用Kettle连接动态分库

5. 编辑set_dbname转换如下:

使用Kettle连接动态分库
该转换由三个步骤组成,分别如下面三张图所示:

使用Kettle连接动态分库

“生成记录”生成一条记录,在数据流中存储变量值。

使用Kettle连接动态分库

“JavaScript”用来生成符合日期格式的字符串。

使用Kettle连接动态分库

“设置变量”给变量赋值。

6. 新建一个转换如下,保存为table_output.ktr。

使用Kettle连接动态分库

此转换只有两个步骤,用来测试数据库输出,分别如下面两张图所示:

使用Kettle连接动态分库

“表输入”查询t1表的数据。

使用Kettle连接动态分库

“文本文件输出”将表数据存储到一个txt文件中。

7. 新建一个作业,调用前面的建立的两个转换,保存为connect_db.kjb。

使用Kettle连接动态分库

使用Kettle连接动态分库

使用Kettle连接动态分库
8. 执行作业
9. 查看输出文件的内容,如下图所示:

使用Kettle连接动态分库
正确查询出表数据。

10. 此时再测试mydb数据库连接,可以成功。

使用Kettle连接动态分库

四、总结
   本实验在以下两点进行了尝试:
1. 使用JavaScript步骤给变量赋值,这种在Kettle中编程的方式,能够实现非常复杂的应用逻辑。
2. 数据库连接可以在运行时动态引用变量,这给实现统一的ETL调度提供了一种可能性。
   先设置变量并赋值,然后在后面的步骤或作业项中使用变量,这是一种通用的方法。通过在Kettle中进行程序设计,大大增强了Kettle的功能。

原文:https://blog.csdn.net/wzy0623/article/details/53883505 

相关文章:

  • 2021-09-12
  • 2021-12-18
  • 2021-10-16
  • 2021-06-10
  • 2021-11-09
  • 2021-12-30
  • 2021-07-11
猜你喜欢
  • 2021-06-04
  • 2021-10-20
  • 2021-11-30
  • 2022-12-23
  • 2022-12-23
  • 2021-06-12
相关资源
相似解决方案