【问题标题】:Can oozie monitor a directory for new files in hdfs directory?oozie 可以监视目录中 hdfs 目录中的新文件吗?
【发布时间】:2017-03-09 13:06:16
【问题描述】:

我需要在我的 hadoop 集群上执行以下工作流。

  • 新文件被添加到 hdfs 目录 /export/(一天多次)
  • 文件有两种格式:*_A.csv 和 *_B.csv
  • 将所有 *_A.csv 复制到 /hive/dumptable_a/
  • 将所有 *_B.csv 复制到 /hive/dumptable_b/ 中
  • 运行 hive 插入查询以从 dumptable_a 加载分区表 A
  • 运行 hive 插入查询以从 dumptable_b 加载分区表 B
  • 从 /hive/dumptable_a/ 和 /hive/dumptable_b/ 中删除数据

是否可以设置 oozie 来监控 /export/ 中的新文件并启动工作流程? 如果 oozie 无法做到这一点,或者它不是正确的工具,那么最好的选择是什么?

【问题讨论】:

标签: hadoop hive oozie oozie-coordinator


【解决方案1】:

是的,正如 Rahul 所提到的,请查看 Oozie file based coordinator,您可以在其中找到有关如何使用 <datasets> 和 <input-events> 元素的示例。

或者您可以查看 oozie 文档here中的示例

【讨论】:

    猜你喜欢
    • 2016-12-10
    • 1970-01-01
    • 1970-01-01
    • 2018-12-10
    • 1970-01-01
    • 2016-10-12
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多