【问题标题】:How to solve the error when file doesn't exist in setting coordinator oozie设置协调器oozie中文件不存在时如何解决错误
【发布时间】:2016-03-22 11:29:43
【问题描述】:

设置coordinator oozie时错误文件不存在如何解决:

我在日志协调器中有错误:

猪日志文件转储:

后端错误信息

错误:java.io.FileNotFoundException:文件不存在:/user/hdfs/jay/part-0.tmp

设置协调员:

<coordinator-app name="tes-ng" frequency="${coord:minutes(15)}"
start="2015-12-07T10:30+0700" end="2017-02-28T23:00+0700" timezone="Asia/Jakarta"
xmlns="uri:oozie:coordinator:0.1" xmlns:sla="uri:oozie:sla:0.1">
<controls>
    <execution>LAST_ONLY</execution>
</controls>
<datasets>
    <dataset name="INPUT_DS" frequency="${coord:minutes(15)}"
        initial-instance="2015-02-16T016:00+0700" timezone="Asia/Jakarta">
        <uri-template>${nameNode}/user/hdfs/jay/${YEAR}/${MONTH}/${DAY}/${HOUR}${MINUTE}
        </uri-template>
        <done-flag></done-flag>
    </dataset>
    <dataset name="OUTPUT_DS" frequency="${coord:minutes(15)}"
        initial-instance="2015-02-16T16:00+0700" timezone="Asia/Jakarta">
        <uri-template>${nameNode}/user/hdfs/jay/output</uri-template>
        <done-flag></done-flag>
    </dataset>
</datasets>
<input-events>
    <data-in name="INPUT" dataset="INPUT_DS">
        <instance>${coord:current(-2)}</instance>
    </data-in>
</input-events>
<output-events>
    <data-out name="OUTPUT" dataset="OUTPUT_DS">
        <instance>${coord:current(-2)}</instance>
    </data-out>
</output-events>
<action>
    <workflow>
        <app-path>${appFolder}</app-path>
        <configuration>
            <property>
                <name>INPUT</name>
                <value>${coord:dataIn('INPUT')}</value>
            </property>
            <property>
                <name>OUTPUT</name>
                <value>${coord:dataOut('OUTPUT')}</value>
            </property>
        </configuration>
    </workflow>
</action>

我想要的是当我得到错误文件不存在时,oozie 可以保持直到文件准备好。任何想法..??

谢谢。

【问题讨论】:

    标签: hadoop apache-pig oozie-coordinator


    【解决方案1】:

    执行此操作的常用方法是具有适当的数据依赖关系。创建输入数据的过程会创建一个表明数据存在的文件(例如 _SUCCESS)。如果您在输入数据集中定义 a(例如 _SUCCESS),Oozie 将定期检查此文件是否存在,并且仅在可用时启动工作流。

    <dataset name="INPUT_DS" frequency="${coord:minutes(15)}"
        initial-instance="2015-02-16T016:00+0700" timezone="Asia/Jakarta">
        <uri-template>${nameNode}/user/hdfs/jay/${YEAR}/${MONTH}/${DAY}/${HOUR}${MINUTE}
        </uri-template>
        <done-flag>_SUCCESS</done-flag>
    </dataset>
    

    如果你不能有这样的标志,那么 AFAIK 唯一的选择是编写你自己的输入数据检查并将其插入 Oozie(我见过有人为 Hive 分区这样做)。

    您还应该仔细检查初始实例值,因为您似乎在其中放置了一个偏移量,然后在其上指定了timezone=Asia/Jakarta。

    【讨论】:

    • 感谢@LiMuBei 你写的_SUCCESS。而且我没有收到错误消息。非常感谢。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-09-16
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多