【问题标题】:Azure Data Factory v2 Pipeline API call for trigger timestamp触发时间戳的 Azure 数据工厂 v2 管道 API 调用
【发布时间】:2018-05-28 20:34:37
【问题描述】:

我是使用 azure 数据工厂的新手,我正在尝试设置一个从 API 获取特定时间范围内的数据的管道。 到目前为止,这是我一直在做的事情: 我为 API 调用创建了一个翻转窗口管道,以将数据作为 JSON 文件引入并存储在具有特定时间戳的 ADL 文件夹中。 问题是我只想要当前日期和时间的数据并存储在该特定文件夹中,例如年/月/日/小时/ json 文件 我如何告诉 URL 只是在触发器被激活的一小时内获取数据(触发器设置为每整整一小时,并且需要从例如凌晨 3 点到 3:59 获取数据。 我能够从特定时间戳获取数据,但不能从与触发时间相关联的当前时间获取数据。 网址代码: ?sourceId=1LuOA,9VKZ2,CISG1,D7UIQ,gu4me,hSZGT,K582n,MnkPP,Mxgt4,N4hAZ,PvECt,Qhr1i,uIWnW,vot1K,XAbJ4,XRH1E,ZbKW0,Zjrs3,ZttLo&interval=S10&maxResult=500&startTimestamp=2018-05- :00:00%2B00:00&endTimestamp=2018-05-16T00:59:59%2B00:00

接收代码:

beacon/@{formatDateTime(adddays(utcnow(),0),'yyyy')}/@{formatDateTime(adddays(utcnow(),0),'MM')}/@{formatDateTime(adddays(utcnow(),0),'dd')}

当我尝试添加小时数时,我得到一个不代表小时数的奇怪文件夹。

【问题讨论】:

  • 嗨。欢迎来到 StackOverflow!请使用代码块正确格式化您的代码,以便其他人更容易阅读和理解您的问题。

标签: api triggers pipeline azure-data-factory azure-data-factory-2


【解决方案1】:

在您的管道中,定义一个管道参数,例如 windowStart。然后将 trigger().outputs.windowStartTime 传递给您的管道参数。 然后,如果您预期的文件夹名称是 abc/year/month/day/hour。 你可以使用abc/@{formatDateTime(pipeline().parameters.windowStart,'yyyy')/@{formatDateTime(pipeline().parameters.windowStart,'MM')/@{formatDateTime(pipeline().parameters.windowStart, 'dd')/@{formatDateTime(pipeline().parameters.windowStart,'HH')}

请参考这里的翻滚窗口。 https://docs.microsoft.com/en-us/azure/data-factory/how-to-create-tumbling-window-trigger#tumbling-window-trigger-type-properties

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2022-01-06
    • 1970-01-01
    • 2020-03-16
    • 2018-12-12
    • 2019-04-24
    • 2021-07-02
    相关资源
    最近更新 更多