【问题标题】:Is there a way to obtain pipeline activity run details for Azure Synapse from Log Analytics?有没有办法从 Log Analytics 获取 Azure Synapse 的管道活动运行详细信息?
【发布时间】:2021-12-23 03:30:45
【问题描述】:

我已经设置了一个日志分析工作区并将其添加到我的 Synapse 工作区的诊断设置中。但是,我无法编写一个查询来提取管道活动信息,例如 dataRead、rowsCopied 等。 我试过使用 dataReadvar = parse_json(Output).dataRead 在 SynapseIntegrationActivityRuns 中提取 JSON,但它似乎无法找到“输出”。

【问题讨论】:

    标签: azure-log-analytics azure-synapse azure-diagnostics


    【解决方案1】:

    Azure 数据工厂和 Azure Synapse Analytics 具有三组活动:data movement activitiesdata transformation activitiescontrol activities。一个活动可以接受零个或多个输入datasets 并产生一个或多个输出datasets

    检查示例管道的定义方式及其管道活动:

    {
        "name": "PipelineName",
        "properties":
        {
            "description": "pipeline description",
            "activities":
            [
            ],
            "parameters": {
            },
            "concurrency": <your max pipeline concurrency>,
            "annotations": [
            ]
        }
    }
    

    以下是执行活动的顶级结构的 JSON 格式:

    {
        "name": "Execution Activity Name",
        "description": "description",
        "type": "<ActivityType>",
        "typeProperties":
        {
        },
        "linkedServiceName": "MyLinkedService",
        "policy":
        {
        },
        "dependsOn":
        {
        }
    }
    

    活动政策:

    {
        "name": "MyPipelineName",
        "properties": {
          "activities": [
            {
              "name": "MyCopyBlobtoSqlActivity",
              "type": "Copy",
              "typeProperties": {
                ...
              },
             "policy": {
                "timeout": "00:10:00",
                "retry": 1,
                "retryIntervalInSeconds": 60,
                "secureOutput": true
             }
            }
          ],
            "parameters": {
               ...
            }
        }
    }
    

    这里有一些 MS Docs,如 Docs1Docs2,它们与您的场景相关,可以提供帮助。

    【讨论】:

    • 这个答案解决了您的问题吗?
    猜你喜欢
    • 1970-01-01
    • 2023-02-13
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-03-13
    • 2021-09-12
    • 1970-01-01
    相关资源
    最近更新 更多