【问题标题】:How to get the Run id's using Job Id using Databricks CLI如何使用 Databricks CLI 使用 Job Id 获取 Run id
【发布时间】:2020-12-26 12:49:56
【问题描述】:

我尝试在 CLI 上使用 databricks runs list 获取运行 ID,但没有获得每天运行的所有作业的运行 ID,我只获得了前 20 个运行 ID,但随后我使用 @ 获取了所有作业的作业 ID 987654322@ 现在我想使用作业 ID 获取所有作业的运行 ID。请帮我解决这个问题,我是 databricks 的新手。

【问题讨论】:

  • 或者如果我们可以使用“databricks 运行列表”获得超过 20 个运行 ID

标签: databricks azure-databricks databricks-connect


【解决方案1】:

很遗憾,databricks cli 不提供 Run id 的信息。

注意:只有 Databricks 执行程序启动的作业使用阶段中指定的作业 ID 显示。作业的所有实例的作业 ID 都是相同的。

您可以在 Data Collector 日志中找到特定实例的运行 ID。

Databricks 执行器还将作业的运行 ID 写入事件记录。要记录所有运行 ID,请为阶段启用事件生成。

有不同的方法可以获取任何给定作业的 RunId:

Azure Databricks 门户(用户界面):通过单击“作业”选项卡,您可以查看已创建的所有作业。

选择任何 Job 以获取每次运行的详细 RunId。

Azure 门户(用户界面)使用 Kusto 查询语言:如果您已配置诊断日志传递,则可以使用 KQL 查询来获取 JobID 和 RunID:

Databricks REST API:您可以使用以下 REST API 命令获取作业和运行列表。

curl "https://centralus.azuredatabricks.net/api/2.0/jobs/runs/list" -X GET -H "Authorization: Bearer dapiXXXXXXXXXXXXXXXXXXXXXXXXXXXXX4a"

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2013-02-19
    • 1970-01-01
    • 2020-08-11
    • 1970-01-01
    • 2019-07-08
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多