【问题标题】:Get Yarn application id before SparkSession is instantiated在 SparkSession 实例化之前获取 Yarn 应用 id
【发布时间】:2021-01-22 07:35:59
【问题描述】:

当 spark-submit 向 Yarn 提交应用程序时,它会立即分配一个应用程序 ID。但是从应用程序中获取我知道的这个 id 的唯一方法是sparkSession.sparkContext.applicationId

有没有办法在 SparkSession 实例化之前获取应用程序 ID?我正在做一些预先检查,确定配置选项,并且我希望在这个阶段已经有办法记录它,以防出现问题。

【问题讨论】:

  • 不也是一个答案。

标签: scala apache-spark hadoop-yarn


【解决方案1】:

从程序内部没有。正如你所暗示的那样。

【讨论】:

    猜你喜欢
    • 2021-06-10
    • 2023-03-26
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2023-02-14
    • 1970-01-01
    • 1970-01-01
    • 2011-12-14
    相关资源
    最近更新 更多