【发布时间】:2021-01-22 07:35:59
【问题描述】:
当 spark-submit 向 Yarn 提交应用程序时,它会立即分配一个应用程序 ID。但是从应用程序中获取我知道的这个 id 的唯一方法是sparkSession.sparkContext.applicationId。
有没有办法在 SparkSession 实例化之前获取应用程序 ID?我正在做一些预先检查,确定配置选项,并且我希望在这个阶段已经有办法记录它,以防出现问题。
【问题讨论】:
-
不也是一个答案。
标签: scala apache-spark hadoop-yarn