【发布时间】:2018-10-12 13:15:08
【问题描述】:
假设我运行pyspark 命令并获得SparkSession 类型的全局变量spark。据我了解,这个spark 拥有与 Spark 主服务器的连接。我可以打印出此连接的详细信息,包括此 Spark 主服务器的主机名吗?
【问题讨论】:
-
spark.sparkContext.master将是一个好的开始。您需要为local和 YARN 提供一些额外的逻辑来获取实际主机。 -
谢谢。看起来
spark.sparkContext.master在我的情况下是yarn。你如何获得主主机名?
标签: apache-spark pyspark