【问题标题】:How to print out Spark connection of Spark session ?如何打印出 Spark 会话的 Spark 连接?
【发布时间】:2018-10-12 13:15:08
【问题描述】:

假设我运行pyspark 命令并获得SparkSession 类型的全局变量spark。据我了解,这个spark 拥有与 Spark 主服务器的连接。我可以打印出此连接的详细信息,包括此 Spark 主服务器的主机名吗?

【问题讨论】:

  • spark.sparkContext.master 将是一个好的开始。您需要为 local 和 YARN 提供一些额外的逻辑来获取实际主机。
  • 谢谢。看起来spark.sparkContext.master 在我的情况下是yarn。你如何获得主主机名?

标签: apache-spark pyspark


【解决方案1】:

基本信息可以使用master属性:

spark.sparkContext.master

要获取有关 YARN 的详细信息,您可能需要深入了解hadoopConfiguration

hadoopConfiguration = spark.sparkContext._jsc.hadoopConfiguration()
hadoopConfiguration.get("yarn.resourcemanager.hostname")

hadoopConfiguration.get("yarn.resourcemanager.address")

当提交到 YARN 时,Spark 使用 Hadoop 配置来确定资源管理器,因此这些值应该与 HADOOP_CONF_DIRYARN_CONF_DIR 中的配置中的值匹配。

【讨论】:

  • 非常感谢。还有一个问题:如果"yarn.resourcemanager.hostname"0.0.0.0 是什么意思?
  • 看起来像你的本地机器(你在同一个节点上运行 YARN 吗?)。
猜你喜欢
  • 2017-05-22
  • 2019-09-25
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-12-23
  • 2017-08-13
相关资源
最近更新 更多