【发布时间】:2020-07-31 01:29:42
【问题描述】:
当我查看主节点的 web ui 时,它显示了我当前连接到集群的所有工作人员。
https://spark.apache.org/docs/3.0.0-preview/web-ui.html
我遇到的问题是它用于 web ui 中工作节点的 IP 地址不正确。有没有办法更改在 master 的 web ui 中使用的 worker 的 web ui 主机/ip?
通读文档,似乎有“SPARK_WORKER_WEBUI_PORT”为工作人员设置端口,但似乎没有“SPARK_WORKER_WEBUI_HOST”。
http://spark.apache.org/docs/latest/spark-standalone.html
为了提供更多上下文,我目前有一个以独立模式部署的 spark 集群。 spark集群(主从)都在路由器(NAT)后面。工作人员使用其内部 IP 地址绑定到主服务器。我设置端口转发以将外部流量路由到每个主机和从机。问题是,由于我的工作人员使用他们的内部 IP 地址绑定到主节点,因此它使用主节点的 web ui 中的内部 IP 地址。这使得我的 NAT 之外的每个人都无法访问工作节点的 web ui。如果有办法专门设置我的每个工作人员的 web ui 使用的 IP 地址,那么这将解决这个问题。谢谢!
【问题讨论】:
标签: apache-spark