如何为分布式 TensorFlow 创建分布式集群环境？答案

【问题标题】：How to create distributed cluster environment for Distributed Tensorflow?如何为分布式 TensorFlow 创建分布式集群环境？
【发布时间】：2019-04-28 17:46:48
【问题描述】：

我已经阅读了 Tensorflow 分布式环境的文档，但我无法找到任何地方如何设置适合 Tensorflow 的集群。

目前我有 10 台服务器，我想开始训练模型，但我想知道我需要在除 tensorflow 库之外的所有集群服务器上安装的依赖项。

或

如果我在我为分布式训练编写的 python 代码中指定集群规范是否足够，使用工人和参数服务器的 IP 地址或者我缺少什么？

tf.train.ClusterSpec({
"worker": [
    "172.09.09.09:1290",
    "172.10.10.10:2040",
    "172.11.11.11:3060"
],
"ps": [
    "172.12.12.12:8080",
    "172.13.13.13:8080"
]})

我可以在 tensorflow 文档中找到其他所有内容。我应该建立一个类似于 apache spark 的集群吗？

请帮助正确记录 tensorflow 集群的设置流程，或者如果我遗漏了什么，请帮助我提供简单的答案。

【问题讨论】：

标签： tensorflow tensorflow-serving

【解决方案1】：

您只需要在每个服务器上运行一个脚本。用相同的代码。每个脚本都将某些输入作为用于设置本身的参数。你可以看看这里：https://github.com/tensorflow/examples/blob/master/community/en/docs/deploy/distributed.md

【讨论】：

【解决方案2】：

也许您可以创建一个群集并在其上安装Cloudera Manager，然后可以尝试在其上安装Tensorflow库并使用Spark在数据上执行操作：

https://www.cloudera.com/documentation/enterprise/5-9-x/topics/install_cluster_template.html

一旦您拥有群集，您可以按照您最初执行并在Hadoop上运行tensorflow：

https://www.tensorflow.org/deploy/hadoop

【讨论】：