【问题标题】:Ray init() is very slowRay init() 非常慢
【发布时间】:2021-05-13 19:09:27
【问题描述】:

我是使用 Ray 的新手,我觉得它很棒,我不得不放弃多处理,因为它在类中不能以最佳方式工作。 我对 Ray 的唯一问题,我不明白,是为了在我的笔记本电脑甚至更大的计算机(总是在 Windows 10 上)上使用,Ray init() 非常慢,需要 10 到 15 秒平均。

这可能是必要的时间,我不知道,但我想确定一下。或者有没有办法在我的笔记本电脑上初始化只需要几分之一秒? 我已经习惯了没有这样的东西的多处理包,并且池的初始化不会像那样永远。

感谢您的帮助!

【问题讨论】:

  • 你应该问一个更具体的问题。
  • @Gael 这真的取决于你的硬件资源,但总的来说 - ray.init() 并不慢。
  • 感谢您的回答。确实,这似乎是一个 Windows 问题。我使用了 WSL,并没有花时间。我想知道是否有一个快速解决方案,但到目前为止还没有答案,我很确定我一定不是唯一一个遇到这个问题的人。
  • 我在这里注意到了同样的问题。运行 ray.init() 需要 13 秒。我注意到 worker.py 中的导入资源失败。不确定它是否相关。然后在后面的代码中,这两行每行需要 5-6 秒。

标签: python parallel-processing ray


【解决方案1】:

我在这里注意到同样的问题。 运行 ray.init() 需要 13 秒!!!!!!!!!!!!

我注意到 worker.py 中的导入资源失败。不确定它是否相关。看起来这是 Windows 的正常故障。

然后在代码的后面,这两行每行需要 5-6 秒。

    _global_node = ray.node.Node(
        ray_params,
        head=False,
        shutdown_at_exit=False,
        spawn_reaper=False,
        connect_only=True)

connect(
    _global_node,
    mode=driver_mode,
    log_to_driver=log_to_driver,
    worker=global_worker,
    driver_object_store_memory=_driver_object_store_memory,
    job_id=None,
    namespace=namespace,
    job_config=job_config)

有什么想法吗?

【讨论】:

  • 我不确定这是否能回答问题,它似乎更像是评论或其他问题。你能澄清一下吗?
【解决方案2】:

Ray 文档中的 Starting Ray 页面显示了如何从命令行启动 Ray:

ray start --head --port=6379

然后,在您的 Python 脚本中,使用以下命令初始化 Ray:

ray.init(address='auto')

这样,您不必在每次 Python 脚本执行期间都等待 Ray 初始化。

【讨论】:

    猜你喜欢
    • 2015-12-05
    • 2015-05-22
    • 1970-01-01
    • 2017-12-12
    • 2015-06-14
    • 2013-05-14
    • 2021-05-24
    • 1970-01-01
    • 2013-06-24
    相关资源
    最近更新 更多