【问题标题】:H2O single node Vs clusterH2O 单节点 Vs 集群
【发布时间】:2022-01-09 07:18:33
【问题描述】:

我最近开始学习 H2O AutoML。我想知道以下哪个选项效果更好。具有 6GB 内存的单个节点或由三个节点组成的集群,每个节点具有 2GB 内存。

  1. java -Xmx6g -jar h2o.jar -name MyCluster
  2. java -Xmx2g -jar h2o.jar & java -Xmx2g -jar h2o.jar & java -Xmx2g -jar h2o.jar &

如果单节点部署有缺点,你能推荐一些优化性能的方法吗? 提前致谢!

【问题讨论】:

  • 在我的测试中,一个节点中更大的内存总是更好,对于随机森林非常显着,但对于所有其他算法都是可测量的。加载大型数据集也更简单。
  • 谢谢@Darren Cook

标签: h2o h2o.ai


【解决方案1】:

我的猜测是,由于上下文切换较少,第一种方法会提供更好的性能。我对 H2O 不太熟悉,但我猜他们每个内核启动一个线程。因此,如果您有 3 个 H2O 实例,则每个内核会获得 3 个线程,这将导致上下文切换数量增加,从而降低性能。

而且我很确定 H2O 可以处理大量内存。他们可以对创建的数组进行池化,因此对于实际数据应该不需要太多的垃圾收集。

【讨论】:

  • 谢谢@pveentjer
【解决方案2】:

在单个节点上运行 H2O 总是更好(如果可能),因为集群节点之间存在通信开销。模型将在单个节点上训练得更快。

【讨论】:

  • 谢谢@Erin LeDell
猜你喜欢
  • 2019-02-24
  • 1970-01-01
  • 2021-11-10
  • 2013-04-24
  • 2012-05-02
  • 2018-01-11
  • 2016-11-16
  • 1970-01-01
  • 2021-08-30
相关资源
最近更新 更多