为什么 Ray Tune 跟踪不保存所有数据点？答案

【问题标题】：Why is Ray Tune track not saving all datapoints?为什么 Ray Tune 跟踪不保存所有数据点？
【发布时间】：2020-12-30 08:14:55
【问题描述】：

以下代码块用于保存我当前运行的多个指标：

track.log(pgd_loss=pgd_loss)
track.log(pgd_acc=pgd_acc)
track.log(test_loss=test_loss)
track.log(test_acc=test_acc)

但是只有最后一行 track.log(test_acc=test_acc) 有效。我做错了什么？

【问题讨论】：

标签： logging ray

【解决方案1】：

尝试通过一次调用保存所有指标：

track.log(pgd_loss=pgd_loss, pgd_acc=pgd_acc, test_loss=test_loss, test_acc=test_acc)

我怀疑track.log 异步保存了这些值，并且不小心覆盖了之前对track.log 的调用尚未完成保存的值。这可能就是为什么只有最后一个调用有效的原因。

【讨论】：

不错！你用的是什么版本的雷？这应该在最近的几个版本中得到修复。
我使用的是最新版本。我在检查我的解决方案是否真的有效之前发布了这个答案，因为我的脚本需要很长时间才能运行，而且我对我的修复非常有信心。其他标量被记录并且可能在我的更改之前已经记录，但只有 test_acc 出现在 tensorboard hparams 部分中，这就是为什么我认为只有 test_acc 被记录的原因。我仍然遇到与以前相同的问题，并且无法在 hparams 下显示其他值。
这是我如何显示其他值的方式：stackoverflow.com/questions/63855334/… 我认为我不应该将其添加为另一个答案，因为它似乎与 Ray Tune 没有任何联系。