基于模型的优化（在 mlrMBO 中）需要多少次迭代？

Question

我想在 R (mlrMBO) 中的 mlr 包中使用基于模型的优化来调整我的超参数。 这里推荐多少次迭代？ 我读过 MBO 中必要的迭代次数取决于超参数的数量，应该乘以某个因子？

Answer 1

很遗憾，对此没有通用的答案。除了超参数的数量之外，任务的难度和一般优化环境也会影响可能需要多少次迭代。此外，这取决于您所寻找的性能水平——如果您绝对需要最佳性能，您可能需要很多次迭代（数千次或更多）。

一个好的经验法则是根据可用资源确定迭代次数。您需要在几分钟内得到答案，还是可以让它在一夜之间运行？我将从只进行几次迭代的小型测试运行开始，以了解在您的特定情况下需要多长时间，然后根据此设置实际运行的迭代次数以及您希望花费多长时间。

使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次运行也是一个好主意。这将告诉您通过运行更长的时间可以获得多少性能，例如如果 100 次和 1000 次迭代没有区别，那么给它更多可能不值得。