Google Cloud ML：如何对超参数调优作业执行纯网格搜索答案

【问题标题】：Google Cloud ML: How can I enforce a pure grid-search for a hyperparameter tuning jobGoogle Cloud ML：如何对超参数调优作业执行纯网格搜索
【发布时间】：2018-01-19 09:16:47
【问题描述】：

Google Cloud ML 使用贝叶斯优化来缓解维度灾难。在特定情况下，我有超参数调整作业，我想在超参数调整作业中对超参数网格强制执行详尽搜索。我怎样才能做到这一点？

我强制执行纯网格搜索的动机是：我观察到，专门针对 DISCRETE 类型的超参数的超参数调整作业会多次评估相同的超参数组合，这是我不想要的。我怀疑这与使用贝叶斯优化有关。这就是为什么我想对这些情况执行纯网格搜索。

【问题讨论】：

您的工作是否进行分布式培训？还是每个训练作业都是一台机器？

标签： tensorflow google-cloud-ml hyperparameters

【解决方案1】：

目前没有可用于强制执行网格搜索的参数。

目前最好的解决方法可能是提交多个作业，并为每个作业设置特定的超参数。这可以在不更改代码的情况下完成，因为您可以将值指定为用户命令行参数。您应该能够在一个循环中提交所有作业，如果一次运行的作业太多，Google Cloud ML 会将它们排队。缺点是你必须弄清楚哪个是最好的。

【讨论】：

我明白了。感谢您指出了这一点。这将是一个不错的功能，特别是如果我只调整离散超参数。