稀疏 GP 回归的初始种子答案

【问题标题】：initial seed for sparse GP regression稀疏 GP 回归的初始种子
【发布时间】：2016-03-02 03:02:09
【问题描述】：

我使用稀疏高斯过程从 Rasmussen 进行回归。 [http://www.tsc.uc3m.es/~miguel/downloads.php][1]

预测均值的语法是：

[~, mu_1, ~, ~, loghyper] = ssgpr_ui(Xtrain, Ytrain, Xtest, Ytest, m);

我的问题是，作者指出不同迭代的初始超参数搜索条件不同，因此模型的结果每次迭代都不同。有什么方法可以确保将最佳初始化或种子条件设置为具有高质量的超参数，以实现最佳预测和可重现的结果？

【问题讨论】：

由于这个问题主要是关于方法而不是编程，您是否考虑过将问题迁移到 stats.stackexchange.com？
@mikkola ：这当然与编程有关。（设置种子）
对，很抱歉造成混乱。我想到了尝试和错误——但更重要的是，在某种意义上对特定数据集的模型进行微调是否会破坏回归建模的目的？你会为你的训练和验证数据找到一个非常好的模型，但我认为你很有可能会过度训练并失去泛化能力。

【解决方案1】：

为了每次都获得相同的预测，可以通过以下方式设置种子 stream = RandStream('mt19937ar','Seed',123456); RandStream.setGlobalStream(stream);

但是，没有设置最佳种子的标准程序。这样做会导致模型过度拟合，因为我们提供了太多理想条件来拟合@mikkola 引用的训练数据

【讨论】：