首先是 GridSearchCV，然后是 k 折叠 CV 还是相反？答案

【问题标题】：GridSearchCV first and then k fold CV or the other way round?首先是 GridSearchCV，然后是 k 折叠 CV 还是相反？
【发布时间】：2021-09-11 11:13:25
【问题描述】：

我在 GridSearchCV 和 K 折交叉验证之间有很多混淆。我知道 GridSearch 仅用于超参数优化，K Fold 会将我的数据拆分为 K 个折叠并对其进行迭代（cv 值）。那么我是否应该首先将我的数据分成训练集和验证集，对训练数据应用 GridSearch 以获得“最佳参数”，然后使用从 GridSearch 获得的“最佳参数”对我的训练数据使用 K 折叠？

【问题讨论】：

标签： hyperparameters gridsearchcv k-fold

【解决方案1】：

GirdsearchCV 本身为 HP 调整执行交叉验证。所以不需要单独执行。

如果您执行 NestedCV 而不是仅执行 Gridsearch，那会好得多。普通的旧香草简历给你一个过度积极的估计，这是乐观的。嵌套 CV 在一定程度上减少了这种偏差。

【讨论】：