面对超级参数(hyper parameter)的选择的时候,一个方法是: Cross Validation

1. 将training data分成 2份,3份, 5份,10份

2. 将其中1份设置为Validation data,

3. 将各种超级参数的可能情况迭代(2份除外,2份的话,training data占大概90%)

4. 得到精度(accuracy),下图来自于cs231n课程资料

Cross Validation

5.选择最优

优点: 帮助优化超级参数

缺点:计算量大

相关文章: