【问题标题】:Prediction Warnings when predicting a fitted caret SVM model预测拟合插入符号 SVM 模型时的预测警告
【发布时间】:2018-10-29 09:05:45
【问题描述】:

我希望得到一些关于我为什么会得到的指示:

Warning message: In method$predict(modelFit = modelFit, newdata =
newdata, submodels = param) :   kernlab class prediction calculations
failed; returning NAs

当我打印出预测时:

svmRadial_Predict
  [1] <NA> <NA> <NA> <NA> <NA> <NA> <NA> <NA> <NA> <NA>....

我为执行 SVM 拟合而编写的代码:

    #10-fold cross validation in 3 repetitions 
    control = trainControl(seeds = s, method="repeatedcv", number=10,
repeats=3, savePredictions = TRUE, classProbs =  TRUE)

拟合的SVM模型是这样的:

svmRadial_model = train(y=modelTrain$Emotion,
                        x=modelTrain[c(2:4)],
                        method ='svmRadial',
                        trControl = control,
                        data=modelTrain,
                        tuneLength = 3
                        )

我为执行预测而编写的代码如下所示:

    svmRadial_Predict <- predict(svmRadial_model, 
newdata = modelTest[c(2:4)], probability = TRUE )

我检查了数据,在训练或测试集中没有 NA 值。 y 值是一个因素,x 值是数字,如果这有区别吗?任何调试此问题的提示将不胜感激!

在模型训练时,我可以看到如下警告:

line search fails -1.407938 -0.1710936 2.039448e-05

我曾假设只是模型无法为数据中的特定观察拟合超平面。我正在使用 svmRadial 内核 我试图拟合的数据已经使用 R scale() 函数居中和缩放。

进一步的工作让我相信这与 classProbs = TRUE 标志。如果我忽略它,则不会打印任何警告。 我已经开始了我的代码的另一次运行,SVM 似乎需要很长时间才能在我的笔记本电脑上完成这项任务,但我会在完成后立即报告结果。

作为最终编辑,模型拟合完成且没有错误,我可以使用该模型很好地预测/计算混淆矩阵等。我不明白为什么包含 classProbs = TRUE 会破坏它,但可能与交叉验证与我在 trainControl 中请求的交叉验证的组合

【问题讨论】:

  • 预测对您的训练数据有效吗?如果是这样,您可能不知道训练和测试之间存在一些差异。
  • 嗨 Ian,感谢您的建议 - 当我这样做时: svmRadial_Predict
  • 您可能希望将警告添加到您的问题中。抱歉,我无法提供更多帮助。
  • 我已经添加了警告样本,Ian 干杯,别担心,非常欢迎所有提示!

标签: r svm r-caret


【解决方案1】:

我对此的解决方案只是省略了 trainControl 函数的 classProbs = TRUE 参数。一旦我这样做了,一切都会奏效。我猜这与引擎盖下的交叉验证发生的事情有关,但我不确定。

【讨论】:

    【解决方案2】:

    您的问题是 caret 包的特性的一部分。

    caret 调用的 kernlab svm 方法导致您的预测失败有两个潜在原因:

    1. x,y 接口返回caret::train 对象,predict 函数无法使用该对象。

    解决方法:直接用公式界面替换即可。

    train(form = Emotion ~ . , data = modelTrain, ...


    1. 支持向量机算法中的迭代搜索不收敛。

    解决方案 2a)

    在train() 调用之前设置不同的种子,直到它 收敛。

    set.seed(xxx)
    train(form = Emotion ~ . , data = modelTrain, ...)
    

    解决方案 2b)

    按照@catastrophic-failure here 的建议减小参数minstep。对于这个解决方案,ksvm 函数中没有参数,所以需要将第 2982 行的源代码:minstep &lt;- 1e-10 更改为较低的值。然后自己编译源代码。但不能保证它会有所帮助。

    首先尝试解决方案 1,因为它最有可能!

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2016-10-06
      • 1970-01-01
      • 1970-01-01
      • 2018-11-07
      • 1970-01-01
      • 2018-05-13
      • 2012-07-01
      • 2017-09-01
      相关资源
      最近更新 更多