SKLearn 多类分类器答案

【问题标题】：SKLearn Multiclass ClassifierSKLearn 多类分类器
【发布时间】：2015-07-19 11:34:21
【问题描述】：

我编写了以下代码来从文件中导入数据向量并测试 SVM 分类器的性能（使用 sklearn 和 python）。

但是，分类器的性能低于任何其他分类器（例如，NNet 在测试数据上的准确度为 98%，但最多只能达到 92%）。根据我的经验，SVM 应该为这类数据产生更好的结果。

我可能做错了什么吗？

import numpy as np

def buildData(featureCols, testRatio):
    f = open("car-eval-data-1.csv")
    data = np.loadtxt(fname = f, delimiter = ',')

    X = data[:, :featureCols]  # select columns 0:featureCols-1
    y = data[:, featureCols]   # select column  featureCols 

    n_points = y.size
    print "Imported " + str(n_points) + " lines."

    ### split into train/test sets
    split = int((1-testRatio) * n_points)
    X_train = X[0:split,:]
    X_test  = X[split:,:]
    y_train = y[0:split]
    y_test  = y[split:]

    return X_train, y_train, X_test, y_test

def buildClassifier(features_train, labels_train):
    from sklearn import svm

    #clf = svm.SVC(kernel='linear',C=1.0, gamma=0.1)
    #clf = svm.SVC(kernel='poly', degree=3,C=1.0, gamma=0.1)
    clf = svm.SVC(kernel='rbf',C=1.0, gamma=0.1)
    clf.fit(features_train, labels_train)
    return clf

def checkAccuracy(clf, features, labels):
    from sklearn.metrics import accuracy_score

    pred = clf.predict(features)
    accuracy = accuracy_score(pred, labels)
    return accuracy

features_train, labels_train, features_test, labels_test = buildData(6, 0.3)
clf           = buildClassifier(features_train, labels_train)
trainAccuracy = checkAccuracy(clf, features_train, labels_train)
testAccuracy  = checkAccuracy(clf, features_test, labels_test)
print "Training Items: " + str(labels_train.size) + ", Test Items: " + str(labels_test.size)
print "Training Accuracy: " + str(trainAccuracy)
print "Test Accuracy: " + str(testAccuracy)

i = 0
while i < labels_test.size:
  pred = clf.predict(features_test[i])
  print "F(" + str(i) + ") : " + str(features_test[i]) + " label= " + str(labels_test[i]) + " pred= " + str(pred);
  i = i + 1

如果默认不做多类分类怎么可能做？

附言我的数据格式如下（最后一列是类）：

2,2,2,2,2,1,0
2,2,2,2,1,2,0
0,2,2,5,2,2,3
2,2,2,4,2,2,1
2,2,2,4,2,0,0
2,2,2,4,2,1,1
2,2,2,4,1,2,1
0,2,2,5,2,2,3

【问题讨论】：

我相信 sklearn 默认使用 svm 为多类分类创建了一组一对多的分类器。您也可以尝试使用GridSearchCV 来优化 svm 超参数。
绝对使用 GridSearchCV 来调整 C 和 gamma，也可以使用 MinMaxScaler 或 StandardScaler 缩放数据
谢谢，我明天测试一下。

标签： python scikit-learn svm

【解决方案1】：

找了好久才发现问题，贴出来，以防有人需要。

问题是数据导入功能不会打乱数据。如果数据以某种方式排序，则存在使用一些数据训练分类器并使用完全不同的数据对其进行测试的风险。在 NNet 案例中，使用了 Matlab 自动打乱输入数据。

def buildData(filename, featureCols, testRatio):
f = open(filename)
data = np.loadtxt(fname = f, delimiter = ',')
np.random.shuffle(data)    # randomize the order

X = data[:, :featureCols]  # select columns 0:featureCols-1
y = data[:, featureCols]   # select column  featureCols 

n_points = y.size
print "Imported " + str(n_points) + " lines."

### split into train/test sets
split = int((1-testRatio) * n_points)
X_train = X[0:split,:]
X_test  = X[split:,:]
y_train = y[0:split]
y_test  = y[split:]

return X_train, y_train, X_test, y_test

【讨论】：