我认为您可以将此新功能作为另一个维度添加到您的训练数据中。在调用 SGD 之前,您需要通过添加新功能来修改训练数据。
一种简单/幼稚的方法是:
例如,如果我的两个样本的训练数据是
X = [ [1,2,3], [8,9,0] ]
我对每个样本的新功能是
new_feature_X = [ [11,22,33] , [77,88,00] ]
我的新训练数据是:
X_new = [[1,2,3,11,22,33] , [8,9,0,77,88,00]]
那你打电话给SGD.fit(X_new, labels)
就我对 SGD 的了解而言,我认为没有其他方法可以将两个功能结合起来。
这个想法是分类器可以同时使用文本和
用于对数据进行分类的数字。
我发现神经网络更适合于此。您可以使用两个输入层,一个用于文本向量,一个用于数字,然后将它们一起输入网络以获得输出。
我尝试将 GaussianNB 与 SGDClassifier 结合,但结果是我
不知道该怎么做。 (这是个坏主意吗?)
SGD 表示随机梯度下降。是否有可能找到 NaiveBayes 的梯度?对应的代价函数是多少?
我该怎么办?
合奏。训练两个单独的分类器。一个使用您的文本数据,另一个用于您的新手工功能。然后取他们的预测概率的平均值。您可以训练多个分类器并接受他们的投票。这个tutorial 非常适合。
试用 MLP 分类器。我不久前使用过它,发现它对文本非常有效。
神经网络。使用Keras 非常简单。
阅读研究文献。学术界很有可能对您的数据集做了一些工作。尝试阅读其中的一些。 Google 学者、语义学者是查找已发表研究的好地方。
from keras.layers import Input, Dense,Concatenate
from keras.models import Model
# This returns a tensor
text_input_vec = Input(shape=(784,))
new_numeric_feature = Input(shape=(4,))
# feed your text to a dense layer
dense1 = Dense(64, activation='relu')(text_input_vec)
# feed your numeric feature to another dense layer
dense2 = Dense(64, activation='relu')(new_numeric_feature)
# concatenate/combine the output of both
concat = Concatenate(axis=-1)([dense1,dense2])
# use the above to predict the label of your text. Layer below
# assumes you have 2 classes
predictions = Dense(2, activation='softmax')(concat)
model = Model(inputs=[text_input_vec,new_numeric_feature], outputs=predictions)
model.compile(optimizer='rmsprop',
loss='categorical_crossentropy',
metrics=['accuracy'])
model.summary()