情绪分析逻辑回归的错误输入形状

Question

我想预测带有逻辑回归的情感分析模型的准确性，但出现错误：bad input shape（使用输入进行编辑）

数据框：

df
sentence                | polarity_label
new release!            | positive
buy                     | neutral
least good-looking      | negative

代码：

from sklearn.preprocessing import OneHotEncoder                                                   
from sklearn.feature_extraction.text import CountVectorizer, TfidfVectorizer, 
ENGLISH_STOP_WORDS
# Define the set of stop words
my_stop_words = ENGLISH_STOP_WORDS
vect = CountVectorizer(max_features=5000,stop_words=my_stop_words)
vect.fit(df.sentence)
X = vect.transform(df.sentence)
y = df.polarity_label
encoder = OneHotEncoder()
encoder.fit_transform(y)

from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

X_train, X_test, y_train, y_test = train_test_split(X,y, test_size=0.2, random_state=123)
LogisticRegression(penalty='l2',C=1.0)

log_reg = LogisticRegression().fit(X_train, y_train)

错误信息

ValueError: Expected 2D array, got 1D array instead:
array=['Neutral' 'Positive' 'Positive' ... 'Neutral' 'Neutral' 'Neutral'].
Reshape your data either using array.reshape(-1, 1) if your data has a single feature or array.reshape(1, -1) if it contains a single sample.```

How can I fix this?

Answer 1

我认为您需要将 y 标签转换为 One hot encoding， 现在你的标签向量可能是这样的 [0,1,0,0,1,0]， 但是对于逻辑回归，您需要将它们转换为这种形式 [[0,1],[1,0],[0,1],[0,1]]，因为在逻辑回归中，我们倾向于计算概率/似然所有课程。

您可以通过使用 sklearn onehotencoder 来做到这一点，

from sklearn.preprocessing import OneHotEncoder                                                   
encoder = OneHotEncoder()
encoder.fit_transform(y)

Answer 2

例如像这样调整你的代码：

y = df.polarity_label

当前，您正尝试使用您的 CountVectorizer 将您的 y 转换为一个向量，该 CountVectorizer 是在句子数据上训练的。

所以 CountVectorizer 有这个词汇表（你可以通过vect.get_feature_names() 得到它）：

['买'，'好'，'期待'，'新'，'发布']

并将包含这些单词的一些文本转换为向量。

但是当您在只有单词positive, neutral, negative 的 y 上使用它时，它找不到任何“已知”单词，因此您的 y 是空的。

如果您在转换后检查您的 y，您还可以看到它是空的：

<3x5 sparse matrix of type '<class 'numpy.int64'>'
    with 0 stored elements in Compressed Sparse Row format>