具有 200 个特征的 DataFrame 上的 PCA 结果异常高

Question

我在具有 200 个特征的数据帧上使用 sklearn 中包含的 PCA() 实现。此数据框是使用以下代码创建的：

df = data.pivot_table(index='customer', columns='purchase', values='amount', aggfunc=sum)
df = df.reset_index().rename_axis(None, axis=1)
df = df.fillna(value=0)

然后，我实现了PCA()：

import pandas as pd
import numpy as np
from sklearn.decomposition import PCA

pca = PCA(n_components=1)
p = pca.fit(df)
sum(pca.explained_variance_ratio_)

最后，我得到了如下所示的结果：

0.99999940944358268

我错了，或者当组件的数量设置为 200 中的 1 时，这个结果通常是不合逻辑的？

---

更多问题

• 简而言之，我的数据实际上只倾向于一个特征吗？
• 可能是什么原因造成的？
• 在运行 PCA 之前对每个客户的特征值求和会影响这一点吗？
• 我应该如何重组我的数据来克服这个看似错误的问题？

Answer 1

您应该在以下来源中阅读有关主成分分析的更多信息：

• Explained Variance Ration on One Principal Component
• Eigenvectors & Eigenvalues
• Everything about PCA

---

当组件的数量设置为 200 个中的 1 个时，这个结果是否实用通常是不合逻辑的？

可以通过解释方差接近于零的方式调整具有大量特征的数据。为了实现这一点，特征之间必须高度相关。在您的情况下，我可能会假设两种情况：

• 要么有很多缺失值，因为你用零填充它们（不是最先进的方法），这会为更高的关系创造一个位置；
• 要么您的数据真的高度相关，所以PCA() 很好地聚合了 新 功能中的 200 个功能的信息。
• 要么你的数据有问题。

简而言之，我的数据实际上只倾向于一个特征吗？

这可能是什么原因造成的？

如上所述，PCA 不适用于原始功能，因为它会创建新功能，从数据中汇总尽可能多的信息。因此，它实际上并不倾向于一个默认功能。

我建议您执行一些数据预处理，因为大约 99% 的解释方差比具有 1 个特征看起来非常可疑。这可能是由上述陈述引起的。

在运行 PCA 之前对每个客户的特征值求和会影响这一点吗？

任何数据操作都会影响分解，除了某些情况，例如将相同的正整数添加到一组正整数等等。您应该在求和运算前后对您的数据应用PCA 以观察效果。

我应该如何重组我的数据来克服这个看似错误的问题？

首先，我会建议另一种方法来完成数据。您可以使用平均值或中位数逐列插入缺失值。其次，您应该了解特征的实际含义以及是否可以在分解之前删除其中的一些。您还可以实现缩放技术和/或标准化技术。但是这些通常应该在模型拟合之前和之后进行测试，因为它们也会影响模型指标。