我应该在模式分类中使用多少个主成分？答案

【问题标题】：How many principal components should I use in pattern classification?我应该在模式分类中使用多少个主成分？
【发布时间】：2015-01-20 11:46:09
【问题描述】：

我正在研究神经网络，目前正在创建一个感知器，该感知器将用作具有面部图像的数据集的分类器。在将样本分成两个不同的集进行训练和测试之前，我需要对我的数据集执行 pca（主成分分析）。通过这样做，我降低了数据的维度，同时压缩了图像的大小。

但是，我不是统计学家，在没有任何特定公式的情况下，我在定义用于 pca 方法的主成分数量时遇到了一些问题。我的数据集是一个 4096x400 的数组，400 是样本图像的数量，4096 是它们的维度。有没有办法更精确地确定 pca 期间使用的主成分数量？

我正在使用 matlab，所以我正在使用 princomp。提前感谢您，我们将不胜感激。

【问题讨论】：

标签： neural-network classification pca pattern-recognition

【解决方案1】：

问题：我应该在模式分类中使用多少个主成分？

答案：尽可能低。

当您应用 PCA 时，您会根据您的数据获得主成分的数量。假设您从数据中获得 10 个主要成分。您将控制用主成分解释方差的程度。

例如

  component  variance explained
  1          0.40
  2          0.25
  3          0.15
  4          0.10
  5          0.05
  6          0.01
  7          0.01
  8          0.01         
  9          0.01         
  10         0.01

这样，您可以决定截止数并训练您的分类器。在此示例中，您可以看到前 4 个主成分包含 %90 的信息。您的结果可能只需要 4 个主成分就足够了。

您可以添加第 5 个主成分，这 5 个主成分将保存您 %95 的信息，依此类推。

查看PCA and image data here 的示例

【讨论】：