主成分分析理论

主成分分析理论

 

主成分分析的目的看上去和聚类分析的R型聚类很类似，目的是希望用较少的变量去解释原来资料中的大部分变异。

通常是选出比原始变量个数少，能解释大部分资料中的变异的几个新变量 ，即所谓主成分。

 

其理论当然没有聚类分析那样来一个距离表示就ok了，理论如下：

 

但是有时候，一个主成分还是不能表示出资料中绝大部分的变异。于是会选择第二，第三主成分（不会超过5,6个）

但是，这些主成分，相互正交，例如：