【SVD、特征值分解、PCA关系】

一、SVD

   1.含义：

   把矩阵分解为缩放矩阵+旋转矩阵+特征向量矩阵。

  

   A矩阵的作用是将一个向量从V这组正交基向量的空间旋转到U这组正交基向量的空间，并对每个方向进行了一定的缩放，缩放因子就是各个奇异值，如果V维度比U大，则说明进行了投影。

   SVD分解表示把旋转、缩放、特征向量分离出来。 

二、SVD与奇异值  

   1.计算上：

   U的列为AA^T的正交特征向量

   V的列为A^TA的正交特征向量

   2.含义上：

   都是抽取一个矩阵的主要部分

   3.不同点：

    特征值分解只有缩放，没有旋转；所有矩阵都可以奇异值分解。

三、SVD与PCA

  

四、参考

   https://blog.csdn.net/MyArrow/article/details/53780972

   https://www.zhihu.com/question/19666954/answer/54788626

五、用处

   提取主要部分，用于：

    压缩存储、去噪、解PCA、解线性方程组。