由于最小二乘中很多方面涉及到SVD,于是想好好看一下这个神奇的问题。

文章2中基于 文章4 对这个推导进行了介绍,但是其中有一部分 写的不是很清楚(我是看迷糊了TT。。于是翻出4 再看了一下,大概明白了是怎么一回事)。

文章1从另外一个角度介绍了SVD的性质,很详细。



对于n*n的实对称阵A,通过EVD分解可以得到关于SVD的理解    也就是  AV=VD,可以理解为,对于一个对称阵A,这个变换将关于SVD的理解变换到关于SVD的理解, V的列定义了这个基向量。

类似的,对于m*n的矩阵A,将对象从关于SVD的理解变换到了另一个空间关于SVD的理解,因此我们想要为每一个域找到一组基。SVD中可以帮组我们找到相应的正交基。

关于SVD的理解

对于对称阵关于SVD的理解,有关于SVD的理解, 选择V的列向量(关于SVD的理解的特征向量)作为一组正交基关于SVD的理解

则A矩阵将这组基映射为

   关于SVD的理解

选择任意两个映射后的元素内积 (注意 一开始的点表示的是内积,所以 才有后面的矩阵相乘的表示)

关于SVD的理解=0

所以A矩阵映射后的正交基还是正交基。

最后,就是考虑将映射后的正交基归一化,如果令i=j , 则

关于SVD的理解=关于SVD的理解


也就是关于SVD的理解

故归一化后的正交基为关于SVD的理解

关于SVD的理解

关于SVD的理解



附录:

国内教材一般的推导过程:

矩阵的正交分解

对称阵

关于SVD的理解

非对称阵

关于SVD的理解

关于SVD的理解

对称阵分解,非对称方阵分解,,非对称非方阵分解(SVD)

关于SVD的理解

关于SVD的理解

reference:

1.https://zhuanlan.zhihu.com/p/29846048

2.http://blog.csdn.net/zhongkejingwang/article/details/43053513

3.https://wenku.baidu.com/view/40b58727ad02de80d5d84073.html?from=search

4.A Singularly Valuable Decomposition The SVD of a Matrix

相关文章:

  • 2021-12-19
  • 2021-06-15
  • 2021-12-06
  • 2021-12-13
  • 2021-12-21
  • 2022-12-23
  • 2022-12-23
猜你喜欢
  • 2021-05-11
  • 2021-12-05
  • 2021-11-09
  • 2021-11-05
  • 2021-08-26
  • 2021-08-06
  • 2021-11-27
相关资源
相似解决方案