对矩阵的分解和处理
1.相抵关于rank的分解:A=Pdiag{Ir,0}Q
2.QR分解:对于一个可逆矩阵A,存在正交矩阵Q和主对角元都是正数的上三角矩阵R,A=QR,这样的分解是唯一的。
设A的列向量组是(α1...αn)。
A是可逆的,所以它们线性无关,施密特正交化然后再单位化。得到η1...ηn。
当然η1...ηn是能被α1...αn线性表示的,我们全部把相应系数设出来,
由正交化的过程,βi确实只由α1...αi线性表示。除以一个模长当然也还是。而且αi的系数是1/模长.
这样叠起来是一个上三角B。它的主对角元是正数。
AB=Q.
取R=B逆即可。
3.相似(特征值)分解/谱分解:P-1AP=diag{λ1,...λn}
求解:特征值——特征向量
4.SVD(奇异值分解):
对于一个方阵A(如果能对角化),我们可以对它特征值分解 A=Pdiag{λ1...λn}P-1
但是不是方的呢?AAT是实对称,那么有正交矩阵U,AAT=Udiag{μ1...μn}U-1害,这一步是根据结果推的,∑都不是方的,还好只有对角线有数,是相应μ开方。
=U∑∑TU-1
不是方的就掏出SVD吧,A=U∑V-1,UV分别是m n的正交。
根据上面这种倒推的思路,没V的时候其实这是个AAT的特征值分解,U就是那个矩阵P,列向量是特征向量的。
那我们再根据定义求V:A(v1...vn)=(γ1...γn)(√μ1...√μt...0...)(为啥拆开列向量?因为∑只能这么用啊)
所以说Avi=σiγi可以得到vi也许 i<t 剩下的是Avi=0
正常证明:对于ATA取特征值分解的正交矩阵V,则v1..vn是Rn的标准正交基。设r=rA,那么解方程得到dimW=n-r,是说有n-r个v,Av=0。不妨是后n-r个。
可以得到Avi(i<=r)也是正交的。模长平方是内积,是viTATAvi,也就是εiTVTATAVεi,也就是VTATAV即diag{...}里取第i行第i列,也就是λi
我们把它单位化变成ui=Avi/√λi
再扩充成Rm的标准正交基u1..um得到U
AV=(Av1,...,Avr,0,..)=(√λ1u1,...,0...)=(u1...um)∑=U∑。
看得出UV并不是唯一的。但是他们有关系,不能两边都随便算,
求解:算A转置A的特征值分解得到U(nxn)和Σ(mxn)
然后算Avi/√λi得到ui 再扩充一波(n>m)
5.正定矩阵/半正定:(可逆)CCT