线性代数复习

一、线性与向量

1 线性

对加法和数乘封闭
微积分的基本思想是以直代曲、局部的以切线代替曲线，某种条件下，微分方程可以近似地变为线性代数方程组

2 向量乘法

内积

几何解释 两个向量在同方向的积
疑问点 如果想要将一个向量变换到新的坐标系，那么只要对新坐标系轴向量进行内积运算即可？？？

叉积

叉积也叫做外积，因为会构造出两个向量构成平面外的向量

3 向量除法

向量的内积和叉积均没有除法，但是如果同时知道内积和叉积的结果，则可以唯一的确定一个向量

二、行列式

行列式的意义

1. 由行向量或列向量构成的超多面体的有向面积或体积
2. 矩阵A的行列式det A就是线性变换A下的图形面积或体积的伸缩因子，因为det A就是矩阵A特征值的乘积

三、向量组及向量空间

1 子空间

向量空间中的一些向量张成的空间成为子空间，子空间必须包含零向量，即通过原点，如空间$R^2$R2不是$R^3$R3的子空间，因为$R^2$R2中的某些平面不过原点。

2 基变换与坐标变换

基过渡矩阵P将我们的坐标系α变换为另一个坐标系β，利用P可以将另一个坐标系的语言变换为我们的语言（考虑单位正交坐标系更易理解，尤其对于推导坐标变换公式）。

$αP=β$αP=β
一个向量在β基下的坐标为y，则该向量在α基下的坐标x为
$x=Py$x=Py
帮助理解：α基如果被P扩大，那么β基下的坐标就要相对减小，如果要变回去，就必须乘P以同样的比例变换回去。

内积度量矩阵

内积度量矩阵
$S=P^TP$S=PTP
是一个正定的对称阵。
推广的内积定义为
$(x,y)=x^TSy$(x,y)=xTSy
借助于内积度量矩阵，向量的内积在不同的坐标系下不变。

四、矩阵

1 矩阵与向量乘法

矩阵与向量相乘的几何意义是矩阵对一个向量进行旋转缩放变换，把一个向量变换为另一个向量
$Ax$Ax
就是将向量$x$x投影到$A$A的列向量张成的空间中
二维旋转矩阵

$\begin{bmatrix} {cos\theta}&{-sin\theta}\\ {sin\theta}&{cos\theta} \end{bmatrix}$[cosθsinθ​−sinθcosθ​]

2 矩阵与矩阵乘法

矩阵代表一个线性变换，矩阵乘积是两个矩阵代表的线性变换的叠加
矩阵乘幂 矩阵乘幂的次数越高，越能显露出矩阵的特征值，在数值计算中求矩阵特征值常使用此方法\

3 矩阵与线性变换

重要定理

设T:$R^n$Rn->$R^n$Rn
是任意一个线性变换，那么T变换对应的矩阵的列向量为$[T(e_1),T(e_2),T(e_3),...,T(e_n)]$[T(e1​),T(e2​),T(e3​),...,T(en​)]

4 特征值与特征向量

如果矩阵对某一个向量或某些向量只发生伸缩变换，而没有旋转作用，那么这些向量就是矩阵的特征向量，伸缩比例就是特征值。
$Aa=\lambda a$Aa=λa
特征值之和为矩阵的迹，特征值之积为矩阵的行列式。
实对称阵的特征向量在图形的主轴方向上，实对称阵对应于不同特征值的特征向量正交

复特征值与特征向量

复特征值是在复数域内对向量进行变换，同样只是伸缩变换，但是变换的倍数为复数倍

5 相似矩阵

定义 存在可逆方阵$P$P，使得方阵$A$A和$B$B满足$B=P^{-1}AP$B=P−1AP，那么矩阵$A$A和$B$B相似。
几何意义： 相似矩阵$A$A和$B$B是同一个线性变换在不同基下的表示矩阵，$P$P就是基变换矩阵。
理解： 设矩阵$A$A和$B$B的基分别为$\alpha$α和$\beta$β，在$\beta$β基下有一个向量$\gamma$γ,如果要对$\gamma$γ使用$A$A代表的线性变换，首先使用基过渡矩阵将$\gamma$γ翻译为$\alpha$α基下的向量，即$P\gamma$Pγ，随后对$\gamma$γ基下的向量$P\gamma$Pγ使用$A$A变换，即$AP\gamma$APγ，最后再将变化后的向量$AP\gamma$APγ翻译回去，即$P^{-1}AP\gamma$P−1APγ，$P^{-1}AP$P−1AP就是线性变换$A$A在$\beta$β基下的线性变换矩阵。

6 相似对角化

当$P$P中的列向量为特征向量时，$P^{-1}AP$P−1AP为一个对角阵，即实现了矩阵的相似对角化
充要条件： $n\times n$n×n矩阵$A$A有$n$n个线性无关的特征向量
$AP=A\begin{bmatrix}{p_1}&{p_2}&{...}&{p_n}\end{bmatrix}=\begin{bmatrix}{Ap_1}&{Ap_2}&{...}&{Ap_n}\end{bmatrix}=\begin{bmatrix}{p_1}&{p_2}&{...}&{p_n}\end{bmatrix}\begin{bmatrix}{\lambda_1}&{}&{}&{}&{}\\{}&{\lambda_2}&{}&{}&{}\\{}&{}&{\ddots}&{}&{}\\{}&{}&{}&{}&{\lambda_n}\end{bmatrix}=P\begin{bmatrix}{\lambda_1}&{}&{}&{}&{}\\{}&{\lambda_2}&{}&{}&{}\\{}&{}&{\ddots}&{}&{}\\{}&{}&{}&{}&{\lambda_n}\end{bmatrix}$AP=A[p1​​p2​​...​pn​​]=[Ap1​​Ap2​​...​Apn​​]=[p1​​p2​​...​pn​​]⎣⎢⎢⎡​λ1​​λ2​​⋱​​λn​​⎦⎥⎥⎤​=P⎣⎢⎢⎡​λ1​​λ2​​⋱​​λn​​⎦⎥⎥⎤​
两边同时乘以$P^{-1}$P−1即为$P^{-1}AP=\Lambda$P−1AP=Λ
$AP$AP是将线性变换$A$A置于另一组基下，基过渡矩阵为$P$P，但此时仍是在原来的基下观察这个线性变换，乘以$P^{-1}$P−1将观察视角切换到新的基下。

7 雅克比矩阵

雅克比矩阵是线性代数和微积分的纽带，是把非线性问题转化为线性问题的有力工具之一。
$J=\begin{bmatrix} \frac{\partial y_1}{\partial x_1} & \cdots & \frac{\partial y_1}{\partial x_n} \\ \vdots & \ddots & \vdots \\ \frac{\partial y_m}{\partial x_1} & \cdots & \frac{\partial y_m}{\partial x_n} \end{bmatrix}$J=⎣⎢⎡​∂x1​∂y1​​⋮∂x1​∂ym​​​⋯⋱⋯​∂xn​∂y1​​⋮∂xn​∂ym​​​⎦⎥⎤​

 　　雅克比矩阵把空间里的一个平面坐标系变换成了无数个极小的平面坐标系，无数个极小平面就是曲面的切平面；雅克比行列式就是切平面上每个坐标系下极小单位元和原坐标系下极小单位元面积的比值
　　雅可比矩阵的重要性在于它体现了一个可微方程与给出点的最优线性逼近. 因此, 雅可比矩阵类似于多元函数的导数
$F(x)\approx F(x)+{J_F}(x) (x-p)$F(x)≈F(x)+JF​(x)(x−p)

8 等价相似与合同

$A \text{与}B\text{等价}\Leftrightarrow\text{存在可逆矩阵}P\text{和}Q\text{使得}B=PAQ$A与B等价⇔存在可逆矩阵P和Q使得B=PAQ

$A \text{与}B\text{相似}\Leftrightarrow \text{存在可逆矩阵}P\text{使得}B=P^{-1}AP$A与B相似⇔存在可逆矩阵P使得B=P−1AP

$A \text{与}B\text{合同}\Leftrightarrow \text{存在可逆矩阵}P\text{使得}B=P^TAP$A与B合同⇔存在可逆矩阵P使得B=PTAP

相似不一定合同，仅当$P^T=P^{-1}$PT=P−1时二者才相同,即P为正交阵，此时的变换为正交变换

(1)等价

两个有限维向量空间之间的同一个线性映射，其在这两个向量空间上的不同基下所对应的矩阵之间的关系就是等价关系

两个问题

1. 为什么矩阵A、B可以不是方阵？因为是不同空间之间的线性映射矩阵，两个空间维度不同就会不是方阵
2. 为什么矩阵P、Q必须是方阵并且可逆？因为P、Q是同一空间不同坐标系间的基过渡矩阵

一个理解(结合图片)

$B=PAQ$B=PAQ实际是对矩阵$A$A进行初等行变换和初等列变换改变$P\text{、}Q$P、Q，相当于两个空间同时扭动坐标轴，总能使得A变换为$E$E或者$\begin{bmatrix}{E_k}&{0}\\{0}&{0}\end{bmatrix}$[Ek​0​00​]，比如把$A$A变成$E$E，就是说两边空间的向量坐标完全一样了

(2)相似

一个有限维向量空间上的同一个线性变换，其在不同基下所对应的矩阵之间的关系是相似关系。

(3)合同

 　　一个有限维向量空间上的同一个双线性函数或内积，其在两个基下的度量矩阵是合同关系。
　　相似矩阵描述的是在不同参照系的同一个变换，动作规则是相同的。合同矩阵描述的是不同参照系下的同一个内积的度量矩阵

(4) 正交变换

正交变换不改变度量，保持向量的长度和角度不变，即内积度量矩阵为E。

9 一些矩阵

1 逆矩阵

 　　可逆矩阵必定为满秩方阵，满秩方阵对应的变换不会使原有信息丢失一个维度的信息，还可以逆向变换回来，如果矩阵不满秩，会使得变换后丢失一个维度信息，再也不能逆向回到原信息。

2 转置矩阵与对偶

 　　有两个相对偶的线性空间M和N，M空间上有一个线性变换A，把M空间上的一个向量a变换成b；如果a和b的对偶向量分别是$a^*\text{和}b^*$a∗和b∗，那么对应的转置矩阵$A^T$AT就把对偶空间N上的$b^*\text{变换成}a^*$b∗变换成a∗

对偶

 　　初等矢量运算（比如内积和叉乘）可以定义一对对偶元素
　　直线可以看做一个矢量，点看做一个实数。这时候矢量和实数可以在初等矢量运算的条件下相互映射。
　　ab固定其中的一个，另一个就是一个线性映射，如果再严格一点，固定内积，那么a,b便是一一对应了

3 平移矩阵

 　　如果把一个图形平移，只需将图像各个顶点的向量都加上平移向量即可，但是这样做太麻烦，可以使用一个矩阵就解决这个问题。
　　引入齐次坐标，将点的坐标扩增一个坐标值$(x_1,x_2)\rightarrow (x_1,x_2,x_3)$(x1​,x2​)→(x1​,x2​,x3​)，二维平面$\{x_1 o x_2\}${x1​ox2​}扩展成为三维空间中的一个特定平面$x_3=1$x3​=1，这样，平面上的平移变成了立体上的切变。
　　n维空间的几何图形要平移的话需要n+1阶的平移矩阵，计算机图形学中的主要变换矩阵就是四阶矩阵。

4 复数

复数i表示逆时针旋转90度，如果要旋转$\alpha$α角度，则为$cos\alpha+isin\alpha$cosα+isinα

复数相乘

欧拉公式

$e^{i\theta}=cos\theta+isin\theta$eiθ=cosθ+isinθ
$e^{i\pi}+1=0$eiπ+1=0
欧拉公式由泰勒公式推导而来，$e^{i\theta}$eiθ表示逆时针旋转$\theta$θ角度，具体解释看另一篇笔记，与自然底数e的定义有关
$e={\lim_{n \to \infty}}(1+\frac{1}{n})^n$e=n→∞lim​(1+n1​)n
$e^i={\lim_{n \to \infty}}(1+\frac{i}{n})^n$ei=n→∞lim​(1+ni​)n

五、二次型

二次型内容较为简单，此处仅介绍下双线性函数

双线性函数

 　　简单来说，双线性函数就是定义了某维线性空间里的双向量（两个向量）的一个运算，运算结果是一个数，这个数属于某个数域（如实数域、复数域）。

精确定义： 设$P^n$Pn是数域P上的n维列向量构成的线性空间，向量$x,y\in P^n$x,y∈Pn，再设A是P上的n阶方阵，令
$f(x,y)=x^TAy$f(x,y)=xTAy
则$f(x,y)\text{是}P^n$f(x,y)是Pn上的一个双线性函数