线性代数概念的理解
Vector / Matrix
What’s a vector?
向量实际上是具有n 维属性的一个较为复杂的客观实体
\[x = \{x_1,x_2,...,x_n\}
\]
Linear transformation——矩阵的本质
n阶矩阵 A相似对角化的充要条件
- 有n个线性无关的特征向量
- 每个 k重特征值都有k个线性无关的特征向量
相似对角化的充分条件
- A有n个不同的特征值
- A是实对称矩阵
矩阵实际上代表一个线性变换
Basis
Basis
一组可以张成该空间的，线性无关的向量的集合称为一组基
Dimension
The number of vectors in any basis of V is called the dimension of V, and is written dim(V).
Bases as Coordinate Systems
Row-Echelon Form 行阶梯型
使用高斯消元法的浮点数操作总量都在 O(n2)双重循环
Reduced REF
Span 张成的子空间
线性组合
\[S\left( {{\alpha _1},...,{\alpha _n}} \right) = \left\{ {\sum\limits_{i = 1}^n {{c_i}{\alpha _i}\;|\;{c_i} \in \mathbb{R}} } \right\}
\]
which is the set of all linear combinations of the vectors in this subspace.
Column Space 列空间
列向量的所有线性组合的集合构成的子空间
Row Space
Null Space (Kernel) 零空间 & Nullity
Intuative Theorems
\[\dim(\text{rowspace}(A)) = \dim(\text{colspace}(A)) = \text{rank}(A)
\\
\text{rank}(A) + \text{nullity}(A) = n
\]
Rank
列空间的维数叫做秩
The number of dimensions in the column space.
为什么行秩 = 列秩？
Elementary row operations, which by construction don\'t alter the row rank
Linearly Dependent 线性相关
at least one of the vectors in the set can be written as a linear combination of the others.
n阶矩阵“不降维”的充分条件
- 满秩
- 特征值不为0
- 有n个特征值
- 行列向量线性无关
- 齐次方程组有唯一零解
- ……
Transformation
线性变换的原理
二次型的意义是什么？有什么应用？ - 马同学的回答 - 知乎
线性变换，实质上是对基的变换，引起了空间的线性变换。
那么，没有平移，空间的变换一定可以描述为拉伸+旋转（想象一个参照点被移动的过程）
Non Square Matrices 非方阵
广义上说，矩阵是空间之间的线性变换。方阵对应在平面之内的变换（若特征值为0，则会出现降维情况）。
非方阵代表空间之间的线性（等距分布）映射
对于一个矩阵来说，可以理解列空间是目标空间
- 3*2 矩阵
- 二维到三维
- 列满秩
- 2*3 矩阵
- 三维到二维
- 非列满秩（降维）