吴恩达机器学习第三章【Linear Algebra Revie】

吴恩达机器学习第三章【Linear Algebra Revie】（线性代数回顾）

文章目录

• 吴恩达机器学习第三章【Linear Algebra Revie】（线性代数回顾）
• Matrices and Vectors【矩阵和向量】
• Addition and Scalar Multiplication【加法和标量乘法】
• Matrix Vector Multiplication【矩阵向量乘法】
• Matrix Matrix Multiplication【矩阵乘法】
• Matrix Multiplication Properties【矩阵乘法的性质】
• Inverse and Transpose【逆、转置】

Matrices and Vectors【矩阵和向量】

在$\begin{bmatrix}{1402}&{191}\\{1371}&{821}\\{949}&{1437}\\{147}&{1448}\end{bmatrix}$⎣⎢⎢⎡​14021371949147​19182114371448​⎦⎥⎥⎤​中，这是一个这个是4×2矩阵，即4行2列，如$m$m为行，$n$n为列，那么$m×n$m×n即4×2，其中$A_{ij}$Aij​指第$i$i行，第$j$j列的元素。

向量是一种特殊的矩阵，向量一般都是列向量，如：$y=\left[ \begin{matrix} {460} \\ {232} \\ {315} \\ {178} \\\end{matrix} \right]$y=⎣⎢⎢⎡​460232315178​⎦⎥⎥⎤​为四维列向量（4×1）。

Addition and Scalar Multiplication【加法和标量乘法】

矩阵的加法：行列数相等的各元素相加。

$\begin{bmatrix}{1}&{0}\\{2}&{5}\\{3}&{1}\end{bmatrix}+\begin{bmatrix}{4}&{0.5}\\{2}&{5}\\{0}&{1}\end{bmatrix}=\begin{bmatrix}{5}&{0.5}\\{4}&{10}\\{3}&{2}\end{bmatrix}$⎣⎡​123​051​⎦⎤​+⎣⎡​420​0.551​⎦⎤​=⎣⎡​543​0.5102​⎦⎤​

矩阵的数乘：每个元素都要乘。

$3*\begin{bmatrix}{1}&{0}\\{2}&{5}\\{3}&{1}\end{bmatrix}=\begin{bmatrix}{3}&{0}\\{6}&{15}\\{9}&{3}\end{bmatrix}=\begin{bmatrix}{1}&{0}\\{2}&{5}\\{3}&{1}\end{bmatrix}*3$3∗⎣⎡​123​051​⎦⎤​=⎣⎡​369​0153​⎦⎤​=⎣⎡​123​051​⎦⎤​∗3

Matrix Vector Multiplication【矩阵向量乘法】

Matrix Matrix Multiplication【矩阵乘法】

矩阵乘法：

$m×n$m×n矩阵乘以$n×o$n×o矩阵，变成$m×o$m×o矩阵。

在单变量线性回归中的应用

Matrix Multiplication Properties【矩阵乘法的性质】

矩阵乘法的性质：

矩阵的乘法不满足交换律：$A×B≠B×A$A×B​=B×A

矩阵的乘法满足结合律。即：$A×(B×C)=(A×B)×C$A×(B×C)=(A×B)×C

单位矩阵：在矩阵的乘法中，有一种矩阵起着特殊的作用，如同数的乘法中的1,我们称这种矩阵为单位矩阵．它是个方阵，一般用 $I$I 或者 $E$E 表示,从左上角到右下角的对角线（称为主对角线）上的元素均为1以外全都为0

$A{{A}^{-1}}={{A}^{-1}}A=I$AA−1=A−1A=I

对于单位矩阵，有$AI=IA=A$AI=IA=A

Inverse and Transpose【逆、转置】

矩阵的逆：如矩阵$A$A是一个$m×m$m×m矩阵（方阵），如果有逆矩阵，则：$A{{A}^{-1}}={{A}^{-1}}A=I$AA−1=A−1A=I

矩阵的转置：设$A$A为$m×n$m×n阶矩阵（即$m$m行$n$n列），第$i $行$行j $列的元素是$列的元素是a(i,j)$，即：$，即：A=a(i,j)$

定义$A$A的转置为这样一个$n×m$n×m阶矩阵$B$B，满足$B=a(j,i)$B=a(j,i)，即 $b (i,j)=a(j,i)$b(i,j)=a(j,i)（$B$B的第$i$i行第$j$j列元素是$A$A的第$j$j行第$i$i列元素），记${{A}^{T}}=B$AT=B。(有些书记为A’=B）

${{\begin{bmatrix} a& b \\ c& d \\ e& f \\\end{bmatrix} }^{T}}=\begin{bmatrix} a& c & e \\ b& d & f \\\end{bmatrix}$⎣⎡​ace​bdf​⎦⎤​T=[ab​cd​ef​]

矩阵的转置基本性质:

$ {{\left( A\pm B \right)}^{T}}={{A}{T}}\pm {{B}^{T}} $
${{\left( A\times B \right)}^{T}}={{B}^{T}}\times {{A}^{T}}$(A×B)T=BT×AT
${{\left( {{A}^{T}} \right)}^{T}}=A $
${{\left( KA \right)}^{T}}=K{{A}{T}} $