一、特征分解

1、特征向量

对于一个方阵（行数和列数相等的矩阵）$A$，特征向量就是指与$A$相乘的一个非零向量 $\nu$ 等于这个非零向量的缩放，即$$A\nu =\lambda \nu$$其中，$\lambda$称为特征值，$\nu$称为特征向量。在线性代数中，通常使用变换式：$$(A-\lambda I)\nu =0$$

2、特征分解

1、定义：将矩阵分解成一组特征向量和特征值。

2、特征分解：
*****假设矩阵 $A$ 的特征向量是{ν(1),⋯ ,ν(n)}\{\nu^{(1)},\cdots,\nu^{(n)} \}{ν(1),⋯,ν(n)}，对应的特征值为{λ1,⋯ ,λn}\{\lambda_1,\cdots,\lambda_n\}{λ1​,⋯,λn​}。
*****令矩阵$V=[{\nu }^{(1)},\cdots ,{\nu }^{(n)}]$，其中，每一列为一个特征向量；
*****令向量$\lambda =[{\lambda }_1,\cdots ,{\lambda }_n]$，其中，每一个元素为一个特征值；
特征分解记作：$$A=Vdiag(\lambda )V^{-1}$$ 其中，$diag$表示的是对角矩阵

3、不是每一个矩阵都可以被分解，但是每个实对称矩阵都可以被分解成为特征向量和实特征值：
$$A=Q\Lambda Q^{-1}$$ 其中，$Q$是$A$的特征向量组成的正交矩阵，$\Lambda$是对角矩阵。

4、有时候，特征分解也不是唯一的，我们通常按照降序排列$\Lambda$的元素，在这个约束下，特征分解唯一

3、正定、半正定、负定、半负定

1、正定：所有特征值都是整数的矩阵
2、半正定：所有特征值都是非负数的矩阵
3、负定：所有矩阵都是负数的矩阵
4、半负定：所有矩阵都是非正数的矩阵
5、对于半正定矩阵，有以下规律，这也是它受到重视的原因：
$$\forall x,x^{T}Ax\ge 0$$对于正交矩阵，还有$$x^{T}Ax=0⟹x=0$$

二、奇异值分解

1、对于非方阵的矩阵，它是没有特征分解的，所以这个时候我们只能使用奇异值分解。奇异值分解与特征分解类似，它是将矩阵分为奇异向量和奇异值，对于矩阵$A$，有：$$A=UD{V}^T$$ 其中，假设$A$是一个$m\times n$的矩阵，那么$U$是一个$m\times m$的矩阵，$D$是一个$m\times n$的矩阵，$V$是一个$n\times n$的矩阵。其中，$U$和$V$是正交矩阵，$D$是对角矩阵（不一定是方阵）。

2、对角矩阵$D$的对角线上的元素成为矩阵$A$的奇异值，矩阵$U$的列向量为左奇异向量，矩阵$V$的列向量称为右奇异向量