降维（一）奇异值分解和svd的应用

系统管理员 2023-06-09 15:27 9阅读 0赞

1、回顾特征值和特征向量  
我们首先回顾下特征值和特征向量的定义如下：

Ax=λx

其中A是一个n×n的实对称矩阵，x是一个n维向量，则我们说λ是矩阵A的一个特征值，而x是矩阵A的特征值λ所对应的特征向量。  
　 求出特征值和特征向量有什么好处呢？ 就是我们可以将矩阵A特征分解。如果我们求出了矩阵A的n个特征值λ1≤λ2≤…≤λn,以及这n个特征值所对应的特征向量\{w1,w2,…wn\}，，如果这n个特征向量线性无关，那么矩阵A就可以用下式的特征分解表示：  
　 ![在这里插入图片描述][20191025112827547.png]  
其中W是这n个特征向量所张成的n×n维矩阵，而Σ为这n个特征值为主对角线的n×n维矩阵。

一般我们会把W的这n个特征向量标准化，即满足 ∣ ∣ w i ∣ ∣ 2 = 1 ||w\_i||^2=1 ∣∣wi∣∣2=1, 或者说 w i T w i = 1 w^T\_iwi=1 wiTwi=1，此时W的n个特征向量为标准正交基，满足 W T W = I W^TW=I WTW=I，即 W T = W − 1 WT=W^\{−1\} WT=W−1, 也就是说W为酉矩阵。  
这样我们的特征分解表达式可以写成  
 A = W Σ W T A=WΣW^T A=WΣWT  
　注意到要进行特征分解，矩阵A必须为方阵。那么如果A不是方阵，即行和列不相同时，我们还可以对矩阵进行分解吗？答案是可以，此时我们的SVD登场了。  
2、SVD的定义  
SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：  
 A = U Σ V T A=UΣV^T A=UΣVT  
其中U是一个m×m的矩阵，Σ是一个m×n的矩阵，除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，V是一个n×n的矩阵。U和V都是酉矩阵，即满足 U T U = I , V T V = I U^TU=I,V^TV=I UTU=I,VTV=I。下图可以很形象的看出上面SVD的定义：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTYxMTA0NQ_size_16_color_FFFFFF_t_70]  
那么我们如何求出SVD分解后的U,Σ,V这三个矩阵呢？

如果我们将A的转置和A做矩阵乘法，那么会得到n×n的一个方阵 A T A A^TA ATA。既然 A T A A^TA ATA是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：  
 ( A T A ) v i = λ i v i (A^TA)v\_i=λ\_iv\_i (ATA)vi=λivi  
这样我们就可以得到矩阵ATA的n个特征值和对应的n个特征向量v了。将ATA的所有特征向量张成一个n×n的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。  
如果我们将A和A的转置做矩阵乘法，那么会得到m×m的一个方阵 A A T AA^T AAT。既然 A A T AA^T AAT是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：  
 ( A A T ) u i = λ i u i (AAT)ui=λ\_iu\_i (AAT)ui=λiui  
这样我们就可以得到矩阵 A A T AA^T AAT的m个特征值和对应的m个特征向量u了。将AAT的所有特征向量张成一个m×m的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。  
U和V我们都求出来了，现在就剩下奇异值矩阵Σ没有求出了。由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ就可以了。  
我们注意到:  
 A = U Σ V T ⇒ A V = U Σ V T V ⇒ A V = U Σ ⇒ A v i = σ i u i ⇒ σ i = A v i / u i A=UΣV^T⇒AV=UΣV^TV⇒AV=UΣ⇒Av\_i=σ\_iu\_i⇒σ\_i=Av\_i/u\_i A=UΣVT⇒AV=UΣVTV⇒AV=UΣ⇒Avi=σiui⇒σi=Avi/ui这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ。  
上面还有一个问题没有讲，就是我们说ATA的特征向量组成的就是我们SVD中的V矩阵，而AAT的特征向量组成的就是我们SVD中的U矩阵，这有什么根据吗？这个其实很容易证明，我们以V矩阵的证明为例。  
 A = U Σ V T ⇒ A T = V Σ T U T ⇒ A T A = V Σ T U T U Σ V T = V Σ 2 V T A=UΣV^T⇒A^T=VΣ^TU^T⇒A^TA=VΣ^TU^TUΣV^T=VΣ^2V^T A=UΣVT⇒AT=VΣTUT⇒ATA=VΣTUTUΣVT=VΣ2VT  
上式证明使用了: U T U = I , Σ T Σ = Σ 2 U^TU=I,Σ^TΣ=Σ2 UTU=I,ΣTΣ=Σ2。可以看出ATA的特征向量组成的的确就是我们SVD中的V矩阵。类似的方法可以得到AAT的特征向量组成的就是我们SVD中的U矩阵。  
(因为 V Σ 2 V T VΣ^2V^T VΣ2VT能够构成 A T A A^TA ATA，所以 A T A A^TA ATA特征向量组成的矩阵就是V。)  
进一步我们还可以看出我们的特征值矩阵等于奇异值矩阵的平方，也就是说特征值和奇异值满足如下关系：  
 σ i = λ i σi=\\sqrt\{λ\_i\} σi=λi  
这样也就是说，我们可以不用 σ i = A v i / u i σ\_i=Av\_i/u\_i σi=Avi/ui来计算奇异值，也可以通过求出ATA的特征值取平方根来求奇异值。  
3、SVD计算举例

[20191025112827547.png]: /images/20230531/4c0474c672c64bf6bd992350ca71c33c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTYxMTA0NQ_size_16_color_FFFFFF_t_70]: /images/20230531/6afd247f0e1f494799d69cabc65cc233.png