(一)前言
老生常谈,现在很多写博客的人根本就不管自己抄过来的对不对,有些甚至连转载出处都不标,错误逐渐传播,图片通通copy,影响极其恶劣,令人作呕。正如现在要找一篇数学上证明SVD的文章都很难找到,全都是给你直接讲“直观理解”和所谓的“内涵”,搞来搞去就是复制黏贴那些已经有过的东西,转载的人可能根本连这些自己发的都还搞不懂,滑天下之大稽!
(二)推导
- 定理:设$X_{n×p},rank(X)=r$,且$\lambda_1 \geq ... \geq \lambda_r$为$X^TX$的非零特征值,记$\Lambda^{\frac{1}{2}}=diag(\lambda_1^{\frac{1}{2}},...,\lambda_r^{\frac{1}{2}})$,则存在正交阵$P_{p×p},Q_{n×n}$使得$X=Q \left[ \begin{matrix} \Lambda^{\frac{1}{2}} & \mathbf{0}\\ \mathbf{0}& \mathbf{0} \end{matrix}\right]P^T$,其中$P$的列向量组为与$X^TX$的$p$个特征值$\lambda_1,...,\lambda_r,0,...,0$对应的特征向量组,$Q$的列向量组为与$XX^T$的$n$个特征值$\lambda_1,...,\lambda_r,0,...,0$对应的特征向量组