更改

奇异值分解（SVD） (查看源代码)

2024年11月17日 (日) 13:04的版本

添加166字节、周日13:04

→‎与特征值分解的关系

第207行：第207行：

等式右侧描述了左侧的特征值分解。由此可得：

−

* <math>\mathbf{V}</math> 的列（即右奇异向量）是 <math>\mathbf{M}^*\mathbf{M}</math> 的[[特征向量]]~~（eigenvectors）。~~

+

* <math>\mathbf{V}</math> 的列（即右奇异向量）是 <math>\mathbf{M}^*\mathbf{M}</math> 的[[特征向量]]（eigenvectors 矩阵变换不改变方向的向量）。

* <math>\mathbf{U}</math> 的列（即左奇异向量）是 <math>\mathbf{M}\mathbf{M}^*</math> 的特征向量。

−

* <math>\mathbf{\Sigma}</math> 的非零元素（即非零奇异值）是 <math>\mathbf{M}^*\mathbf{M}</math> 或 <math>\mathbf{M}\mathbf{M}^*</math> 非零[[特征值]]~~的平方根。~~

+

* <math>\mathbf{\Sigma}</math> 的非零元素（即非零奇异值）是 <math>\mathbf{M}^*\mathbf{M}</math> 或 <math>\mathbf{M}\mathbf{M}^*</math> 非零[[特征值]]（矩阵变换后缩放的因子）的平方根。

−

当 <math>\mathbf{M}</math> 为[[正规矩阵]]（normal ~~matrix）时，根据~~[[谱定理]]（spectral theorem），我们可以用[[特征向量]]的基对其进行[[酉对角化]]，得到分解 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^*</math>。其中 <math>\mathbf{U}</math> 是酉矩阵，<math>\mathbf{D}</math> 是对角线上有复数元素 <math>\sigma_i</math> 的对角矩阵。若 <math>\mathbf{M}</math> 为[[半正定]]（positive semi-~~definite）矩阵，则~~ <math>\sigma_i</math> 为非负实数，此时分解 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^*</math> 也是一个奇异值分解。否则，我们可以将每个 <math>\sigma_i</math> 的相位 <math>e^{i\varphi}</math> 移到相应的 <math>\mathbf{V}_i</math> 或 <math>\mathbf{U}_i</math> 中，从而重新表示为SVD形式。SVD与非正规矩阵的联系主要体现在[[极分解]]定理：<math>\mathbf{M} = \mathbf{S}\mathbf{R}</math>，其中 <math>\mathbf{S} = \mathbf{U}\mathbf{\Sigma}\mathbf{U}^*</math> 是半正定且正规的，<math>\mathbf{R} = \mathbf{U}\mathbf{V}^*</math> 是酉的。

+

当 <math>\mathbf{M}</math> 为[[正规矩阵]]（normal matrix 与其共轭转置可交换的矩阵）时，根据[[谱定理]]（spectral theorem），我们可以用[[特征向量]]的基对其进行[[酉对角化]]，得到分解 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^*</math>。其中 <math>\mathbf{U}</math> 是酉矩阵，<math>\mathbf{D}</math> 是对角线上有复数元素 <math>\sigma_i</math> 的对角矩阵。若 <math>\mathbf{M}</math> 为[[半正定]]（positive semi-definite 所有特征值非负的矩阵）矩阵，则 <math>\sigma_i</math> 为非负实数，此时分解 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^*</math> 也是一个奇异值分解。否则，我们可以将每个 <math>\sigma_i</math> 的相位 <math>e^{i\varphi}</math> 移到相应的 <math>\mathbf{V}_i</math> 或 <math>\mathbf{U}_i</math> 中，从而重新表示为SVD形式。SVD与非正规矩阵的联系主要体现在[[极分解]]定理：<math>\mathbf{M} = \mathbf{S}\mathbf{R}</math>，其中 <math>\mathbf{S} = \mathbf{U}\mathbf{\Sigma}\mathbf{U}^*</math> 是半正定且正规的，<math>\mathbf{R} = \mathbf{U}\mathbf{V}^*</math> 是酉的。

−

因此，除半正定矩阵外，<math>\mathbf{M}</math> 的特征值分解和SVD虽有关联，但并不相同：特征值分解形如 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^{-1}</math>，其中 <math>\mathbf{U}</math> 不一定是酉的，<math>\mathbf{D}</math> 不一定是半正定的；而SVD形如 <math>\mathbf{M} = \mathbf{U}\mathbf{\Sigma}\mathbf{V}^*</math>，其中 <math>\mathbf{\Sigma}</math> 是对角的且半正定的，<math>\mathbf{U}</math> 和 <math>\mathbf{V}</math> 是酉矩阵，它们除了通过矩阵 <math>\mathbf{M}</math> 外不一定有关联。值得注意的是，只有[[非亏损]]（non-~~defective）方阵才有特征值分解，而任何~~ <math>m \times n</math> 矩阵都存在SVD。

+

因此，除半正定矩阵外，<math>\mathbf{M}</math> 的特征值分解和SVD虽有关联，但并不相同：特征值分解形如 <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^{-1}</math>，其中 <math>\mathbf{U}</math> 不一定是酉的，<math>\mathbf{D}</math> 不一定是半正定的；而SVD形如 <math>\mathbf{M} = \mathbf{U}\mathbf{\Sigma}\mathbf{V}^*</math>，其中 <math>\mathbf{\Sigma}</math> 是对角的且半正定的，<math>\mathbf{U}</math> 和 <math>\mathbf{V}</math> 是酉矩阵，它们除了通过矩阵 <math>\mathbf{M}</math> 外不一定有关联。值得注意的是，只有[[非亏损]]（non-defective 矩阵行列式不为零）方阵才有特征值分解，而任何 <math>m \times n</math> 矩阵都存在SVD。

==奇异值分解的应用==

相信未来

2,435

个编辑