Koopman算子的奇异值分解

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
跳到导航 跳到搜索

在算子理论与动力系统研究中,Koopman算子的奇异值分解(Singular Value Decomposition, SVD)是将有限维矩阵的SVD推广至无穷维算子空间的一种数学工具。与侧重于系统演化频率及增长率的特征值分解(Eigenvalue Decomposition)不同,奇异值分解主要用于分析算子在能量范数下的增益特性以及观测空间的结构。

算子奇异值的定义

根据算子理论,一个算子 [math]\displaystyle{ \mathcal{K} }[/math] 的奇异值 [math]\displaystyle{ \sigma }[/math] 定义为正定自伴随算子 [math]\displaystyle{ \mathcal{K}^*\mathcal{K} }[/math] 特征值的算术平方根。

离散时间情形

设 [math]\displaystyle{ \mathcal{K} }[/math] 是作用在希尔伯特空间 [math]\displaystyle{ \mathcal{H} }[/math] 上的 Koopman 算子,[math]\displaystyle{ \mathcal{K}^* }[/math] 是其伴随算子(在动力系统背景下通常为 Perron-Frobenius 算子 [1])。若标量 [math]\displaystyle{ \sigma \ge 0 }[/math] 满足以下耦合方程,则称 [math]\displaystyle{ \sigma }[/math] 为 Koopman 算子的奇异值:

[math]\displaystyle{ \begin{aligned} \mathcal{K} \varphi(\mathbf{x}) &= \sigma \psi(\mathbf{x}) \\ \mathcal{K}^* \psi(\mathbf{x}) &= \sigma \varphi(\mathbf{x}) \end{aligned} }[/math]

其中,[math]\displaystyle{ \varphi(\mathbf{x}) }[/math] 称为右奇异函数,[math]\displaystyle{ \psi(\mathbf{x}) }[/math] 称为左奇异函数。等价地,[math]\displaystyle{ \sigma^2 }[/math] 是算子 [math]\displaystyle{ \mathcal{K}^* \mathcal{K} }[/math] 的特征值,对应的特征函数为右奇异函数 [math]\displaystyle{ \varphi(\mathbf{x}) }[/math]:

[math]\displaystyle{ \mathcal{K}^* \mathcal{K} \varphi(\mathbf{x}) = \sigma^2 \varphi(\mathbf{x}) }[/math]

连续时间情形

对于连续时间下的 Lie 算子 [math]\displaystyle{ \mathcal{L} }[/math],奇异值通常通过其生成的演化算子族 [math]\displaystyle{ \mathcal{K}_t = e^{\mathcal{L}t} }[/math] 来定义。若直接讨论微分算子 [math]\displaystyle{ \mathcal{L} }[/math] 的奇异值性质,其对应的自伴随形式满足:

[math]\displaystyle{ \mathcal{L}^* \mathcal{L} \varphi(\mathbf{x}) = \sigma^2 \varphi(\mathbf{x}) }[/math]

其中 [math]\displaystyle{ \mathcal{L}^* }[/math] 为其伴随算子(常对应于 Liouville 算子)。

物理意义

能量增益分析

特征值描述的是系统的演化频率和增长率(特征方向上的拉伸),是渐近增长;而奇异值描述的是算子在能量范数下的增益,是瞬态增长[2][3]。在动态模式分解(DMD)等数据驱动方法中,对观测数据矩阵也会进行SVD[4]。这本身不直接包含系统的演化规则(时间动态),它只是对过去状态的一种静态统计。而算子的奇异值代表了算子在特定方向上的“增益”。

算子对偶性

定义中引入了 [math]\displaystyle{ \mathcal{K}^* }[/math]。在动力系统中,Koopman 算子与 Perron-Frobenius 算子(PF算子)互为伴随,即满足内积关系 [math]\displaystyle{ \langle \mathcal{K}g, \rho \rangle = \langle g, \mathcal{P}\rho \rangle }[/math],可参考词条Koopman算子理论。因此,Koopman 算子的奇异值分析本质上联系了“观测函数的演化”与“概率密度的演化”这两个对偶过程[5]。这意味着Koopman算子与PF算子的非零奇异值谱是完全一模一样的。

为什么是非零奇异值谱才一模一样呢?因为Koopman算子和PF算子作用的函数空间可能存在这种“维度上的不对称”(或者说是有效作用子空间的不对称),所以我们只能保证它们的非零部分(即实际有物理意义的奇异值)是一样的。在形式上,读者可以参考非方形矩阵的SVD。

酉算子

若系统是保测度的(如哈密顿系统),Koopman 算子 [math]\displaystyle{ \mathcal{K} }[/math] 是酉算子(Unitary),此时其所有的奇异值 [math]\displaystyle{ \sigma = 1 }[/math]。


与K矩阵SVD的关系

在 EDMD(Extended Dynamic Mode Decomposition)框架下,我们将无限维的 Koopman 算子 [math]\displaystyle{ \mathcal{K} }[/math] 投影到了由一组观测函数[math]\displaystyle{ \boldsymbol{g}(\mathbf{x}) = [g_1(\mathbf{x}), \dots, g_N(\mathbf{x})]^T }[/math] 张成的有限维子空间 [math]\displaystyle{ \mathcal{V} }[/math] 中。

Gram矩阵

在希尔伯特空间 [math]\displaystyle{ \mathcal{H} }[/math] 中,子空间 [math]\displaystyle{ \mathcal{V} }[/math] 的度量由Gram 矩阵 [math]\displaystyle{ \mathbf{G} }[/math]决定:

[math]\displaystyle{ \mathbf{G}_{ij} = \langle g_j, g_i \rangle_{\mathcal{H}} \approx \frac{1}{M} \sum_{m=1}^M g_j(\mathbf{x}_m) \overline{g_i(\mathbf{x}_m)} }[/math]

其中 [math]\displaystyle{ M }[/math] 是样本数。如果 [math]\displaystyle{ \mathbf{G} = \mathbf{I} }[/math],说明观测函数是标准正交的;但在 EDMD 中,观测函数通常不是正交的。

一般情形

直接对 EDMD 估计出的矩阵 [math]\displaystyle{ \mathbf{K} }[/math] 做 SVD 得到的奇异值 [math]\displaystyle{ \sigma(\mathbf{K}) }[/math],通常不等于算子的奇异值 [math]\displaystyle{ \sigma(\mathcal{K}) }[/math]。

它们的严格关系如下(假设 [math]\displaystyle{ \mathbf{K} }[/math] 定义为 [math]\displaystyle{ \mathcal{K} \boldsymbol{g} \approx \mathbf{K} \boldsymbol{\theta} }[/math]):

(1) 当观测函数是标准正交基时 ([math]\displaystyle{ \mathbf{G} = \mathbf{I} }[/math]):此时算子的奇异值等于矩阵 [math]\displaystyle{ \mathbf{K} }[/math] 的奇异值。

[math]\displaystyle{ \sigma(\mathcal{K}) = \sigma(\mathbf{K}) }[/math]

(2) 当观测函数不是正交基时(通用情形):我们需要考虑 Gram 矩阵 [math]\displaystyle{ \mathbf{G} }[/math] 的贡献[6]:

[math]\displaystyle{ \sigma(\mathcal{K}) = \sigma \left( \mathbf{G}^{1/2} \mathbf{K} \mathbf{G}^{-1/2} \right) }[/math]

[math]\displaystyle{ \mathbf{G}^{-1/2} }[/math] 的作用是将非正交基坐标变换到等效的正交基空间,在该空间下,矩阵的奇异值才能真实反映算子对能量(范数)的拉伸。

奇异向量的关系

矩阵 [math]\displaystyle{ \mathbf{K} }[/math] 的右奇异向量 [math]\displaystyle{ \mathbf{v}_{mat} }[/math] 对应的是算子在特定坐标表示下的极值方向。算子的右奇异函数系数 [math]\displaystyle{ \mathbf{v} }[/math] 满足 [math]\displaystyle{ \mathbf{v} = \mathbf{G}^{-1/2} \mathbf{v}_{weighted} }[/math],其中 [math]\displaystyle{ \mathbf{v}_{weighted} }[/math] 是矩阵 [math]\displaystyle{ \mathbf{G}^{1/2} \mathbf{K} \mathbf{G}^{-1/2} }[/math] 的右奇异向量。

参考文献

  1. ↑ Lasota, A., & Mackey, M. C. (1994). Chaos, Fractals, and Noise: Stochastic Aspects of Dynamics. Springer Science & Business Media.
  2. ↑ Trefethen, L.N. and Embree, M. (2005) Spectra and Pseudospectra: The Behavior of Nonnormal Matrices and Operators. Princeton University Press.
  3. ↑ Schmid, P. J. (2007). Nonmodal stability theory. Annual Review of Fluid Mechanics, 39, 129-162.
  4. ↑ Schmid, P. J. (2010). Dynamic mode decomposition of numerical and experimental data. Journal of Fluid Mechanics, 656, 5-28.
  5. ↑ Klus, S., Nüske, F., Koltai, P., Wu, H., Kevrekidis, I., Schütte, C., & Noé, F. (2018). Data-Driven Model Reduction and Transfer Operator Approximation. Journal of Nonlinear Science, 28(3), 985–1010. https://doi.org/10.1007/s00332-017-9437-7
  6. ↑ Williams, M. O., Kevrekidis, I. G., & Rowley, C. W. (2015). A Data–Driven Approximation of the Koopman Operator: Extending DMD. Journal of Nonlinear Science, 25(6), 1307-1346.