Hankel矩阵

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
跳到导航 跳到搜索

简介

DMD和eDMD算法基于全状态测量的可用性，而这些测量通常维数很高。然而，通常情况下只能获得系统的部分观测值，即存在隐藏变量或潜在变量。在这种情况下，可以使用系统的时间延迟测量值来构建新的观测量，从而构建一个Koopman不变子空间。和之前提及的算法一样，这里输入是已知的时间序列数据，输出是Koopman算子对应的线性迭代矩阵，只不过这里我们用时间延迟的变量作为扩展的观测函数。

将时间延迟坐标用作Koopman坐标系依赖于满足Takens嵌入定理的条件[1]，这样才能使得延迟嵌入吸引子与原始全状态坐标中的吸引子微分同胚。如此构建出来的观测空间中，描述系统演化的线性矩阵便是Hankel矩阵[2]。

Lorenz系统作为案例进行时间延迟DMD的分析。其中输入是观测到的[math]\displaystyle{ x(t) }[/math]这一个维度的时间序列，输出是回归拟合之后得到的线性微分方程组的系数矩阵。如果考虑存在控制变量的话，输出还有控制变量前的系数。[2]


时间延迟测量方案示意图如上图所示，以Lorenz系统为例，展示了将混沌分解为带有外力的线性系统。

输入：其中输入的只有能观测到的[math]\displaystyle{ x(t) }[/math]这一个维度的时间序列。可以从该标量测量的时间序列构造一个Hankel矩阵[math]\displaystyle{ \mathbf{H} }[/math]：

[math]\displaystyle{ \mathbf{H} = \begin{bmatrix} x(t_1) & x(t_2) & \cdots & x(t_p) \\ x(t_2) & x(t_3) & \cdots & x(t_{p+1}) \\ \vdots & \vdots & \ddots & \vdots \\ x(t_q) & x(t_{q+1}) & \cdots & x(t_m) \end{bmatrix}. }[/math]

[math]\displaystyle{ \mathbf{H} }[/math] 的每一列都可以通过将前一列在时间上向前推进一步来获得。因此，我们可以用 Koopman 算子 [math]\displaystyle{ \mathcal{K} }[/math] 重写上式：

[math]\displaystyle{ \mathbf{H} = \begin{bmatrix} x(t_1) & \mathcal{K}x(t_1) & \cdots & \mathcal{K}^{p-1}x(t_1) \\ \mathcal{K}x(t_1) & \mathcal{K}^2x(t_1) & \cdots & \mathcal{K}^{p}x(t_1) \\ \vdots & \vdots & \ddots & \vdots \\ \mathcal{K}^{q-1}x(t_1) & \mathcal{K}^{q}x(t_1) & \cdots & \mathcal{K}^{m-1}x(t_1) \end{bmatrix}. }[/math]

对于足够的数据量，系统将收敛到一个吸引子，使得 [math]\displaystyle{ \mathbf{H} }[/math] 的列变得近似线性相关。在这种情况下，可以通过计算 [math]\displaystyle{ \mathbf{H} }[/math] 的SVD来获得一个 Koopman不变子空间：

[math]\displaystyle{ \mathbf{H} = \mathbf{U}\mathbf{\Sigma}\mathbf{V}^*. }[/math]

来自SVD的[math]\displaystyle{ \mathbf{U} }[/math]和[math]\displaystyle{ \mathbf{V} }[/math]的列分别按其对 [math]\displaystyle{ \mathbf{H} }[/math] 的列和行建模的重要性逐次排列。根据定义，动力学将吸引子映射到自身，使其对流映射不变。通常，[math]\displaystyle{ \mathbf{H} }[/math] 允许用 [math]\displaystyle{ \mathbf{U} }[/math] 和 [math]\displaystyle{ \mathbf{V} }[/math] 的前 [math]\displaystyle{ r }[/math] 列进行低秩近似，因此这些列近似了一个 Koopman 不变子空间。因此，Hankel矩阵的列可以很好地由 [math]\displaystyle{ \mathbf{U} }[/math] 的前 [math]\displaystyle{ r }[/math] 列来近似。[math]\displaystyle{ \mathbf{V} }[/math] 的前 [math]\displaystyle{ r }[/math] 列则描述了降维后的时间延迟空间中系统状态的随时间的演化轨迹。所以，通过绘制 [math]\displaystyle{ \mathbf{V} }[/math] 的前三列，我们重新获得了Lorenz系统的吸引子，如图中右上角所示。

在延迟坐标 [math]\displaystyle{ \mathbf{v} }[/math] 上，我们可以得到一个最佳拟合线性回归模型。一个很直接的做法是，我们可以对由 [math]\displaystyle{ \mathbf{H} }[/math] 的前 [math]\displaystyle{ p-1 }[/math] 列和后 [math]\displaystyle{ p-1 }[/math] 列组成的两个矩阵进行DMD估计。在实践中，学者建议对由 [math]\displaystyle{ \mathbf{V} }[/math] 的前 [math]\displaystyle{ p-1 }[/math] 列和后 [math]\displaystyle{ p-1 }[/math] 列组成的类似矩阵进行DMD估计，因为这样我们便可以在一个降维的特征空间中拟合系统的演化。

输出：下面是关于 [math]\displaystyle{ \mathbf{V} }[/math] 中变量的线性回归模型，

[math]\displaystyle{ \frac{d}{dt}\mathbf{v}(t) = \mathbf{A}\mathbf{v}(t). }[/math]

其中 [math]\displaystyle{ \mathbf{v}(t) = \begin{bmatrix} v_1(t) & v_2(t) & \cdots & v_{r}(t) \end{bmatrix}^T }[/math]便是来自奇异向量[math]\displaystyle{ \mathbf{V} }[/math] 的前 [math]\displaystyle{ r }[/math] 列。这里的[math]\displaystyle{ \mathbf{A} }[/math]便是我们拟合输出的结果。Champion, Brunton 和 Kutz等人表明[3]，该线性系统捕捉了弱非线性系统的动力学。然而，对于混沌系统，即使有近似Koopman不变的测量系统，在识别封闭的线性模型方面仍存在挑战。无论多么高维的线性模型，都无法捕捉多个不动点或具有正Lyapunov指数的混沌所特有的不可预测行为[4]。与其为 [math]\displaystyle{ \mathbf{V} }[/math] 中的前 [math]\displaystyle{ r }[/math] 个变量构建一个封闭的线性模型，不如在前 [math]\displaystyle{ r-1 }[/math] 个变量上构建一个线性模型，并将最后一个变量 [math]\displaystyle{ v_r }[/math] 强加为一个外力项[2]：

[math]\displaystyle{ \frac{d}{dt}\mathbf{v}(t) = \mathbf{A}\mathbf{v}(t) + \mathbf{B}v_r(t), }[/math]

其中 [math]\displaystyle{ \mathbf{v}(t) = \begin{bmatrix} v_1(t) & v_2(t) & \cdots & v_{r-1}(t) \end{bmatrix}^T }[/math] 是前 [math]\displaystyle{ r-1 }[/math] 个特征时间延迟坐标的向量。在所有探索的混沌示例中[2]，前[math]\displaystyle{ r-1 }[/math] 项的线性模型是准确的，而没有线性模型能表示 [math]\displaystyle{ v_r }[/math]。相反，[math]\displaystyle{ v_r }[/math] 应该是线性动力学的外来输入。[math]\displaystyle{ v_r(t) }[/math] 的统计数据是非高斯的，具有长尾，也就意味着显著存在罕见的波动事件。这种外力变量的罕见变化对应于驱动 Lorenz 系统中的波瓣切换,如图中左下角红色标注的波峰所示。这种分析架构被称为 Koopman 的 Hankel 替代视图分析 (Hankel alternative view of the Koopman，HAVOK)[2]。

Hankel矩阵在系统辨识中已使用了几十年，例如在ERA[5]和奇异谱分析(singular spectrum analysis，SSA)[6]中。这些早期算法是专门为线性系统开发的，尽管它们常被应用于弱非线性系统，但当时尚不清楚如何解释由这些方法产生的模型和分解。

现代Koopman算子理论为在非线性系统中解释这些经典的基于Hankel方法的结果提供了一个有价值的新视角。在 Hankel 矩阵上计算 DMD 的做法最早由Tu等人[7]提出，并由Brunton等人[8]用于神经科学领域。Hankel矩阵与Koopman算子之间的联系，由 Brunton等人[2]在HAVOK框架中建立。随后的一些工作为该方法提供了更完善的理论基础[9][10]。HAVOK 方法也常被称为延迟DMD[7]或Hankel-DMD[9]。

延迟嵌入与Koopman算子之间的联系最早在 2004 年由 Mezić 和 Banaszuk[11]建立，在其中定义了随机Koopman算子并证明了统计Takens定理。还有工作研究了如何将动力学拆分为确定性线性动力学与混沌随机动力学[12]。在具有长期记忆效应的系统中，使用延迟坐标可能尤其重要，而Koopman方法已被证明是此类系统中一种成功的分析工具[13]。

参考文献

  1. ↑ F. Takens, Detecting strange attractors in turbulence, in Dynamical Systems and Turbulence, Lecture Notes in Math. 898, Springer, 1981, pp. 366--381.
  2. ↑ 2.0 2.1 2.2 2.3 2.4 2.5 S. L. Brunton, B. W. Brunton, J. L. Proctor, E. Kaiser, and J. N. Kutz, Chaos as an intermittently forced linear system, Nature Commun., 8 (2017), pp. 1--9. (Cited on pp. 257, 275, 284, 287, 288, 289, 294)
  3. ↑ K. P. Champion, S. L. Brunton, and J. N. Kutz, Discovery of nonlinear multiscale systems: Sampling strategies and embeddings, SIAM J. Appl. Dyn. Syst., 18 (2019), pp. 312--333, https://doi.org/10.1137/18M1188227. (Cited on pp. 288, 289)
  4. ↑ S. L. Brunton, B. W. Brunton, J. L. Proctor, and J. N. Kutz, Koopman invariant subspaces and finite linear representations of nonlinear dynamical systems for control, PLoS ONE, 11 (2016), art. e0150171. (Cited on pp. 234, 247, 248, 254, 284, 285, 286, 288, 295, 308, 309, 312, 318)
  5. ↑ J. N. Juang and R. S. Pappa, An eigensystem realization algorithm for modal parameter identification and model reduction, J. Guidance Control Dynam., 8 (1985), pp. 620--627. (Cited on pp. 262, 289, 303)
  6. ↑ R. W. Brockett, Optimal control of the Liouville equation, in Proceedings of the International Conference on Complex Geometry and Related Fields, AMS/IP Stud. Adv. Math. 39, AMS, 2007, pp. 23--35. (Cited on p. 300)
  7. ↑ 7.0 7.1 引用错误：无效<ref>标签；未给name属性为Tu_2014的引用提供文字
  8. ↑ B. W. Brunton, L. A. Johnson, J. G. Ojemann, and J. N. Kutz, Extracting spatial-- temporal coherent patterns in large-scale neural recordings using dynamic mode decomposition, J. Neurosci. Methods, 258 (2016), pp. 1--15, https://doi.org/10.1016/j.jneumeth. 2015.10.010. (Cited on pp. 237, 238, 257, 260, 261, 278, 289)
  9. ↑ 9.0 9.1 H. Arbabi and I. Mezic\', Ergodic theory, dynamic mode decomposition, and computation of spectral properties of the Koopman operator, SIAM J. Appl. Dyn. Syst., 16 (2017), pp. 2096--2126, https://doi.org/10.1137/17M1125236. (Cited on pp. 257, 275, 289, 292, 294)
  10. ↑ S. Das and D. Giannakis, Delay-coordinate maps and the spectra of Koopman operators, J. Statist. Phys., 175 (2019), pp. 1107--1145. (Cited on pp. 257, 289, 293)
  11. ↑ I. Mezi\'c and A. Banaszuk, Comparison of systems with complex behavior, Phys. D, 197 (2004), pp. 101--133. (Cited on pp. 231, 244, 273, 280, 289, 293, 295)
  12. ↑ I. Mezic\', Spectral properties of dynamical systems, model reduction and decompositions, Nonlinear Dynam., 41 (2005), pp. 309--325. (Cited on pp. 231, 244, 246, 273, 289, 292)
  13. ↑ A. Svenkeson, B. Glaz, S. Stanton, and B. J. West, Spectral decomposition of nonlinear systems with memory, Phys. Rev. E, 93 (2016), art. 022211, https://doi.org/10.1103/ PhysRevE.93.022211. (Cited on p. 289)
取自“https://wiki.swarma.org/index.php?title=Hankel矩阵&oldid=48799”