更改

==核DMD==

==核DMD==

核动态模式分解（Kernel Dynamic Mode Decomposition）是一种通过核技巧（kernel trick）在再生核希尔伯特空间（Reproducing Kernel Hilbert Space，RKHS）中近似非线性动力系统的Koopman算子的方法。Koopman算子本身是一个线性算子，但作用于无限维的函数空间，这使得直接计算变得困难。核DMD通过引入核函数来隐式地处理高维特征映射，从而避免显式构造高维向量，同时捕捉系统的非线性特性。

核动态模式分解（Kernel Dynamic Mode Decomposition）是一种通过[[核技巧（kernel trick）]]在[[再生核希尔伯特空间（Reproducing Kernel Hilbert Space，RKHS）]]中近似[[非线性动力系统]]的Koopman算子的方法。Koopman算子本身是一个线性算子，但作用于无限维的函数空间，这使得直接计算变得困难。核DMD通过引入[[核函数]]来隐式地处理高维特征映射，从而避免显式构造高维向量，同时捕捉系统的非线性特性。

具体来说，核函数<math>k(\mathbf{x}, \mathbf{y})</math>用于度量数据点<math>\mathbf{x}</math>和<math>\mathbf{y}</math>之间的相似性，它对应于一个特征映射<math>\phi(\mathbf{x})</math>，使得<ref name=william_2015_kernal>M. O. Williams, C. W. Rowley, and I. G. Kevrekidis, A kernel approach to data-driven Koopman spectral analysis, J. Comput. Dynam., 2 (2015), pp. 247--265. (Cited on pp. 255, 256, 284, 285, 294, 318)</ref><ref name=Gonzalez_2023_kernal>Gonzalez, E., Abudia, M., Jury, M., Kamalapurkar, R. & Rosenfeld, J. A. The kernel perspective on dynamic mode decomposition. Preprint at https://doi.org/10.48550/arXiv.2106.00106 (2023).</ref>

具体来说，[[核函数]]<math>k(\mathbf{x}, \mathbf{y})</math>用于度量数据点<math>\mathbf{x}</math>和<math>\mathbf{y}</math>之间的相似性，它对应于一个特征映射<math>\phi(\mathbf{x})</math>，使得<ref name=william_2015_kernal>M. O. Williams, C. W. Rowley, and I. G. Kevrekidis, A kernel approach to data-driven Koopman spectral analysis, J. Comput. Dynam., 2 (2015), pp. 247--265. (Cited on pp. 255, 256, 284, 285, 294, 318)</ref><ref name=Gonzalez_2023_kernal>Gonzalez, E., Abudia, M., Jury, M., Kamalapurkar, R. & Rosenfeld, J. A. The kernel perspective on dynamic mode decomposition. Preprint at https://doi.org/10.48550/arXiv.2106.00106 (2023).</ref>

<math>k(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>，

<math>k(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>，

其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的内积。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下，直接在核空间中计算相似性。

其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的内积。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下，直接在核空间中计算相似性。

在核DMD中，我们首先构建一个核矩阵<math>\mathbf{K}</math>，其元素为<math>K_{ij} = k(\mathbf{x}_i, \mathbf{x}_j)</math>，然后通过对核矩阵进行特征分解来提取主导模式。这相当于在RKHS中执行标准DMD算法，从而获得近似Koopman算子的特征值和特征模式。核DMD的优势在于，它能够处理复杂的非线性系统，如流体湍流或混沌系统，而无需手动设计非线性特征函数。此外，核技巧减少了计算复杂度，因为我们可以通过核矩阵运算避免高维空间中的直接计算。目前，有很多种核函数，包括线性核、多项式核、径向基核、高斯核、拉普拉斯核、sigmod核等等。

在核DMD中，我们首先构建一个核矩阵<math>\mathbf{K}</math>，其元素为<math>K_{ij} = k(\mathbf{x}_i, \mathbf{x}_j)</math>，然后通过对核矩阵进行[[特征分解]]来提取主导模式。这相当于在RKHS中执行标准DMD算法，从而获得近似Koopman算子的[[特征值]]和[[特征模式]]。核DMD的优势在于，它能够处理复杂的[[非线性系统]]，如[[流体湍流]]或[[混沌系统]]，而无需手动设计非线性特征函数。此外，核技巧减少了[[计算复杂度]]，因为我们可以通过核矩阵运算避免高维空间中的直接计算。目前，有很多种核函数，包括线性核、多项式核、[[径向基]]核、高斯核、拉普拉斯核、sigmod核等等。

'''线性核（Linear Kernel）'''：可视为核DMD的退化形式。其公式为： <math>k(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>  ，其中，<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准内积，直接反映线性相关性。 线性核计算高效且无超参数，适合线性或近似线性的系统；但无法处理强非线性。在核DMD中，它适用于小扰动下的线性化系统，可作为复杂核的基准比较。

'''线性核（Linear Kernel）'''：可视为核DMD的退化形式。其公式为： <math>k(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>  ，其中，<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准内积，直接反映线性相关性。 线性核计算高效且无超参数，适合线性或近似线性的系统；但无法处理强非线性。在核DMD中，它适用于小扰动下的线性化系统，可作为复杂核的基准比较。

'''多项式核（Polynomial Kernel）'''适用于处理多项式非线性。其公式为：  <math>k(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  ，其中， <math>\mathbf{x} \cdot \mathbf{y}</math> 是向量 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的内积，表示它们的线性相似性。 <math>c</math> 是常数项（通常 <math>c \geq 0</math>），用于调整偏置，影响核的平移。<math>d</math> 是多项式的次数，控制非线性程度；较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度；但当 <math>d</math> 较大时易过拟合，且对非多项式关系捕捉能力有限。在核DMD中，它适用于具有多项式动力学的系统，如机械振动或电路系统，其中变量间存在高阶依赖。

'''多项式核（Polynomial Kernel）'''适用于处理多项式非线性。其公式为：  <math>k(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  ，其中， <math>\mathbf{x} \cdot \mathbf{y}</math> 是向量 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的内积，表示它们的线性相似性。 <math>c</math> 是常数项（通常 <math>c \geq 0</math>），用于调整偏置，影响核的平移。<math>d</math> 是多项式的次数，控制非线性程度；较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度；但当 <math>d</math> 较大时易过拟合，且对非多项式关系捕捉能力有限。在核DMD中，它适用于具有多项式动力学的系统，如[[机械振动]]或[[电路系统]]，其中变量间存在高阶依赖。

'''径向基函数核（Radial Basis Function Kernel）'''的公式为：<math>k(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>  ，其中，<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。径向基函数核的共性是利用数据点间的距离度量相似性，适用于局部平滑的动力系统。其优势在于能自动适应数据分布，无需预先假设特定函数形式。在动力系统分析中，径向基函数核能有效捕捉相空间中的局部动力学特征，如吸引子结构或稳定流形。缺点是当系统维度较高时，可能面临"维度灾难"，且计算成本随数据量增加而显著增长。

'''径向基函数核（Radial Basis Function Kernel）'''的公式为：<math>k(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>  ，其中，<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。径向基函数核的共性是利用数据点间的距离度量相似性，适用于局部平滑的动力系统。其优势在于能自动适应数据分布，无需预先假设特定函数形式。在动力系统分析中，径向基函数核能有效捕捉相空间中的局部动力学特征，如吸引子结构或稳定流形。缺点是当系统维度较高时，可能面临"[[维度灾难]]"，且计算成本随数据量增加而显著增长。

'''高斯核（Gaussian Kernel）'''： <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{\mathbf{x} - \mathbf{y}}{\alpha}\right)</math>  ，其中， <math>\mathbf{x} - \mathbf{y}</math> 表示数据点 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 之间的欧氏距离，用于量化它们的空间分离程度。<math>\alpha</math> 是带宽参数（缩放因子），控制核函数的衰减速率；较小的 <math>\alpha</math> 使核更局部化，较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数，确保相似性随距离增加而指数衰减。该核函数能捕捉数据的局部结构，并对噪声有一定的鲁棒性；但对参数 <math>\alpha</math> 的选择敏感，若选择不当可能导致过拟合或欠拟合。在核DMD中，高斯核适用于非线性动力系统分析，如流体湍流或混沌系统，能有效识别相干结构。

'''高斯核（Gaussian Kernel）'''： <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{\mathbf{x} - \mathbf{y}}{\alpha}\right)</math>  ，其中， <math>\mathbf{x} - \mathbf{y}</math> 表示数据点 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 之间的[[欧氏距离]]，用于量化它们的空间分离程度。<math>\alpha</math> 是带宽参数（缩放因子），控制核函数的衰减速率；较小的 <math>\alpha</math> 使核更局部化，较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数，确保相似性随距离增加而指数衰减。该核函数能捕捉数据的局部结构，并对噪声有一定的鲁棒性；但对参数 <math>\alpha</math> 的选择敏感，若选择不当可能导致[[过拟合]]或[[欠拟合]]。在核DMD中，高斯核适用于非线性动力系统分析，如[[流体湍流]]或[[混沌系统]]，能有效识别相干结构。

'''拉普拉斯核（Laplacian Kernel）'''是径向基函数核的一种变体，其对噪声和异常值具有更好的鲁棒性。其数学表达式为： <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math> ，其中，<math>|\mathbf{x} - \mathbf{y}|_1</math>表示向量间的曼哈顿距离（L1范数），<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用L2范数不同，拉普拉斯核使用L1范数，使其对异常值更不敏感，因为L1范数对大幅偏差的惩罚小于L2范数。该核函数的优点在于能有效处理包含噪声的高维数据，特别适用于传感器网络或实验测量数据中存在显著噪声的动力系统分析。缺点是计算效率相对较低，且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。

'''拉普拉斯核（Laplacian Kernel）'''是径向基函数核的一种变体，其对噪声和异常值具有更好的[[鲁棒性]]。其数学表达式为： <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math> ，其中，<math>|\mathbf{x} - \mathbf{y}|_1</math>表示向量间的[[曼哈顿距离（L1范数）]]，<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用[[L2范数]]不同，拉普拉斯核使用[[L1范数]]，使其对异常值更不敏感，因为[[L1范数]]对大幅偏差的惩罚小于[[L2范数]]。该核函数的优点在于能有效处理包含噪声的高维数据，特别适用于传感器网络或实验测量数据中存在显著噪声的动力系统分析。缺点是计算效率相对较低，且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。

'''Sigmoid核（Sigmoid Kernel）'''源自神经网络理论，其形式为： <math>k(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>    ，其中，<math>\alpha</math>为缩放参数，<math>c</math>为偏置项，<math>\tanh</math>为双曲正切函数。该核函数模拟神经元激活函数的行为，能产生非线性映射。Sigmoid核的独特之处在于它能模拟饱和非线性特性，适用于具有阈值行为的动力系统，如生物神经元模型或开关控制系统。然而，Sigmoid核并非始终满足Mercer条件（即不一定为正定核），这可能导致数值不稳定性和收敛问题。在实际应用中，需谨慎验证其正定性，或采用修正版本以确保计算稳定性。

'''Sigmoid核（Sigmoid Kernel）'''源自[[神经网络]]理论，其形式为： <math>k(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>    ，其中，<math>\alpha</math>为缩放参数，<math>c</math>为偏置项，<math>\tanh</math>为[[双曲正切函数]]。该核函数模拟神经元激活函数的行为，能产生非线性映射。Sigmoid核的独特之处在于它能模拟饱和非线性特性，适用于具有阈值行为的动力系统，如[[生物神经元模型]]或[[开关控制系统]]。然而，Sigmoid核并非始终满足[[Mercer条件]]（即不一定为正定核），这可能导致数值不稳定性和收敛问题。在实际应用中，需谨慎验证其正定性，或采用修正版本以确保计算稳定性。

==基于神经网络的DMD==

==基于神经网络的DMD==