更改

跳到导航 跳到搜索
添加1,028字节 、 2025年12月31日 (三) 23:40
第538行: 第538行:  
:<math>ker(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>,
 
:<math>ker(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>,
   −
其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的[[内积]]。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下,直接在核空间中计算相似性。即此时Koopman[[算子]]的近似矩阵<math>\mathbf{K}_\phi</math>为<ref name=william_2015_kernal>M. O. Williams, C. W. Rowley, and I. G. Kevrekidis, A kernel approach to data-driven Koopman spectral analysis, J. Comput. Dynam., 2 (2015), pp. 247--265. (Cited on pp. 255, 256, 284, 285, 294, 318)</ref><ref name=Gonzalez_2023_kernal>Gonzalez, E., Abudia, M., Jury, M., Kamalapurkar, R. & Rosenfeld, J. A. The kernel perspective on dynamic mode decomposition. Preprint at https://doi.org/10.48550/arXiv.2106.00106 (2023).</ref>:
+
其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的[[内积]]。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下,直接在核空间中计算相似性。
   −
:<math>\mathbf{Ker}_{YX} \approx \mathbf{K}_\phi \mathbf{Ker}_{XX}</math>
+
核DMD的核心思路是在RKHS中执行类似标准DMD的操作,从而获得Koopman算子的近似矩阵<math>\mathbf{K}_\phi</math>,具体简化推导如下:
 +
 
 +
第一步,先定义核矩阵:我们将所有初始状态<math>\{\mathbf{x}_i\}</math>和演化后状态<math>\{\mathbf{y}_i\}</math>(<math>\mathbf{y}_i = F(\mathbf{x}_i)</math>,<math>F</math>为系统状态转移函数)代入核函数,构造两个核心核矩阵:
 +
 
 +
<math>(\mathbf{Ker}_{XX})_{ij} = ker(\mathbf{x}_i, \mathbf{x}_j), \quad (\mathbf{Ker}_{YX})_{ij} = ker(\mathbf{y}_i, \mathbf{x}_j)</math>
 +
 
 +
这两个矩阵的本质是,把RKHS中隐式特征映射<math>\phi</math>的内积运算,直接转化为矩阵运算(无需写出<math>\phi</math>的具体形式)。
 +
 
 +
第二步,核DMD假设Koopman算子在RKHS中的作用,满足类似标准DMD的线性近似关系,即<ref name=william_2015_kernal>M. O. Williams, C. W. Rowley, and I. G. Kevrekidis, A kernel approach to data-driven Koopman spectral analysis, J. Comput. Dynam., 2 (2015), pp. 247--265. (Cited on pp. 255, 256, 284, 285, 294, 318)</ref><ref name=Gonzalez_2023_kernal>Gonzalez, E., Abudia, M., Jury, M., Kamalapurkar, R. & Rosenfeld, J. A. The kernel perspective on dynamic mode decomposition. Preprint at https://doi.org/10.48550/arXiv.2106.00106 (2023).</ref>:
 +
 
 +
<math>\mathbf{Ker}_{YX} \approx \mathbf{K}_\phi \mathbf{Ker}_{XX}</math>
    
其中,<math>(\mathbf{Ker}_{XX})_{ij} = ker(\mathbf{x}_i, \mathbf{x}_j), \quad (\mathbf{Ker}_{YX})_{ij} = ker(\mathbf{y}_i, \mathbf{x}_j)</math>
 
其中,<math>(\mathbf{Ker}_{XX})_{ij} = ker(\mathbf{x}_i, \mathbf{x}_j), \quad (\mathbf{Ker}_{YX})_{ij} = ker(\mathbf{y}_i, \mathbf{x}_j)</math>
   −
这相当于在RKHS中执行标准DMD算法,从而获得近似Koopman[[算子]]。核DMD的优势在于,它能够处理复杂的[[非线性系统]],如[[流体湍流]]或[[混沌系统]],而无需手动设计[[非线性]][[特征函数]]。此外,[[核技巧]]减少了[[计算复杂度]],因为我们可以通过核矩阵运算避免高维空间中的直接计算。目前,有很多种[[核函数]],包括线性核、多项式核、[[径向基]]核、高斯核、拉普拉斯核、sigmod核等等。
+
也就是,“演化后状态与初始状态的相似性”,可由“Koopman矩阵作用于初始状态间的相似性”近似得到。
 +
 
 +
第三步,从上述近似关系出发,能直接得到Koopman近似矩阵:
 +
 
 +
<math>\mathbf{K}_\phi \approx \mathbf{Ker}_{XX}^\dagger \mathbf{Ker}_{YX}</math>
 +
 
 +
核DMD的优势在于,它能够处理复杂的[[非线性系统]],如[[流体湍流]]或[[混沌系统]],而无需手动设计[[非线性]][[特征函数]]。此外,[[核技巧]]减少了[[计算复杂度]],因为我们可以通过核矩阵运算避免高维空间中的直接计算。目前,有很多种[[核函数]],包括线性核、多项式核、[[径向基]]核、高斯核、拉普拉斯核、sigmod核等等。
    
===[[核函数]]===
 
===[[核函数]]===
   −
* '''线性核(Linear Kernel)''':可视为核DMD的退化形式。其公式为: <math>k(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>  ,其中,<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准[[内积]],直接反映线性[[相关性]]。 线性核计算高效且无超参数,适合线性或近似线性的系统;但无法处理强[[非线性]]。在核DMD中,它适用于小扰动下的[[线性化]]系统,可作为复杂核的基准比较。
+
* '''线性核(Linear Kernel)''':可视为核DMD的退化形式。其公式为: <math>ker(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>  ,其中,<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准[[内积]],直接反映线性[[相关性]]。 线性核计算高效且无超参数,适合线性或近似线性的系统;但无法处理强[[非线性]]。在核DMD中,它适用于小扰动下的[[线性化]]系统,可作为复杂核的基准比较。
   −
* '''多项式核(Polynomial Kernel)'''适用于处理多项式[[非线性]]。其公式为:  <math>k(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  ,其中, <math>\mathbf{x} \cdot \mathbf{y}</math> 是[[向量]] <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的[[内积]],表示它们的线性相似性。 <math>c</math> 是常数项(通常 <math>c \geq 0</math>),用于调整偏置,影响核的平移。<math>d</math> 是多项式的次数,控制[[非线性]]程度;较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度;但当 <math>d</math> 较大时易[[过拟合]],且对非多项式关系捕捉能力有限。在核DMD中,它适用于具有多项式[[动力学]]的系统,如[[机械振动]]或[[电路系统]],其中变量间存在高阶依赖。
+
* '''多项式核(Polynomial Kernel)'''适用于处理多项式[[非线性]]。其公式为:  <math>ker(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  ,其中, <math>\mathbf{x} \cdot \mathbf{y}</math> 是[[向量]] <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的[[内积]],表示它们的线性相似性。 <math>c</math> 是常数项(通常 <math>c \geq 0</math>),用于调整偏置,影响核的平移。<math>d</math> 是多项式的次数,控制[[非线性]]程度;较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度;但当 <math>d</math> 较大时易[[过拟合]],且对非多项式关系捕捉能力有限。在核DMD中,它适用于具有多项式[[动力学]]的系统,如[[机械振动]]或[[电路系统]],其中变量间存在高阶依赖。
   −
* '''[[径向基函数]]核(Radial Basis Function Kernel)'''的公式为:<math>k(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>  ,其中,<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。[[径向基函数]]核的共性是利用数据点间的距离度量相似性,适用于局部平滑的[[动力系统]]。其优势在于能自动适应数据分布,无需预先假设特定函数形式。在[[动力系统分析]]中,[[径向基函数]]核能有效捕捉[[相空间]]中的局部[[动力学]]特征,如[[吸引子]]结构或[[稳定流形]]。缺点是当系统维度较高时,可能面临"[[维度灾难]]",且计算成本随数据量增加而显著增长。
+
* '''[[径向基函数]]核(Radial Basis Function Kernel)'''的公式为:<math>ker(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>  ,其中,<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。[[径向基函数]]核的共性是利用数据点间的距离度量相似性,适用于局部平滑的[[动力系统]]。其优势在于能自动适应数据分布,无需预先假设特定函数形式。在[[动力系统分析]]中,[[径向基函数]]核能有效捕捉[[相空间]]中的局部[[动力学]]特征,如[[吸引子]]结构或[[稳定流形]]。缺点是当系统维度较高时,可能面临"[[维度灾难]]",且计算成本随数据量增加而显著增长。
   −
* '''高斯核(Gaussian Kernel)''': <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|}{\alpha}\right)</math>  ,其中, <math>|\mathbf{x} - \mathbf{y}|</math> 表示数据点 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 之间的[[欧氏距离]],用于[[量化]]它们的空间分离程度。<math>\alpha</math> 是带宽参数(缩放因子),控制[[核函数]]的衰减速率;较小的 <math>\alpha</math> 使核更局部化,较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数,确保相似性随距离增加而指数衰减。该[[核函数]]能捕捉数据的局部结构,并对[[噪声]]有一定的[[鲁棒性]];但对参数 <math>\alpha</math> 的选择敏感,若选择不当可能导致[[过拟合]]或[[欠拟合]]。在核DMD中,高斯核适用于[[非线性动力系统]]分析,如[[流体湍流]]或[[混沌系统]],能有效识别相干结构。
+
* '''高斯核(Gaussian Kernel)''': <math>ker(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|}{\alpha}\right)</math>  ,其中, <math>|\mathbf{x} - \mathbf{y}|</math> 表示数据点 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 之间的[[欧氏距离]],用于[[量化]]它们的空间分离程度。<math>\alpha</math> 是带宽参数(缩放因子),控制[[核函数]]的衰减速率;较小的 <math>\alpha</math> 使核更局部化,较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数,确保相似性随距离增加而指数衰减。该[[核函数]]能捕捉数据的局部结构,并对[[噪声]]有一定的[[鲁棒性]];但对参数 <math>\alpha</math> 的选择敏感,若选择不当可能导致[[过拟合]]或[[欠拟合]]。在核DMD中,高斯核适用于[[非线性动力系统]]分析,如[[流体湍流]]或[[混沌系统]],能有效识别相干结构。
   −
* '''拉普拉斯核(Laplacian Kernel)'''是[[径向基函数]]核的一种变体,其对[[噪声]]和异常值具有更好的[[鲁棒性]]。其[[数学]][[表达式]]为: <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math> ,其中,<math>|\mathbf{x} - \mathbf{y}|_1</math>表示[[向量]]间的[[曼哈顿距离(L1范数)]],<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用[[L2范数]]不同,拉普拉斯核使用[[L1范数]],使其对异常值更不敏感,因为[[L1范数]]对大幅偏差的惩罚小于[[L2范数]]。该[[核函数]]的优点在于能有效处理包含[[噪声]]的高维数据,特别适用于传感器网络或实验测量数据中存在显著[[噪声]]的[[动力系统分析]]。缺点是计算效率相对较低,且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。
+
* '''拉普拉斯核(Laplacian Kernel)'''是[[径向基函数]]核的一种变体,其对[[噪声]]和异常值具有更好的[[鲁棒性]]。其[[数学]][[表达式]]为: <math>ker(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math> ,其中,<math>|\mathbf{x} - \mathbf{y}|_1</math>表示[[向量]]间的[[曼哈顿距离(L1范数)]],<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用[[L2范数]]不同,拉普拉斯核使用[[L1范数]],使其对异常值更不敏感,因为[[L1范数]]对大幅偏差的惩罚小于[[L2范数]]。该[[核函数]]的优点在于能有效处理包含[[噪声]]的高维数据,特别适用于传感器网络或实验测量数据中存在显著[[噪声]]的[[动力系统分析]]。缺点是计算效率相对较低,且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。
   −
* '''Sigmoid核(Sigmoid Kernel)'''源自[[神经网络]]理论,其形式为:  <math>k(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>    ,其中,<math>\alpha</math>为缩放参数,<math>c</math>为偏置项,<math>\tanh</math>为[[双曲正切函数]]。该[[核函数]][[模拟]][[神经元]]激活函数的行为,能产生[[非线性]]映射。Sigmoid核的独特之处在于它能[[模拟]]饱和[[非线性]]特性,适用于具有阈值行为的[[动力系统]],如[[生物神经元模型]]或[[开关控制系统]]。然而,Sigmoid核并非始终满足[[Mercer条件]](即不一定为正定核),这可能导致数值不稳定性和收敛问题。在实际应用中,需谨慎验证其正定性,或采用修正版本以确保计算稳定性。
+
* '''Sigmoid核(Sigmoid Kernel)'''源自[[神经网络]]理论,其形式为:  <math>ker(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>    ,其中,<math>\alpha</math>为缩放参数,<math>c</math>为偏置项,<math>\tanh</math>为[[双曲正切函数]]。该[[核函数]][[模拟]][[神经元]]激活函数的行为,能产生[[非线性]]映射。Sigmoid核的独特之处在于它能[[模拟]]饱和[[非线性]]特性,适用于具有阈值行为的[[动力系统]],如[[生物神经元模型]]或[[开关控制系统]]。然而,Sigmoid核并非始终满足[[Mercer条件]](即不一定为正定核),这可能导致数值不稳定性和收敛问题。在实际应用中,需谨慎验证其正定性,或采用修正版本以确保计算稳定性。
    
核DMD的适用场景广泛,包括[[动力系统分析]]、[[预测建模]]和[[控制设计]]。例如,在[[流体动力学]]中,核DMD可以识别[[湍流]]中的相干结构,而在[[神经网络]]应用中,它能近似[[非线性动力学]]的演化。然而,[[核函数]]的选择(如高斯核、多项式核或线性核)对性能有显著影响,需要根据具体系统进行调整。总之,核DMD提供了一种高效且灵活的方式来扩展线性DMD,使其适用于现实世界中的[[非线性]]问题,同时保持了[[Koopman理论]]的理论严谨性。
 
核DMD的适用场景广泛,包括[[动力系统分析]]、[[预测建模]]和[[控制设计]]。例如,在[[流体动力学]]中,核DMD可以识别[[湍流]]中的相干结构,而在[[神经网络]]应用中,它能近似[[非线性动力学]]的演化。然而,[[核函数]]的选择(如高斯核、多项式核或线性核)对性能有显著影响,需要根据具体系统进行调整。总之,核DMD提供了一种高效且灵活的方式来扩展线性DMD,使其适用于现实世界中的[[非线性]]问题,同时保持了[[Koopman理论]]的理论严谨性。
761

个编辑

导航菜单