更改

删除275字节 、 2025年11月27日 (四) 23:18
第438行: 第438行:  
<math>k(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>,
 
<math>k(\mathbf{x}, \mathbf{y}) = \langle \phi(\mathbf{x}), \phi(\mathbf{y}) \rangle</math>,
   −
其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的内积。例如,高斯核函数<math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{\\mathbf{x} - \mathbf{y}\
+
其中<math>\langle \cdot, \cdot \rangle</math>表示RKHS中的内积。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下,直接在核空间中计算相似性。
−
^2}{2\sigma^2}\right)</math>通过指数衰减来强调局部相似性,其中<math>\sigma</math>是带宽参数,控制核的宽度。这种方法允许我们在不知道显式映射<math>\phi</math>的情况下,直接在核空间中计算相似性。
     −
在核DMD中,我们首先构建一个核矩阵<math>\mathbf{K}</math>,其元素为<math>K_{ij} = k(\mathbf{x}_i, \mathbf{x}_j)</math>,然后通过对核矩阵进行特征分解来提取主导模式。这相当于在RKHS中执行标准DMD算法,从而获得近似Koopman算子的特征值和特征模式。核DMD的优势在于,它能够处理复杂的非线性系统,如流体湍流或混沌系统,而无需手动设计非线性特征函数。此外,核技巧减少了计算复杂度,因为我们可以通过核矩阵运算避免高维空间中的直接计算。
+
在核DMD中,我们首先构建一个核矩阵<math>\mathbf{K}</math>,其元素为<math>K_{ij} = k(\mathbf{x}_i, \mathbf{x}_j)</math>,然后通过对核矩阵进行特征分解来提取主导模式。这相当于在RKHS中执行标准DMD算法,从而获得近似Koopman算子的特征值和特征模式。核DMD的优势在于,它能够处理复杂的非线性系统,如流体湍流或混沌系统,而无需手动设计非线性特征函数。此外,核技巧减少了计算复杂度,因为我们可以通过核矩阵运算避免高维空间中的直接计算。目前,有很多种核函数,包括线性核、多项式核、径向基核、高斯核、拉普拉斯核、sigmod核等等。
   −
目前,有很多种核函数,包括线性核、多项式核、径向基核、高斯核、拉普拉斯核、sigmod核等等。
+
'''线性核(Linear Kernel)''':可视为核DMD的退化形式。其公式为: <math>k(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>  ,其中,<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准内积,直接反映线性相关性。 线性核计算高效且无超参数,适合线性或近似线性的系统;但无法处理强非线性。在核DMD中,它适用于小扰动下的线性化系统,可作为复杂核的基准比较。
   −
线性核(Linear Kernel):可视为核DMD的退化形式。其公式为:  
+
'''多项式核(Polynomial Kernel)'''适用于处理多项式非线性。其公式为: <math>k(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  ,其中, <math>\mathbf{x} \cdot \mathbf{y}</math> 是向量 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的内积,表示它们的线性相似性。 <math>c</math> 是常数项(通常 <math>c \geq 0</math>),用于调整偏置,影响核的平移。<math>d</math> 是多项式的次数,控制非线性程度;较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度;但当 <math>d</math> 较大时易过拟合,且对非多项式关系捕捉能力有限。在核DMD中,它适用于具有多项式动力学的系统,如机械振动或电路系统,其中变量间存在高阶依赖。
   −
<math>k(\mathbf{x}, \mathbf{y}) = \mathbf{x} \cdot \mathbf{y}</math>
+
'''径向基函数核(Radial Basis Function Kernel)'''的公式为:<math>k(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>  ,其中,<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。径向基函数核的共性是利用数据点间的距离度量相似性,适用于局部平滑的动力系统。其优势在于能自动适应数据分布,无需预先假设特定函数形式。在动力系统分析中,径向基函数核能有效捕捉相空间中的局部动力学特征,如吸引子结构或稳定流形。缺点是当系统维度较高时,可能面临"维度灾难",且计算成本随数据量增加而显著增长。
   −
其中,<math>\mathbf{x} \cdot \mathbf{y}</math> 是标准内积,直接反映线性相关性。 线性核计算高效且无超参数,适合线性或近似线性的系统;但无法处理强非线性。在核DMD中,它适用于小扰动下的线性化系统,可作为复杂核的基准比较。
+
'''高斯核(Gaussian Kernel)''': <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{\mathbf{x} - \mathbf{y}}{\alpha}\right)</math>  ,其中, <math>\mathbf{x} - \mathbf{y}</math> 表示数据点 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 之间的欧氏距离,用于量化它们的空间分离程度。<math>\alpha</math> 是带宽参数(缩放因子),控制核函数的衰减速率;较小的 <math>\alpha</math> 使核更局部化,较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数,确保相似性随距离增加而指数衰减。该核函数能捕捉数据的局部结构,并对噪声有一定的鲁棒性;但对参数 <math>\alpha</math> 的选择敏感,若选择不当可能导致过拟合或欠拟合。在核DMD中,高斯核适用于非线性动力系统分析,如流体湍流或混沌系统,能有效识别相干结构。
   −
多项式核(Polynomial Kernel):适用于处理多项式非线性。其公式为: 
+
'''拉普拉斯核(Laplacian Kernel)'''是径向基函数核的一种变体,其对噪声和异常值具有更好的鲁棒性。其数学表达式为: <math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math> ,其中,<math>|\mathbf{x} - \mathbf{y}|_1</math>表示向量间的曼哈顿距离(L1范数),<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用L2范数不同,拉普拉斯核使用L1范数,使其对异常值更不敏感,因为L1范数对大幅偏差的惩罚小于L2范数。该核函数的优点在于能有效处理包含噪声的高维数据,特别适用于传感器网络或实验测量数据中存在显著噪声的动力系统分析。缺点是计算效率相对较低,且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。
   −
<math>k(\mathbf{x}, \mathbf{y}) = (\mathbf{x} \cdot \mathbf{y} + c)^d</math>  
+
'''Sigmoid核(Sigmoid Kernel)'''源自神经网络理论,其形式为: <math>k(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>   ,其中,<math>\alpha</math>为缩放参数,<math>c</math>为偏置项,<math>\tanh</math>为双曲正切函数。该核函数模拟神经元激活函数的行为,能产生非线性映射。Sigmoid核的独特之处在于它能模拟饱和非线性特性,适用于具有阈值行为的动力系统,如生物神经元模型或开关控制系统。然而,Sigmoid核并非始终满足Mercer条件(即不一定为正定核),这可能导致数值不稳定性和收敛问题。在实际应用中,需谨慎验证其正定性,或采用修正版本以确保计算稳定性。
−
 
  −
其中, <math>\mathbf{x} \cdot \mathbf{y}</math> 是向量 <math>\mathbf{x}</math> 和 <math>\mathbf{y}</math> 的内积,表示它们的线性相似性。 <math>c</math> 是常数项(通常 <math>c \geq 0</math>),用于调整偏置,影响核的平移。<math>d</math> 是多项式的次数,控制非线性程度;较高的 <math>d</math> 能捕捉更复杂的交互作用。  多项式核计算简单且能明确控制模型复杂度;但当 <math>d</math> 较大时易过拟合,且对非多项式关系捕捉能力有限。在核DMD中,它适用于具有多项式动力学的系统,如机械振动或电路系统,其中变量间存在高阶依赖。
  −
 
  −
径向基函数核(Radial Basis Function Kernel)为:
  −
 
  −
<math>k(\mathbf{x}, \mathbf{y}) = f(|\mathbf{x} - \mathbf{y}|)</math>
  −
 
  −
其中,<math>f(\cdot)</math>为关于距离的单调递减函数。高斯核和拉普拉斯核均属此类特例。径向基函数核的共性是利用数据点间的距离度量相似性,适用于局部平滑的动力系统。其优势在于能自动适应数据分布,无需预先假设特定函数形式。在动力系统分析中,径向基函数核能有效捕捉相空间中的局部动力学特征,如吸引子结构或稳定流形。缺点是当系统维度较高时,可能面临"维度灾难",且计算成本随数据量增加而显著增长。
  −
 
  −
高斯核(Gaussian Kernel):
  −
 
  −
<math>k(\mathbf{x}_j, \mathbf{x}_k) = \exp\left(-\frac{\\mathbf{x}_j - \mathbf{x}_k\}{\alpha}\right)</math> 
  −
 
  −
其中, <math>\\mathbf{x}_j - \mathbf{x}_k\</math> 表示数据点 <math>\mathbf{x}_j</math> 和 <math>\mathbf{x}_k</math> 之间的欧氏距离,用于量化它们的空间分离程度。<math>\alpha</math> 是带宽参数(缩放因子),控制核函数的衰减速率;较小的 <math>\alpha</math> 使核更局部化,较大的 <math>\alpha</math> 使核更平滑。<math>\exp</math> 是指数函数,确保相似性随距离增加而指数衰减。该核函数能捕捉数据的局部结构,并对噪声有一定的鲁棒性;但对参数 <math>\alpha</math> 的选择敏感,若选择不当可能导致过拟合或欠拟合。在核DMD中,高斯核适用于非线性动力系统分析,如流体湍流或混沌系统(文档第5.3节提到扩散映射用于动力系统嵌入),能有效识别相干结构。
  −
 
  −
拉普拉斯核(Laplacian Kernel)是径向基函数核的一种变体,其对噪声和异常值具有更好的鲁棒性。其数学表达式为:
  −
 
  −
<math>k(\mathbf{x}, \mathbf{y}) = \exp\left(-\frac{|\mathbf{x} - \mathbf{y}|_1}{\sigma}\right)</math>
  −
 
  −
其中,<math>|\mathbf{x} - \mathbf{y}|_1</math>表示向量间的曼哈顿距离(L1范数),<math>\sigma</math>为尺度参数控制衰减速率。与高斯核使用L2范数不同,拉普拉斯核使用L1范数,使其对异常值更不敏感,因为L1范数对大幅偏差的惩罚小于L2范数。该核函数的优点在于能有效处理包含噪声的高维数据,特别适用于传感器网络或实验测量数据中存在显著噪声的动力系统分析。缺点是计算效率相对较低,且需要仔细调整尺度参数<math>\sigma</math>以避免过平滑。
  −
 
  −
Sigmoid核(Sigmoid Kernel)源自神经网络理论,其形式为:
  −
 
  −
<math>k(\mathbf{x}, \mathbf{y}) = \tanh(\alpha \mathbf{x} \cdot \mathbf{y} + c)</math>
  −
 
  −
其中,<math>\alpha</math>为缩放参数,<math>c</math>为偏置项,<math>\tanh</math>为双曲正切函数。该核函数模拟神经元激活函数的行为,能产生非线性映射。Sigmoid核的独特之处在于它能模拟饱和非线性特性,适用于具有阈值行为的动力系统,如生物神经元模型或开关控制系统。然而,Sigmoid核并非始终满足Mercer条件(即不一定为正定核),这可能导致数值不稳定性和收敛问题。在实际应用中,需谨慎验证其正定性,或采用修正版本以确保计算稳定性。
      
核DMD的适用场景广泛,包括动力系统分析、预测建模和控制设计。例如,在流体动力学中,核DMD可以识别湍流中的相干结构,而在神经网络应用中,它能近似非线性动力学的演化。然而,核函数的选择(如高斯核、多项式核或线性核)对性能有显著影响,需要根据具体系统进行调整。总之,核DMD提供了一种高效且灵活的方式来扩展线性DMD,使其适用于现实世界中的非线性问题,同时保持了Koopman理论的理论严谨性。
 
核DMD的适用场景广泛,包括动力系统分析、预测建模和控制设计。例如,在流体动力学中,核DMD可以识别湍流中的相干结构,而在神经网络应用中,它能近似非线性动力学的演化。然而,核函数的选择(如高斯核、多项式核或线性核)对性能有显著影响,需要根据具体系统进行调整。总之,核DMD提供了一种高效且灵活的方式来扩展线性DMD,使其适用于现实世界中的非线性问题,同时保持了Koopman理论的理论严谨性。
761

个编辑