更改

删除5字节 、 2024年3月5日 (星期二)
第16行: 第16行:  
为了表示及说明方便,取参数空间的一个二维平面截面来观察等值线,可得到形如下图香蕉形状的的成本函数等值线图。这个图的水平方向与垂直方向是按照sloppy(“欠定 ”)方向与stiff(“僵硬”)方向布置的。沿着sloppy(“欠定”)方向,成本函数变化小,而沿着stiff(“僵硬”)方向,成本函数变化大。
 
为了表示及说明方便,取参数空间的一个二维平面截面来观察等值线,可得到形如下图香蕉形状的的成本函数等值线图。这个图的水平方向与垂直方向是按照sloppy(“欠定 ”)方向与stiff(“僵硬”)方向布置的。沿着sloppy(“欠定”)方向,成本函数变化小,而沿着stiff(“僵硬”)方向,成本函数变化大。
   −
模型与实际值符合最好的参数值会使成本函数取到极值,从这个参数值局部来看,成本函数的等值线呈现为椭球形,取成本函数的黑塞矩阵:<math>H_{\alpha\beta} =\partial^2C/\partial\theta_\alpha\partial\theta_\beta</math>。计算矩阵的特征值以及对应的特征向量,较大的特征值对应的特征向量方向即是stiff(“僵硬”)的。因此,特征值的平方(为了避免特征值是负的时,绝对值大但本身值很小的情况出现)即可以反应参数变化方向是stiff(“僵硬”)的还是sloppy(“欠定”)的。
+
模型与实际值符合最好的参数值会使成本函数取到极值,从这个参数值局部来看,成本函数的等值线呈现为椭球形,取成本函数的黑塞矩阵<math>H_{\alpha\beta} =\partial^2C/\partial\theta_\alpha\partial\theta_\beta</math>。计算矩阵的特征值以及对应的特征向量,较大的特征值对应的特征向量方向即是stiff(“僵硬”)的。因此,特征值的平方(为了避免特征值是负的时,绝对值大但本身值很小的情况出现)即可以反应参数变化方向是stiff(“僵硬”)的还是sloppy(“欠定”)的。
    
Sloppiness在生物学领域最为普遍,但在其它领域也并不缺席。从昆虫飞行模型,到原子间势,再到加速器设计,许多目前常用的模型都是sloppy的。例如,量子蒙特卡洛是求解原子和小分子的能量和量子行为的最精确的工具;然而,赛勒斯·乌姆里加(Cyrus Umrigar)在这种方法基础上建立的非常精确的变分波函数却是极度sloppy(b列)。
 
Sloppiness在生物学领域最为普遍,但在其它领域也并不缺席。从昆虫飞行模型,到原子间势,再到加速器设计,许多目前常用的模型都是sloppy的。例如,量子蒙特卡洛是求解原子和小分子的能量和量子行为的最精确的工具;然而,赛勒斯·乌姆里加(Cyrus Umrigar)在这种方法基础上建立的非常精确的变分波函数却是极度sloppy(b列)。
   −
即便参数值与真实值相差很大,有sloppy特性的模型也可以做出精确的预测。在数学中有一个经典的拟合难题:用指数衰变和去拟合放射性模型(c列和d列)得到的衰变常数与真实衰变常数截然不同,但短期内模型预测值与真实值却相差不大 。最后,用多项式系数模型:<math>\sum_i a_it^i</math>拟合数据是sloppy的(h列)。但用正交多项式基:<math>\sum_ib_iH_i</math>(:<math>H_i</math>是一组正交多项式基)去拟合时得到的模型却往往是非sloppy的,这是因为从:<math>t^i</math>到:<math>H_i</math>的变换是高度非正交的。
+
即便参数值与真实值相差很大,有sloppy特性的模型也可以做出精确的预测。在数学中有一个经典的拟合难题:用指数衰变和去拟合放射性模型(c列和d列)得到的衰变常数与真实衰变常数截然不同,但短期内模型预测值与真实值却相差不大 。最后,用多项式系数模型<math>\sum_i a_it^i</math>拟合数据是sloppy的(h列)。但用正交多项式基<math>\sum_ib_iH_i</math>(<math>H_i</math>是一组正交多项式基)去拟合时得到的模型却往往是非sloppy的,这是因为从:<math>t^i</math>到<math>H_i</math>的变换是高度非正交的。
    
Sloppy模型有着多种形式,每个模型的sloppniess的原因并不完全相同,部分系统的sloppiness的原因可以从数学上进行分析。但是不同系统的sloppiniess具体原因仍然极具复杂性。
 
Sloppy模型有着多种形式,每个模型的sloppniess的原因并不完全相同,部分系统的sloppiness的原因可以从数学上进行分析。但是不同系统的sloppiniess具体原因仍然极具复杂性。