模型与实际值符合最好的参数值会使成本函数取到极值,从这个参数值局部来看,成本函数的等值线呈现为椭球形,取成本函数的黑塞矩阵$$H_{\alpha\beta} =\partial^2C/\partial\theta_\alpha\partial\theta_\beta$$。计算矩阵的特征值以及对应的特征向量,较大的特征值对应的特征向量方向即是stiff(“僵硬”)的。因此,特征值的平方(为了避免特征值是负的时,绝对值大但本身值很小的情况出现)即可以反应参数变化方向是stiff(“僵硬”)的还是sloppy(“欠定”)的。 | 模型与实际值符合最好的参数值会使成本函数取到极值,从这个参数值局部来看,成本函数的等值线呈现为椭球形,取成本函数的黑塞矩阵$$H_{\alpha\beta} =\partial^2C/\partial\theta_\alpha\partial\theta_\beta$$。计算矩阵的特征值以及对应的特征向量,较大的特征值对应的特征向量方向即是stiff(“僵硬”)的。因此,特征值的平方(为了避免特征值是负的时,绝对值大但本身值很小的情况出现)即可以反应参数变化方向是stiff(“僵硬”)的还是sloppy(“欠定”)的。 |