更改

2. 输出空间与噪声模型：   

2. 输出空间与噪声模型：   

输出 <math>Y = \mu(X)</math>，其中 <math>\mu</math> 是神经网络的确定性映射。 

 

噪声模型假设：  

由于神经网络的输出 <math>Y = \mu(X)</math>，其中 <math>\mu</math> 代表了神经网络的确定性映射，故而我们可以将这一确定性的映射关系看做一个近似的高斯分布，即我们假设有如下噪声模型：  

 

<math> p(Y|X) = \frac{1}{\sqrt{(2\pi)^m|\Sigma|}} \exp\left(-\frac{1}{2}(Y - \mu(X))^T \Sigma^{-1} (Y - \mu(X))\right), </math>

<math> p(Y|X) = \frac{1}{\sqrt{(2\pi)^m|\Sigma|}} \exp\left(-\frac{1}{2}(Y - \mu(X))^T \Sigma^{-1} (Y - \mu(X))\right), </math>

其中 <math>\Sigma = \operatorname{diag}(\sigma_1^2, \dots, \sigma_m^2)</math>，<math>\sigma_i</math> 为第 <math>i</math> 维输出的标准差。 

 

拉普拉斯分布（使用平均绝对误差损失时）：  

这是一个以[math]\mu(X)[/math]为均值，以<math>\Sigma = \operatorname{diag}(\sigma_1^2, \dots, \sigma_m^2)</math>为协方差矩阵的高斯分布，其中<math>\sigma_i</math> 为第 <math>i</math> 维上的标准差。在实际运算中，[math]\sigma_i[/math]通常由第[math]i[/math]个维度输出值的[[均方误差]](Mean Square Error, 简称MSE)误差。对于隐含层节点，这一标准差可以由输出神经元经过[[误差反传算法]]而计算出来。

除了使用高斯分布，我们也可以等价地使用拉普拉斯分布：  

<math> p(Y|X) = \prod_{i=1}^m \frac{1}{2b_i} \exp\left(-\frac{|y_i - \mu_i(X)|}{b_i}\right), </math>   

<math> p(Y|X) = \prod_{i=1}^m \frac{1}{2b_i} \exp\left(-\frac{|y_i - \mu_i(X)|}{b_i}\right), </math>   

其中 <math>b_i</math> 为第 <math>i</math> 维输出的尺度参数。 

其中 <math>b_i</math> 为第 <math>i</math> 维输出的误差，可以由输出神经元的平均绝对误差（Mean Absolute Error，MAE误差）或经由[[梯度反传算法]]计算得到。

==== 计算雅可比矩阵====   

==== 计算雅可比矩阵====