打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
微分熵
(查看源代码)
2021年2月12日 (五) 23:55的版本
添加1,362字节
、
2021年2月12日 (五) 23:55
→Alternative proof
第188行:
第188行:
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
+
--[[用户:CecileLi|CecileLi]]([[用户讨论:CecileLi|讨论]]) 【审校】补充翻译:
+
这个结果也可以用[[变分演算]]来证明。具有两个[[拉格朗日乘子]]的拉格朗日函数可定义为:
+
+
+
+
:<math>L=\int{-\infty}^\infty g(x)\ln(g(x))\,dx-\lambda\u 0\左(1-\int{-\infty}^\infty g(x)\,dx\右)-\lambda\左(\sigma^2-\int{-\infty}^\infty g(x)(x-\mu)^2\,dx\右)</math>
+
+
+
+
其中“g(x)”是平均μ的函数。当“g(x)”的熵为最大值时,由归一化条件<math>\ left(1=\int{-\infty}^\infty g(x)\,dx\ right)</math>和固定方差<math>\ left(\sigma^2=\int{-\infty}^\infty g(x)(x-\mu)^2\,dx\ right)</math>组成的约束方程均满足,然后,关于“g(x)”的微小变化δ“g”(“x”)将产生关于“L”的变化δ“L”,其等于零:
+
+
+
+
:<math>0=\delta L=\int{-\infty}^\infty\delta g(x)\left(\ln(g(x))+1+\lambda\u 0+\lambda(x-\mu)^2\ right)\,dx</math>
+
+
+
+
由于这必须适用于任何小δ“g”(“x”),括号中的项必须为零,求解“g(x)”得到:
+
+
+
+
:<math>g(x)=e^{-\lambda\u 0-1-\lambda(x-\mu)^2}</math>
+
+
+
+
使用约束方程求解λ<sub>0</sub>和λ得出正态分布:
+
+
+
+
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
==Example: Exponential distribution==
==Example: Exponential distribution==
CecileLi
526
个编辑