更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
微分熵
(查看源代码)
2021年2月12日 (五) 23:55的版本
添加1,362字节
、
2021年2月12日 (五) 23:55
→Alternative proof
第188行:
第188行:
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
+
--[[用户:CecileLi|CecileLi]]([[用户讨论:CecileLi|讨论]]) 【审校】补充翻译:
+
这个结果也可以用[[变分演算]]来证明。具有两个[[拉格朗日乘子]]的拉格朗日函数可定义为:
+
+
+
+
:<math>L=\int{-\infty}^\infty g(x)\ln(g(x))\,dx-\lambda\u 0\左(1-\int{-\infty}^\infty g(x)\,dx\右)-\lambda\左(\sigma^2-\int{-\infty}^\infty g(x)(x-\mu)^2\,dx\右)</math>
+
+
+
+
其中“g(x)”是平均μ的函数。当“g(x)”的熵为最大值时,由归一化条件<math>\ left(1=\int{-\infty}^\infty g(x)\,dx\ right)</math>和固定方差<math>\ left(\sigma^2=\int{-\infty}^\infty g(x)(x-\mu)^2\,dx\ right)</math>组成的约束方程均满足,然后,关于“g(x)”的微小变化δ“g”(“x”)将产生关于“L”的变化δ“L”,其等于零:
+
+
+
+
:<math>0=\delta L=\int{-\infty}^\infty\delta g(x)\left(\ln(g(x))+1+\lambda\u 0+\lambda(x-\mu)^2\ right)\,dx</math>
+
+
+
+
由于这必须适用于任何小δ“g”(“x”),括号中的项必须为零,求解“g(x)”得到:
+
+
+
+
:<math>g(x)=e^{-\lambda\u 0-1-\lambda(x-\mu)^2}</math>
+
+
+
+
使用约束方程求解λ<sub>0</sub>和λ得出正态分布:
+
+
+
+
:<math>g(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}</math>
==Example: Exponential distribution==
==Example: Exponential distribution==
CecileLi
526
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
帮助
工具
特殊页面
可打印版本