第10行: |
第10行: |
| | | |
| 其中: | | 其中: |
| + | |
| 图模型的表示representation是指:如何用图模型来将概率分布进行表示; | | 图模型的表示representation是指:如何用图模型来将概率分布进行表示; |
| 图模型的推断inference是指:在已知图模型的情况下,如何计算某一未知节点的概率; | | 图模型的推断inference是指:在已知图模型的情况下,如何计算某一未知节点的概率; |
第25行: |
第26行: |
| | | |
| 贝叶斯网络一般是指有向图模型,使用有向无环图来表示变量之间的关系; | | 贝叶斯网络一般是指有向图模型,使用有向无环图来表示变量之间的关系; |
| + | |
| 马尔可夫随机场一般是指在无向图模型,使用无向图来表示变量之间的关系。 | | 马尔可夫随机场一般是指在无向图模型,使用无向图来表示变量之间的关系。 |
| | | |
第49行: |
第51行: |
| ===马尔可夫随机场=== | | ===马尔可夫随机场=== |
| | | |
| + | 形式上,一个马尔可夫网络包括: |
| + | * 一个无向图''G'' = (''V'',''E''),每个[[顶点 (图论)]]''v'' ∈''V''表示一个在集合<math>X</math>的[[随机变量]],每条边{''u'',''v''} ∈ ''E''表示随机变量''u''和''v''之间的一种依赖关系。 |
| + | * 一个函数集合<math>f_k</math>(也称为''因子''或者''团因子''有时也称为''特征''),每一个<math>f_k</math>的定义域是图''G''的团或子团''k''. 每一个<math>f_k</math>是从可能的特定联合的指派(到元素''k'')到[[非负]][[实数]]的映射。 |
| + | |
| + | |
| + | 联合分布用马尔可夫随机场可以表示为: |
| + | :<math> P(X=x) = \frac{1}{Z} \prod_{k} f_k (x_{ \{ k \}}) </math> |
| + | |
| + | 其中<math>x=x_{\{1\}}x_{\{2\}}x_{\{3\}}\cdots</math>是向量,<math>x_{ \{ k \}} = x_{\{k,1\}}x_{\{k,2\}}\cdots x_{\{k,|c_k|\}}</math>是随机变量<math>x</math>在第''k''个团的状态(<math>|c_k|</math>是在第''k''个团中包含的节点数。),乘积包括了图中的所有团。注意马尔可夫性质在团内的节点存在,在团之间是不存在依赖关系的。这里,<math>Z</math>是[[配分函数]],有 |
| | | |
| + | :<math> Z = \sum_{x \isin \mathcal{X}} \prod_{k} f_k(x_{ \{ k \} })</math>. |
| | | |
| + | 实际上,马尔可夫网联络经常表示为[[对数线性模型]]。通过引入特征函数<math>\phi_k</math>,得到 |
| + | :<math>f_k=\exp \left(w_k^{\top} \phi_k (x_{ \{ k \}}) \right) </math> |
| + | 和 |
| + | :<math> P(X=x) = \frac{1}{Z} \exp \left( \sum_{k} w_k^{\top} \phi_k (x_{ \{ k \}}) \right) </math> |
| + | 以及划分函数 |
| + | :<math> Z = \sum_{x \isin \mathcal{X}} \exp \left(\sum_{k} w_k^{\top}\phi_k(x_{ \{ k \} })\right)</math>。 |
| | | |
| + | 其中,<math>w_k</math>是权重,<math>\phi_k</math>是势函数,映射团<math>k</math>到实数。这些函数有时亦称为'''吉布斯势''';术语''势''源于物理,通常从字面上理解为在临近位置产生的[[势能]]。 |
| | | |
| | | |