3,094
个编辑
更改
跳到导航
跳到搜索
第24行：
第24行： − * 离散型：二值状态[math]x_i \in \{+1,-1\}[/math]，+1代表神经元激活放电，-1代表抑制静默；+ − * 连续型：取值[math]x_i \in [0,1][/math]，采用[[Sigmoid激活]]。+ + +
→网络结构
2. '''权重对称'''：神经元[math]i[/math]到[math]j[/math]的连接权重等于[math]j[/math]到[math]i[/math]，即[math]w_{ij}=w_{ji}[/math]；
2. '''权重对称'''：神经元[math]i[/math]到[math]j[/math]的连接权重等于[math]j[/math]到[math]i[/math]，即[math]w_{ij}=w_{ji}[/math]；
3. 神经元分两类状态定义：
3. 神经元分两类状态定义：
* 离散型：二值状态[math]x_i \in \{+1,-1\}[/math]，+1代表神经元激活放电，-1代表抑制静默；
* 连续型：取值[math]x_i \in [0,1][/math]，采用[[Sigmoid激活]]。
=== 权重矩阵学习（赫布规则） ===
=== 权重矩阵学习（赫布规则） ===
给定[math]P[/math]组待存储模式向量[math]\boldsymbol{s}^1,\boldsymbol{s}^2,\dots,\boldsymbol{s}^P[/math]，每组向量长度为[math]N[/math]，离散Hopfield权重矩阵计算公式：
给定[math]P[/math]组待存储模式向量[math]\boldsymbol{s}^1,\boldsymbol{s}^2,\dots,\boldsymbol{s}^P[/math]，每组向量长度为[math]N[/math]，离散Hopfield权重矩阵计算公式：
<math>
<math>
w_{ij} = \frac{1}{N}\sum_{k=1}^P s_i^k s_j^k \quad (i\neq j),\quad w_{ii}=0
w_{ij} = \frac{1}{N}\sum_{k=1}^P s_i^k s_j^k \quad (i\neq j),\quad w_{ii}=0
</math>
</math>
逻辑：同步激活的神经元互相增强正向权重，互斥激活的神经元产生负权重，全部记忆编码存入权重矩阵。
逻辑：同步激活的神经元互相增强正向权重，互斥激活的神经元产生负权重，全部记忆编码存入权重矩阵。