更改

== 现代拓展：稠密关联记忆（现代Hopfield） ==

== 现代拓展：稠密关联记忆（现代Hopfield） ==

经典Hopfield容量瓶颈由Krotov与Hopfield在2016年突破，提出稠密关联记忆（Dense Associative Memory），又称现代Hopfield网络：

经典Hopfield容量瓶颈由Krotov与Hopfield在2016年突破，提出稠密关联记忆（Dense Associative Memory），又称[[现代Hopfield网络]]：

1. 放弃线性能量函数，采用高阶非线性势能；

 

2. 存储容量随神经元数量指数级增长，不再受$0.14N$限制；

# 放弃线性能量函数，采用高阶非线性势能；

3. 数学推导证明：Transformer自注意力机制等价于大容量现代Hopfield层；

# 存储容量随神经元数量指数级增长，不再受$0.14N$限制；

4. 当前应用：大模型上下文记忆、检索增强生成、视觉特征匹配。

# 数学推导证明：Transformer自注意力机制等价于大容量现代Hopfield层；

# 当前应用：大模型上下文记忆、检索增强生成、视觉特征匹配。

== 与认知神经科学的关联 ==

== 与认知神经科学的关联 ==