吸引子网络与 Hopfield 模型
Attractor networks
★★☆ 核心网络记忆
把记忆存成能量景观里的谷,部分线索就能把状态"滚"回完整的记忆。
核心要点
- 对称权重 + 阈值单元 → 存在 Lyapunov 能量函数并单调下降,网络必收敛到不动点或 2-周期。
- 容量约 0.138N 个模式(N 为神经元数),超过后出现灾难性遗忘。
- 连续吸引子(CAN)把离散的谷变成一条连续的谷,用于表示连续量。
公式
E=-12Σi≠ j wijsi sj+Σi θi si
能量越低越"稳定";Hebb 式存贮取 wij ∝ Σ_μ ξ_i^μ ξ_j^μ / N,每个模式 ξ^μ 成为一个局部极小。
仿真
这个知识点有对应的可交互模型:Hopfield 吸引子。参数改动立即重算,右侧读数条给出当前值。
打开仿真实验室 · Hopfield 吸引子 →直觉
常见误区
出处
- Hopfield 1982, PNAS
- Amit, Gutfreund & Sompolinsky 1985