更改

大语言模型的涌现 (查看源代码)

2025年4月7日 (一) 12:57的版本

添加417字节、 2025年4月7日 (一) 12:57

无编辑摘要

第140行：第140行：

==知识量子理论==

−

The Quantization Model of Neural Scaling. <nowiki>https://arxiv.org/abs/2303.13506</nowiki>

+

2023年，MIT的Tegmark团队借鉴量子的概念，提出了知识量子理论来诠释大语言模型的各种现象，包括神经标度律、涌现等<ref>Michaud, E. J., Liu, Z., Girit, U., & Tegmark, M. (n.d.). The Quantization Model of Neural Scaling. <nowiki>https://arxiv.org/abs/2303.13506</nowiki></ref><ref name=":quanta">。

+

[[文件:Quanta emerg.png|无|缩略图|800x800像素|当任务涉及单个量子时，loss的变化体现为涌现；涉及多个量子时，体现为神经标度律]]

=== 渗流模型 ===

Matthew

管理员

842

个编辑