更改

[[渗流模型]]（Percolation Model）最早用于描述物质在多孔介质中的渗透过程。当网络的连通性达到某一临界点时，系统会发生显著变化，形成大规模的连通区域。在该临界点之前，系统中的连接是局部的、碎片化的；而一旦超过这一临界阈值，连接会迅速扩展，形成全局连通的集群。近年来，这一模型被借用来解释神经网络，特别是大语言模型中的涌现现象。

[[渗流模型]]（Percolation Model）最早用于描述物质在多孔介质中的渗透过程。当网络的连通性达到某一临界点时，系统会发生显著变化，形成大规模的连通区域。在该临界点之前，系统中的连接是局部的、碎片化的；而一旦超过这一临界阈值，连接会迅速扩展，形成全局连通的集群。近年来，这一模型被借用来解释神经网络，特别是大语言模型中的涌现现象。

[[文件:涌现作为学习的相态(Emergence as phases of learning).png|替代=涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。|无|缩略图|446x446px|涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。]]

[[文件:涌现作为学习的相态(Emergence as phases of learning).png|替代=涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变。|无|缩略图|446x446px|涌现现象在学习过程中类似物质相变的不同阶段，强调模型能力随着训练规模的增加而突变]]

Lubana等人<ref name=":Percolation" />提出一个基于渗流模型的理论框架来建模那些需要模型组合未见过的实体和描述性属性的能力的涌现过程，他们提出概念类的结构，并将概念类抽象为二分图，并将其学习过程建模为二分图上的渗流问题。在该模型中，节点（如实体、属性等）通过边（如实体与属性的配对）连接在一起。随着训练数据和参数规模的增加，节点之间逐渐形成一个“连通子图”，一旦这个子图的规模突破某个阈值，模型就会展现出新的能力 。这一过程与渗流模型中“临界阈值”概念相似，表示模型从局部学习到全局能力的跃升。

Lubana等人<ref name=":Percolation" />提出一个基于渗流模型的理论框架来建模那些需要模型组合未见过的实体和描述性属性的能力的涌现过程，他们提出概念类的结构，并将概念类抽象为二分图，并将其学习过程建模为二分图上的渗流问题。在该模型中，节点（如实体、属性等）通过边（如实体与属性的配对）连接在一起。随着训练数据和参数规模的增加，节点之间逐渐形成一个“连通子图”，一旦这个子图的规模突破某个阈值，模型就会展现出新的能力 。这一过程与渗流模型中“临界阈值”概念相似，表示模型从局部学习到全局能力的跃升。

在键渗流中，我们研究最大连通集群的规模如何随每条边（键）存在概率<math>p</math>的变化而变化。通常存在一个临界阈值<math>p_c</math>:当<math>p<p_c</math>时，图处于不连通相，大多数节点孤立或属于小集群；当<math>p>p_c</math>时，图转变为连通相，出现跨越大部分图的巨型组件。这种从主要不连通状态到存在宏观集群的转变是渗流过程的标志特征，且随着系统组件数增加，这一转变会愈发陡峭。

在键渗流中，我们研究最大连通集群的规模如何随每条边（键）存在概率<math>p</math>的变化而变化。通常存在一个临界阈值<math>p_c</math>:当<math>p<p_c</math>时，图处于不连通相，大多数节点孤立或属于小集群；当<math>p>p_c</math>时，图转变为连通相，出现跨越大部分图的巨型组件。这种从主要不连通状态到存在宏观集群的转变是渗流过程的标志特征，且随着系统组件数增加，这一转变会愈发陡峭。

[[文件:Percolation-二分图.png|缩略图|将构成看不见的概念(例如,实体和属性)的能力投射为二分图上的渗流]]

[[文件:Percolation-二分图.png|无|缩略图|600x600px|将构成看不见的概念(例如,实体和属性)的能力投射为二分图上的渗流：(a)当数据集中只包含一部分概念类且边密度较低时，节点(例如,实体和属性)形成许多不连通的簇，用不同的颜色表示(左边)。随着更多的概念类被添加到二分图中(虚边)，小的簇开始合并(中间)。在足够多的边的情况下，宏观数量的节点连接起来，形成单个簇(右)。(b)我们的理论将这种转变建立为二阶相变，其中最大团簇的大小随着连接节点对的比例非线性地增加。]]

在简单渗流场景中（图的连接边随机选择，概率为<math>p</math>），渗流阈值为<math>p_c\approx \sqrt{1/\left | E \right | \left | K \right |  } </math>（当<math> \left | E \right | </math>和<math> \left | K \right | </math>较大时）。这意味着当约<math>\sqrt{\left | E \right | \left | K \right |  } </math>条边被连接时（总可能边数为<math>\left | E \right | \left | K \right | </math>），系统的集群规模会出现质变。对于<math>p>p_c</math>，属于连通集群的节点数将呈宏观规模，即随机选择的实体-属性对相连的概率为有限值。

在简单渗流场景中（图的连接边随机选择，概率为<math>p</math>），渗流阈值为<math>p_c\approx \sqrt{1/\left | E \right | \left | K \right |  } </math>（当<math> \left | E \right | </math>和<math> \left | K \right | </math>较大时）。这意味着当约<math>\sqrt{\left | E \right | \left | K \right |  } </math>条边被连接时（总可能边数为<math>\left | E \right | \left | K \right | </math>），系统的集群规模会出现质变。对于<math>p>p_c</math>，属于连通集群的节点数将呈宏观规模，即随机选择的实体-属性对相连的概率为有限值。