规模法则 - 版本历史

Jake：/* 企业的“心跳”与“寿命” */

2026-01-22T00:51:56Z

企业的“心跳”与“寿命”

Jake：/* 企业的“心跳”与“寿命” */

2026-01-22T00:51:35Z

企业的“心跳”与“寿命”

Jake：/* 国家的规模法则 */

2026-01-22T00:39:52Z

国家的规模法则

Jake：/* 生物体的死亡 */

2026-01-22T00:36:34Z

生物体的死亡

2026年1月22日 (四) 00:33 Jake

2026-01-22T00:33:33Z

Jake：/* 空间幂律 */

2026-01-22T00:30:48Z

空间幂律

Jake：/* 临界态 */

2026-01-21T14:54:13Z

临界态

Jake：/* 临界态 */

2026-01-21T14:47:58Z

临界态

Jake：/* 大语言模型 */

2026-01-21T14:46:17Z

大语言模型

Jake：/* 大语言模型 */

2026-01-21T14:40:21Z

大语言模型

←上一版本		2026年1月22日 (四) 00:51的版本
第1,407行：		第1,407行：


−	[[文件:企业的死亡.jpg\|无\|缩略图\|600x600像素\|企业的生长快慢与其规模大小的关系。图片来源<ref name=":1">]]	+	[[文件:企业的死亡.jpg\|无\|缩略图\|600x600像素\|企业的生长快慢与其规模大小的关系。图片来源<ref name=":1"/>]]

	这里的a图为企业的资产周转率随总资产的幂律关系，幂指数为-0.19，其中原始数据按照总资产的数量级进行了小区间的划分，并在每一个区间求平均值，如图中黑点所示。图b为员工离职率随员工数的幂律关系，幂指数为-0.15，故离职率随总资产的幂指数为-0.11。图c为企业平均寿命（在数据集中存在的时间长度）随总资产的幂律关系，其中平均寿命按对数小区间取了平均值，幂指数为0.14。图d为员工在企业中的效力时间随员工数的幂律关系，幂指数为0.11，故效力时间与总资产的幂指数为0.08。其中图b和图d的数据来自文献<ref name='even_1996'>{{cite journal\|author1=Even W E\|author2=Macpherson D A.\|title=Employer size and labor turnover: The role of pensions\|journal=ILR Review\|year=1996\|volume=49\|issue=4\|page=707-728}}</ref> ，我们将该文献中的表格数据重新画在了双对数坐标系中。		这里的a图为企业的资产周转率随总资产的幂律关系，幂指数为-0.19，其中原始数据按照总资产的数量级进行了小区间的划分，并在每一个区间求平均值，如图中黑点所示。图b为员工离职率随员工数的幂律关系，幂指数为-0.15，故离职率随总资产的幂指数为-0.11。图c为企业平均寿命（在数据集中存在的时间长度）随总资产的幂律关系，其中平均寿命按对数小区间取了平均值，幂指数为0.14。图d为员工在企业中的效力时间随员工数的幂律关系，幂指数为0.11，故效力时间与总资产的幂指数为0.08。其中图b和图d的数据来自文献<ref name='even_1996'>{{cite journal\|author1=Even W E\|author2=Macpherson D A.\|title=Employer size and labor turnover: The role of pensions\|journal=ILR Review\|year=1996\|volume=49\|issue=4\|page=707-728}}</ref> ，我们将该文献中的表格数据重新画在了双对数坐标系中。

←上一版本		2026年1月22日 (四) 00:51的版本
第1,407行：		第1,407行：


−	[[文件:企业的死亡.jpg\|无\|缩略图\|600x600像素\|~~企业的生长快慢与其规模大小的关系~~]]	+	[[文件:企业的死亡.jpg\|无\|缩略图\|600x600像素\|企业的生长快慢与其规模大小的关系。图片来源<ref name=":1">]]

	这里的a图为企业的资产周转率随总资产的幂律关系，幂指数为-0.19，其中原始数据按照总资产的数量级进行了小区间的划分，并在每一个区间求平均值，如图中黑点所示。图b为员工离职率随员工数的幂律关系，幂指数为-0.15，故离职率随总资产的幂指数为-0.11。图c为企业平均寿命（在数据集中存在的时间长度）随总资产的幂律关系，其中平均寿命按对数小区间取了平均值，幂指数为0.14。图d为员工在企业中的效力时间随员工数的幂律关系，幂指数为0.11，故效力时间与总资产的幂指数为0.08。其中图b和图d的数据来自文献<ref name='even_1996'>{{cite journal\|author1=Even W E\|author2=Macpherson D A.\|title=Employer size and labor turnover: The role of pensions\|journal=ILR Review\|year=1996\|volume=49\|issue=4\|page=707-728}}</ref> ，我们将该文献中的表格数据重新画在了双对数坐标系中。		这里的a图为企业的资产周转率随总资产的幂律关系，幂指数为-0.19，其中原始数据按照总资产的数量级进行了小区间的划分，并在每一个区间求平均值，如图中黑点所示。图b为员工离职率随员工数的幂律关系，幂指数为-0.15，故离职率随总资产的幂指数为-0.11。图c为企业平均寿命（在数据集中存在的时间长度）随总资产的幂律关系，其中平均寿命按对数小区间取了平均值，幂指数为0.14。图d为员工在企业中的效力时间随员工数的幂律关系，幂指数为0.11，故效力时间与总资产的幂指数为0.08。其中图b和图d的数据来自文献<ref name='even_1996'>{{cite journal\|author1=Even W E\|author2=Macpherson D A.\|title=Employer size and labor turnover: The role of pensions\|journal=ILR Review\|year=1996\|volume=49\|issue=4\|page=707-728}}</ref> ，我们将该文献中的表格数据重新画在了双对数坐标系中。

@@ 第1,821行： / 第1,821行： @@
 社会经济复杂系统中普遍着规模法则。除了城市与企业，规模法则还适用于一种更大的社会经济复杂系统，这就是国家。
-年，[[张江]]等人利用 ''Mathematica CountryData'' 数据库，对273个国家或地区的104个变量展开了系统性的实证研究<ref name=":11">{{cite journal|last=Zhang|first=Jiang|title=Allometric scaling of countries|journal=Physica A|time=2010|page=4887–4896|url=http://www.sciencedirect.com/science/article/pii/S0378437110006072}}</ref>，将规模法则（也被叫做异速生长律Allometric Scaling）拓展到了国家上（参考：[[异速生长律]]词条）。
+年，[[张江]]和[[于同奎]]利用 ''Mathematica CountryData'' 数据库，对273个国家或地区的104个变量展开了系统性的实证研究<ref name=":11">{{cite journal|last1=Zhang|first1=Jiang|last2=Yu|first2=Tongkui|title=Allometric scaling of countries|journal=Physica A|time=2010|page=4887–4896|url=http://www.sciencedirect.com/science/article/pii/S0378437110006072}}</ref>，将规模法则（也被叫做异速生长律Allometric Scaling）拓展到了国家上（参考：[[异速生长律]]词条）。
 ===广延量与强度量===

@@ 第1,314行： / 第1,314行： @@
 ===基础方程：新陈代谢率===
-首先，Brown等人改写了克莱伯法则的标准形式（式{{EquationNote|2}}），引入了与温度相关的指数因子。也就是说，生物的代谢率（B），取决于生物体质量（M）和生物所处环境的平均绝对温度（T）。代谢率的规模法则方程可表为：
+首先，Brown等人改写了克莱伯法则的标准形式（式{{EquationNote|2}}），引入了与温度相关的指数因子<ref name='metabolic_ecology'/>。也就是说，生物的代谢率（B），取决于生物体质量（M）和生物所处环境的平均绝对温度（T）。代谢率的规模法则方程可表为：
 {{NumBlk|:|

@@ 第1行： / 第1行： @@
-'''规模法则'''（Scaling Law），又称[[标度定律]]，或简称[[标度律]]，是描述[[复杂系统]]中各种可测量特性如何随系统规模发生系统性地、可预测变化的数学关系。这些数学关系通常表现为[[幂律]]的形式，它们能够反映从生命体到城市、企业乃至[[人工智能大模型]]等[[复杂系统]]在规模缩放过程中展现出的结构、功能和动态行为上的普遍性规律。根据[[维斯特]](G. West)的[[规模理论]]，规模法则不仅是一种普遍的实证规律，它更是预测复杂系统的生长与死亡的基础原则；透过规模法则，人们还可以构建复杂系统的网络模型，以解释、重构各类实证观察现象，同时推断[[复杂系统]]的结构与功能之间的关系，甚至有助于系统的优化与设计。
+'''规模法则'''（Scaling Law），又称[[标度定律]]，或简称[[标度律]]，是描述[[复杂系统]]中各种可测量特性如何随系统规模发生系统性地、可预测变化的数学关系。这些数学关系通常表现为[[幂律]]的形式，它们能够反映从生命体到城市、企业乃至人工智能[[大语言模型]]等[[复杂系统]]在规模缩放过程中展现出的结构、功能和动态行为上的普遍性规律。根据[[维斯特]](G. West)的[[规模理论]]，规模法则不仅是一种普遍的实证规律，它更是预测复杂系统的生长与死亡的基础原则；透过规模法则，人们还可以构建复杂系统的网络模型，以解释、重构各类实证观察现象，同时推断[[复杂系统]]的结构与功能之间的关系，甚至有助于系统的优化与设计。
 规模法则一般表现为如下的幂律形式：
@@ 第9行： / 第9行： @@
 |{{EquationRef|1}}}}
-其中[math]X[/math]通常代表一个系统的规模，例如生物体的体重，城市的人口，企业的员工数等；[math]Y[/math]则代表系统的某一种可测量的宏观变量，例如生物体的[[新陈代谢率]]、城市的GDP，以及企业的总收入等；[math]c[/math]为规模法则的系数，它代表了规模缩放的基底，即系统规模为1的时候，[math]Y[/math]是多少；[math]\alpha[/math]为规模法则的幂指数，是规模法则的重要参数，刻画了[math]Y[/math]与[math]X[/math]的相对变化速度。根据指数[math]\alpha[/math]大小的不同，我们通常将规模法则划分为三种类型：
+其中[math]X[/math]通常代表一个系统的规模，例如生物体的体重，城市的人口，企业的员工数等；[math]Y[/math]则代表系统的某一种可测量的宏观变量，例如生物体的[[新陈代谢率]]、城市的GDP，以及企业的总收入等；[math]c[/math]为规模法则的系数，它代表了规模缩放的基底，即系统规模为1单位的时候，[math]Y[/math]是多少；[math]\alpha[/math]为规模法则的幂指数，是规模法则的重要参数，刻画了[math]Y[/math]与[math]X[/math]的相对变化速度。根据指数[math]\alpha[/math]大小的不同，我们通常将规模法则划分为三种类型：
 * 当[math]\alpha>1[/math]

@@ 第1,664行： / 第1,664行： @@
 在城市中，道路可以被看作是人与人交互的界面。我们可以观察到，很多的商铺都是沿着道路开设的，而这些商铺都是人与人交互的场所。所以，一块儿区域的道路越多，则社会交互也会越多；交互的主体是人，因此一块儿区域人口密度越高，则社会交互也会越密集。因此，局部的社会交互是正比于局部的人口密度和道路长度的乘积的。
-=====空间幂律=====
+=====空间标度律=====
 由上述三种引入的机制和[[匹配生长]]规则，我们便可以模拟一座城市的生长，包括道路网络的生长和社会交互活动的增加。而且，该模型可以从理论上推导出：活跃人口、道路网络和社会经济互动三大要素的空间分布满足如下关系：
@@ 第1,693行： / 第1,693行： @@
 可以看到，它们的累积量都会与 <math>r</math> 呈现出幂律的规律，而且幂指数虽然各不相同，但是都与活跃人口的空间指数[math]\beta[/math]有关。
-这些空间规模法则（Spatial Scaling）都得到了实证数据的验证，如下图：
+这些空间标度律（Spatial Scaling）都得到了实证数据的验证，如下图：
-[[文件:Spatial scaling.png|缩略图|无|700px|两个城市的空间规模法则的实证数据验证。a图为伦敦，b图为北京的结果。伦敦和北京的活跃人口的空间规模法则幂指数分别为 1.70 和 1.91，它们是通过对数据进行线性回归估计得到的。然后，根据公式[math]P(r,t)\propto r^{2-\beta}[/math]，可以估计出伦敦的 [math]\beta = 0.30[/math]、北京的[math]\beta = 0.09[/math]。根据理论，由夜间灯光捕捉到的道路长度和社会经济相互作用的指数可以预测为 [math]2 − \beta/2 = 1.85(1.95)[/math]和[math] 2 − 3\beta/2 = 1.55(1.86)[/math]（伦敦在前，北京在后），这与经验结果非常接近——通过线性回归得到的伦敦道路长度和社会经济相互作用的指数及其标准差分别为 1.85（标准差 0.00800）和 1.66（标准差 0.0118）；北京则分别为 1.95（标准差 0.0164）和 1.74（标准差 0.0105）。]]
+[[文件:Spatial scaling.png|缩略图|无|700px|两个城市的空间标度律的实证数据验证。a图为伦敦，b图为北京的结果。伦敦和北京的活跃人口的空间标度律幂指数分别为 1.70 和 1.91，它们是通过对数据进行线性回归估计得到的。然后，根据公式[math]P(r,t)\propto r^{2-\beta}[/math]，可以估计出伦敦的 [math]\beta = 0.30[/math]、北京的[math]\beta = 0.09[/math]。根据理论，由夜间灯光捕捉到的道路长度和社会经济相互作用的指数可以预测为 [math]2 − \beta/2 = 1.85(1.95)[/math]和[math] 2 − 3\beta/2 = 1.55(1.86)[/math]（伦敦在前，北京在后），这与经验结果非常接近——通过线性回归得到的伦敦道路长度和社会经济相互作用的指数及其标准差分别为 1.85（标准差 0.00800）和 1.66（标准差 0.0118）；北京则分别为 1.95（标准差 0.0164）和 1.74（标准差 0.0105）。]]
 =====规模法则=====

@@ 第2,196行： / 第2,196行： @@
 ==临界态==
-在[[复杂系统]]研究中，[[临界]]态（critical state）指系统在[[有序与无序]]之间的过渡点处所呈现的特殊状态。在这一状态下，系统对外部扰动的响应表现出强烈的[[相关性]]和尺度不变性（scale invariance）。Christensen和Moloney在《[[复杂性]]与[[临界]]性》书中指出，许多[[复杂系统]]在演化过程中会自发地靠近[[临界点]]，而无需外部精确调节，这一现象被称为[[自组织临界性]]（self-organized criticality, SOC）。在[[临界]]态下，系统的统计特征常常遵循[[幂律分布]]，反映出其内部的协同与层级结构<ref name=":19">Christensen, K., & Moloney, N. R. (2006). ''Complexity and criticality = 复杂性和临界状态''. Fudan University Press.</ref>。规模法则也常常在[[临界现象]]中。
+在[[复杂系统]]研究中，[[临界]]态（critical state）指系统在[[有序与无序]]之间的过渡点处所呈现的特殊状态。在这一状态下，系统对外部扰动的响应表现出强烈的[[相关性]]和[[尺度不变性]]（scale invariance）。Christensen和Moloney在《[[复杂性]]与[[临界]]性》一书中指出，许多[[复杂系统]]在演化过程中会自发地靠近[[临界点]]，而无需外部精确调节，这一现象被称为[[自组织临界性]]（self-organized criticality, SOC）。在[[临界]]态下，系统的统计特征常常遵循[[幂律分布]]，反映出其内部的[[协同]]与[[层级结构]]<ref name=":19">Christensen, K., & Moloney, N. R. (2006). ''Complexity and criticality''. Fudan University Press.</ref>。规模法则也常常在[[临界现象]]中出现。
-'''[[自组织临界性]]与[[沙堆模型]]'''
+例如，在[[临界现象]]的研究中，最具代表性的[[自组织临界]]模型是 Bak、Tang 与 Wiesenfeld (BTW) 于 1987 年提出的[[沙堆模型]]（sandpile model）。该模型展示了[[复杂系统]]如何在没有外部调节的情况下自发演化至[[临界状态]]。
-例如，在[[临界现象]]的研究中，最具代表性的[[自组织]]模型是 Bak、Tang 与 Wiesenfeld (BTW) 于 1987 年提出的[[沙堆模型]]（sandpile model）。该模型展示了[[复杂系统]]如何在没有外部调节的情况下自发演化至[[临界状态]]。
+模型假设在一个二维格点上不断堆积沙粒，当局部斜率超过某个阈值时，局部区域的沙粒会向周围扩散，形成所谓的“雪崩”（avalanche）事件。每次雪崩都会重新分配系统的能量，使系统从微观扰动中逐步趋向宏观平衡。经过充分演化后，系统自发达到一个[[临界]][[稳态]]，在该状态下，所有统计量都呈现出[[幂律分布]]的特征<ref name=":19" />。
-模型假设在一个二维格点上不断堆积沙粒，当局部斜率超过某个阈值时，局部区域的沙粒会向周围扩散，形成所谓的“雪崩”（avalanche）事件。每次雪崩都会重新分配系统的能量，使系统从微观扰动中逐步趋向宏观平衡。经过充分演化后，系统自发达到一个[[临界]][[稳态]]，在该状态下，所有统计量都呈现出[[幂律分布]]的标度特征<ref name=":19" />。
+在该[[临界稳态]]下，一次雪崩的持续时间 [math]T[/math] 和这次雪崩的规模大小 [math]s[/math]就服从一个规模法则 ：
 :<math>
@@ 第2,216行： / 第2,214行： @@
 </math>
-其中 [math]\alpha, \tau[/math] 都为[[幂律]]指数；[math]\alpha,\beta,\tau[/math]统称为[[临界指数]]（critical exponents），决定了系统在不同尺度上的统计规律。进一步的数值[[模拟]]与实验表明，这些指数的具体数值因模型维度与局部[[动力学]]而异，但其[[幂律]]形式具有普适性（universality）。这意味着，无论系统的微观细节如何，只要具备能量累积与阈值释放的机制，都会自然演化到一个[[幂律]]主导的[[临界]]态。
+其中 [math]\alpha, \tau[/math] 都为[[幂指数]]；[math]\alpha,\beta,\tau[/math]统称为[[临界指数]]（critical exponents），决定了系统在不同尺度上的统计规律。进一步的数值[[模拟]]与实验表明，这些指数的具体数值因模型维度与局部[[动力学]]而异，但其[[幂律]]形式具有[[普适性]]（universality）。这意味着，无论系统的微观细节如何，只要具备能量累积与阈值释放的机制，都会自然演化到一个[[幂律]]主导的[[临界]]态。
 在有限系统中，雪崩规模的分布还满足有限尺度标度形式：
 :<math>
 P(s,L) = s^{-\tau} f\left(\frac{s}{L^{D}}\right),
 </math>
-其中 [math]L[/math] 为系统线性尺度， [math]D[/math] 为雪崩的特征维度（fractal dimension），该式也体现为一种尺度依赖的分布形态（参见6.1.3）。这一[[标度律]]表明，不同规模系统的统计行为可以通过合适的[[归一化]]函数 [math]f(x)[/math] 统一到同一曲线之上，揭示了[[临界]]系统的[[自相似性]]与[[无尺度性]]。
+其中 [math]L[/math] 为系统的线性尺度， [math]D[/math] 为雪崩的特征维度（fractal dimension），该式也体现为一种尺度依赖的分布形态（参见6.1.3）。这一[[标度律]]表明，不同规模系统的统计行为可以通过合适的[[归一化]]函数 [math]f(x)[/math] 统一到同一曲线之上，揭示了[[临界]]系统的[[自相似性]]与[[无尺度性]]。
 =参考文献=
 <references />

@@ 第2,196行： / 第2,196行： @@
 ==临界态==
-在复杂系统研究中，临界态（critical state）指系统在有序与无序之间的过渡点处所呈现的特殊状态。在这一状态下，系统对外部扰动的响应表现出强烈的相关性和尺度不变性（scale invariance）。Christensen和Moloney在《复杂性与临界性》书中指出，许多复杂系统在演化过程中会自发地靠近临界点，而无需外部精确调节，这一现象被称为自组织临界性（self-organized criticality, SOC）。在临界态下，系统的统计特征常常遵循幂律分布，反映出其内部的协同与层级结构<ref name=":19">Christensen, K., & Moloney, N. R. (2006). ''Complexity and criticality = 复杂性和临界状态''. Fudan University Press.</ref>。规模法则也常常在临界现象中。
+在[[复杂系统]]研究中，[[临界]]态（critical state）指系统在[[有序与无序]]之间的过渡点处所呈现的特殊状态。在这一状态下，系统对外部扰动的响应表现出强烈的[[相关性]]和尺度不变性（scale invariance）。Christensen和Moloney在《[[复杂性]]与[[临界]]性》书中指出，许多[[复杂系统]]在演化过程中会自发地靠近[[临界点]]，而无需外部精确调节，这一现象被称为[[自组织临界性]]（self-organized criticality, SOC）。在[[临界]]态下，系统的统计特征常常遵循[[幂律分布]]，反映出其内部的协同与层级结构<ref name=":19">Christensen, K., & Moloney, N. R. (2006). ''Complexity and criticality = 复杂性和临界状态''. Fudan University Press.</ref>。规模法则也常常在[[临界现象]]中。
-'''自组织临界性与沙堆模型'''
+'''[[自组织临界性]]与[[沙堆模型]]'''
-例如，在临界现象的研究中，最具代表性的自组织模型是 Bak、Tang 与 Wiesenfeld (BTW) 于 1987 年提出的沙堆模型（sandpile model）。该模型展示了复杂系统如何在没有外部调节的情况下自发演化至临界状态。
+例如，在[[临界现象]]的研究中，最具代表性的[[自组织]]模型是 Bak、Tang 与 Wiesenfeld (BTW) 于 1987 年提出的[[沙堆模型]]（sandpile model）。该模型展示了[[复杂系统]]如何在没有外部调节的情况下自发演化至[[临界状态]]。
-模型假设在一个二维格点上不断堆积沙粒，当局部斜率超过某个阈值时，局部区域的沙粒会向周围扩散，形成所谓的“雪崩”（avalanche）事件。每次雪崩都会重新分配系统的能量，使系统从微观扰动中逐步趋向宏观平衡。经过充分演化后，系统自发达到一个临界稳态，在该状态下，所有统计量都呈现出幂律分布的标度特征<ref name=":19" />。
+模型假设在一个二维格点上不断堆积沙粒，当局部斜率超过某个阈值时，局部区域的沙粒会向周围扩散，形成所谓的“雪崩”（avalanche）事件。每次雪崩都会重新分配系统的能量，使系统从微观扰动中逐步趋向宏观平衡。经过充分演化后，系统自发达到一个[[临界]][[稳态]]，在该状态下，所有统计量都呈现出[[幂律分布]]的标度特征<ref name=":19" />。
-在该临界稳态下，一次雪崩的持续时间 [math]T[/math]和这次雪崩的规模大小 [math]s[/math]就服从一个规模法则 ：
+在该[[临界稳态]]下，一次雪崩的持续时间 [math]T[/math]和这次雪崩的规模大小 [math]s[/math]就服从一个规模法则 ：
 :<math>
@@ 第2,210行： / 第2,210行： @@
 </math>
-其中幂指数为：[math]\beta[/math]。除此之外，雪崩大小和持续时间的概率分布也都满足幂律的形式：
+其中幂指数为：[math]\beta[/math]。除此之外，雪崩大小和持续时间的[[概率分布]]也都满足[[幂律]]的形式：
 :<math>
@@ 第2,216行： / 第2,216行： @@
 </math>
-其中 [math]\alpha, \tau[/math] 都为幂律指数；[math]\alpha,\beta,\tau[/math]统称为临界指数（critical exponents），决定了系统在不同尺度上的统计规律。进一步的数值模拟与实验表明，这些指数的具体数值因模型维度与局部动力学而异，但其幂律形式具有普适性（universality）。这意味着，无论系统的微观细节如何，只要具备能量累积与阈值释放的机制，都会自然演化到一个幂律主导的临界态。
+其中 [math]\alpha, \tau[/math] 都为[[幂律]]指数；[math]\alpha,\beta,\tau[/math]统称为[[临界指数]]（critical exponents），决定了系统在不同尺度上的统计规律。进一步的数值[[模拟]]与实验表明，这些指数的具体数值因模型维度与局部[[动力学]]而异，但其[[幂律]]形式具有普适性（universality）。这意味着，无论系统的微观细节如何，只要具备能量累积与阈值释放的机制，都会自然演化到一个[[幂律]]主导的[[临界]]态。
 在有限系统中，雪崩规模的分布还满足有限尺度标度形式：
@@ 第2,224行： / 第2,224行： @@
 </math>
-其中 [math]L[/math] 为系统线性尺度， [math]D[/math] 为雪崩的特征维度（fractal dimension），该式也体现为一种尺度依赖的分布形态（参见6.1.3）。这一标度律表明，不同规模系统的统计行为可以通过合适的归一化函数 [math]f(x)[/math] 统一到同一曲线之上，揭示了临界系统的[[自相似性]]与[[无尺度性]]。
+其中 [math]L[/math] 为系统线性尺度， [math]D[/math] 为雪崩的特征维度（fractal dimension），该式也体现为一种尺度依赖的分布形态（参见6.1.3）。这一[[标度律]]表明，不同规模系统的统计行为可以通过合适的[[归一化]]函数 [math]f(x)[/math] 统一到同一曲线之上，揭示了[[临界]]系统的[[自相似性]]与[[无尺度性]]。
 =参考文献=
 <references />

@@ 第2,155行： / 第2,155行： @@
 ==大语言模型==
-大语言模型（LLM）的性能提升与模型规模、训练数据和算力投入密切相关，研究发现它们普遍遵循可预测的规模法则（Scaling Laws）。早期研究（Kaplan 等）表明<ref name="kaplan_2020">{{cite journal|author1=Jared Kaplan|author2=Sam McCandlish|author3=Tom Henighan|author4=Tom B. Brown|author5=Benjamin Chess|author6=Rewon Child|title=Scaling Laws for Neural Language Models|journal=arxiv|year=2020|eprint=2001.08361}}</ref>，测试误差（L）随参数数量（N）、数据量（D）和最优分配的计算量预算（C）的增加呈幂律下降，且单独扩展某一要素会出现减益，需三者协同扩展。即有如下规模法则：
+大语言模型（LLM）的性能提升与模型规模、训练数据和算力投入密切相关，研究发现它们普遍遵循可预测的规模法则（Scaling Laws）。早期研究（Kaplan 等）表明<ref name="kaplan_2020">{{cite journal|author1=Jared Kaplan|author2=Sam McCandlish|author3=Tom Henighan|author4=Tom B. Brown|author5=Benjamin Chess|author6=Rewon Child|title=Scaling Laws for Neural Language Models|journal=arxiv|year=2020|eprint=2001.08361}}</ref>，测试误差（L）随参数数量（N）、数据量（D）和最优分配的计算量预算（C）的增加呈幂律下降，且单独扩展某一要素会出现减益，需三者协同扩展。
 这表明，当参数量受限，在一个充分大的数据集上得到足够的训练，则有测试误差与参数量之间的规模法则（以模型参数量为规模）：
@@ 第2,174行： / 第2,174行： @@
 这些规模法则让人们看到，在一定条件下，持续地提高参数量或数据量，会让模型的性能持续地改善。因此，[[大模型的规模法则]]成了人们押注更大的模型和更充足的数据量的科学基础。
-进一步，当我们训练模型让其达到一定的表现性能的时候（也就是给定测试损失误差[math]L[/math]），我们更关心不同投入（即数据量[math]D[/math]，参数量[math]N[/math]与计算量[math]C[/math]））彼此之间的关系。例如，如果以模型的参数量[math]N[/math]为规模，则在达到一定性能的前提下，数据量会[math]D[/math]与参数量呈现规模法则：
+进一步，当我们训练模型让其达到一定的表现性能的时候（也就是给定测试损失误差[math]L[/math]），我们更关心不同投入（即数据量[math]D[/math]，参数量[math]N[/math]与计算量[math]C[/math]））彼此之间的关系。例如，如果以模型的参数量[math]N[/math]为规模，则在达到一定性能的前提下，数据量[math]D[/math]会与参数量呈现规模法则：
 :<math>
 D\propto N^{0.74}
 </math>
-有趣的是，如果将大语言模型视为一个生物体，其体重规模可以用它的参数量来衡量，而喂给它的数据视作该生物体的“新陈代谢”，则上式与[[克莱伯定律]]相似（见{{EquationNote|3}}式）。
+有趣的是，如果将[[大语言模型]]视为一个生物体，其体重规模可以用它的参数量来衡量，而喂给它的数据视作该生物体的“新陈代谢”，则上式与[[克莱伯定律]]相似（见{{EquationNote|3}}式）。
@@ 第2,193行： / 第2,193行： @@
 随后，Hoffmann 等提出 Chinchilla 法则<ref name='chinchilla'>{{cite journal|title=Training Compute-Optimal Large Language Models|author=Jordan Hoffmann and Sebastian Borgeaud and Arthur Mensch and Elena Buchatskaya and Trevor Cai and Eliza Rutherford and Diego de Las Casas and Lisa Anne Hendricks and Johannes Welbl and Aidan Clark and Tom Hennigan and Eric Noland and Katie Millican and George van den Driessche and Bogdan Damoc and Aurelia Guy and Simon Osindero and Karen Simonyan and Erich Elsen and Jack W. Rae and Oriol Vinyals and L. Sifre|journal=ArXiv|year=2022|volume=abs/2203.15556}}</ref>：在给定算力预算下，模型规模与训练数据量应大致保持 1:1 平衡。许多大型模型（如 GPT-3、Gopher）实际上训练不足，而更小但数据更多的 Chinchilla 模型在基准上全面领先。这一原则成为近年新模型（如 LLaMA）的重要设计指导。经过修整后，上述两个规模法则的幂律指数都更新为[math]\alpha\approx\beta\approx 0.5[/math]. 这揭示了在固定算力 [math]C[/math] 下模型规模 [math]N[/math] 与训练数据量 [math]D[/math] 的最优配置关系。Chinchilla 法则指出模型参数和训练语料应随算力的平方根同比增长，即保持约 1:1 的平衡，而 Kaplan 早期公式则倾向于更大模型和较少数据，但这一策略被证明会造成训练不足。总体而言，这些关系说明在算力受限时，只有模型规模与数据规模同步扩展，才能使模型达到最优性能；单独增大其中一项都会进入收益递减区间。
-除此之外，人们也在大语言模型的推理阶段，以及非语言类大型神经网络中发现了不同形式的规模法则，详细内容可参见<ref name=":12">[https://wiki.swarma.org/index.php/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%A7%84%E6%A8%A1%E6%B3%95%E5%88%99 大语言模型的规模法则]</ref>.
+除此之外，人们也在[[大语言模型]]的推理阶段，以及非语言类大型[[神经网络]]中发现了不同形式的规模法则，详细内容可参见<ref name=":12">[https://wiki.swarma.org/index.php/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%A7%84%E6%A8%A1%E6%B3%95%E5%88%99 大语言模型的规模法则]</ref>.
 ==临界态==

@@ 第2,191行： / 第2,191行： @@
 这里，[math]\alpha\approx 0.73, \beta\approx 0.27[/math]。这里计算量[math]C[/math]作为大模型的规模度量是合理的，这是因为在数据和模型架构得到优化后，计算量是预测最终模型性能最可靠、最根本的约束条件。
-随后，Hoffmann 等提出 Chinchilla 法则<ref name='chinchilla'>{{cite journal|title=Training Compute-Optimal Large Language Models|author1=Jordan Hoffmann|author2=Sebastian Borgeaud|author3=Arthur Mensch et al|  journal=ArXiv|year=2022|volume=abs/2203.15556}}</ref>：在给定算力预算下，模型规模与训练数据量应大致保持 1:1 平衡。许多大型模型（如 GPT-3、Gopher）实际上训练不足，而更小但数据更多的 Chinchilla 模型在基准上全面领先。这一原则成为近年新模型（如 LLaMA）的重要设计指导。经过修整后，上述两个规模法则的幂律指数都更新为[math]\alpha\approx\beta\approx 0.5[/math]. 这揭示了在固定算力 [math]C[/math] 下模型规模 [math]N[/math] 与训练数据量 [math]D[/math] 的最优配置关系。Chinchilla 法则指出模型参数和训练语料应随算力的平方根同比增长，即保持约 1:1 的平衡，而 Kaplan 早期公式则倾向于更大模型和较少数据，但这一策略被证明会造成训练不足。总体而言，这些关系说明在算力受限时，只有模型规模与数据规模同步扩展，才能使模型达到最优性能；单独增大其中一项都会进入收益递减区间。
+随后，Hoffmann 等提出 Chinchilla 法则<ref name='chinchilla'>{{cite journal|title=Training Compute-Optimal Large Language Models|author=Jordan Hoffmann and Sebastian Borgeaud and Arthur Mensch and Elena Buchatskaya and Trevor Cai and Eliza Rutherford and Diego de Las Casas and Lisa Anne Hendricks and Johannes Welbl and Aidan Clark and Tom Hennigan and Eric Noland and Katie Millican and George van den Driessche and Bogdan Damoc and Aurelia Guy and Simon Osindero and Karen Simonyan and Erich Elsen and Jack W. Rae and Oriol Vinyals and L. Sifre|journal=ArXiv|year=2022|volume=abs/2203.15556}}</ref>：在给定算力预算下，模型规模与训练数据量应大致保持 1:1 平衡。许多大型模型（如 GPT-3、Gopher）实际上训练不足，而更小但数据更多的 Chinchilla 模型在基准上全面领先。这一原则成为近年新模型（如 LLaMA）的重要设计指导。经过修整后，上述两个规模法则的幂律指数都更新为[math]\alpha\approx\beta\approx 0.5[/math]. 这揭示了在固定算力 [math]C[/math] 下模型规模 [math]N[/math] 与训练数据量 [math]D[/math] 的最优配置关系。Chinchilla 法则指出模型参数和训练语料应随算力的平方根同比增长，即保持约 1:1 的平衡，而 Kaplan 早期公式则倾向于更大模型和较少数据，但这一策略被证明会造成训练不足。总体而言，这些关系说明在算力受限时，只有模型规模与数据规模同步扩展，才能使模型达到最优性能；单独增大其中一项都会进入收益递减区间。
 除此之外，人们也在大语言模型的推理阶段，以及非语言类大型神经网络中发现了不同形式的规模法则，详细内容可参见<ref name=":12">[https://wiki.swarma.org/index.php/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%A7%84%E6%A8%A1%E6%B3%95%E5%88%99 大语言模型的规模法则]</ref>.