更改

跳到导航 跳到搜索
大小无更改 、 2025年4月27日 (日) 16:47
第94行: 第94行:  
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
 
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
   −
除此以外,还有其他的度量方法,可参考集智百科词条[[因果涌现]]。相比与目前大多数对于大语言模型的涌现的刻画,复杂系统研究领域里对涌现的度量的关键区别在于:1.在因果描述的层次上度量,即更关注系统本身的结构而非完成下游任务的能力;2.在多尺度建模的框架下,比较微观和宏观尺度,所以需要对复杂系统(大语言模型)建立多尺度视角;3.使用信息论领域的指标。
+
除此以外,还有其他的度量方法,可参考集智百科词条[[因果涌现]]。相比于目前大多数对于大语言模型的涌现的刻画,复杂系统研究领域里对涌现的度量的关键区别在于:1.在因果描述的层次上度量,即更关注系统本身的结构而非完成下游任务的能力;2.在多尺度建模的框架下,比较微观和宏观尺度,所以需要对复杂系统(大语言模型)建立多尺度视角;3.使用信息论领域的指标。
    
基于复杂系统涌现理论进行度量的好处是,量化结果不依赖于具体的任务设定或人为设定指标时额外引入的非线性。下面介绍一个基于信息论和大模型结构的度量涌现的研究。
 
基于复杂系统涌现理论进行度量的好处是,量化结果不依赖于具体的任务设定或人为设定指标时额外引入的非线性。下面介绍一个基于信息论和大模型结构的度量涌现的研究。

导航菜单