更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
大语言模型的涌现
(查看源代码)
2025年4月27日 (日) 16:47的版本
大小无更改
、
2025年4月27日 (日) 16:47
→复杂科学中涌现现象的定量框架
第94行:
第94行:
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
[[文件:因果涌现理论.png|因果涌现理论框架|alt=因果涌现理论抽象框架|居左|400x400像素]]
−
除此以外,还有其他的度量方法,可参考集智百科词条[[因果涌现]]
。相比与目前大多数对于大语言模型的涌现的刻画,复杂系统研究领域里对涌现的度量的关键区别在于:1
.在因果描述的层次上度量,即更关注系统本身的结构而非完成下游任务的能力;2.在多尺度建模的框架下,比较微观和宏观尺度,所以需要对复杂系统(大语言模型)建立多尺度视角;3.使用信息论领域的指标。
+
除此以外,还有其他的度量方法,可参考集智百科词条[[因果涌现]]
。相比于目前大多数对于大语言模型的涌现的刻画,复杂系统研究领域里对涌现的度量的关键区别在于:1
.在因果描述的层次上度量,即更关注系统本身的结构而非完成下游任务的能力;2.在多尺度建模的框架下,比较微观和宏观尺度,所以需要对复杂系统(大语言模型)建立多尺度视角;3.使用信息论领域的指标。
基于复杂系统涌现理论进行度量的好处是,量化结果不依赖于具体的任务设定或人为设定指标时额外引入的非线性。下面介绍一个基于信息论和大模型结构的度量涌现的研究。
基于复杂系统涌现理论进行度量的好处是,量化结果不依赖于具体的任务设定或人为设定指标时额外引入的非线性。下面介绍一个基于信息论和大模型结构的度量涌现的研究。
Liangjin
管理员
28
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本