842
个编辑
更改
→大语言模型涌现的度量
* 研究还发现，LLM生成的文本与人类文本具有出不同的IE值，因此IE可用于区分文本是来源于人类还是 LLMs 生成
* 研究还发现，LLM生成的文本与人类文本具有出不同的IE值，因此IE可用于区分文本是来源于人类还是 LLMs 生成
YMZ：所以这里的IE是定义在输出文本上的？在给出这个结论之前，应该先说清楚IE的定义。逻辑顺序是，前文的涌现现象 to 为什么要谈论IE to IE的定义 to 基于IE指标的发现
* 当第l个Transformer模块在整个序列（宏观变量）上带来的不确定性（熵）减少量大于其在单个token（微观变量）上的减少量时，更有可能捕获集体语义
YMZ：读起来很难懂，可不可以有具体的例子？