更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
集体注意力流网络
(查看源代码)
2026年7月9日 (四) 22:07的版本
添加858字节
、
2026年7月9日 (星期四)
→空间分布
第299行:
第299行:
这个对称化的步骤至关重要,它确保了我们可以将流动行为所定义的复杂关系,稳健地映射到一个直观的几何空间中,从而为后续的可视化与结构分析铺平了道路。
这个对称化的步骤至关重要,它确保了我们可以将流动行为所定义的复杂关系,稳健地映射到一个直观的几何空间中,从而为后续的可视化与结构分析铺平了道路。
====空间分布====
====空间分布====
−
[[文件:二八定律裁剪.png|缩略图|
空间分布
]]
+
[[文件:二八定律裁剪.png|缩略图|
空间分布的示意图,在将注意力流网络投影到二维平面后,可以观察到一个稳定存在的结构性特征:节点在空间中的分布呈现出明显的不均匀性,以节点到注意力重心的距离作为半径,分别选取覆盖前 20% 与前 80% 节点的两个阈值,构建同心结构,从而将整个空间划分为核心层、中间层与边缘层三个区域。如图所示,而红色实线圈以内,就是核心层;红色实线与虚线之间是中心层;红色虚线之外是边缘层。|替代=
]]
在将注意力流网络投影到二维平面后,可以观察到一个稳定存在的结构性特征:节点在空间中的分布呈现出明显的不均匀性。为刻画整体注意力的空间集中程度,可以引入“重心”或平均半径长度作为度量指标,用以描述注意力在认知空间中的集中或扩散状态。
在将注意力流网络投影到二维平面后,可以观察到一个稳定存在的结构性特征:节点在空间中的分布呈现出明显的不均匀性。为刻画整体注意力的空间集中程度,可以引入“重心”或平均半径长度作为度量指标,用以描述注意力在认知空间中的集中或扩散状态。
第313行:
第313行:
====累积分布与马太效应====
====累积分布与马太效应====
−
[[文件:马太效应.png|缩略图]]
+
[[文件:马太效应.png|缩略图
|替代=|马太效应示意图,图中曲线表明,在节点数量累计分布(绿色曲线)在前20%的时候,流量累积(红色曲线)分布已经达到80%,这就是明显的20%的集体注意力流网络节点占据了80%的集体注意力,反映出注意力资源在网络中的高度不均衡配置。
]]
在空间分布的基础上,可以进一步沿半径方向对节点数量与流量进行累积分布分析,并对其进行归一化处理,发现注意力流在空间中的分布呈现出显著的圈层不均衡结构:少量位于核心区域的节点吸纳了绝大部分流量,而大量处于外围的节点仅占据较小份额。
在空间分布的基础上,可以进一步沿半径方向对节点数量与流量进行累积分布分析,并对其进行归一化处理,发现注意力流在空间中的分布呈现出显著的圈层不均衡结构:少量位于核心区域的节点吸纳了绝大部分流量,而大量处于外围的节点仅占据较小份额。
千伏电压
558
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本