更改

作者将LVLMs的视觉特征,语言特征分别作为源变量，<math>X_1,X_2</math>,将模型预测Y作为输出,将特征与预测间总互信息分解为四个非负的核心分量,构成模型的信息谱。

作者将LVLMs的视觉特征,语言特征分别作为源变量，<math>X_1,X_2</math>,将模型预测Y作为输出,将特征与预测间总互信息分解为四个非负的核心分量,构成模型的信息谱。

信息谱的成分包括：<math>R</math>（重叠，视觉和语言特征间的冗余）、<math>\(U_{1}\)</math>（仅视觉线索）、<math>\(U_{2}\)</math>（语言侧知识）以及 S（语言同视觉的协同）。

信息谱的成分包括：<math>R</math>（重叠，视觉和语言特征间的冗余）、<math>U_{1}</math>（仅视觉线索）、<math>U_{2}</math>（语言侧知识）以及 <math>S</math>（语言同视觉的协同）。

在实际计算中，作者采用了BATCH可扩展估计器，直接处理LVLMs输出的高维连续嵌入特征,无需修改模型架构或重训练,具备模型无关性,作者还引入置信度阈值重归一化、软聚合边际输出分布,解决预测分布噪声与估计偏差问题，提升PID计算的鲁棒性。

在实际计算中，作者采用了BATCH可扩展估计器，直接处理LVLMs输出的高维连续嵌入特征,无需修改模型架构或重训练,具备模型无关性,作者还引入置信度阈值重归一化、软聚合边际输出分布,以解决预测分布噪声与估计偏差问题，提升PID计算的鲁棒性。

在广度（模型×数据集）、深度（层）和时间（训练）维度上，作者了探究何种信号能最一致地影响 LVLMs的行为与泛化能力。

在广度（模型×数据集）、深度（层）和时间（训练）维度上，作者了探究何种信号能最一致地影响 LVLMs的行为与泛化能力。

实验结果表明,在任务层面，LVLMs应对视觉问答任务的信息处理模式可分为协同驱动型与知识驱动型两类，前者完全依赖于视觉特征和文本特征提供的协同信息S,后者则由语言特征提供的独特信息U_2主导，协同信息对其有增益但存在增益上限；在模型层面，模型缩放的收益全部来自于协同信息S的提升；在网络层面，所有的LVLMs的Transformer层都呈现出完全一致的三阶段信息流动的特征。

实验结果表明,在任务层面，LVLMs应对视觉问答任务的信息处理模式可分为协同驱动型与知识驱动型两类，前者完全依赖于视觉特征和文本特征提供的协同信息<math>S</math>,后者则由语言特征提供的独特信息<math>U_2</math>主导，协同信息对其有增益但存在增益上限；在模型层面，模型缩放的收益全部来自于协同信息S的提升；在网络层面，所有的LVLMs的Transformer层都呈现出完全一致的三阶段信息流动的特征。

此外，基于PID的分析还揭示了LVLMs的多模态融合能力仅在视觉指令微调阶段习得的特点。

此外，基于PID的分析还揭示了LVLMs的多模态融合能力仅在视觉指令微调阶段习得的特点。