WholeMinusSum(WMS协同度)两种通俗定义
定义1:原始基础定义(互信息差值定义,公式7)
文字解释
WMS协同度 = 两个变量X、Y合在一起对目标S的联合互信息 − X单独对S的互信息 − Y单独对S的互信息。 简单说:把X、Y打包在一起能给S提供的总信息量,减去两个变量各自单独能给S提供的信息量之和,多出来的部分就是协同值。
对应公式
S_{WMS}(S:X;Y) = MI(S:X,Y) - MI(S:X) - MI(S:Y) 补充等价关系:这个值刚好等于负的共信息CoI(S,X,Y),即 S_{WMS} = -CoI(S,X,Y)。
定义2:信息分解定义(互补信息−共享信息,公式8)
文字解释
从信息分解框架来看,WMS协同度 = 互补信息CI − 共享信息SI。
- 共享信息SI:X、Y不用配合,各自都单独拥有、重复能解释S的重叠信息; - 互补信息CI:必须X、Y搭配在一起,组合起来才能挖掘出、单独一方没有的新增信息; 二者相减,就是WMS协同指标。
对应公式
S_{WMS}(S:X;Y) = CI(S:X;Y) - SI(S:X;Y)
补充小白直观理解
1. 若 S_{WMS}>0:互补信息 > 共享信息,X和Y存在协同效应,两者搭配能产生单独没有的新信息; 2. 若 S_{WMS}<0:共享信息 > 互补信息,X和Y高度冗余,大部分信息重复,几乎无协同; 3. 若 S_{WMS}=0:互补信息和重叠共享信息持平。