WholeMinusSum

WholeMinusSum（WMS协同度）两种通俗定义

定义1：原始基础定义（互信息差值定义，公式7）

文字解释

WMS协同度 = 两个变量X、Y合在一起对目标S的联合互信息 − X单独对S的互信息 − Y单独对S的互信息。 简单说：把X、Y打包在一起能给S提供的总信息量，减去两个变量各自单独能给S提供的信息量之和，多出来的部分就是协同值。

对应公式

S_{WMS}(S:X;Y) = MI(S:X,Y) - MI(S:X) - MI(S:Y) 补充等价关系：这个值刚好等于负的共信息CoI(S,X,Y)，即 S_{WMS} = -CoI(S,X,Y)。

定义2：信息分解定义（互补信息−共享信息，公式8）

文字解释

从信息分解框架来看，WMS协同度 = 互补信息CI − 共享信息SI。

- 共享信息SI：X、Y不用配合，各自都单独拥有、重复能解释S的重叠信息； - 互补信息CI：必须X、Y搭配在一起，组合起来才能挖掘出、单独一方没有的新增信息； 二者相减，就是WMS协同指标。

对应公式

S_{WMS}(S:X;Y) = CI(S:X;Y) - SI(S:X;Y)

补充小白直观理解

1. 若 S_{WMS}>0：互补信息 > 共享信息，X和Y存在协同效应，两者搭配能产生单独没有的新信息； 2. 若 S_{WMS}<0：共享信息 > 互补信息，X和Y高度冗余，大部分信息重复，几乎无协同； 3. 若 S_{WMS}=0：互补信息和重叠共享信息持平。