201
个编辑
更改
跳到导航
跳到搜索
第36行：
第36行： − +
→RWKV Block（基本结构）
</syntaxhighlight>
</syntaxhighlight>
* 数学公式形式：
* '''数学公式形式'''：
:Decay定义：
:Decay定义：
<math>\mathrm{decay} = \exp\left( -\exp\left( \mathrm{time\_decay} \right) \right)</math>
<math>\mathrm{decay} = \exp\left( -\exp\left( \mathrm{time\_decay} \right) \right)</math>