打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
RWKV模型
(查看源代码)
2025年5月18日 (日) 19:12的版本
添加50字节
、
2025年5月18日 (日) 19:12
→RWKV 模型结构
第31行:
第31行:
* 就像人类在思考时,大脑会保留与当前任务最相关的“关键信息”一样,RNN 的隐藏状态存储了网络在处理序列时的上下文信息。
* 就像人类在思考时,大脑会保留与当前任务最相关的“关键信息”一样,RNN 的隐藏状态存储了网络在处理序列时的上下文信息。
* 每当 RNN 处理一个新的输入(如一个 '''token'''),它会结合 '''当前隐藏状态''' 计算输出,并更新自身的隐藏状态,以便影响后续的计算。
* 每当 RNN 处理一个新的输入(如一个 '''token'''),它会结合 '''当前隐藏状态''' 计算输出,并更新自身的隐藏状态,以便影响后续的计算。
−
*
[[文件:RNN.png|缩略图]]
+
[[文件:RNN.png|缩略图
|替代=RNN结构示意图|居中|RNN结构示意图
]]
==== '''RNN 的工作流程''' ====
==== '''RNN 的工作流程''' ====
RWKV
201
个编辑