更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
RWKV模型
(查看源代码)
2025年5月18日 (日) 19:12的版本
添加50字节
、
2025年5月18日 (日) 19:12
→RWKV 模型结构
第31行:
第31行:
* 就像人类在思考时,大脑会保留与当前任务最相关的“关键信息”一样,RNN 的隐藏状态存储了网络在处理序列时的上下文信息。
* 就像人类在思考时,大脑会保留与当前任务最相关的“关键信息”一样,RNN 的隐藏状态存储了网络在处理序列时的上下文信息。
* 每当 RNN 处理一个新的输入(如一个 '''token'''),它会结合 '''当前隐藏状态''' 计算输出,并更新自身的隐藏状态,以便影响后续的计算。
* 每当 RNN 处理一个新的输入(如一个 '''token'''),它会结合 '''当前隐藏状态''' 计算输出,并更新自身的隐藏状态,以便影响后续的计算。
−
*
[[文件:RNN.png|缩略图]]
+
[[文件:RNN.png|缩略图
|替代=RNN结构示意图|居中|RNN结构示意图
]]
==== '''RNN 的工作流程''' ====
==== '''RNN 的工作流程''' ====
RWKV
201
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本