201
个编辑
更改
→不足
=== 不足 ===
=== 不足 ===
* '''提示词格式敏感'''：生成效果对 prompt 的格式非常敏感，稍微不同的提示可能导致结果差异很大。
*架构新颖，生态相对较小：尽管发展迅速，RWKV 仍处于相对早期阶段，社区资源、教程、微调工具等不如 Transformer 丰富。
* '''任务顺序依赖性强'''：由于架构本身的递归特性，对于需要回顾历史信息的任务较弱，需要合理组织输入顺序（例如先给任务，再给内容）。
*缺乏广泛工业验证：RWKV 在学术与开源社区取得一定成果，但在大规模商业应用中的成熟度尚需验证。
*模型兼容性问题：由于架构与 Transformer 存在根本差异，某些专为 Transformer 优化的技术（如 Attention 可视化）不再适用。
*调参和训练技巧不够成熟：RWKV 的训练过程对时间混合系数、初始化方式等较为敏感，目前仍在不断优化与摸索中。