RWKV-Runner
由 BlinkDL 开发维护的 RWKV 模型运行器。RWKV(Receptance Weighted Key Value)是一种新型 RNN-like 大语言模型架构,结合了 Transformer 的并行训练能力和 RNN 的推理效率。
核心特性
- 高效推理:RNN 结构,推理时显存占用低
- 长上下文:支持超长上下文窗口
- 完全开源:Apache 2.0 许可证
- 跨平台:支持 CPU、GPU 运行
相关项目
- RWKV-LM — 基础架构
- nanobot — 游戏 AI 集成方向
- hugging-face-transformers — 模型格式兼容