RWKV-Runner
由 BlinkDL 开发维护的 RWKV 模型运行器。RWKV（Receptance Weighted Key Value）是一种新型 RNN-like 大语言模型架构，结合了 Transformer 的并行训练能力和 RNN 的推理效率。
核心特性
- 高效推理：RNN 结构，推理时显存占用低
- 长上下文：支持超长上下文窗口
- 完全开源：Apache 2.0 许可证
- 跨平台：支持 CPU、GPU 运行
相关项目
- RWKV-LM — 基础架构
- nanobot — 游戏 AI 集成方向
- hugging-face-transformers — 模型格式兼容