RWKV架构

RNN+Transformer混合架构，具备O(n)推理复杂度、线性时间、无限上下文且无需KV缓存。训练如GPT（并行），推理如RNN（顺序）。Linux基金会AI项目，已应用于Windows、Office、NeMo生产环境。RWKV-7（2025年3月发布），模型参数最高达140亿。