/rwkv-architecture
RNN 與 Transformer 的混合架構，推論為 O(n)。線性時間、無限 context、不需 KV cache。訓練像 GPT（平行），推論像 RNN（序列）。
- 安裝次數
- 972
- 專案星數
- 1.4 萬 ★
- 授權
- MIT
- 專案更新
- 2026-10-11
怎麼裝
npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill rwkv安裝前請先看過原文內容。中文說明是 AI 翻譯，不保證安全。
原文
RNN+Transformer hybrid with O(n) inference. Linear time, infinite context, no KV cache. Train like GPT (parallel), infer like RNN (sequential). Linux Foundation AI project. Production at Windows, Office, NeMo. RWKV-7 (March 2025). Models up to 14B parameters.