RWKV是一种RNN,具有出色的LLM性能,并且像Transformer一样可并行化。
摘要
RWKV是一种新颖的语言模型架构,结合了RNN的高效性和Transformer的可并行化特性,以线性时间复杂度和恒定内存占用实现了强大的LLM性能。
暂无内容
查看缓存全文
缓存时间: 2026/07/15 19:57
# RWKV 语言模型
来源:https://www.rwkv.com/
RWKV - Github(https://github.com/BlinkDL/RWKV-LM)
- Twitter(https://twitter.com/BlinkDL_AI)
- Discord(https://discord.gg/bDSBUMeFpc)
RWKV(读作 RwaKuv)是一种 RNN,具有出色的 LLM 性能,并且像 Transformer 一样可并行化。查看 RWKV-7 "Goose" 推理模型(https://huggingface.co/BlinkDL/rwkv7-g1)。
它结合了 RNN 和 Transformer 的优点——性能优异、线性时间、恒定空间(无 KV 缓存)、训练快速、上下文长度无限,以及自由文本嵌入。并且它完全无需注意力机制,是一个 Linux 基金会 AI 项目(https://lfaidata.foundation/projects/rwkv/)。
7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-1)7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2)✨7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-3)✨13B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-4)
RWKV-7 论文(https://arxiv.org/abs/2503.14456)
## RWKV 项目
RWKV-LM 训练 RWKV(及最新进展)(https://github.com/BlinkDL/RWKV-LM)
RWKV App 适用于 Android / iOS / PC / Mac / Linux 的 RWKV 应用(https://github.com/RWKV-APP/RWKV_APP)
Albatross 高效推理(7B fp16 bsz960 = 10250+ tps 在 5090 上)(https://github.com/BlinkDL/Albatross)
RWKV-Runner 带 API 的 RWKV GUI(桌面版)(https://github.com/josStorer/RWKV-Runner)
RWKV pip 包 RWKV pip 参考(较慢)包(https://pypi.org/project/rwkv/)
RWKV-PEFT 微调 RWKV(9GB VRAM 可微调 7B)(https://github.com/JL-er/RWKV-PEFT)
RWKV-server WebGPU 推理(NVIDIA/AMD/Intel),nf4/int8/fp16(https://github.com/cgisky1980/ai00_rwkv_server)
更多……(800+ RWKV 项目)(https://github.com/search?o=desc&q=rwkv&s=updated&type=Repositories)
## 使用 RWKV
RWKV-7 权重 所有最新的 RWKV 权重(https://huggingface.co/BlinkDL)
RWKV-7 GGUF 权重 GGUF RWKV 权重(https://huggingface.co/collections/shoumenchougou/rwkv7-gxx-gguf)
RWKV-7 Ollama 权重 Ollama GGUF RWKV 权重(https://ollama.com/mollysama)
RWKV 相关论文(https://scholar.google.com/scholar?scisbd=2&q=rwkv&as_sdt=0,5)
RWKV 维基,包含从 v1 到 v7 的 RWKV 历史(注意:由 AI 编写)(https://wiki.rwkv.com/)
## RWKV 论文
## RWKV-8 解释
## RWKV-7 解释
## RWKV-7 图解
## RWKV-6 图解
相似文章
@BlinkDL_AI: RWKV-7 G1g 已发布:世界上最好的纯 RNN 大型语言模型,并且在整体上具有竞争力。尝试 https://huggingface.co/spaces/…
BlinkDL 宣布了 RWKV-7 G1g,一种纯 RNN 大型语言模型,声称是其同类中最好的,且与通用 LLM 竞争,在单个 RTX 5090 上具有高速推理性能。
River-LLM:基于 KV 共享的大模型无感早退方案
River-LLM 提出一种无需训练的 decoder-only 大模型早退框架,通过 KV 共享消除 KV-cache 缺口,在无损质量的前提下实现 1.71–2.16 倍推理加速。
Key-Value Means
Key-Value Means (KVM) 是一种新颖的注意力机制,结合了 Transformer 和 RNN 的优势,具有可控的计算复杂度和内存使用。它支持固定大小或增长状态,提供次二次方预填充时间和次线性状态增长,并且无需自定义内核即可实现。
KV缓存墙:为何固定大小内存的序列模型不断回归
探讨了Transformer推理中KV缓存日益增长的内存瓶颈,解释了为何像Mamba和RWKV这样的固定大小内存的替代架构重新获得关注。
内存高效型循环Transformer:循环语言模型中的计算与内存解耦
提出内存高效型循环Transformer(MELT),这是一种新型循环大语言模型架构,通过跨循环共享单一KV缓存,并结合插值过渡与注意力对齐蒸馏的分块训练方法,实现了推理深度与内存消耗的解耦。