RWKV是一种RNN,具有出色的LLM性能,并且像Transformer一样可并行化。

Reddit r/LocalLLaMA 模型

摘要

RWKV是一种新颖的语言模型架构,结合了RNN的高效性和Transformer的可并行化特性,以线性时间复杂度和恒定内存占用实现了强大的LLM性能。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/07/15 19:57

# RWKV 语言模型 来源:https://www.rwkv.com/ RWKV - Github(https://github.com/BlinkDL/RWKV-LM) - Twitter(https://twitter.com/BlinkDL_AI) - Discord(https://discord.gg/bDSBUMeFpc) RWKV(读作 RwaKuv)是一种 RNN,具有出色的 LLM 性能,并且像 Transformer 一样可并行化。查看 RWKV-7 "Goose" 推理模型(https://huggingface.co/BlinkDL/rwkv7-g1)。 它结合了 RNN 和 Transformer 的优点——性能优异、线性时间、恒定空间(无 KV 缓存)、训练快速、上下文长度无限,以及自由文本嵌入。并且它完全无需注意力机制,是一个 Linux 基金会 AI 项目(https://lfaidata.foundation/projects/rwkv/)。 7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-1)7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2)✨7B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-3)✨13B 演示(https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-4) RWKV-7 论文(https://arxiv.org/abs/2503.14456) ## RWKV 项目 RWKV-LM 训练 RWKV(及最新进展)(https://github.com/BlinkDL/RWKV-LM) RWKV App 适用于 Android / iOS / PC / Mac / Linux 的 RWKV 应用(https://github.com/RWKV-APP/RWKV_APP) Albatross 高效推理(7B fp16 bsz960 = 10250+ tps 在 5090 上)(https://github.com/BlinkDL/Albatross) RWKV-Runner 带 API 的 RWKV GUI(桌面版)(https://github.com/josStorer/RWKV-Runner) RWKV pip 包 RWKV pip 参考(较慢)包(https://pypi.org/project/rwkv/) RWKV-PEFT 微调 RWKV(9GB VRAM 可微调 7B)(https://github.com/JL-er/RWKV-PEFT) RWKV-server WebGPU 推理(NVIDIA/AMD/Intel),nf4/int8/fp16(https://github.com/cgisky1980/ai00_rwkv_server) 更多……(800+ RWKV 项目)(https://github.com/search?o=desc&q=rwkv&s=updated&type=Repositories) ## 使用 RWKV RWKV-7 权重 所有最新的 RWKV 权重(https://huggingface.co/BlinkDL) RWKV-7 GGUF 权重 GGUF RWKV 权重(https://huggingface.co/collections/shoumenchougou/rwkv7-gxx-gguf) RWKV-7 Ollama 权重 Ollama GGUF RWKV 权重(https://ollama.com/mollysama) RWKV 相关论文(https://scholar.google.com/scholar?scisbd=2&q=rwkv&as_sdt=0,5) RWKV 维基,包含从 v1 到 v7 的 RWKV 历史(注意:由 AI 编写)(https://wiki.rwkv.com/) ## RWKV 论文 ## RWKV-8 解释 ## RWKV-7 解释 ## RWKV-7 图解 ## RWKV-6 图解

相似文章

Key-Value Means

Hugging Face Daily Papers

Key-Value Means (KVM) 是一种新颖的注意力机制,结合了 Transformer 和 RNN 的优势,具有可控的计算复杂度和内存使用。它支持固定大小或增长状态,提供次二次方预填充时间和次线性状态增长,并且无需自定义内核即可实现。