有人在Qwen模型权重中直接构建了一台32位RISC-V CPU,使其能够在模型内部执行指令!
摘要
有人在Qwen模型权重中直接构建了一台32位RISC-V CPU,使其能够在模型内部执行指令,这可能对工具调用和计算机操作能力产生影响。
这可能会对工具调用(tool calling)和计算机操作(computer use)能力产生影响。详细文章:https://divagr.com/blog/qwenputer HF:https://huggingface.co/divagr1925/Qwen3.5-4B-Qwenputer 在线演示:https://modelscope.ai/studios/Spartan1925/Qwenputer
相似文章
Qwenputer:在 Qwen3.5 内部运行的完整、确定性 RISC-V CPU
Qwenputer 是一个实验性的 Qwen 3.5 4B 模型,其权重中编译了一个功能完整、确定性运行的 RISC-V CPU。它利用模型自身的 Gated DeltaNet 层作为精确的 RAM,完全在前向传播过程中执行算术、C 语言和 MicroPython——无需任何工具或外部运行时。
阿里巴巴XuanTie C950 RISC-V处理器以30 tps运行Qwen-3.8 27B
由TSMC制造的阿里巴巴XuanTie C950 RISC-V芯片,现能以30 tps原生运行Qwen-3.8 27B AI模型,体现了垂直整合能力,并支持高效的边缘AI部署。
我在 Qwen 模型权重里运行了 Doom!
作者受到 qwenputer 项目启发,在 Qwen 模型权重内构建的虚拟机上成功运行了基础版 Doom,虽然速度很慢,但实现了「在 LLM 上跑 Doom」的趣味演示,并开源了项目仓库。
一个纯C从头编写的、仅支持CPU的Qwen 3精简推理引擎
一个纯C从头实现的、仅支持CPU的Qwen 3模型最小推理引擎
Qwen4的架构提前到来,从125B参数中激活6B参数(3分钟阅读)
阿里巴巴的Qwen团队发布了Qwen3.8-Flash-Next,这是Qwen4架构的开源预览版,仅从125B参数中激活6B参数,以降低推理成本并解决硬件限制。