unsloth/Qwen-AgentWorld-35B-A3B-GGUF · Hugging Face 来源：https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF > 本仓库包含Qwen-AgentWorld-35B-A3B的模型权重与配置文件，这是一个为智能体环境仿真训练的原生语言世界模型。这些产物兼容 Hugging Face Transformers、vLLM、SGLang 等框架。Qwen-AgentWorld是首个在单一模型中覆盖七个智能体交互领域的语言世界模型。它通过长链式思维推理来模拟智能体环境，根据智能体的动作和交互历史预测下一个环境状态。模型通过三阶段流水线训练——CPT 注入环境知识，SFT 激活下一状态预测推理，RL 提升仿真逼真度——Qwen-AgentWorld 是原生世界模型：从 CPT 阶段起，环境建模就是训练目标，而非后期附加的功能。 ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#highlights亮点 - **七大统一领域。**单一模型覆盖 MCP（工具调用）、搜索、终端、SWE（软件工程）、Android、Web 和 OS——涵盖文本和图形界面交互环境。 - **原生世界模型。**从 CPT 开始进行环境建模，而非在通用大语言模型上进行后期适配。 - **可泛化、可扩展、可控的仿真器。**对 OOD 环境（例如 OpenClaw）实现零样本泛化；可控扰动和虚构世界构建超越真实环境训练。 - **智能体基础模型。**LWM RL 在单轮、非智能体轨迹上的预热可以迁移到多轮、工具调用的智能体任务中，在 7 个基准上（包括 3 个完全域外基准）均有效。 ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#model-overview模型概述 - 类型：因果语言模型（语言世界模型） - 基座模型：Qwen3.5-35B-A3B-Base (https://huggingface.co/Qwen/Qwen3.5-35B-A3B-Base) - 训练阶段：持续预训练（CPT）→ 监督微调（SFT）→ 强化学习（RL，GSPO） - 参数量：总计 35B，激活 3B - 隐藏维度：2048 - Token 嵌入：248320（填充后） - 层数：40 - 隐藏层布局：10 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)) - Gated DeltaNet： - 线性注意力头数：V 为 32，QK 为 16 - 头维度：128 - Gated Attention： - 注意力头数：Q 为 16，KV 为 2 - 头维度：256 - 旋转位置嵌入维度：64 - 混合专家（MoE）： - 专家数量：256 - 激活专家数：8 个路由 + 1 个共享 - 专家中间维度：512 - 上下文长度：262,144 个 token - 免责声明：训练流程中不包含来自外部 API 服务的任何输出。 ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#performance性能 ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#agentworldbench-open-ended-evaluationAgentWorldBench（开放式评估）各领域五维评分平均结果，标准化至 0-100 分。 | 模型 | MCP | 搜索 | 终端 | SWE | Android | Web | OS | 总体 |

|——|—–|——|——|—–|———|—–|––|———| | GPT-5.4 | 70.10 | 37.26 | 53.69 | 66.29 | 60.00 | 51.80 | 68.58 | 58.25 | | Claude Opus 4.8 | 54.93 | 35.14 | 59.18 | 64.10 | 61.50 | 54.66 | 66.62 | 56.59 | | Claude Opus 4.6 | 69.90 | 29.30 | 57.51 | 64.55 | 61.74 | 51.42 | 70.20 | 57.80 | | Gemini 3.1 Pro | 59.07 | 30.21 | 52.47 | 59.07 | 61.40 | 52.83 | 66.92 | 54.57 | | Claude Sonnet 4.6 | 70.00 | 28.79 | 56.98 | 64.52 | 58.03 | 50.78 | 63.17 | 56.04 | | DeepSeek-V4-Pro | 63.27 | 27.61 | 51.26 | 59.44 | 55.17 | 50.32 | 63.70 | 52.97 | | GLM-5.1 | 67.60 | 22.46 | 47.32 | 52.07 | 59.10 | 51.50 | 59.13 | 51.31 | | Kimi K2.6 | 65.23 | 27.48 | 52.54 | 58.77 | 58.93 | 50.20 | 60.80 | 53.42 | | MiniMax-M2.7 | 55.82 | 27.30 | 41.62 | 37.44 | 52.40 | 50.52 | 57.73 | 46.12 | | Qwen3.5-35B-A3B | 57.87 | 25.98 | 46.13 | 47.58 | 53.18 | 47.10 | 56.27 | 47.73 | | Qwen3.5-397B-A17B | 68.31 | 30.81 | 55.30 | 64.44 | 54.90 | 48.55 | 60.85 | 54.74 | | Qwen3.6-Plus | 55.28 | 21.94 | 50.58 | 59.08 | 57.65 | 50.78 | 60.33 | 50.81 | | Qwen-AgentWorld-35B-A3B | 64.79 | 36.69 | 53.96 | 65.63 | 58.17 | 49.55 | 65.92 | 56.39 | | Qwen-AgentWorld-397B-A17B | 68.24 | 37.82 | 57.73 | 68.49 | 60.20 | 50.98 | 67.89 | 58.71 |

https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#quickstart快速开始 ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#deployment部署 Qwen-AgentWorld-35B-A3B 可以通过流行的推理框架以 API 形式提供服务。下面给出启动兼容 OpenAI API 的服务器示例命令。 > 模型的默认上下文长度为 262,144 个 token。如果遇到内存溢出（OOM）错误，请考虑减少上下文窗口。但由于 Qwen-AgentWorld 利用长上下文进行多轮环境仿真，我们建议至少保持 128K token 的上下文长度。 #### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#sglangSGLang SGLang (https://github.com/sgl-project/sglang) 是一个快速的大语言模型服务框架。 python -m sglang.launch_server \ --model-path Qwen/Qwen-AgentWorld-35B-A3B \ --port 8000 \ --tp-size 4 \ --context-length 262144 \ --reasoning-parser qwen3 一个兼容 OpenAI 的 API 将在 http://localhost:8000/v1 可用。 #### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#vllmvLLM vLLM (https://github.com/vllm-project/vllm) 是一个高通量、内存高效的 LLM 推理引擎。 vllm serve Qwen/Qwen-AgentWorld-35B-A3B \ --port 8000 \ --tensor-parallel-size 4 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --trust-remote-code 一个兼容 OpenAI 的 API 将在 http://localhost:8000/v1 可用。 ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#inference-with-transformers使用 Transformers 进行推理 from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen-AgentWorld-35B-A3B" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype="auto", device_map="auto", ) messages = [ { "role": "system", "content": "You are a language world model simulating a Linux terminal environment. " "Given the user's command, predict the terminal output." }, { "role": "user", "content": "Action: execute_bash\nCommand: ls -la /home/user/project/" } ] text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) inputs = tokenizer([text], return_tensors="pt").to(model.device) outputs = model.generate(**inputs, max_new_tokens=2048, temperature=0.6) response = tokenizer.decode(outputs[0][inputs.input_ids.shape[-1]:], skip_special_tokens=True) print(response) ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#using-via-the-chat-completions-api通过 Chat Completions API 使用 from openai import OpenAI client = OpenAI( base_url="http://localhost:8000/v1", api_key="EMPTY", ) # Terminal domain example messages = [ { "role": "system", "content": "You are a language world model simulating a Linux terminal environment. " "Given the user's command, predict the terminal output." }, { "role": "user", "content": "Action: execute_bash\nCommand: ls -la /home/user/project/" } ] response = client.chat.completions.create( model="Qwen/Qwen-AgentWorld-35B-A3B", messages=messages, max_tokens=32768, temperature=0.6, ) print(response.choices[0].message.content) > 我们在 GitHub 仓库的 prompts/ (https://github.com/QwenLM/Qwen-AgentWorld/tree/master/prompts) 目录下提供了领域特定的世界模型系统提示模板，涵盖所有 7 个领域。当您将 Qwen-AgentWorld 用作环境仿真器时，这些模板可作为通用系统提示使用。每个领域文件夹包含 system_prompt.txt（世界模型系统提示）和 judge_system_prompt.txt（评估提示）。 ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#evaluate-on-agentworldbench在 AgentWorldBench 上评估 AgentWorldBench 通过从格式、事实性、一致性、逼真度和质量五个维度对每个预测的环境观察进行评分，来评估语言世界模型。 ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#setup设置 # 克隆评估仓库 git clone https://github.com/QwenLM/Qwen-AgentWorld.git cd Qwen-AgentWorld # 下载基准数据 huggingface-cli download Qwen/AgentWorldBench --repo-type dataset --local-dir ./AgentWorldBench # 安装依赖 pip install openai ### https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#run-evaluation运行评估 评估遵循三步流水线： cd eval # 步骤1：运行世界模型推理 python eval.py infer \ --data-dir ../AgentWorldBench \ --model-base-url http://localhost:8000/v1 \ --model-name Qwen/Qwen-AgentWorld-35B-A3B \ --output-dir ./results # 步骤2：运行 LLM 裁判评分 export OPENAI_API_KEY="your-api-key" python eval.py judge \ --predictions ./results/predictions.jsonl \ --judge-base-url https://api.openai.com/v1 \ --judge-model gpt-5.2-2025-12-11 \ --output-dir ./results # 步骤3：汇总并显示分数 python eval.py score --predictions ./results/judged.jsonl ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#best-practices最佳实践 1. 采样参数：对于世界模型推理，我们建议使用 temperature=0.6、top_p=0.95、top_k=20。模型默认使用思考模式（...）在生成预测观察之前推理环境状态变迁。 2. 足够的输出长度：对于大多数查询，我们建议输出长度设置为 32,768 个 token。对于长且多步的轨迹，您可以增加最大输出长度以适应详细的环境观察。 3. 领域特定的系统提示：为获得最佳仿真逼真度，请使用 GitHub 仓库 prompts/ (https://github.com/QwenLM/Qwen-AgentWorld/tree/master/prompts) 目录下提供的领域特定系统提示。 ## https://huggingface.co/unsloth/Qwen-AgentWorld-35B-A3B-GGUF#citation引用 如果您觉得我们的工作有帮助，欢迎引用我们。 @article{zuo2026qwen, title={Qwen-agentworld: language world models for general agents}, author={Zuo, Yuxin and Xiao, Zikai and Sheng, Li and Huang, Fei and Tu, Jianhong and Liu, Yuxuan and Tang, Tianyi and Hu, Xiaomeng and Su, Yang and Lan, Qingfeng and others}, journal={arXiv preprint arXiv:2606.24597}, year={2026} }