Agnes-AI/Agnes-3.0-Qwen(QFN 微调)
摘要
Agnes AI 发布 agnes-3.0-qwen,一款面向 agentic 编码、工具调用与科学推理的多模态推理模型,采用混合线性/全注意力 MoE 架构(约180B 参数、512 专家),支持 1M token 上下文与可调推理强度,并以开源权重形式发布。
查看缓存全文
缓存时间: 2026/10/21 07:09
Agnes-AI/Agnes-3.0-Qwen · Hugging Face
来源:https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen
Agnes AI logo
Agnes AI 官网 (https://agnes-ai.com/) · Agnes API 文档 (https://wiki.agnes-ai.com/en/docs/agnes-30-qwen)
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#agnes-30-qwenagnes-3.0-qwen
你好! 👋 今天我们要介绍 agnes-3.0-qwen,这是我们最强大的推理模型,适用于智能体编码(agentic coding)、工具调用、科学问题求解、长上下文分析以及多模态理解\。
亮点:
- **强大的智能体性能:**agnes-3.0-qwen 在 τ3-Banking 基准上取得其对比集中的最高分,在 Terminal-Bench 2.1 上也仅落后最优模型约一个百分点,而其参数规模远小于大多数旗舰系统。
- **可靠的指令遵循能力:**在 IFBench 基准上,agnes-3.0-qwen 的表现优于 GPT-5.6 Sol (Max) 和 Claude Opus 4.8 (Max)。
- **专为高要求任务打造:**具备 1M token 的上下文窗口、可调节的扩展推理能力(推理力度可选:
xhigh、medium、low)、工具调用,以及文本、图像和视频理解能力。
LLM 基准测试评估:agnes-3.0-qwen 与旗舰级模型的对比
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#agnes-30-qwen-1agnes-3.0-qwen
一款以开放权重形式提供的多模态推理模型。该模型采用混合线性注意力/全注意力的 Mixture-of-Experts 架构(512 个专家,每个 token 激活 10 个),并配备多 token 预测头,将长上下文理解能力与强大的编码、智能体和科学推理能力相结合,同时提供生产环境所需的吞吐量和成本效率。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#benchmarks基准测试
agnes-3.0-qwen 与 GPT-5.6 Sol (Max)、Gemini 3.8 Flash、DeepSeek V4 Flash (Max)、MiniMax-M3、Claude Opus 4.8 (Max) 以及 Qwen3.8 Max (0902) 进行对比。agnes-3.0-qwen 的结果为在公开基准上的自报数据;对比模型的数据取自公开报告。
| 基准测试 | agnes-3.0-qwen | GPT-5.6 Sol (Max) | Gemini 3.8 Flash | DeepSeek V4 Flash (Max) | MiniMax M3 | Claude Opus 4.8 (Max) | Qwen3.8 Max (0902) |
|---|---|---|---|---|---|---|---|
| 智能体工作与编码 | |||||||
| GDP.pdf | 16.0 | 27.2 | 21.0 | 12.8 | 9.8 | 22.8 | 22.8 |
| τ3-Banking | 48.0 | 44.3 | 44.9 | 39.4 | 15.3 | 34.2 | 47.8 |
| Terminal-Bench 2.1 | 87.8 | 88.0 | 87.6 | 78.7 | 65.2 | 84.6 | 88.8 |
| Terminal-Bench 4.0 | 26.1 | 39.9 | 19.7 | 12.1 | 2.0 | 21.7 | 38.9 |
| SciCode | 56.1 | 57.1 | 56.6 | 51.9 | 47.1 | 54.4 | 52.1 |
| 知识、推理与指令遵循 | |||||||
| GPQA Diamond | 91.1 | 94.1 | 95.3 | 90.8 | 92.9 | 92.8 | 92.8 |
| MMLU-Pro | 86.2 | 89.1 | 90.7 | 88.2 | 84.6 | 89.6 | 88.8 |
| IFBench | 79.6 | 72.7 | — | 79.2 | 82.9 | 62.2 | 82.8 |
所有基准测试中数值越高越好。agnes-3.0-qwen 的数据为自报;对比模型的数据取自公开可用的报告,可能随评估更新而变化。“—” 表示尚无公开结果。数据快照截至 2026 年 10 月 10 日。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#model-information模型信息
| 属性 | 值 |
|---|---|
| 开发者 | Agnes AI |
| 模型名称 | agnes-3.0-qwen |
| 模型类型 | 多模态推理模型(混合注意力 MoE) |
| 总参数量 | 约 180B(512 个专家,每个 token 激活 10 个) |
| 许可证 | Qwen Community License 1.0(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/LICENSE) |
| 语言 | 英文、中文 |
| 上下文窗口 | 1,048,576 tokens |
| 最大输出 | 65,536 tokens |
| 输入模态 | 文本、图像、视频 |
| 输出模态 | 文本 |
| 精度 | BF16 |
| 推理力度 | xhigh(默认)、medium、low |
| 工具调用 | 支持 |
| 流式输出 | 支持 |
| 发布日期 | 2026 年 10 月 |
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#license许可证
agnes-3.0-qwen 是 Qwen/Qwen3.8-Flash-Next(https://huggingface.co/Qwen/Qwen3.8-Flash-Next)的后训练衍生模型。额外的后训练工作由 Agnes AI 完成。模型权重及继承的上游产物均在 Qwen Community License 1.0(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/LICENSE)下发布。
所有使用和再分发行为必须遵守 LICENSE 中的完整条款。在所有副本或上游软件的重要部分中,必须保留原始 Qwen 版权和许可声明。有关署名信息及 Agnes AI 的后训练贡献,请参见 NOTICE(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/NOTICE)。
商业使用条件(摘要;以完整许可协议为准):
- 如果被许可方或其任何关联公司从事模型即服务(MaaS)或 AI 工作助手业务,在将该模型或其衍生作品用于任何商业目的之前,需从 Qwen 获得单独的许可证。内部使用例外仅适用于软件、其输出及其底层模型能力不对任何第三方提供的场景。有关这些业务的定义和排除条款,请参阅
LICENSE。 - 如果使用该模型或其衍生作品的商业产品或服务的月活跃用户超过 1 亿人,或月收入超过 2,000 万美元(或其他货币等值金额),则必须在其用户界面上醒目地展示相应的模型名称。此展示条件与上述商业许可要求是独立的。
本 README 中的 API 示例不会根据上游许可证授予额外的商业权利。任何单独的商业授权均须从 Qwen 获取;LICENSE 中列出的联系方式为 model\-business@notice\.qwencloud\.com。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#hardware-requirements硬件要求
快速开始中的启动命令使用 8 GPU 张量并行。该检查点为约 360 GB 的 119 分片 BF16 包;单张 GPU 无法满足需求。
| 资源 | 建议 |
|---|---|
| GPU | 8× NVIDIA H200(141 GB)或同等规格 |
| 张量并行 | -\-tp 8 |
| 内存 / 磁盘 | 快速 NVMe 硬盘,需约 500 GB 可用空间用于权重、分词器文件和下载缓存 |
| 上下文长度 | 示例命令设置为 -\-context\-length 1024000。如遇到内存不足错误,请降低此值 |
| 网络 | 可选。该模型也可通过 https://apihub\.agnes\-ai\.com/v1 在无需本地 GPU 的情况下使用 |
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#quickstart快速开始
推理模型
agnes-3.0-qwen 使用扩展推理来处理复杂任务,可通过 OpenAI 兼容的 Chat Completions 和 Responses API 使用。请将 API 密钥保存在环境变量中,并使用公开可访问的 URL 作为图像输入。
SGLang
python -m sglang.launch_server \
--model-path Agnes-AI/agnes-3.0-qwen \
--served-model-name agnes-3.0-qwen \
--tp 8 \
--host 0.0.0.0 --port 8000 \
--context-length 1024000 \
--mem-fraction-static 0.85 \
--tool-call-parser qwen3_coder \
--reasoning-parser qwen3
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#chat-completionsChat Completions
export AGNES_API_KEY="your-api-key"
curl https://apihub.agnes-ai.com/v1/chat/completions \
-H "Authorization: Bearer ${AGNES_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "agnes-3.0-qwen",
"messages": [
{
"role": "user",
"content": "Review this API handler for security issues and provide a corrected version."
}
],
"temperature": 1.0,
"max_tokens": 4000
}'
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#pythonPython
pip install openai
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["AGNES_API_KEY"],
base_url="https://apihub.agnes-ai.com/v1",
)
response = client.chat.completions.create(
model="agnes-3.0-qwen",
messages=[
{
"role": "user",
"content": "Design a fault-tolerant event processing architecture.",
}
],
temperature=1.0,
max_tokens=4000,
)
print(response.choices[0].message.content)
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#reasoning-effort推理力度
聊天模板接受 reasoning\_effort 参数(默认为 xhigh,可选 medium 或 low)以及 enable\_thinking 开关。在 OpenAI 兼容的服务器上,这些参数通过 extra\_body 传递:
response = client.chat.completions.create(
model="agnes-3.0-qwen",
messages=[{"role": "user", "content": "Summarize the trade-offs of event sourcing in three bullets."}],
extra_body={"chat_template_kwargs": {"reasoning_effort": "low"}},
)
设置 \{"enable\_thinking": False\} 可在延迟敏感的调用中完全禁用扩展推理。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#image-understanding图像理解
response = client.chat.completions.create(
model="agnes-3.0-qwen",
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": "Explain this chart and call out anomalies."},
{
"type": "image_url",
"image_url": {"url": "https://example.com/chart.png"},
},
],
}
],
)
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#responses-apiResponses API
curl https://apihub.agnes-ai.com/v1/responses \
-H "Authorization: Bearer ${AGNES_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "agnes-3.0-qwen",
"input": "Create a step-by-step migration plan from a monolith to services.",
"max_output_tokens": 4000
}'
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#recommended-inference-settings推荐推理设置
请使用采样而非贪心解码。为扩展推理预留足够的 max\_tokens / max\_output\_tokens。
| 设置 | 推荐值 |
|---|---|
temperature | 1.0 |
top\_p | 0.95 |
top\_k | 20 |
repetition\_penalty | 1.05 |
max\_tokens | 4000 或更高 |
如果响应提前终止,请增大 max\_tokens。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#model-capabilities模型能力
| 能力 | 支持情况 |
|---|---|
| 高级推理 | 支持,可调节推理力度 |
| 编码与调试 | 支持 |
| 智能体工具使用 | 支持 |
| 长上下文分析 | 1M tokens |
| 最大输出 | 65,536 tokens |
| 图像理解 | 支持(通过公开图像 URL) |
| 视频理解 | 支持 |
| 工具调用 | 支持 |
| 流式输出 | 支持 |
| OpenAI 兼容 API | Chat Completions 和 Responses |
agnes-3.0-qwen 尤其适用于终端和仓库级别的编码智能体、启用工具的客户工作流、技术研究、文档综合分析以及需要在长且复杂上下文中进行推理的视觉分析。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#responsible-use负责任使用
模型输出可能包含错误。请在应用层对高影响决策和工具操作进行验证,并在发送敏感或受监管数据之前查阅适用的 Agnes AI 服务条款。
https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#citation引用
@misc{agnes30qwen2026,
title = {agnes-3.0-qwen},
author = {{Agnes AI}},
year = {2026},
month = oct,
howpublished = {Open-weight model},
url = {https://huggingface.co/Agnes-AI/agnes-3.0-qwen}
}
相似文章
Qwen/Qwen3.6-27B-FP8
阿里巴巴发布 Qwen3.6-27B-FP8,一款 27B 参数的 FP8 量化模型,在代理式编码与推理基准上表现强劲,现已上架 Hugging Face。
Qwen 3.7 Max
Qwen 3.7 是一款来自中国实验室的新AI模型,令人印象深刻,讨论焦点在于其权重是否可供下载。
Qwen/Qwen3.6-35B-A3B
Qwen 发布 Qwen3.6-35B-A3B,一款开源权重的混合专家(MoE)模型,总参数量 35B,激活参数量 3B,在智能体编码和推理能力保持方面实现显著提升。
Qwen/Qwen3.6-35B-A3B-FP8
阿里巴巴发布了Qwen3.6-35B-A3B-FP8,这是Qwen3.6的开源权重量化变体,拥有35B参数,通过MoE激活3B,具有改进的智能编码能力和保持思维链的迭代开发特性。
Jackrong/Qwopus3.6-35B-A3B-v1-GGUF
Jackrong 发布 Qwopus3.6-35B-A3B-v1,基于阿里巴巴 Qwen3.6 MoE 模型的推理增强微调版本,针对逻辑推理和智能体编程优化,拥有 350 亿总参数和 30 亿激活参数。