Agnes-AI/Agnes-3.0-Qwen(QFN 微调)

Reddit r/LocalLLaMA 模型

摘要

Agnes AI 发布 agnes-3.0-qwen,一款面向 agentic 编码、工具调用与科学推理的多模态推理模型,采用混合线性/全注意力 MoE 架构(约180B 参数、512 专家),支持 1M token 上下文与可调推理强度,并以开源权重形式发布。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/21 07:09

Agnes-AI/Agnes-3.0-Qwen · Hugging Face

来源:https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen

Agnes AI logo

Agnes AI 官网 (https://agnes-ai.com/) · Agnes API 文档 (https://wiki.agnes-ai.com/en/docs/agnes-30-qwen)

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#agnes-30-qwenagnes-3.0-qwen

你好! 👋 今天我们要介绍 agnes-3.0-qwen,这是我们最强大的推理模型,适用于智能体编码(agentic coding)、工具调用、科学问题求解、长上下文分析以及多模态理解\。

亮点:

  • **强大的智能体性能:**agnes-3.0-qwen 在 τ3-Banking 基准上取得其对比集中的最高分,在 Terminal-Bench 2.1 上也仅落后最优模型约一个百分点,而其参数规模远小于大多数旗舰系统。
  • **可靠的指令遵循能力:**在 IFBench 基准上,agnes-3.0-qwen 的表现优于 GPT-5.6 Sol (Max) 和 Claude Opus 4.8 (Max)。
  • **专为高要求任务打造:**具备 1M token 的上下文窗口、可调节的扩展推理能力(推理力度可选:xhigh、medium、low)、工具调用,以及文本、图像和视频理解能力。

LLM 基准测试评估:agnes-3.0-qwen 与旗舰级模型的对比

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#agnes-30-qwen-1agnes-3.0-qwen

一款以开放权重形式提供的多模态推理模型。该模型采用混合线性注意力/全注意力的 Mixture-of-Experts 架构(512 个专家,每个 token 激活 10 个),并配备多 token 预测头,将长上下文理解能力与强大的编码、智能体和科学推理能力相结合,同时提供生产环境所需的吞吐量和成本效率。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#benchmarks基准测试

agnes-3.0-qwen 与 GPT-5.6 Sol (Max)、Gemini 3.8 Flash、DeepSeek V4 Flash (Max)、MiniMax-M3、Claude Opus 4.8 (Max) 以及 Qwen3.8 Max (0902) 进行对比。agnes-3.0-qwen 的结果为在公开基准上的自报数据;对比模型的数据取自公开报告。

基准测试agnes-3.0-qwenGPT-5.6 Sol (Max)Gemini 3.8 FlashDeepSeek V4 Flash (Max)MiniMax M3Claude Opus 4.8 (Max)Qwen3.8 Max (0902)
智能体工作与编码
GDP.pdf16.027.221.012.89.822.822.8
τ3-Banking48.044.344.939.415.334.247.8
Terminal-Bench 2.187.888.087.678.765.284.688.8
Terminal-Bench 4.026.139.919.712.12.021.738.9
SciCode56.157.156.651.947.154.452.1
知识、推理与指令遵循
GPQA Diamond91.194.195.390.892.992.892.8
MMLU-Pro86.289.190.788.284.689.688.8
IFBench79.672.7—79.282.962.282.8

所有基准测试中数值越高越好。agnes-3.0-qwen 的数据为自报;对比模型的数据取自公开可用的报告,可能随评估更新而变化。“—” 表示尚无公开结果。数据快照截至 2026 年 10 月 10 日。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#model-information模型信息

属性值
开发者Agnes AI
模型名称agnes-3.0-qwen
模型类型多模态推理模型(混合注意力 MoE)
总参数量约 180B(512 个专家,每个 token 激活 10 个)
许可证Qwen Community License 1.0(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/LICENSE)
语言英文、中文
上下文窗口1,048,576 tokens
最大输出65,536 tokens
输入模态文本、图像、视频
输出模态文本
精度BF16
推理力度xhigh(默认)、medium、low
工具调用支持
流式输出支持
发布日期2026 年 10 月

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#license许可证

agnes-3.0-qwen 是 Qwen/Qwen3.8-Flash-Next(https://huggingface.co/Qwen/Qwen3.8-Flash-Next)的后训练衍生模型。额外的后训练工作由 Agnes AI 完成。模型权重及继承的上游产物均在 Qwen Community License 1.0(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/LICENSE)下发布。

所有使用和再分发行为必须遵守 LICENSE 中的完整条款。在所有副本或上游软件的重要部分中,必须保留原始 Qwen 版权和许可声明。有关署名信息及 Agnes AI 的后训练贡献,请参见 NOTICE(https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen/tree/main/NOTICE)。

商业使用条件(摘要;以完整许可协议为准):

  • 如果被许可方或其任何关联公司从事模型即服务(MaaS)或 AI 工作助手业务,在将该模型或其衍生作品用于任何商业目的之前,需从 Qwen 获得单独的许可证。内部使用例外仅适用于软件、其输出及其底层模型能力不对任何第三方提供的场景。有关这些业务的定义和排除条款,请参阅 LICENSE。
  • 如果使用该模型或其衍生作品的商业产品或服务的月活跃用户超过 1 亿人,或月收入超过 2,000 万美元(或其他货币等值金额),则必须在其用户界面上醒目地展示相应的模型名称。此展示条件与上述商业许可要求是独立的。

本 README 中的 API 示例不会根据上游许可证授予额外的商业权利。任何单独的商业授权均须从 Qwen 获取;LICENSE 中列出的联系方式为 model\-business@notice\.qwencloud\.com。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#hardware-requirements硬件要求

快速开始中的启动命令使用 8 GPU 张量并行。该检查点为约 360 GB 的 119 分片 BF16 包;单张 GPU 无法满足需求。

资源建议
GPU8× NVIDIA H200(141 GB)或同等规格
张量并行-\-tp 8
内存 / 磁盘快速 NVMe 硬盘,需约 500 GB 可用空间用于权重、分词器文件和下载缓存
上下文长度示例命令设置为 -\-context\-length 1024000。如遇到内存不足错误,请降低此值
网络可选。该模型也可通过 https://apihub\.agnes\-ai\.com/v1 在无需本地 GPU 的情况下使用

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#quickstart快速开始

推理模型

agnes-3.0-qwen 使用扩展推理来处理复杂任务,可通过 OpenAI 兼容的 Chat Completions 和 Responses API 使用。请将 API 密钥保存在环境变量中,并使用公开可访问的 URL 作为图像输入。

SGLang

python -m sglang.launch_server \
    --model-path Agnes-AI/agnes-3.0-qwen \
    --served-model-name agnes-3.0-qwen \
    --tp 8 \
    --host 0.0.0.0 --port 8000 \
    --context-length 1024000 \
    --mem-fraction-static 0.85 \
    --tool-call-parser qwen3_coder \
    --reasoning-parser qwen3

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#chat-completionsChat Completions

export AGNES_API_KEY="your-api-key"

curl https://apihub.agnes-ai.com/v1/chat/completions \
  -H "Authorization: Bearer ${AGNES_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "agnes-3.0-qwen",
    "messages": [
      {
        "role": "user",
        "content": "Review this API handler for security issues and provide a corrected version."
      }
    ],
    "temperature": 1.0,
    "max_tokens": 4000
  }'

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#pythonPython

pip install openai
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AGNES_API_KEY"],
    base_url="https://apihub.agnes-ai.com/v1",
)

response = client.chat.completions.create(
    model="agnes-3.0-qwen",
    messages=[
        {
            "role": "user",
            "content": "Design a fault-tolerant event processing architecture.",
        }
    ],
    temperature=1.0,
    max_tokens=4000,
)

print(response.choices[0].message.content)

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#reasoning-effort推理力度

聊天模板接受 reasoning\_effort 参数(默认为 xhigh,可选 medium 或 low)以及 enable\_thinking 开关。在 OpenAI 兼容的服务器上,这些参数通过 extra\_body 传递:

response = client.chat.completions.create(
    model="agnes-3.0-qwen",
    messages=[{"role": "user", "content": "Summarize the trade-offs of event sourcing in three bullets."}],
    extra_body={"chat_template_kwargs": {"reasoning_effort": "low"}},
)

设置 \{"enable\_thinking": False\} 可在延迟敏感的调用中完全禁用扩展推理。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#image-understanding图像理解

response = client.chat.completions.create(
    model="agnes-3.0-qwen",
    messages=[
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Explain this chart and call out anomalies."},
                {
                    "type": "image_url",
                    "image_url": {"url": "https://example.com/chart.png"},
                },
            ],
        }
    ],
)

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#responses-apiResponses API

curl https://apihub.agnes-ai.com/v1/responses \
  -H "Authorization: Bearer ${AGNES_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "agnes-3.0-qwen",
    "input": "Create a step-by-step migration plan from a monolith to services.",
    "max_output_tokens": 4000
  }'

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#recommended-inference-settings推荐推理设置

请使用采样而非贪心解码。为扩展推理预留足够的 max\_tokens / max\_output\_tokens。

设置推荐值
temperature1.0
top\_p0.95
top\_k20
repetition\_penalty1.05
max\_tokens4000 或更高

如果响应提前终止,请增大 max\_tokens。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#model-capabilities模型能力

能力支持情况
高级推理支持,可调节推理力度
编码与调试支持
智能体工具使用支持
长上下文分析1M tokens
最大输出65,536 tokens
图像理解支持(通过公开图像 URL)
视频理解支持
工具调用支持
流式输出支持
OpenAI 兼容 APIChat Completions 和 Responses

agnes-3.0-qwen 尤其适用于终端和仓库级别的编码智能体、启用工具的客户工作流、技术研究、文档综合分析以及需要在长且复杂上下文中进行推理的视觉分析。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#responsible-use负责任使用

模型输出可能包含错误。请在应用层对高影响决策和工具操作进行验证,并在发送敏感或受监管数据之前查阅适用的 Agnes AI 服务条款。

https://huggingface.co/Agnes-AI/Agnes-3.0-Qwen#citation引用

@misc{agnes30qwen2026,
  title        = {agnes-3.0-qwen},
  author       = {{Agnes AI}},
  year         = {2026},
  month        = oct,
  howpublished = {Open-weight model},
  url          = {https://huggingface.co/Agnes-AI/agnes-3.0-qwen}
}

相似文章

Qwen/Qwen3.6-27B-FP8

Hugging Face Models Trending

阿里巴巴发布 Qwen3.6-27B-FP8,一款 27B 参数的 FP8 量化模型,在代理式编码与推理基准上表现强劲,现已上架 Hugging Face。

Qwen 3.7 Max

Reddit r/LocalLLaMA

Qwen 3.7 是一款来自中国实验室的新AI模型,令人印象深刻,讨论焦点在于其权重是否可供下载。

Qwen/Qwen3.6-35B-A3B

Hugging Face Models Trending

Qwen 发布 Qwen3.6-35B-A3B,一款开源权重的混合专家(MoE)模型,总参数量 35B,激活参数量 3B,在智能体编码和推理能力保持方面实现显著提升。

Qwen/Qwen3.6-35B-A3B-FP8

Hugging Face Models Trending

阿里巴巴发布了Qwen3.6-35B-A3B-FP8,这是Qwen3.6的开源权重量化变体,拥有35B参数,通过MoE激活3B,具有改进的智能编码能力和保持思维链的迭代开发特性。

Jackrong/Qwopus3.6-35B-A3B-v1-GGUF

Hugging Face Models Trending

Jackrong 发布 Qwopus3.6-35B-A3B-v1,基于阿里巴巴 Qwen3.6 MoE 模型的推理增强微调版本,针对逻辑推理和智能体编程优化,拥有 350 亿总参数和 30 亿激活参数。