InternScience/Sage-A1.5 [基于 Qwen 3.6 35b-a3b 的微调]

Reddit r/LocalLLaMA 模型

摘要

InternScience 发布 Sage-A1.5,一个基于 Qwen3.6-35B-A3B 微调的 35B MoE 智能体模型,主打长程科学问题求解,具备智能体编排、自我验证与开放式科学发现能力,在多项基准上与 Kimi-K3、GLM-5.3、GPT-5.6-sol 等前沿模型竞争。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/21 10:23

InternScience/Sage-A1.5 · Hugging Face

来源:https://huggingface.co/InternScience/Sage-A1.5

本仓库包含 Hugging Face Transformers 格式的 Sage-A1.5 模型权重与配置文件。这些产物可与 Hugging Face Transformers、vLLM、SGLang 等框架兼容使用。


Sage-A1.5 是一个 35B 的 Mixture-of-Experts(混合专家)智能体模型,基于上海人工智能实验室的 Qwen3.6-35B-A3B (https://huggingface.co/Qwen/Qwen3.6-35B-A3B) 构建,旨在通过自适应的能力组合推进长程科学问题求解。在 A1 的基础之上,Sage-A1.5 不仅学会解决单个任务,还学会组织工作流程并在执行过程中修正方法,突出了三项关键能力:智能体编排(Agentic Orchestration)、验证(Verification)与开放科学发现(Open Scientific Discovery)。

首先,智能体编排通过任务委派与具有隔离上下文的子智能体之间的并行协作,将单智能体执行能力加以扩展,使复杂任务能够被分解并同时处理,同时降低并发子智能体之间的相互干扰。其次,智能体验证通过进度检查、证据校验与反思性策略修正,增强了长程任务的可靠性,使 Sage-A1.5 能够识别无效的搜索路径并转向替代方案。第三,开放科学发现将智能体能力从回答预定义问题拓展到开展探索性研究,把科学探究与交互式分析以及可检视的研究产物连接起来。我们希望 Sage-A1.5 能为社区提供一个易于获取的开放科学基础,为从长程任务执行走向协作式、可验证、可检视的科学探索提供一条切实可行的路径。

Sage-A1 基准总览 (https://huggingface.co/InternScience/Sage-A1.5/blob/main/figures/Sage-A1p5-benchmark.png)

亮点 (https://huggingface.co/InternScience/Sage-A1.5#highlights)

  • 智能体编排:在具有独立上下文的子智能体之间编排并行调查,使它们能够质疑假设、通过证据细化结论,并将各自发现综合为完整的结果。
  • 验证模式:一种可选启用的自我审查能力,内置于模型自身的思维链之中——模型在推理途中暂停,检视自己已经确立的内容与失败之处,然后在同一轮对话中按照修正后的方向行动,无需外部评审者。
  • 智能体推理:Sage-A1.5 擅长将复杂任务分解为可执行的子步骤、提前规划,并依据中间结果调整策略。
  • 工具使用:原生支持函数调用与工具集成,可与 API、代码解释器、搜索引擎及其他外部工具无缝交互。
  • 科学与专业推理:可处理涉及工具集成的科学推理与专业知识问答任务。
  • 指令遵循:在不同领域中精确遵循详细的、多约束条件的指令。

我们欢迎开发者与企业集成并试用 Sage-A1.5,并分享你们的反馈。

性能 (https://huggingface.co/InternScience/Sage-A1.5#performance)

我们在真实世界的智能体与研究导向工作流中,从六个方向对 Sage-A1.5 进行评估——长程搜索、工程任务、指令遵循、科学研究、通用智能体任务以及科学智能体任务。尽管运行在 ~35B 规模的模型档位上,Sage-A1.5 依然与 Kimi-K3、GLM-5.3、GPT-5.6-sol 等前沿规模系统展现出极具竞争力的表现。它在 XBench-DS-2510(92.0)、IFBench(81.6)、PinchBench(90.0)、FrontierScience-Olympiad(81.0)、FrontierScience-Research(48.3)、CMT(80.0)以及 OmniDocBench(91.5)上取得了整体 SOTA 成绩,并在 GAIA 上达到 95.1——高于我们对比的所有更大规模模型。在同等规模的 ~35B 模型中,它在广泛的任务上排名第一,包括 BrowseComp(81.7)、SWE-bench Pro(61.2)、MLE-Lite(65.2)、SciCode(44.3,与 Agents-A1 并列)、AA-LCR(81.0)、HLE w/ tools(55.1)、VitaBench(45.4)以及 ChemCOTBench(66.5)。与 A1 相比,它在工程与智能体工作负载上实现了大幅提升(SWE-bench Pro +17.6,SWE-bench Multilingual +14.0,PinchBench +13.1,MLE-Lite +21.3)。这些结果表明,Sage-A1.5 兼具强大的长程搜索能力、稳健的科学推理与可靠的指令遵循,确立了其作为一个高能力、高效率智能体模型的地位,显著缩小了与更大规模前沿模型之间的差距。

🥇 整体 SOTA 🟢 同规模模型中最佳

基准📏 同规模模型(~35B)🚀 更大规模模型Sage-A1.5Agents-A1Ornith-1.5Kimi-K3GLM-5.3GPT-5.6-sol
🔍 长程搜索GAIA95.196.0 🥇77.692.292.288.3
BrowseComp81.7(无智能体编排)
82.8 🟢(开启智能体编排)
75.567.691.2 🥇76.290.4
DeepResearch-Bench243.7(无智能体编排)
47.5(开启智能体编排)
37.548.6 🟢52.455.757.9 🥇
XBench-DS-251092.0 🥇86.080.085.084.090.0
⚙️ 工程任务MLE-Lite65.2 🟢43.939.472.772.777.3 🥇
SciCode44.3 🟢44.339.558.759.0 🥇56.1
SWE-bench Pro61.2 🟢43.659.663.364.664.6 🥇
SWE-bench Multilingual72.7 🟢58.771.480.881.3 🥇74.1
📋 指令遵循IFBench81.6 🥇80.644.672.153.472.7
AA-LCR81.0 🟢74.273.288.7 🥇79.784.0
🧪 科学研究FrontierScience-Olympiad81.0 🥇79.070.069.067.073.0
FrontierScience-Research48.3 🥇40.06.721.716.726.7
HiPhO45.346.4 🥇39.542.439.746.2
HLE w/ tools55.1 🟢47.633.456.062.564.5 🥇
CMT80.0 🥇72.026.034.040.050.0
CritPt20.0 🟢4.32.923.419.132.3 🥇
🤖 通用智能体任务Agents’ Last Exam(ALE-CLI)19.1 🟢10.214.327.628.528.6 🥇
VitaBench45.4 🟢38.744.659.0 🥇58.746.8
PinchBench90.0 🥇76.988.688.286.687.3
🔬 科学智能体任务ChemCOTBench66.5 🟢64.053.882.5 🥇78.377.9
MatTools42.647.1 🟢38.624.353.2 🥇45.6
OmniDocBench91.5 🥇89.589.691.1—85.8

SWE-Bench 系列:我们使用 mini-SWE-agent 框架,温度为 1.0,top-p 为 0.95,上下文窗口为 200K tokens,并启用自动上下文压缩。所有评估均在完全离线、无互联网访问的环境中进行。 GLM-5.3 在 OmniDocBench 上:GLM-5.3 是纯文本(单模态)模型,不支持多模态输入,因此未报告其在多模态基准 OmniDocBench 上的结果。

使用方法 (https://huggingface.co/InternScience/Sage-A1.5#usage)

SGLang (https://huggingface.co/InternScience/Sage-A1.5#sglang)

SGLang (https://github.com/sgl-project/sglang) 是一个面向大语言模型与视觉语言模型的高性能服务框架。

使用 uv 安装 SGLang:

`` uv venv –python 3.12 –seed –managed-python source .venv/bin/activate

uv pip install sglang ``

更多细节请参阅其文档 (https://docs.sglang.ai/get_started/install.html)。

以下命令会在 http://localhost:8000/v1 创建 API 端点:

  • 标准版本:python -m sglang.launch_server \ --model-path InternScience/Sage-A1.5 \ --port 8000 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder
  • 多 Token 预测(MTP):python -m sglang.launch_server \ --model-path InternScience/Sage-A1.5 \ --port 8000 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder \ --speculative-algorithm EAGLE \ --speculative-num-steps 3 \ --speculative-eagle-topk 1 \ --speculative-num-draft-tokens 4

vLLM (https://huggingface.co/InternScience/Sage-A1.5#vllm)

vLLM (https://github.com/vllm-project/vllm) 是一个高吞吐、显存高效的 LLM 推理与服务引擎。

通过 uv 从主分支安装 vLLM:

`` uv venv –python 3.12 –seed –managed-python source .venv/bin/activate

uv pip install vllm –torch-backend=auto ``

更多细节请参阅其文档 (https://docs.vllm.ai/en/stable/getting_started/installation/index.html)。

以下命令会在 http://localhost:8000/v1 创建 API 端点:

  • 标准版本(1 GPU,262K 上下文):vllm serve InternScience/Sage-A1.5 \ --port 8000 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder
  • 纯文本模式(跳过视觉编码器以释放 KV cache 显存):vllm serve InternScience/Sage-A1.5 \ --port 8000 \ --tensor-parallel-size 1 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --language-model-only
  • 多 Token 预测(MTP):vllm serve InternScience/Sage-A1.5 \ --port 8000 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder \ --speculative-config '{"method":"mtp","num_speculative_tokens":3,"moe_backend":"triton"}'

高级模式 (https://huggingface.co/InternScience/Sage-A1.5#advanced-modes)

Sage-A1.5 提供两种可选启用的模式,构建在上述标准服务配置之上。两者默认均为关闭:智能体编排模式通过注册一个工具开启,验证模式则通过一个 chat template 标志开启。

智能体编排 (https://huggingface.co/InternScience/Sage-A1.5#agentic-orchestration)

智能体编排模式(参见亮点)允许模型将相互独立的子问题分发给子智能体并行执行,每个子智能体拥有自己的上下文窗口和自己的工具访问权限。启用方式是向模型暴露一个 spawn_subagent 工具:每当任务可分解为彼此独立的调查时,模型就会调用它,由你的框架负责执行每个子任务并返回结构化结果。

子智能体不限于任何固定的工具集——你可以提供部署中注册的任意工具(搜索、页面阅读、代码执行、检索、内部 API……)。默认情况下它们继承主智能体的工具;如果你希望它们使用不同(例如更精简)的工具集,可以设置 subagent_tools。

在其他工具之外,注册以下工具 schema:

SPAWN_SUBAGENT_SCHEMA = { "type": "function", "function": { "name": "spawn_subagent", "description": ( "并行派出一个或多个子智能体,调查相互独立的子问题。" "每个子智能体可以使用 google_search 和 read_page," "但看不到你的对话。你必须通过 `task`、`context` 和 " "`expected_output` 字段把子智能体所需的全部信息传给它。" "子智能体会返回结构化 JSON:{answer, status, evidence, unresolved_issues}。" ), "parameters": { "type": "object", "properties": { "tasks": { "type": "array", "minItems": 1, "description": "需要并行派出的独立子任务列表。", "items": { "type": "object", "properties": { "task": { "type": "string", "description": "自包含的子问题。子智能体没有其他上下文。", }, "context": { "type": "string", "description": "子智能体所需的背景事实与约束条件。", }, "expected_output": { "type": "string", "description": "期望答案的形式(例如 'a year YYYY'、'a person name')。", }, }, "required": ["task", "context", "expected_output"], }, }, }, "required": ["tasks"], }, }, }

由于子智能体看不到主对话,每个任务都必须是自包含的——task、context 与 expected_output 均为必填项。每个子智能体返回一个精简的 JSON 对象 {answer, status, evidence, unresolved_issues},整批结果会按输入顺序回传给主模型。

注意事项:

  • 保持每个子任务相互独立。同一批次中的任务并发执行,彼此看不到对方的结果,因此任何存在先后顺序的内容都应放在不同的 spawn_subagent 调用中。
  • expected_output 相当于对子智能体 answer 的格式约束(例如 'a year YYYY'、'a person name'),这有助于让结果简短且易于合并。
  • 无法完成任务的子智能体不会猜测,而是返回 "UNKNOWN",其 status 为 unknown 或 insufficient_evidence——在使用某个答案前请先检查 status。
  • 批次大小与每个子智能体的轮次预算是框架侧的配置项(max_tasks_per_spawn,默认 5;subagent_max_turns,默认 20)。超出上限的批次会被报错拒绝,而不是被截断。
  • 上面 schema 的 description 中提到了 google_search 和 read_page,因为那是参考配置。如果你给子智能体提供的是不同的工具集,请相应地修改这句话——正是它告诉主模型,它的子智能体实际能做什么。

验证模式 (https://huggingface.co/InternScience/Sage-A1.5#verification-mode)

验证模式(参见亮点)为可选启用,默认关闭。可通过在请求中通过 chat_template_kwargs 传入 verification 来按请求启用;随后 chat template 会将验证协议触发词追加到你的系统消息末尾。

  • OpenAI Python 客户端(通过 extra_body):from openai import OpenAI client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY") response = client.chat.completions.create( model="InternScience/Sage-A1.5", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Find the population of Beijing and cross-check it."}, ], tools=TOOLS, extra_body={"chat_template_kwargs": {"verification": True}}, ) message = response.choices[0].message print(message.reasoning_content) # 自我审查发生在思维链内部 print(message.content)
  • curl:curl http://localhost:8000/v1/chat/completions \ -H 'Content-Type: application/json' \ -d '{ "model": "InternScience/Sage-A1.5", "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Find the population of Shanghai and cross-check it."} ], "chat_template_kwargs": {"verification": true} }'

注意事项:

  • 必须提供非空的系统消息。由于触发词是追加到系统消息内容末尾的,携带 verification: true 但没有系统消息(或仅有空白字符)的请求会被拒绝,返回 HTTP 400。
  • 传入 JSON 布尔值,而非字符串:应为 {"verification": true},而不是 {"verification": "true"}。
  • 省略 chat_template_kwargs 等价于 {"verification": false},此时 prompt 渲染保持不变。
  • 验证模式与工具使用相互独立——无论是否传入 tools,它都能工作。
  • 自我审查内容以推理内容(reasoning content)形式输出,因此除了 content 之外,还需要读取 reasoning_content。

推荐采样参数 (https://huggingface.co/InternScience/Sage-A1.5#recommended-sampling-parameters)

为获得最佳生成质量,我们推荐以下采样参数:

  • temperature:1.0
  • top_p:0.95
  • top_k:20
  • min_p:0.0
  • presence_penalty:1.5
  • repetition_penalty:1.0

相似文章

@NFT_Chen: 炸了!上海AI实验室推出新模型Sage-A1.5 !仅35B硬刚Kimi-K3、GLM-5.3、GPT-5.6-sol!同级第一还能反超巨无霸! 35B MoE智能体模型,仅3B激活,主打长程执行与科学探索。 它不仅全面碾压同级A1、Or…

X AI KOLs Timeline

上海人工智能实验室发布35B MoE智能体模型Sage-A1.5(仅3B激活参数),主打长程任务执行、子代理并行编排与开放科学发现,在多项基准上以小参数反超Kimi-K3、GLM-5.3、GPT-5.6-sol等更大模型,并同步开放技术报告与模型权重。

InternScience/Agents-A1-Q4_K_M-GGUF

Hugging Face Models Trending

InternScience 发布了 Agents-A1,一个拥有350亿参数的混合专家(MoE)智能体模型,通过扩展长程轨迹和异构智能体能力,实现了万亿参数级别的性能,在 Seal-0、HiPhO 和 IFEval 等基准测试中取得了强劲的结果。

migtissera/Tess-4.5-27B(Qwen 微调)

Reddit r/LocalLLaMA

Continuity Research 发布 Tess-4.5-27B,一个基于 Qwen3.8-27B 微调的 27B 开源权重模型,主打本地单卡运行的工程与智能体能力,BenchLocal 成绩与基座持平但推理 token 少 25%,并附带多 token 预测草稿头以提升本地推理速度。