InternScience/Agents-A1-Q4_K_M-GGUF

Hugging Face Models Trending 模型

摘要

InternScience 发布了 Agents-A1,一个拥有350亿参数的混合专家(MoE)智能体模型,通过扩展长程轨迹和异构智能体能力,实现了万亿参数级别的性能,在 Seal-0、HiPhO 和 IFEval 等基准测试中取得了强劲的结果。

标签:gguf, 量化, MoE, VLM, 视觉, 智能体, arxiv:2606.30616, base_model:InternScience/Agents-A1, base_model:quantized:InternScience/Agents-A1, license:apache-2.0, endpoints_compatible, region:us, 对话式
查看原文
查看缓存全文

缓存时间: 2026/07/07 22:39

InternScience/Agents-A1-Q4_K_M-GGUF · Hugging Face

来源:https://huggingface.co/InternScience/Agents-A1-Q4_K_M-GGUF

Agents-A1:扩展任务深度,而非参数规模——用35B智能体达成万亿参数级性能

本仓库包含以 Hugging Face Transformers 格式存储的 Agents-A1 模型权重和配置文件。这些工件兼容 Hugging Face Transformers、vLLM、SGLang 等框架。

Agents-A1 是 InternScience(https://huggingface.co/InternScience)研发的一款 35B 混合专家(MoE)智能体模型,旨在跨多个领域扩展异构智能体能力,涵盖长程搜索、工程任务、科学研究、指令遵循和工具调用。我们从两个角度研究智能体的任务深度扩展:扩展长程任务轨迹和扩展异构智能体能力。

在长程任务轨迹扩展方面,Agents-A1 借助领域知识-行动基础设施进行训练,该设施联合构建行动、观察结果和验证器输出,将智能体的过程转化为可训练的目标。在异构智能体能力扩展方面,Agents-A1 提出了一种三阶段训练范式,用于构建可扩展的通用智能体模型。首先,我们进行全领域监督微调,使基础模型与广泛的智能体行为对齐。其次,我们训练领域级教师模型,以掌握每个领域的专业知识。第三,我们提出多教师、多领域的在线蒸馏方法,并引入异构性感知优化,以提升不同领域间的知识迁移效率。

Agents-A1 基准测试总览(https://huggingface.co/InternScience/Agents-A1-Q4_K_M-GGUF/blob/main/figures/a1_benchmarks_altair_grid.svg)

亮点

  • 智能体推理:Agents-A1 擅长将复杂任务分解为可执行的子步骤,进行前瞻性规划,并根据中间结果调整策略。
  • 工具使用:原生支持函数调用和工具集成,能够无缝与 API、代码解释器、搜索引擎及其他外部工具进行交互。
  • 科学与专业推理:处理集成了工具的科学推理和专业知识问答。
  • 指令遵循:精确遵循跨领域、多约束的详细指令。

欢迎开发者和企业集成并试用 Agents-A1,分享您的反馈。

性能

我们在真实世界的智能体与研究导向工作流中,对 Agents-A1 进行了六个方向的评估:长程搜索、工程任务、科学研究、指令遵循、通用智能体任务和科学智能体任务。尽管属于约 35B 参数规模的模型类别,Agents-A1 在与 GPT-5.5、DeepSeek-V4-pro、Kimi-K2.6 等前沿系统相比时,仍展现出极具竞争力的性能。它在多个挑战性基准上取得了总体 SOTA(最佳)结果,包括 Seal-0(56.4)、HiPhO(46.4)、FrontierScience-Olympiad(79.0)、FrontierScience-Research(40.00)、IFBench(80.6)和 IFEval(94.8),同时在众多任务上也位居同类模型最佳,例如 BrowseComp(75.5)、XBench-DS-2510(86.0)、GAIA(96.0)、SciCode(44.3)、HLE(带工具,47.6)和 MolBench-bind(56.8)。这些结果表明,Agents-A1 兼具强大的长程搜索能力、稳健的科学推理能力和可靠的指令遵循能力,使其成为一款能力极强且高效的智能体模型,缩小了与更大规模前沿模型之间的差距。

🥇 总体 SOTA 🟢 同类最优(约35B)

基准📏同类模型(~35B)更大规模模型🚀我们的模型⭐
Qwen3.5-35B-A3BQwen3.6-35B-A3BNex-N2-mini
🔍 长程搜索
BrowseComp61.067.937.4
XBench-DS-251077.071.082.0
Seal-041.438.744.9
GAIA59.878.682.5
⚙️ 工程任务
SciCode37.735.829.9
MLE-Lite24.2434.8534.85
🧪 科学研究
HLE w/ tools47.436.232.0
HiPhO37.037.738.5
FrontierScience-Olympiad64.560.352.0
FrontierScience-Research2.52.95.0
📋 指令遵循
IFBench70.264.254.0
LongBench-v259.057.759.6
IFEval91.991.388.4
🤖 通用智能体任务
τ2-Bench🟢 81.279.074.5
VitaBench31.935.623.0
🔬 科学智能体任务
MatTools21.015.934.1
MolBench-bind46.048.751.4

使用说明

SGLang

SGLang(https://github.com/sgl-project/sglang)是一个用于大语言模型和视觉语言模型的快速服务框架。

使用 uv 安装 SGLang:

`` uv venv –python 3.12 –seed –managed-python source .venv/bin/activate

uv pip install sglang ``

更多详情请参阅其文档(https://docs.sglang.ai/get_started/install.html)。

以下命令将在 http://localhost:8000/v1 创建 API 端点:

  • 标准版本(1 GPU,262K 上下文): python -m sglang.launch_server \ --model-path InternScience/Agents-A1 \ --port 8000 \ --tp-size 1 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3

  • 工具使用python -m sglang.launch_server \ --model-path InternScience/Agents-A1 \ --port 8000 \ --tp-size 1 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder

vLLM

vLLM(https://github.com/vllm-project/vllm)是一个高吞吐量、内存高效的 LLM 推理与服务引擎。

使用 uv 从主分支安装 vLLM:

`` uv venv –python 3.12 –seed –managed-python source .venv/bin/activate

uv pip install vllm –torch-backend=auto ``

更多详情请参阅其文档(https://docs.vllm.ai/en/stable/getting_started/installation/index.html)。

以下命令将在 http://localhost:8000/v1 创建 API 端点:

  • 标准版本(1 GPU,262K 上下文): vllm serve InternScience/Agents-A1 \ --port 8000 \ --tensor-parallel-size 1 \ --max-model-len 262144 \ --reasoning-parser qwen3

  • 工具调用vllm serve InternScience/Agents-A1 \ --port 8000 \ --tensor-parallel-size 1 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder

  • 仅文本模式(跳过视觉编码器以释放 KV 缓存内存): vllm serve InternScience/Agents-A1 \ --port 8000 \ --tensor-parallel-size 1 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --language-model-only

推荐采样参数

为获得最佳生成质量,我们推荐以下采样参数:

  • temperature: 0.85
  • top_p: 0.95
  • top_k: 20
  • min_p: 0.0
  • presence_penalty: 1.1
  • repetition_penalty: 1.0

智能体能力评估

为向社区提供统一的智能体评估代码库以实现公平比较,我们还开源了一套评估框架,用于评估智能体模型在核心能力(包括工具使用和多步推理)上的表现。评估代码包含在本仓库的 Agents-A1/evaluation(https://github.com/InternScience/Agents-A1/tree/main/evaluation)中。

我们使用该框架在标准化且可复现的设置下对发布模型进行评估。具体来说,模型在一组面向智能体的任务上进行测试,这些任务要求模型理解用户目标、分解复杂指令、在必要时与工具或环境交互,并生成最终结果。模型卡(https://huggingface.co/InternScience/Agents-A1)中报告的评估结果均使用上述开源框架生成,以便用户复现实验、在同一协议下比较其他模型,并进一步扩展基准以覆盖新的智能体场景。(**注意:**为确保公平比较,我们报告的是原始技术报告中的基准结果。如果某个模型未报告相应基准结果,我们将使用与我们的模型相同的评估协议对其进行评估。)

详细的评估脚本、任务定义、指标和复现说明,请参考评估代码库。

引用

如果您觉得我们的工作有帮助,欢迎引用我们。

@misc{bai2026scalinghorizonparametersreaching, title={Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent}, author={Lei Bai and Zongsheng Cao and Yang Chen and Zhiyao Cui and Shangheng Du and Yue Fan and Shiyang Feng and Zijie Guo and Haonan He and Liang He and Xiaohan He and Shuyue Hu and Yusong Hu and Songtao Huang and Yichen Jiang and Hao Li and Xin Li and Dahua Lin and Weihao Lin and Fenghua Ling and Dongrui Liu and Zhuo Liu and Runmin Ma and Chunjiang Mu and Haoyang Peng and Tianshuo Peng and Jinxin Shi and Luohe Shi and Boyuan Sun and Zelin Tan and Shengji Tang and Qianyi Wang and Yiming Wu and Yi Xie and Xiangchao Yan and Jingqi Ye and Peng Ye and Fangchen Yu and Jiakang Yuan and Bihao Zhan and Bo Zhang and Chen Zhang and Shufei Zhang and Shuaiyu Zhang and Wenlong Zhang and Yiqun Zhang and Junpeng Zhao and Zhijie Zhong and Bowen Zhou and Yuhao Zhou}, year={2026}, eprint={2606.30616}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2606.30616}, }

相似文章

InternScience/Agents-A1 · Hugging Face

Reddit r/LocalLLaMA

Agents-A1 是 InternScience 推出的 35B 参数混合专家(MoE)智能体模型,通过长程轨迹缩放和多教师多领域蒸馏技术,在与 GPT-5.5 和 DeepSeek-V4-pro 等前沿规模系统的对比中展现出具有竞争力的性能。

扩展视野而非参数:以35B智能体达到万亿参数性能

Hugging Face Daily Papers

介绍了Agents-A1,一个35B混合专家智能体模型,通过长视野轨迹缩放和三阶段训练方法(包括SFT、领域级教师和多教师蒸馏)实现了万亿参数级别的性能。在长视野智能体基准测试中,该模型表现优于或媲美更大规模的模型。

EvoMaster:构建可进化大规模自主科学智能体的基础框架

Hugging Face Daily Papers

# 论文页面 - EvoMaster:构建可进化大规模自主科学智能体的基础框架 来源:[https://huggingface.co/papers/2604.17406](https://huggingface.co/papers/2604.17406) 作者:,,,,,,,,,,,,,,,,,,,,, ## 摘要 EvoMaster 是一个可扩展、自我进化的智能体框架,专为大规模科学发现设计,支持在实验周期中迭代优化假设并持续积累知识。大语言模型与智能体的融合正在催生“智能体科学”新时代。

COMPOSITE-STEM

arXiv cs.CL

COMPOSITE-STEM 引入了一个包含70项专家策划的智能体任务的基准测试,涵盖物理、生物、化学和数学领域,旨在评估AI智能体在超越饱和基准测试的科学工作流中的表现。性能最佳的模型(Claude Opus 4.6)仅达到21.4%的准确率,表明科学推理能力存在显著差距。