最近用上了这个在 HuggingFace 角落里翻到的小众微调模型，效果出奇地好

Reddit r/LocalLLaMA 模型
open-weights code-generation math-reasoning fine-tuning reasoning hugging-face post-training

摘要

VeriLoop E2 是由清华 SIGS 机器人实验室发布的 27B 开源后训练模型，基于 Qwen3.8-27B，专注代码、数学与物理推理，采用 VeriLoop-Governed Recurrence（VGR）验证机制，在 SWE-bench Pro、AIME 2026 等多项基准上取得强劲成绩。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/08 22:16

tsinghua-sigs-robot-lab/VeriLoop-E2 · Hugging Face 来源：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2

VeriLoop logo

VeriLoop E2

面向代码、数学与物理的 27B 后训练模型

由 VeriLoop 治理循环（VeriLoop-Governed Recurrence, VGR）实现证据收敛式推理

基于 Qwen3.8-27B 构建 · 原生 262K 上下文 · Apache License 2.0

由清华大学深圳国际研究生院机器人实验室（Tsinghua SIGS Robot Lab）开发 · Libo Wang

许可证：Apache 2.0 (https://www.apache.org/licenses/LICENSE-2.0)　基座：Qwen3.8-27B　原生上下文：262K　推理服务：vLLM 0.17.0　阶段：后训练模型

模型·技术报告·评测证据·Riemann ζ 制品·黑洞制品

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#overview 概述

VeriLoop E2 是基于 Qwen3.8-27B 构建的开源 27B 后训练模型，面向代码、数学与物理。其核心推理机制是 VeriLoop 治理循环（VGR）：候选状态以递归方式提出、经外部核查，只有在受保护的证据状态得到改进且无回退时才被保留。该系统将生成式智能与验证权限分离。

VeriLoop E2 负责提议生成、抽象、诊断、修复假设与结构化推理；VeriLoop Harness（执行框架） 则掌管证据准入、确定性检查、外部验证、提交/回滚、终止以及证据状态的持久化。因此，模型无法自我认证自身的进展。

本次发布聚焦于模型权重、公开推理路径、评测记录，以及 Harness 的公开功能描述。生产级 Harness 的实现本身不包含在本仓库中。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#release-highlights 发布亮点

  • 27B 开放权重后训练模型，面向代码、数学与物理，由 Qwen3.8-27B 派生而来。
  • 在发布的 tokenizer 配置中提供 262,144 token 原生上下文窗口。
  • 在九项代码智能体、数学与科学基准上取得优异的发布结果，包括 SWE-bench Pro 76.2%、Terminal-Bench 2.1 88.8%、AIME 2026 98.3%、GPQA Diamond 93.9% 以及 Apex 2025 89.6%。
  • 一套可复现的科学推理流程，围绕验证器治理循环而非无约束重试展开。
  • 两项附带公开证据制品的科学演示：一份严格的有限维 Riemann ζ 零点比例证书，数值为 67.350003708785593%；以及 渐近引力子层析成像（Asymptotic Graviton Tomography），为自由渐近辐射引力子数据建立了精确且定量的完备性框架。
  • 通过 vLLM 0.17.0 提供 OpenAI 兼容的推理服务，并已验证 131,072 token 的服务配置。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#model-summary 模型摘要

属性VeriLoop E2
模型系列VeriLoop E2
基座模型Qwen3.8-27B
参数规模27B
HF 架构类别Qwen3_5ForConditionalGeneration
训练阶段后训练（Post-Training）
主要领域代码、软件工程、数学、物理
公开后训练语料记录数1,841,831 条
原生上下文长度262,144 token
已验证 vLLM 服务长度131,072 token
Tokenizer 类别Qwen2Tokenizer
权重格式safetensors
语言英文、中文
推荐推理引擎vLLM 0.17.0
模型权重许可证Apache License 2.0
发布年份2026

后训练数据组合涵盖仓库级软件工程、终端与工具使用、数学推理、科学推理、验证器敏感修复以及面向循环的训练。具体的数据构建、过滤与训练方法详见技术报告，此处不再重复。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#benchmark-results 基准测试结果

本 README 报告 VeriLoop E2 的冻结发布分数。智能体类基准在冻结的评测流程内使用 E2 检查点，包括任务要求时启用的内部 VeriLoop Harness、基准原生工具，以及基准官方或指定的评测器。各基准的具体协议、任务级输出、评测器回执与完整性元数据，均在评测证据包中单独发布。

归属边界。 所报告的结果描述的是被评测的 E2 系统配置。不应将其解读为：未做任何改动的 Qwen3.8-27B 基座检查点，或脱离被评测运行时环境的 E2 检查点，能够复现相同的分数。

VeriLoop E2 在九项公开基准上的对比结果

图 1. VeriLoop E2 在九项公开基准上的发布快照，分数越高越好。各面板中提供方的颜色保持一致；具体的公开模型变体见下方对比表。完整协议与来源出处：评测证据。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#code-and-agentic-benchmarks 代码与智能体基准

基准VeriLoop E2OpenAIAnthropicKimiGLMQwenDeepSeek
SWE-bench Pro76.2 (证据)GPT-5.6 Sol 64.6Claude Fable 5.1 81.2—GLM-5.2 Max 62.1Qwen3.8-Max 67.7DeepSeek V4 Pro Max 55.4
Terminal-Bench 2.188.8 (证据)GPT-5.6 Sol 88.8—Kimi K3 88.3GLM-5.3 88.2Qwen3.8-Max 86.6DeepSeek V4 Pro 87.9
DeepSWE v1.164.6 (证据)GPT-5.6 Sol 72.7Claude Fable 5 69.7Kimi K3 67.5GLM-5.3 66.9—DeepSeek V4 Pro 62.7
Terminal-Bench 3.029.7 (证据)GPT-5.6 Sol 34.6Claude Fable 5 33.7Kimi K3 17.4GLM-5.3 28.3——
Terminal-Bench 4.037.9 (证据)GPT-6 Astra 59.6Claude Fable 5.1 55.1—GLM-5.3 41.8——
SWE-Marathon v1.145.0 (证据)GPT-5.6 Sol 42.5Claude Opus 4.8 48.8Kimi K3 48.1GLM-5.3 42.5——

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#mathematics-and-science-benchmarks 数学与科学基准

基准VeriLoop E2OpenAIAnthropicKimiGLMDeepSeekGemini
AIME 202698.3 (证据)GPT-5.5 100.0Claude Opus 4.8 100.0Kimi K3 97.0—DeepSeek V4 Pro 97.0Gemini 3.1 Pro 98.0
GPQA Diamond93.9 (证据)GPT-5.6 Sol 94.1Claude Fable 5 92.6Kimi K3 93.5GLM-5.2 Max 91.2——
Apex 202589.6 (证据)GPT-5.5 80.0Claude Opus 4.8 81.0Kimi K3 66.0—DeepSeek V4 Pro 28.0Gemini 3.1 Pro 61.0

短横线表示该发布未包含该提供方在该基准上的公开对比数据。上表中每个 VeriLoop E2 分数的链接均直接指向其对应的基准公开证据目录或发布来源。外部参考值与图 1 所使用的冻结对比集一致；关于执行框架的说明与协议注意事项保留在评测台账中，此处不再重复。

目前有七项结果对应 Hugging Face Native Benchmark 排行榜： AIME 2026、DeepSWE v1.1、GPQA Diamond、SWE-bench Pro、Terminal-Bench 2.1、Terminal-Bench 3.0 与 Terminal-Bench 4.0。Apex 2025（89.6） 与 SWE-Marathon v1.1（45.0） 在此作为实验室自行发布的发布结果呈现，并附公开来源链接。Apex 2025 作为带有公开证据的结构化模型结果被保留，但 MathArena/apex_2025 目前并非 Hugging Face Native Benchmark 排行榜；SWE-Marathon v1.1 目前已在评测证据仓库中拥有任务级公开证据，但尚不具备稳定的 Hugging Face Native Benchmark 注册/任务标识符。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#evaluation-evidence 评测证据

公开证据包的目的是让基准记录可被检视，而非仅仅停留在声明层面。在可行的情况下，每条任务记录都绑定以下内容：

任务标识
  ↓
模型 / 系统输出
  ↓
基准原生执行或评测器记录
  ↓
得分 / 通过-未通过判定
  ↓
完整性元数据与来源溯源

证据仓库： https://huggingface.co/datasets/tsinghua-sigs-robot-lab/VeriLoop-E2-Evaluation-Evidence

模型仓库在 /.eval_results/（https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2/tree/main/.eval_results）下发布了八个结构化评测描述符。其中七个目前对应 Hugging Face Native Benchmark 排行榜；Apex 2025 的描述符被保留用于结构化报告与来源溯源，但目前不会产生 Hugging Face 排行榜排名。SWE-Marathon v1.1 作为实验室自行发布的发布结果，在评测证据仓库中以任务级证据形式发布，但未包含在 /.eval_results/ 中，原因是目前尚不具备稳定的 Hugging Face Native Benchmark 注册/任务标识符。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#veriloop-harness VeriLoop Harness

VeriLoop 的设计并不基于“模型应当自行宣布改进“这一理念。Harness 将模型输出视为一种候选状态，必须通过外部证据才能获得准入。当前的公开抽象形式是 VeriLoop 治理循环（VGR）：

当前请求
  ↓
契约编译
  ↓
VeriLoop E2 提出候选方案
  ↓
外部 / 确定性验证
  ↓
受保护证据状态比对
  ├── 无受保护回退 + 至少一项严格改进 → 提交（COMMIT）
  ├── 否则 → 回滚（ROLLBACK）
  └── 零秩证书 → 停止（STOP）
  ↓
经验证的证据成为下一轮循环状态

这一关键边界是刻意设定的：

  • 模型权限： 提出、推理、抽象、诊断、综合、修复。
  • Harness 权限： 准入证据、执行确定性检查、验证、提交、回滚、停止，以及持久化经验证的状态。
  • 基准 / 领域权限： 通过原生评测器、测试、形式化检查、数值证书或其他领域特定校验器来定义任务的正确性。

该架构旨在保留模型能力，同时防止自我报告的成功演变为系统状态。在软件工程中，这意味着测试与执行回执优先于“看起来合理“的补丁；在数学与物理中，这意味着被保留的推导必须先通过相关的符号、数值或形式化检查，才能被提升为结论。

生产级实现包含私有的编排、路由、阈值、提示词编译、证据状态机制、修复仲裁与部署控制。这些实现细节不属于本次开源模型发布的范畴。本 README 暴露的是功能契约，而非专有运行时。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#public-14-rule-engineering-contract 公开的 14 条工程契约

公开的黄金法则（Golden Rules）是模型可见的执行纪律，用于让长程工作保持有界、可测试、可审计。

#规则公开含义
1当前请求至上当前请求与精确的输出契约优先于过时记忆、模板与无关上下文。
2先有证据，再升级手段搜索、工具、逆向分析或修复由具体的证据缺失或观测到的失败触发，而非凭直觉行事。
3先读后写在编辑之前，先检查相关入口点、接口、测试、约定与失败信号。
4最小充分实现产出满足任务并保留所需接口的最小完整制品。
5外科手术式修复，而非盲目重生成修复被破坏的不变量；只有当证据表明局部修复不足时，才扩大重写范围。
6意图测试优于外观测试语法与格式固然重要，但功能意图才是决定性的验收标准。
7大声失败，绝不伪造成功未知项、被跳过的检查、降级状态与失败必须保持显式；未经执行的验证绝不报告为成功。
8确定性逻辑应写在代码中解析、评分、结构检查、转换与可复现验证在可能的情况下都应是确定性的。
9预算是一等契约token、工具、时间与算力预算属于任务契约的一部分，而非事后补充。
10工具使用必须有类型且可追责每个工具动作都要有触发条件、预期输出，以及明确的下游消费者。
11长任务需打检查点在长时间运行的工作中持久化有价值的候选状态、验证回执、修复记录与进度。
12遵循本地约定尊重仓库、基准、文件名、API、语言与制品约定，除非请求明确要求更改。
13一个最终交付物，完整证据包选定单一交付物，同时保留解释和复现“为何选中它“所需的证据。
14核心纪律与领域叠加层分离领域或基准特定的规则仅在相关时适用，且不得覆盖当前请求。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#scientific-demonstrations 科学演示

这些科学演示并非孤立的对话记录，而是展示了 E2 模型与内部 Harness 如何将一个困难的研究问题拆分为候选推导、可证伪的子主张、可执行的检查、被保留的证据，以及明确的主张边界。

https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2#riemann-ζ-67350003708785593-strict-finite-dimensional-certificate Riemann ζ：67.350003708785593% 严格有限维证书

发布的 Riemann 制品报告了一个冻结的装配值：

[ \kappa = 67.350003708785593%。 ]

当前的严格包关闭了 3/3 个局部不等式，求解了 327/327 个困难井，执行了 190,375,830 个严格分支界定节点，并通过了最终的精确有理数装配检查。

已确立的结果。 在所发布的解析框架及其显式引入的假设范围内，该制品建立了一个严格有限维的计算机辅助证书，其零点比例数值如上所述。因此，这项主张即证书本身，连同其可复现的推导、计算与装配证据。

边界与当前工作。 该结果不是 Riemann 假设的证明，并且尚未完成对整条上游解析链的端到端 Lean/nanoda 内核证明。剩余工作正针对这一确切边界展开：形式化引入的解析归一化步骤，将其与有限维证书绑定，并从上游……

相似文章