@arXivBangers:TinyAstral:将自进化框架迁移至微型通用操作智能体 TinyAstral 演化教师的……

X AI KOLs Timeline 论文

摘要

TinyAstral 通过带有统计验收测试的递归自我改进,演进冻结教师模型的智能体框架,再将改进成果蒸馏到一个 40 亿参数的学生模型中,仅用约五分之一的加速器时间,就在 RoboTwin 上取得了与教师模型相当的成功率(62.8% 对 63.6%)。

TinyAstral:将自进化框架迁移至小型通用操作智能体 TinyAstral 对教师模型的框架进行演化,再将其蒸馏到一个 40 亿参数的智能体中,仅用约五分之一的加速器时间,就能在 RoboTwin 上达到与教师模型相当的成功率。 https://t.co/lhKx4d5BB8 https://t.co/MFXFXaOPrm
查看原文
查看缓存全文

缓存时间: 2026/11/02 08:07

TinyAstral:将自进化运行框架迁移至小型通用操作智能体

TinyAstral 先演化教师模型的运行框架,再将其蒸馏为一个 4B 智能体,仅用约五分之一的加速器时间,就能在 RoboTwin 上达到与教师模型相当的成功率。

https://t.co/lhKx4d5BB8 https://t.co/MFXFXaOPrm


TinyAstral:将自进化运行框架迁移至小型通用操作智能体

来源:https://arxivb.org/abs/2610.41216 [提交于2026年10月30日]

入选快照保存于11月1日 22:45 PT。标题、作者、摘要和提交日期在此处已固定。

Kehong Gong, Xiaoxu Zheng, Guanli Hou, Seunghun Lee, Mengqi Guo, Runjia Tan, Zhengyu Wen, Qi Wang, Xiaoyu He, Mingyuan Zhang, Michael Bi Mi

获评时间2026年11月1日 晚上11:14 PST

83/100编辑评分 (https://arxivb.org/abs/2610.41216#selection)

TinyAstral 先演化教师模型的运行框架,再将其蒸馏为一个 4B 智能体,仅用约五分之一的加速器时间,就能在 RoboTwin 上达到与教师模型相当的成功率。

等待24小时统计数据

摘要

基于视觉语言模型构建的机器人智能体,既依赖规划器,也依赖其运行框架:即围绕规划器的工具、反馈、记忆和故障恢复逻辑。对大型教师模型运行框架的改进,能否迁移到推理计算成本更低的紧凑型智能体中?我们提出 TinyAstral,一种两阶段方法。首先,我们冻结一个开放权重的教师模型,并通过递归自我改进 (RSI) 优化其运行框架:前沿大语言模型智能体读取教师模型的轨迹并提出框架修改方案,每项修改只有通过配对统计检验才会被接受。随后,我们冻结最终的运行框架,收集包含推理和故障恢复过程的教师轨迹,并蒸馏出一个小型学生模型,在同一框架中替代教师模型。在 RoboTwin 上,框架演化将教师模型的成功率从33.4%提升至63.6%;最终的 4B 学生模型达到62.8%。在四个运行框架版本中,蒸馏得到的 4B 学生模型得分均接近各自对应的教师模型,而且后续版本产生的学生模型更强,表明框架演化带来的收益可以迁移至紧凑型模型。这些框架改进也能迁移至其他冻结的规划器,无需重新训练。在相同的评测回合中,最终的 4B 学生模型优于开放的 4B 智能体、开放的 27B 框架 RSI 模型 SenseNova-RoboRSI,以及置于三个竞争方法运行框架中的我们自己的教师模型。它在全部三个训练基准上均接近教师模型的表现;在从未用于 RSI 或训练的另外三个基准上,其得分也接近使用同一运行框架的 552B 规划器。在测量的部署回合中,它使用的加速器时间约为教师模型的五分之一。

编辑评估

83/ 100

对标题、作者和摘要的自动评估。评估可能有误。此评估随入选记录一并保存。

核心思路本文将智能体优化拆分为两个步骤:先利用更大的教师模型和验收测试,递归演化智能体的运行框架 (工具、上下文、恢复逻辑),再将教师模型在优化后框架内产生的轨迹蒸馏到一个参数量为 4B 的紧凑型学生模型中。意义所在对于在智能体工作流中面临推理延迟和成本难题的开发者,这提供了一套清晰的架构方案:先演化智能体的支撑框架,再将由此产生的高质量轨迹蒸馏到适合边缘设备规模的模型中,而非直接微调大型模型。评分者观点这里的核心洞见非常出色:先将智能体支撑框架本身视为可演化的软件产物,再把策略蒸馏到轻量模型中。多数蒸馏流程会固定提示词或工具,仅压缩模型权重,但先迭代运行框架逻辑似乎能带来巨大收益。尤其令我印象深刻的是,4B 学生模型保留了演化后框架几乎全部的收益,同时将计算量降低了约80%。保留意见摘要未详细说明负责修改运行框架的前沿大语言模型具体是什么,也未说明统计验收测试对仿真与物理世界之间的领域偏移有多敏感。下一步应核查什么查看实际发现了哪些类型的框架修改 (例如,提示词调整还是复杂的工具编排),以及评测是否涵盖真实世界的机器人,还是严格限于 RoboTwin 这样的仿真基准。讨论切入点对于特定的智能体循环,优化智能体周围的软件支撑框架,是否比扩大基础模型参数量更能提高性能上限?评估置信度:中等· 评估于11月1日 19:12 PT

评分者:Gemini 编辑判断· v2.0.0作者arxivbangers 贡献者方法editorial-v2指纹ead79b0bec93c81d487bfa06d5188d7edbd2e5faa3fb2c4506e2d88a5d36002b

讨论

相似文章

面向长时程终端Agent的Harness自进化

arXiv cs.AI

论文提出了由腾讯与多所高校联合研发的RiseHarness框架,该框架在保持模型权重不变的前提下,通过迭代优化智能体的Harness来处理长时程终端任务,分析成功与失败的执行记录,逐步整合更优的执行机制。

@omarsar0:Microsoft 及其合作者发表了一篇关于演进智能体框架(agent harness)的新论文。从已发表的研究中演进框架是一个非常棒的想法——这也是我过去几个月一直在测试的方向。

X AI KOLs Timeline

来自 Microsoft 和 UCSB 的研究人员提出了 ScholarEvolve 框架,通过挖掘已发表的 AI 研究中的改进策略来演进智能体框架,在模型保持不变的情况下,在 AppWorld 和 Tau2-Bench 上取得了显著提升。