@marfinxx: 斯坦福和MIT的这篇论文真是疯狂 一篇新研究论文证明,围绕……优化Python工具链可以……

X AI KOLs Timeline 论文

摘要

斯坦福和MIT的研究论文表明,围绕LLMs优化Python工具链可以带来高达6倍的性能差距,而无需更改模型权重,类似Meta-Harness的系统能够自动化上下文进化。

斯坦福和MIT的这篇论文真是疯狂 一篇新研究论文证明,围绕LLM优化Python工具链可以带来高达6倍的性能差距,而无需更改模型权重 结果包括:外循环编码代理搜索、对1000万跟踪令牌的无限制文件系统访问,以及自进化上下文架构 执行跟踪日志 → 文件系统grep诊断 → 因果故障隔离 → 外循环代码重写 → 帕累托优化工具链 斯坦福研究人员推出了Meta-Harness,一个自动化系统,用于进化管理上下文、记忆和检索的代码: → 完整诊断跟踪访问 用完整的文件系统访问取代有损的标量分数和简短摘要。一个代理提议器使用grep和cat检查过去迭代的原始执行日志和源代码 → 代码空间中的因果故障分析 系统不是调整提示词,而是隔离混淆的回归,将下游错误追溯到早期的上下文决策,并重写可执行的Python函数 → 4倍令牌压缩与更高准确性 发现的上下文管理策略在比最先进的代理记忆系统提高7.7分的同时,使用少4倍的上下文令牌,收敛速度比传统优化器快10倍 → 跨未见模型的零样本迁移 一个发现的数学检索工具链在五个完全保留的前沿模型上,将200个IMO级别的奥林匹克问题的解决率提高了4.7分 → 假设验证与实证结果 斯坦福假设,带有原始执行跟踪访问的代码空间优化优于压缩提示调优。在生产代理管道上的实际验证证实了这些发现:分类准确性提高了7.7分,而上下文令牌开销骤降75% 围绕模型的代码与权重本身同等重要。自动化工具链工程将冻结的LLMs与自我改进的认知系统连接起来 阅读下面文章的完整分解 ↓
查看原文
查看缓存全文

缓存时间: 2026/08/19 16:44

这篇斯坦福与MIT的论文真是惊世骇俗

最新研究证明:仅通过优化LLM的Python封装层而不改变模型权重,就能实现最高6倍的性能差距

研究成果包括:外循环编码智能体搜索、对千万级追踪令牌的无限制文件系统访问,以及自进化上下文架构

执行追踪日志 → 文件系统grep诊断 → 因果故障隔离 → 外循环代码重写 → 帕累托最优封装

斯坦福研究团队推出Meta-Harness——这套自动化系统能动态优化控制上下文、记忆与检索的代码:

→ 全诊断级追踪访问 用完整文件系统访问替代易失真的标量评分与简略摘要。智能体提案器通过grep和cat命令检查原始执行日志与跨迭代源码

→ 代码空间因果故障分析 系统不再微调提示词,而是隔离混淆型回归错误,将下游异常追溯至早期上下文决策,并重写可执行的Python函数

→ 4倍令牌压缩与精度提升 发现的上下文管理策略以7.7分的优势超越前沿智能体记忆系统,同时减少4倍上下文令牌,收敛速度较传统优化器快10倍

→ 跨未见模型零样本迁移 单一发现的数学检索封装层,在五个完全未参与训练的前沿模型上,将200道IMO级别奥赛题的解题率提升4.7分

→ 假设验证与实证结果 斯坦福假设“基于原始执行追踪访问的代码空间优化”优于压缩式提示调优。生产级智能体管线的实际验证证实:分类准确率提升7.7分,上下文令牌开销降低75%

模型的封装代码与其权重同等重要。自动化封装工程架起了冻结LLM与自进化认知系统之间的桥梁

阅读下方完整解析 ↓

相似文章

来自 Meta 的一篇关于智能体框架(agent harness)优化的优秀论文。Meta-Harness 式的搜索方法只使用一个开发集和一个提议……

X AI KOLs Timeline

# Meta(联合 Duke 与 UC Davis)提出用于智能体 harness 优化的「自改进分支混合」框架 Meta 联合杜克大学(Duke)与加州大学戴维斯分校(UC Davis)提出了一种 **Mixture of Self-Improving Branches(自改进分支混合)** 框架,用于优化智能体 harness(运行框架)。该方法将原本单轨迹的 **Meta-Harness** 搜索拆分为多个**自适应分支**:每个分支拥有不断演进的开发子集(development subsets)和提案策略(proposal policies),并引入一个**路由器(router)**,针对每个输入动态选择表现最佳的分支。 该框架在多个基准上取得了显著提升: - **Olympiad 级别数学任务**:相对提升最高可达 **+34.8%** - **Terminal-Bench 2.0**:提升 **+11.6%** - **SWE-bench Lite**:提升 **+3.8%**