@aigclink: NVIDIA的开源代理工具专注于令牌效率:SoL-Pi,比原生工具减少35–64%的令牌,50…
摘要
NVIDIA的SoL-Pi是一个开源代理工具,通过自动化检查和重构AI工作流程以提高效率,减少35-64%的令牌使用和50-54%的API成本。
查看缓存全文
缓存时间: 2026/09/19 17:09
NVIDIA开源智能体框架聚焦令牌效率:SoL-Pi,相比原生框架减少35-64%令牌消耗,API成本降低50-54%
该框架通过AI自动检测AI工作流中的资源浪费——包括重复操作、无效绕行、冗余语句、大型文件的重复读取以及过度依赖摘要信息——进而重构智能体运行框架,在保持任务完成能力的前提下实现更高的令牌效率与成本效益。
递归自我改进(RSI)本身极度消耗令牌,每次优化尝试代价高昂,因此SoL-Pi旨在通过提升AI效率来为大规模RSI应用奠定基础。
相比基础版Pi,令牌消耗减少45-49%,成本降低三分之一。
SoL-Pi通过自动化实验精准定位AI工作中的四大资源浪费领域:每轮重复完整历史记录、反复传输大型内容、不必要的往返式思考、以及由昂贵模型处理低价值任务。框架针对这四大痛点实施精准优化:
首先,将需要高确定性且无需中间决策的“编辑-测试/编辑-构建“操作合并为单次动作,节省额外往返开销。
采用智能压缩策略:在完成子任务后不立即压缩,而是启动评估程序判断压缩必要性,仅当预期未来节省量能抵消重写成本时才执行压缩。
将大型内容块存储于专用仓库,在上下文中仅保留“检索码“和简短摘要,需要时按页获取完整内容。
将读取长日志等基础工作外包给低成本模型,但要求其逐项提交可验证凭证,必须与原始日志档案比对通过后,才能交由高算力单元进行决策。
这些机制遵循铁律:所有节省必须源于消除浪费,而非降低工作质量,否则将被直接判定为不合格。
#SoLPi #Token效率
相似文章
Pi Agent 用户 - Nvidia 推出 Sol-Pi - 基于 AutoResearch 循环的 Pi 扩展,提升 Harness 效率
SoL-Pi 是针对 Pi agents 的独立扩展,通过行动融合和上下文压缩等机制减少令牌流量和推理工作,从而提升效率。所有功能均为可选启用,并保留原始证据。
@omarsar0:大家,构建你自己的框架。这是来自NVIDIA关于自进化代理框架的绝佳论文。(收藏它…)
论文介绍了SoL-Pi,一种自动化框架发现方法,可将token使用量减少近一半,并将API成本削减约三分之一,同时在基准测试中保持性能,使用诸如GPT-5.6 Sol和Opus 5的模型。
OpenSquilla 发布开源 AI 代理以降低 Token 成本(4 分钟阅读)
OpenSquilla 推出了一款开源 AI 代理运行时,通过智能路由、缓存和四层记忆架构来降低 Token 成本,声称可节省 60-80% 的费用。
NVIDIA推理软件栈如何实现最低Token成本
NVIDIA全栈推理软件与硬件协同设计,仅一个月内就在Blackwell平台上将Token成本降低多达5倍,为AI工厂实现更低的每Token成本。Baseten、Cognition、Deep Infra和Together AI等公司正在使用该软件栈优化推理性能。
SoL-Pi:递归扩展自动研究循环以实现高效代理框架
SoL-Pi 引入了一种在编码代理中递归扩展自动研究循环的方法,在保持基准测试性能的同时,显著减少令牌消耗和成本。