@gneubig: 我们发现这种 "sidekick" 架构在降低LLM成本方面非常有效,因为它允许你...
摘要
Graham Neubig 分享了一种通过将简单任务委托给较小的智能体来降低LLM成本的 sidekick 架构,并提供了一个使用 OpenHands SDK 的200行示例。这种方法也被用于 Cognition 的 Devin Fusion 混合模型 harness。
查看缓存全文
缓存时间: 2026/06/30 07:41
我们发现这种“副手”架构在削减LLM开销方面非常有效,因为它允许你进行上下文控制,避免在简单任务上花费昂贵的token。这是一个使用OpenHands SDK的200行示例:https://gist.github.com/neubig/412ab8df8e6fd0b2bdf10602d77f9d86…
Cognition (@cognition): Devin Fusion 使用了一种围绕两个理念构建的混合模型框架:
首先,一个“副手”代理:一个较小的代理与前沿代理并行运行。前沿代理委派任务、监控进度,并保留对规划、处理歧义和最终审查的掌控权。
这使得
相似文章
@LangChain: 管理LLM支出变得更难,一旦你的团队开始使用多个代理调用多个模型。没有……
本文提供了一个指南,介绍如何使用LangSmith LLM Gateway来设置和执行成本控制,以管理使用多个LLM代理时的开支。
重新思考多智能体协作:多即是少
本文阐述了基于大语言模型系统中多智能体协作的能力边界,表明仅在特定任务结构中有益,例如具有稀疏依赖关系的长期任务,并提出了SAIGE,一种基于动态图的高效协作机制。
超越LLM:为何可扩展的企业AI落地依赖于Agent逻辑
IBM Research探索了Agent逻辑——诸如知识图谱和程序分析等软件原语——如何引导基于LLM的Agent高效处理复杂的企业工作流,减少幻觉和成本,同时改善结果。
@DailyDoseOfDS_: 一个受框架控制的LLM智能体,清晰解释!大多数人认为这是一个模型加上附加工具。真正的架构…
解释了受框架控制的LLM智能体的反向架构,其中智能被外化到记忆、技能和协议中,围绕一个轻量模型核心,由中介器管理交互。
上下文、推理与层次结构:对抗性POMDP中复合LLM智能体设计的成本-性能研究
在对抗性POMDP(CybORG CAGE-2)中对复合LLM智能体设计进行了一项受控研究,系统性地在五个模型系列中变化上下文、推理与层次结构。主要发现:程序化状态抽象每token产生巨大回报,无推理工具的层次结构实现了最佳绝对性能,并且上下文工程比深度推理更具成本效益。