标签
本文介绍了BAGEN，一个评估LLM智能体预算意识的框架，将预算估计定义为内部预算和外部预算，并形式化了渐进式区间估计。实验表明，强智能体缺乏预算意识，过于乐观，提前停止可以节省令牌，而训练可以改善告警行为。
介绍了TRIAGE，一个在令牌预算下评估大语言模型前瞻性元认知控制的框架，发现它们在跨问题有效分配计算资源的能力上存在显著差距。
本文探讨了分布式大型语言模型（LLMs）如何在设备和云端之间协同工作以应对资源限制的协作智能范式。文章涵盖了垂直方向的设备-云端协作、水平方向的多智能体协作、路由策略，以及在可扩展且可信的协作式人工智能方面的开放研究挑战。