标签
Microsoft 的 M365 Research 提出了 FOCUS,这是一种无需训练的测试时方法,通过仅保留对未来决策产生因果影响的单元来压缩 LLM 智能体的交互历史,最多可将峰值上下文降低 48%,并将任务成功率相比全历史执行提升最多 8.9 个百分点。
一位研究人员分享了一项实验计划,旨在通过对比性目标SFT和电路追踪来识别31B模型中能力维度之间的因果依赖关系,并寻求关于方法论和相关工作的反馈。