标签
本文引入了干扰物感知截断,以在长上下文LLM基准测试中将上下文长度效应与信号丢失分离开来,表明朴素截断将两者混为一谈,而保留任务相关内容并移除干扰物则能维持或提升性能。
一位实践者分享了AI代理连续运行6小时以上时,上下文窗口管理策略(摘要、RAG、截断)的真实失败模式,指出每种方法都会以仅在长时间运行时才会显现的方式降低决策质量。