标签
一篇博客文章,解释了在代理型工作负载中,缓存读取成本主导了LLM推理开销,随着每轮重新读取上下文,累计成本呈二次方增长,并建议减少工具调用次数以降低成本。
一条推文重点介绍了一篇CS调查论文,该论文认为更大的上下文窗口是死路一条,而记忆工程——将智能体的记忆视为操作系统——才是将真正的AI智能体与自动补全区分开来的关键,使无状态模型能够自我进化。
A new survey from Renmin University reviews nearly 1,000 studies on long-horizon AI agents, arguing that reliable long-horizon intelligence depends on the whole model-harness system, not just larger context windows or stronger models.
声称GPT-5.6 Sol通过使用规范压缩实现跨多个上下文窗口的推理,在ARC-AGI-3上达到了最先进水平。
这篇文章认为,AI代理架构应从持有全部上下文的单体代理转向一种路由模型,即代理将任务委托给专业化服务,类似于软件从单体架构演进到微服务的方式。
这是一个热门观点,认为上下文窗口分散了对AI记忆真正问题的注意力,这个问题仍未解决,并导致忘记上下文和重复错误信息。
上下文分叉是一种编码代理使用的技术,用于回退对话历史,让开发者能够重用高质量上下文,节省时间和令牌,并探索不同的设计路径。本指南解释了如何有效使用上下文分叉。