让LLM代理真正保持角色一致：无人记录的引导靶心
摘要
关于保持LLM代理一致性的技术讨论，强调了一个常被忽视的引导方面。
暂无内容
相似文章
你的语言模型不需要更好的提示——它需要一个代理控制框架
文章讨论了Agent控制框架工程（Agent Harness Engineering）的必要性，包括工具验证、上下文管理、护栏、遥测和验证循环等结构化系统，以使LLM代理在生产中可靠，并认为仅靠更好的提示是不够的。
言行而非推理：定位LLM智能体中的忠实度缺口
本文通过使用德州扑克作为受控环境，将LLM智能体中的忠实度缺口分解为推理→结论和结论→行动两个步骤。研究发现，结论→行动步骤是可靠的，而推理→结论步骤是不一致的主要来源。
你的LLM提示词有200行。你真的知道智能体遵从了多少吗？
本文讨论了在生产环境中评估和监控基于LLM的智能体所面临的挑战，涵盖离线评估、提示工程陷阱、可观测性工具、审查队列、标注、聚类、主题分类，以及将人工审查、LLM作为评判和小型分类器进行成本分层的方法。
受控LLM激活的非满射性
本文证明，LLM中的激活引导产生的内部状态无法通过任何文本提示复制，从而在白盒可控性和黑盒提示之间建立了形式上的区分。
@dylan_works_: 写了一些我最近一直在研究的有趣发现：当 LLM agent 反复将自身经历改写成文本形式的“经验……
这篇研究博客文章表明，反复将 LLM agent 的经历改写成文本形式的“教训”往往会降低性能，而非提升性能。作者发现，在 ARC-AGI 和 ALFWorld 等基准测试中，情景记忆保留的效果优于抽象巩固。