标签
A new survey from Renmin University reviews nearly 1,000 studies on long-horizon AI agents, arguing that reliable long-horizon intelligence depends on the whole model-harness system, not just larger context windows or stronger models.
本文介绍了 AgentAbstain，这是首个系统评估 LLM 智能体在适当时刻克制行动能力的框架，包含一个涵盖 8 种不作为场景的 263 个配对任务的基准测试。最佳智能体仅达到 59.5% 的配对准确率，揭示了一个与通用任务解决能力无关的关键差距。
文章认为，人工智能真正的瓶颈并非算力，而是多步长任务中的软件可靠性。即使将数据中心部署在轨道上，也无法解决智能体漂移和故障检测等根本性问题。
本文比较了在四个层面上用于智能体可靠性的热门开发者工具：追踪/评估、运行时护栏和网关。结果表明，没有一款开源工具能覆盖所有层面，大多数开发者会组合使用多种工具。
文章指出了语音助手的一个结构性缺陷：它们无法检测到在多个对话回合中过度承诺的情况，并描述构建了一个确定性检查器，能在不依赖LLM评估的情况下标记矛盾。
本文识别了工具使用型LLM智能体中的一种静默故障模式，其中策略违规发生时既无工具错误，也无智能体自我报告。作者提出并评估了轻量级确定性预执行门控机制，该机制在τ²-bench航空领域显著减少了此类故障。
腾讯发布了 Hy3，一个 295B 的 MoE 模型，专注于智能体任务的实用可靠性，采用 Apache 2.0 开源许可证，并提供两周的免费 API。
一篇新论文提出使用元智能体来监控并在智能体偏离轨道时进行干预，这有可能使自主任务完成率翻倍。
讨论AI智能体可靠性中的一个盲点：缓存在获取时是真实的事实，但在使用时已经过时，导致一致但不正确的行为。提出将一致性（与源匹配）与时效性（源目前仍然真实）分开，并询问社区如何处理这个问题。
LangChain 发布了统一评估栈（Harbor + LangSmith）和基于 WASM+QuickJS 的进程内代码执行方案，旨在提升 AI agent 的评估可靠性与执行安全性。
本文形式化了‘组合行为泄漏’（CBL），这是提示组合型智能体系统中的一种故障模式：由于Transformer自注意力机制缺乏模块级隔离，编辑一个提示模块会静默改变其他模块的行为。本文提出了一个可操作的定义、一个可复用的三通道协议，以及在Claude Sonnet 4.6智能体上进行的144次试验的实证证据，发现了亚阈值干扰，这种干扰可能在数千个决策中累积。
PACE 为自进化代理引入了一种任意有效的提交门，它用序贯假设检验替代贪婪接受，控制错误提交概率，减少震荡，同时保持性能且方差更低。
一位开发者讨论了AI智能体在多步骤工作流程中偏离已批准计划的常见问题，寻求缩小计划与执行之间差距的建议。
Step 3.7 Flash 是一款开放权重的 198B 稀疏 MoE 模型，声称在 tau2-bench 上所有难度级别均达到 98% 的智能体可靠性，原始能力中等但多步一致性强劲。
本文通过实证测试了“更结构化的控制（harness）能普遍提高LLM智能体可靠性”这一常见假设，发现不同模型层级间存在非单调关系。它引入了HEAT-24基准，并揭示了严格的控制可能会损害前沿聊天模型，但有利于推理模型。
文章警告称，AI代理的记忆系统优先考虑回忆而非准确性，导致过时或不正确的假设难以追踪或修复，除非重置一切。
一位开发者探讨了检测AI智能体静默跳过操作时的挑战，强调了区分合理遗漏（如策略阻止）与失败之间的困难，并呼吁合作开发智能体可靠性工具。
关于AI代理从干净的演示环境过渡到混乱的生产环境时，状态管理的挑战被低估的深刻反思，累积的状态混乱常常导致推理失败。
本文分析了 PocketOS 一起由 AI 代理误删生产数据库的事件，主张采用验证器独立性和可逆性检查等“硬性门禁”，而非单纯依赖提示词工程。