标签
对396家欧洲金融科技公司公开AI声明的分析发现，只有36%的公司展示了在生产环境中采取真实行动的智能体证据，其余都是Copilot。文章指出，关于生产智能体错误操作的事故处理机制几乎没有公开信息。
SQLite 开发者分享其可靠性经验，源自 DO-178B 航空电子标准，通过 100% MCDC 测试覆盖率确保代码质量，强调“没有测试过就不工作”的理念。
This paper characterizes 'futile reasoning' in large language models, where models produce superficially valid but incorrect reasoning on tasks beyond their capability. They introduce CaRL, a capability-aligned reinforcement learning method that trains LLMs to abstain from futile reasoning while preserving performance.
Introduces CALCoDe, a post-hoc reliability layer for frozen medical vision-language models that mitigates class-tail undercoverage under clinical shift, achieving strong worst-class accepted coverage across multiple dermatology shifts and VLM backbones.
一位开发者反思将 AI 智能体工作流迁移到服务器的经历，发现 systemd、日志、幂等性和故障告警这些枯燥的基础设施问题比智能体本身更重要。
作者回顾了与运行 AI 自动化的人的对话，指出一种模式：在初始审计后放弃验证，这可能掩盖无声的失败。他们征集关于自动化出错却无人注意的具体案例。
作者推测，真正先进的AI模型将表现出一些迹象，例如在负载不断增加的情况下可靠性提高、效率突然提升、性能变快以及重置。
Introduces LayerRAG-Bench, a cross-layer reliability benchmark for agentic retrieval-augmented generation systems, covering 9 fault scenarios and 38,880 records across nine models, with findings that schema normalization fixes schema drift but not stale, unauthorized, or wrong-session evidence.
本文评估了递归权重共享Transformer架构作为参数高效的替代模型，用于半导体热机械可靠性预测，并在小型工程数据集上比较了性能、参数数量和计算成本。
本文讨论软件系统在规模增长时因资源饱和而失效的现象，类比生物系统的极限，并介绍物理资源（CPU、内存、磁盘、网络）饱和和虚拟限制对系统可靠性的影响。
关于AI智能体可靠性的实用说明，主张生产环境中的智能体需要明确的门控机制，包括证据阈值、重试预算和影响评估，而不是仅依赖记忆来确定任务是否完成。
本文介绍了Σ-Mem，一种用于基于LLM的多智能体系统的在线可靠性记忆，它跟踪同伴的历史能力表现及同伴之间的关系，通过谱界实现稳定自适应，并通过残差引导、路由和加权投票来改善协调性。
探讨了为什么在测试用例上表现完美的AI智能体在真实对话中常常失败，强调了分布偏移和过拟合等问题。
本文研究了LLM在保持意义不变的改写下答案的变化，发现实例级行为不稳定（翻转率>23%），单提示准确性掩盖了显著的不一致性，而自我改写策略可以部分恢复潜在知识。
讨论如何将'人类拒绝'视为与'智能体故障'不同的故障模式，这显著影响了AI智能体在生产环境中的可靠性和调试。
本文认为，AI社区过于专注于构建功能强大的智能体，而忽视了在生产环境中可靠部署它们所需的运维挑战，强调了增强可观测性、调试能力和系统稳健性的必要性。
SpaceX表示，飞行测试的成功来自于学习，今天的测试将有助于提高Starship的可靠性，以服务于未来的轨道任务和Starlink部署。
本文警告不要将模型生成的叙述作为AI代理的权威审计日志，主张改为持久化原始工具调用数据，并建议通过简单的差异检查来发现不一致之处。