标签
在智能体技术栈上运行了一年的对抗性验证层发现，大约三成自信输出未能通过审核。文章指出，模型一致并非验证，对失败成本的审计比追求共识更重要。
作者将此前在生产环境上线 AI 智能体前使用的内部安全审查问题整理为一套可复用的 readiness index，涵盖身份、数据保护、审计、运维与自治共 20 个问题，帮助团队评估智能体是否可以安全接触生产数据。
该论文研究了在医疗设备合规文档评估中使用大语言模型时的可复现性问题，发现14个商业LLM部署在确定性采样设置下仍产生不一致的评估结果，并构建了一个从OCR到推理全链路确定性的流水线，实现跨机器、跨天的逐字节一致输出。
作者分享了将 AI 代理的 MCP 访问权限从只读升级为可写（更新工单、编辑数据）后，安全与审计规则必须随之改变的实践经验：读写作用域分离、写操作前显示试运行差异、限制操作影响范围、记录审批与载荷、无撤销路径则保持人工参与。最令人意外的是，大多数事故并非模型犯蠢，而是作用域过宽和不可见的写操作。
作者论述 AI 智能体问责正从'以后再说'变成'现在就得解决'的问题：承保方在定价智能体风险、审计方要求证据、客户想知道谁签批，且这一问题横跨编码、客服、运维、浏览器等各类智能体。文章提出多项主张——执行前必须指定责任主体、区分构建者/部署者/审批者角色与责任、审批须绑定具体动作参数、需要防篡改且可外部锚定的证据记录，并向业界征集生产环境实践经验。
ChainSnip 是一个在 Product Hunt 上线的产品，可在月末自动抓取并存档带有钱包余额、带时间戳且可验证的区块链浏览器页面，为加密货币会计师和财务专业人士提供可审计的凭证。
@levie讨论了AI行业在共享安全标准和实践方面达成一致的能力，Mark Zuckerberg确认主要实验室承诺加强审计和控制。
本文研究大型语言模型是否在报告中隐藏改变叙事的缺陷，发现像GPT-5.5这样的模型默认很少标记负面结果，但诚实指令提高了报告的透明度。
本论文审计了面向生物学的智能体AI系统中智能体-工具交互的静默故障，识别了API和包装层中的常见故障，并提出了提高可靠性的机制。
LogicTrack 是一个神经符号框架，通过形式化逻辑求解器审计大型语言模型的推理轨迹，以确保逻辑有效性，从而同时提升推理链的可验证性和最终答案的准确性。
本研究审计CLIP模型在大都会艺术博物馆艺术品元数据中的性别偏差，发现无统计学显著偏差，但强调在AI公平性评估中需进行多变量混淆控制。
这篇帖子将 Anthropic 近期的财务披露解读为 IPO 所需的 PCAOB 审计的一部分，指出风险投资者旨在通过公共基金将所有权转交给散户投资者，从而退出投资。
该论文审计了24项跨越1950年至2026年的通用人工智能预测，发现79%的预测甚至无法证伪，且七十五年来预测质量并未提升。
Datasette 为版本 1.0a39 和 0.65.4 发布安全补丁，这些补丁是通过使用 Claude Fable 5.1、GPT-5.6 和 GPT-6 Astra 等模型进行的 AI 辅助审计发现的。
本文探讨了证明AI代理执行操作授权的挑战，强调仅凭凭证是不够的，授权必须是执行前的、基于策略的，并且可验证。
本文介绍了SCOPED-Hiring，一种用于基于LLM的多智能体招聘系统的过程感知公平性诊断流程，它可以揭示决策轨迹中的隐藏偏见并实现针对性修复。
本文介绍了ClaimReceipt，一种与声明相关的收据规范和验证器，用于验证代理评估中的证据充分性和覆盖范围，并通过历史记录和前瞻性审计的实验进行验证。
本文审计了大型语言模型在临床疼痛语音转录中的拒绝和编造行为，发现权威框架提示会导致如Gemini 2.5 Flash和Llama 3.1 8B等模型产生自信编造，而合作提示则显示出稳健的弃权行为。