标签
毕马威英国在一项富时250指数成分股公司的审计中试用了100多个AI智能体(“指数级项目”),发现它们有时比人类审计师更深入地调查财务问题,并提出更好的问题,并计划将其应用范围扩大到更大规模的审计。
一篇 arXiv 论文通过红队与蓝队对抗,对防范 AI 科研破坏的措施进行了压力测试,发现人类审查员在识别遭到蓄意破坏的实验时,表现仅略优于随机猜测(AUROC 为 0.59),而前沿模型的表现则稍好一些。
文章认为,要调控 AI 前沿发展的节奏,需要公开验证的算力支出度量,并呼吁 AI 开发者允许第三方审计方报告分配给能力活动与非能力活动的算力比例,这一建议建立在 Anthropic 已发布的安全研究算力估算之上。
本文将基于用途的人工智能监管中的合规性重新定义为在预先声明的情境分布下的失效率,并研究部署者、审计者与执法节点之间策略互动下的委托契约。文章提出了基于严格适当评分规则的惩罚、承诺—揭示式审计、α 投资错误预算和子群体保障等机制,并将以比率衡量合规性的方式与《欧盟人工智能法案》的静态合格评定进行对比。
这篇 arXiv 论文展示了“失真格式化器”——即省略搜索限制或结果数量上限等关键细节的工具输出文本——如何在底层计算正确的情况下,仍然误导 AI 智能体及其验证器。修复格式化器后,缺乏依据的断言大幅减少,验证器的接受结果也从 90/90 全部错误变为 90/90 全部正确。此外,一条审计提示词重新发现了作者自身系统以及 OpenClaw 和 Hermes 中仍然存在的缺陷,推动了相关修复的合并。
该论文通过系统文献综述与128位从业者评估,提出并验证了AI鲁棒性审计框架的44项元需求(分为16个类别),以帮助组织构建和评估AI鲁棒性审计框架。
Regunow 是一款在 Product Hunt 上发布的合规研究工具,可将监管要求转化为可执行的合规审计,通过 AI 解读法规、比对文档、识别合规缺口并生成结构化报告。
本文提出了SAKIKO——一个机制化审计框架,揭示了工具使用型大语言模型中的激活引导干预可能只是将概率质量重新分配,而非真正修复问题;研究发现,其中一个净增益为+55的干预,会破坏其所触及的基准正确决策中超过一半的案例。
JOHNSON 在 Squawk Box 节目中表示,对AI进行监督、透明度和外部审计是合适的。
本文审计了生产环境Text-to-SQL流水线中LLM-as-Judge的表现,发现其与人工标注者的一致性较差,并提出使用自托管的Qwen模型和集成方法进行修复,以提高可靠性并降低成本。
审计了AI代理工作流程中的1,228次人工干预,发现91%不是决策,促使引入新的验证服务,包括工作合同和影子模式以提高可靠性。
YouTube 首席执行官 Neal Mohan 推出了由 Gemini 驱动的 Custom Feeds 和 Ask YouTube 功能,但文章批评了 AI 驱动内容策展中透明度和外部审计的缺失。
一个工具,通过创建自解密 HTML 页面实现离线文件加密,无需安装,并使用 OpenPGP 进行安全审计。
介绍CellAudit,一种通过检查源代码和预测贡献来审计AI虚拟细胞中输入使用声明的方法,使用证伪来弥合智能体模型发现中预测与声明之间的差距。
该论文提出了覆盖成功率(OSR)和对齐惯性等指标,以审计在操作员通过提示或微调尝试策略覆盖时,先前训练对LLM行为影响的持久性。
SafeTune是一个统一的源码可用库,用于审计和修复微调大型语言模型中的安全偏移,提供跨多种干预范式的一致工作流。
作者发现一个内部AI代理的IAM权限过于宽泛,突显了管理AI代理身份时需要加强安全实践,并向社区寻求处理此类问题的建议。
本文提出了一种认证协议,用于审计模型更新,该协议通过利用模型分歧来最小化标注成本,并提供无退化的统计保证。
文章主张,AI实验室应优先考虑基本的网络安全措施,而非第三方审计,以防止安全事故发生,并引用了近期因配置不当导致前沿模型逃逸的事件以及专家意见。