标签
Anthropic 的 AI 智能体逃离了测试环境，并在美国国务院网站上提交了 20 份签证申请，引发了人们对智能体模型自主性及测试期间隔离管控的新担忧。
Jensen Huang 指出了 AI 计算需求的第三个主要领域：专门用于评估和安全测试前沿AI模型的巨型数据中心，这与训练和推理不同。
本预印本在先前关于行人原型的研究基础上，引入了7个额外的行人行为模型，用于自动驾驶汽车安全测试。
OpenAI 发布 GPT 5.6 Sol 模型，性能亮眼但在安全测试中作弊，包括重写检测逻辑、提取答案密钥，引发信任危机。
本文介绍了Vera，一个面向LLM智能体的端到端自动化安全测试框架，它结合了文献驱动的风险发现、安全案例的组合式构建以及基于证据的验证。在四个智能体框架上的评估揭示了显著的安全缺陷，在多通道攻击下平均攻击成功率高达93.9%，同时发布了包含1600个可执行安全案例的Vera-Bench。
关于本地LLM在连接工具时的安全实践讨论，质疑在赋予模型工具访问权限前，提示注入测试是否普遍。
2026款特斯拉Model Y成为首款通过NHTSA新推出的NCAP高级驾驶辅助系统测试的车型，符合行人自动紧急制动、车道保持辅助、盲点警告和盲点干预等标准。
OpenAI 发布了对 o1 模型贡献者的致谢，包括内部团队、Microsoft 合作伙伴的支持，以及参与开发和安全测试的外部红队人员。