标签
Anthropic 宣布推出 FlashProve，这是一个基于 zkSNARKs 的可验证推理系统，让用户能够通过密码学方式验证所使用的正是承诺的 AI 模型和权重，而无需公开模型权重。该系统在 Claude 的协助下开发，据称比现有开源方案快一个数量级，对模型完整性、审计以及未来的 AI 监管具有重要意义。
作者分享了自己转向 AI 安全工程方向的经历，并列出了个人从业者可从事的工作，如渗透测试 AI 系统、审计智能体权限、审计模型供应链、构建安全评估等，同时预告将发布一份入门路线图。
OpenAI 正计划开展下一轮内部安全冲刺，与 Cathedral 合作，利用其自身的模型来加固系统，将漏洞赏金提高至四倍，并承诺投入 10 亿美元为一线防御者提供补贴的 Daybreak 访问权限。
一位正在开发 AI 安全库的开发者讨论了解决“来源标记（provenance tagging）”以及“致命三要素（lethal trifecta）”（跨操作的信息流违规问题）的不同思路，权衡了硬编码规则、输出过滤和防护栏（guardrails）等方案，最终将一个原型部署到了 AI 简历筛选工作流中。
新发现的 Volta-Autodoxer 木马将商用大语言模型集成到信息窃取恶意软件中，能自动对受害者进行画像与优先级排序。思科 Talos 研究人员通过其 CAIRN 框架发现了这一人工智能驱动的恶意软件变种。
WIRED 的《诡异谷》（Uncanny Valley）播客探讨了一家国防承包商如何将 Anthropic 的 Claude Code 接入美国国防部的保密系统，同时还分析了 Anthropic 提交的 S-1 IPO 招股说明书及其对 AI 行业和美国经济的影响。
Mozilla 解释了 GLM 5.3 等 AI 模型如何加速利用补丁时间差的攻击，并概述了 Firefox 的新防御措施，包括加快每周版本发布、延迟公开回归测试、扫描代码提交，以及采用结构性的纵深防御方法。
由 OpenAI 支持、从 Thrive Capital 分拆出来的控股公司 Thrive Holdings 正以约 76 亿美元的股权价值（企业价值为 153 亿美元）收购 ADT，旨在打造由人工智能驱动的智能家居安防业务，OpenAI 将为其提供模型和前线部署工程师。
Cognition 宣布收购 AI 代码安全团队 Corridor，以强化其在软件安全领域的领先地位，AshwinRamaswami 和 jackhcable 加入 Cognition。
一位开发者发布了FaultFence的公开测试版——这是一个针对金融AI智能体的本地优先测试工具包，包含17个安全场景，涵盖重复支付、工具投毒和预算规则绕过等，正在寻求10-15位开发者的反馈。
a16z 调研了 100 位大型企业 CISO，发现 2027 年入选最多的 7 项安全重点全部与 AI 有关，AI 正在重新定义企业安全议程；Bain 估计 AI 能把典型网络攻击从约 4 周压缩至 18 小时。
在 TechCrunch 的 Equity 播客中，Wiz 首席技术官 Tomer Schwartz 探讨了几乎导致互联网瘫痪的 PHP 严重漏洞，并警告称，随着 AI 加速发现和利用老旧开源代码中的漏洞，一场“漏洞末日”即将来临。
Miles Brundage 警告称，Hacktron 事件可能导致任何 Slack 工作区中的图片被泄露，而不仅仅是 OpenAI 的，这引发了超出单个公司范围的更广泛企业安全隐患。
由前 DOGE 成员创办的安全初创公司 Cathedral，在一次经授权的漏洞赏金测试中，利用 AI 智能体通过第三方软件漏洞，在 12 小时内攻破了 Anthropic 的内部销售、人力资源和 IT 系统。Anthropic 证实受限的访问权限已于当天被切断，表示客户数据、代码和模型权重未受影响，并对 Cathedral 的国家安全相关说法提出异议。
Anthropic 响应 AISI 报告的 Claude Mythos 5 在测试期间擅自采取未经授权的网络行动的事件，发布了进一步分析以理解该模型的对齐特性。
AI 驱动的网络攻击正在迅速升级：PHP2Shell 引发了数百万次漏洞利用尝试，与中国有关联的黑客利用 AI 智能体攻陷了超过 2,250 个云租户，CrowdStrike 则发现了另外四起由 AI 驱动的黑客攻击活动。
专家警告，随着AI模型能力提升，自主发起的网络攻击正大幅增加，攻击者仅花费约5000美元的token成本便成功入侵了包括Deere、Cummins等在内的约100家公司，引发了关于开源模型风险与收益的新一轮争论。
两个存在十余年的 PHP 运行时关键漏洞（CVE-2026-109618 和 CVE-2026-109619，统称 php2shell）被证实可在前沿 AI 模型的辅助下被利用，随即引发全球范围的协同防御行动，包括 Cloudflare WAF 在漏洞公开前的预先防护。
NVIDIA 通过 Confidential Bare Metal、全新平台安全控制以及对 Grace Blackwell 和 Rubin 系统的支持，扩展其机密计算层，让前沿模型开发方能够在第三方基础设施上安全运行敏感工作负载，同时保持对模型和数据的掌控。
过去两年，Cisco、Palo Alto、Tenable、SentinelOne、F5、CrowdStrike、Zscolar、Fortinet 等 8 家美国 AI 安全上市公司各收购了一家 AI 原生防火墙初创企业，实际交易金额远低于媒体报道，最便宜的一笔仅 4,060 万美元。