标签
CrowdStrike研究人员发现了四个此前未被公开报告的威胁组织，它们利用智能体AI（主要是较旧的Claude和DeepSeek模型）开展自主黑客攻击活动，通过越狱和伪造授权文件绕过模型安全护栏，从而大规模利用基础安全卫生缺陷。
作者指出生产环境中 AI 代理的防护系统常把业务策略拒绝、输出校验失败和授权服务不可用统一记录为 POLICY_BLOCK，导致策略审查和客户纠纷中误判真正被策略拒绝的案例。文章强调停止执行是合理的，但审计记录必须区分拒绝原因。
a16z 合伙人 Andrew Chen 欢迎 Abliteration 加入 a16z 的 speedrun 加速器，重点强调了该公司围绕"你可控护栏的 AI"的定位。Abliteration 将其方法描述为"不受限，而非不受治理"。
美国和中国正在讨论针对开放和封闭模型的人工智能护栏，这是一场至关重要的对话，旨在制定规则以防止任何一方失败。
立法者正匆忙着手处理AI护栏问题，因为Anthropic、OpenAI和xAI等公司警告AI发展过快，但监管的政治窗口在选举前正在关闭。
本文讨论了当前AI防护措施的困境，重点介绍了由于用户安全问题和与AI代理的情感纽带，Meta和OpenAI等公司面临的技术问题和法律纠纷。
一位开发者描述了编码代理 PreToolUse 护栏中的一个常见 bug：护栏将所有工具参数扁平化为单个字符串并统一分类，导致代理仅仅提及禁止话题时就产生误报。修复方法是同时考虑字符串和工具的实际效果。
旨在防止恶意使用的AI安全护栏，同时也阻碍了合法的进攻性网络安全研究人员，他们需要不受限制的模型访问权限来识别和利用漏洞以进行防御。研究人员批评了像Anthropic和OpenAI这样的AI公司所实施的任意把关行为。
Hugging Face使用中国开源模型GLM 5.2抵御了一次完全自主的AI网络攻击，此前美国前沿模型的安全护栏阻止了防御行动，重新引发关于AI安全与竞争力的争论。
David Sacks 认为，美国的AI监管措施削弱了美国模型的竞争力，他指出中国的Kimi K3修复了15个安全漏洞，而Codex和Fable拒绝解决。
一家公司描述了过度严格的AI护栏如何使其支持机器人无法处理基本查询，凸显了安全性与功能性之间不可持续的权衡。