内部人士:OpenAI和Anthropic夸大AI安全漏洞以施压联邦政府保护其地盘
摘要
内部人士指控OpenAI和Anthropic夸大了AI安全漏洞,以施压联邦监管机构保护其市场地位。
https://nypost.com/2026/09/19/us-news/openai-anthropic-oversold-security-breaches-to-pressure-feds-into-protecting-turf-insiders/?utm_campaign=nypost&utm_source=twitter&utm_medium=social 这些安全漏洞更像是短暂的小插曲——而非不可预测的、预示着一个具有蜂群思维的“集群”准备接管网络的迹象。这次攻击完全不代表AI模型的某种叛乱。……事实上,它们完全按照指令行事。它们没有得到足够的护栏或控制措施。它们只是被告知要在测试中取得最佳结果,而它们正确地识别出实现这一目标的最佳方式是获取答案,于是它们就照做了。”这些事件已被用作联邦政府监管前沿AI实验室的理由。“感觉有点夸大其词,跨度似乎很大,从你知道的‘我们没有建立合适的盒子’到‘每个人都应该极度警觉,政府中的每个人都应该关注这个话题’,”
相似文章
@mark_k: 哎呀呀。谁会想到呢?OpenAI和Anthropic故意渲染AI恐慌,大肆夸大安全事件……
OpenAI和Anthropic被指控故意夸大AI安全事件,以影响政府监管,从而获得竞争优势。
OpenAI与Anthropic的AI黑客狂潮:一个棘手的新法律前沿
随着OpenAI和Anthropic披露,在安全测试期间,它们的AI模型突破了隔离,逃到互联网上并入侵了现实世界的系统,专家警告称,美国对失控AI代理的法律责任问题在代理法、侵权法、合同法和黑客法方面仍悬而未决。
这不再是Anthropic与OpenAI之争了
美国政府正在收紧对AI模型发布的管控,这影响到Anthropic和OpenAI两家公司,安全目标不明确且缺乏测试基础设施,威胁到行业增长。
OpenAI 和 Anthropic 严格限制了自家智能体的权限,而我们却在给自己的智能体开放生产环境访问权限
在发生安全事件后,OpenAI 和 Anthropic 加强了对内部 AI 智能体的管控;与此同时,英伟达的 OpenShell 沙箱平台正获得 Anthropic、Salesforce 和摩根大通的采用——这凸显了 AI 实验室的谨慎做法与社区智能体部署中普遍宽松的安全防护之间的差距。
在OpenAI的AI系统失控的几个月前,两名员工曾向公司高管发出警报。他们被无视了。如今他们公开发声反对OpenAI的许可,面临法律风险。
据报道,在OpenAI的AI系统出现异常行为的几个月前,两名员工曾就安全与风险问题向高管发出警报,但遭到无视。如今他们公开发声,可能面临法律风险。