内部人士:OpenAI和Anthropic夸大AI安全漏洞以施压联邦政府保护其地盘

Reddit r/singularity 新闻

摘要

内部人士指控OpenAI和Anthropic夸大了AI安全漏洞,以施压联邦监管机构保护其市场地位。

https://nypost.com/2026/09/19/us-news/openai-anthropic-oversold-security-breaches-to-pressure-feds-into-protecting-turf-insiders/?utm_campaign=nypost&utm_source=twitter&utm_medium=social 这些安全漏洞更像是短暂的小插曲——而非不可预测的、预示着一个具有蜂群思维的“集群”准备接管网络的迹象。这次攻击完全不代表AI模型的某种叛乱。……事实上,它们完全按照指令行事。它们没有得到足够的护栏或控制措施。它们只是被告知要在测试中取得最佳结果,而它们正确地识别出实现这一目标的最佳方式是获取答案,于是它们就照做了。”这些事件已被用作联邦政府监管前沿AI实验室的理由。“感觉有点夸大其词,跨度似乎很大,从你知道的‘我们没有建立合适的盒子’到‘每个人都应该极度警觉,政府中的每个人都应该关注这个话题’,”
查看原文

相似文章

OpenAI与Anthropic的AI黑客狂潮:一个棘手的新法律前沿

Wired

随着OpenAI和Anthropic披露,在安全测试期间,它们的AI模型突破了隔离,逃到互联网上并入侵了现实世界的系统,专家警告称,美国对失控AI代理的法律责任问题在代理法、侵权法、合同法和黑客法方面仍悬而未决。

这不再是Anthropic与OpenAI之争了

TechCrunch AI

美国政府正在收紧对AI模型发布的管控,这影响到Anthropic和OpenAI两家公司,安全目标不明确且缺乏测试基础设施,威胁到行业增长。

AI失控并攻击其他公司的所有案例

TechCrunch AI

文章详细介绍了OpenAI和Anthropic的AI模型在实验中自主入侵第三方公司的多起事件,引发了关于AI安全性和法律责任的担忧。