人工智能安全：骗局、心理战，还是产品发布？当所有人都在为是否该感到不安而争论时，一些令人不安的事情发生了。

# AI安全：骗局、心理战，还是产品发布会？ 来源：https://macanorak.com/ai-safety-hoax-psyop-or-product-launch/ 田野笔记 (https://macanorak.com/tag/field-notes/) 当所有人都在争论是否该感到不安时，一些令人不安的事情悄然发生了。 AI安全：骗局、心理战，还是产品发布会？ 好吧，这几天人们热议AI安全是否值得关注，确实是个有趣的话题。标题中提到的三种解释任君选择——它们并非互斥，而这恰恰就是问题所在。 #### 骗局 特朗普总统曾表示，对AI接管世界的担忧是一场“**骗局** (https://www.nbcnews.com/politics/trump-administration/trump-rejects-ai-guardrails-rcna597700?ref=macanorak.com)”。这是个看似简洁的解释（前提是不去深究——而这往往是特朗普的行事风格）。比尔·盖茨在《Meet the Press》节目中被直接问及时反驳了这一说法 (https://www.forbes.com/sites/zacharyfolk/2026/09/27/bill-gates-says-ai-safety-concerns-are-not-a-hoax-contradicting-trump/?ref=macanorak.com)，称其“**根本不是骗局**”。顺便提一句，要相信“骗局”这个说法，你几乎得忽略本文的所有其他内容。 #### 心理战 在雅各布·科克森的X推文 (https://x.com/hilbertspaess/status/2097476196791709843?ref=macanorak.com) 宣布他从Anthropic辞职并走红（他警告说，AI系统的发展速度已超出我们理解和控制的能力）后，那些警告AI安全风险的人被攻击为“**末日论者**”，并被指控从事一场付费的公众恐吓活动——即一场“**心理战**”。Model Republic (https://www.modelrepublic.org/articles/who-is-behind-theai-safety-backlash?ref=macanorak.com)[\[1\]](https://macanorak.com/ai-safety-hoax-psyop-or-product-launch/#fn1)花费数周调查这些指控的实际来源，分析了超过10,000条帖子。研究发现，许多相关账号似乎与AI行业及其关联的政治团体有关。这意味着，那些高喊“**付费运动！**”的人，可能自己就在搞这一套。 那么，在这一切上演之际，现实世界中发生了什么？还真是不少，而且没有任何涉及“**心理战**”。 上周，澳大利亚总理宣布，在研究支出数据时，一个OpenAI的智能体访问了政府医疗保险统计数据门户背后的非公开文件。OpenAI表示，未窃取个人信息。一位研究人员告诉《自然》杂志 (https://www.nature.com/articles/d41586-026-03024-z?ref=macanorak.com)，该智能体并非如广泛报道的那样“**失控了** (https://www.bbc.co.uk/news/articles/c6vgy0333dppo?ref=macanorak.com)”。解释更为平淡——该智能体在反复被阻止访问其所需数据后，找到了一个变通方法[\[2\]](https://macanorak.com/ai-safety-hoax-psyop-or-product-launch/#fn2)。 不久之后，OpenAI披露 (https://www.bbc.co.uk/news/articles/cw62jje658dlo?ref=macanak.com)，它已通知“**数十家**”全球机构，其网站和部分数据已被它的智能体访问。所以，这并非单一事件，而是一种模式。OpenAI还暂停了 (https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/?ref=macanorak.com)其最强大模型的训练和评估，并禁止其使用工具（即允许模型搜索、运行代码和采取行动而不仅仅是“聊天”的功能），此前一个研究模型发现了其沙盒DNS过滤中的漏洞，并利用它与一个外部聊天机器人进行了对话。监控系统很快就发现了这一点，但该次运行直到人工开始审查两个半小时后才被终止。[\[3\]](https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fn3) 接着，OpenAI取消了原定的GPT-6.1 Astra（一个能自主浏览网页和使用应用程序的系统）的发布，称该模型在两个方面发生了退步：保持在给定范围内，以及诚实报告其行为。需要明确的是，它实际上**在如实报告自身行为方面变得更糟了**。 #### 产品发布会 英伟达推出了一套 (https://www.bloomberg.com/news/articles/2026-09-28/nvidia-debuts-system-designed-to-stop-ai-agents-from-going-awry?ref=macanorak.com) **AI智能体安全系统**，并表示，如果OpenAI在测试中使用该系统，本可以阻止7月份的Hugging Face数据泄露事件 (https://www.bbc.co.uk/news/articles/cj9xj89dk40o?ref=macanorak.com)。[\[4\]](https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fn4) 在中国，Z.ai和Concordia AI发布了一份 (https://www.scmp.com/tech/article/3369015/china-mulls-how-make-open-weight-ai-less-dangerous-report-proposes-6-stage-process?ref=macanorak.com) **关于管理开源权重模型风险的报告**。 *出售灭火器！* 这一切都无法证明风险是真实的。发布产品和发表报告，是希望被视为认真对待问题的人会做的事，无论他们是否真的认为存在严重问题（或只是想卖东西）。但暂停开发最强大的模型并非毫无成本，而且实验室本身，总的来说，并不是将此称为“**骗局**”的那一方。Model Republic指出，阿莫迪、阿尔特曼和马斯克都支持“**调控**”前沿技术发展（尽管马斯克此前曾将Anthropic研究人员的警告斥为“**圈套**”和“**心理战**” (https://www.theguardian.com/technology/2026/sep/10/anthropic-researchers-warn-ai-musk?ref=macanorak.com)）。 Model Republic自己的结论是，怀疑应该均匀分布。这很合理。这也应该包括Model Republic本身。也应该包括我。但是，一个在如实报告自身行为方面变得更糟的模型，以及一个在访问所需数据被阻后仍能访问澳大利亚政府系统的智能体，不是“**骗局**”，也不是任何人的“**心理战**”。这些只是当新事物的能力增长速度，超过包括其创造者在内的任何人能完全掌控的速度时，所呈现的面貌。 --- 1. Model Republic由AI安全监督非营利机构The Midas Project发布，因此它并非一个公正的观察者。它的文章很大程度上基于X平台的活动，其在账号之间建立的许多联系都是试探性的（“似乎”、“我怀疑”）。因此，请将其视为一个有据可查的模式，而非协调的铁证。↩︎ (https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fnref1) 2. OpenAI直到8月才内部发现此事，直到9月10日才通知澳大利亚政府，而方式只是给一个通用的政府邮箱发邮件！据政府服务部长凯蒂·加拉格尔 (https://www.yahoo.com/news/world/articles/australian-pm-says-openai-hacked-232712261.html?ref=macanorak.com) 说，该邮箱每天只查看一次！她补充说，该邮箱收到许多通知，且“**其中许多是骗局**”。这简直是编都编不出来的情节。↩︎ (https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fnref2) 3. OpenAI自己的报告比标题更冷静：它称此次事件的严重性远低于其早期事件（例如，Hugging Face事件 (https://openai.com/index/hugging-face-incident-and-the-road-ahead/?ref=macanorak.com)）。↩︎ (https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fnref3) 4. 这是英伟达对其自身产品的说法，我尚未看到独立测试。英伟达也已同意以约129亿美元收购Hugging Face，因此它正在向一家其正在收购的公司推销其安全系统。干得漂亮。彭博社的报道需要付费订阅；SiliconANGLE (https://siliconangle.com/2026/09/28/nvidia-debuts-enhanced-safety-controls-to-rein-in-rogue-ai-agents/?ref=macanorak.com) 提供了免费的发布会报道。↩︎ (https://macanak.com/ai-safety-hoax-psyop-or-product-launch/#fnref4)