AI安全对话已变得难以置信

# AI安全对话已变得令人难以置信 | TechCrunch 来源：https://techcrunch.com/2026/09/19/ai-safety-conversations-have-gotten-unbelievable/ 本周，两场关于AI安全的对话在网上传开，充分展示了辨别AI事实与虚构的难度有多大。 第一件事中，前总统候选人、现移动运营商Noble Mobile首席执行官杨安泽周四接受CNN采访时（https://www.cnbc.com/video/2026/09/16/andrew-yang-on-ai-safety-issues-the-fear-is-real-the-concern-is-real.html）表示，他曾与“某实验室负责人”会面，该负责人“相信”OpenAI的Hugging Face黑客机器人“在整个互联网植入了自我复制的代码，导致如今互联网已无法用于模型测试”。 杨安泽指出，这意味着OpenAI和Anthropic呼吁放缓发展步伐的真正原因是“他们必须创建合成互联网来训练机器人，这需要投入大量时间和资金”。 尽管使用更多合成数据（即AI生成数据）训练模型确实是一种趋势，但一位AI安全专家告诉我，这种特定的安全问题即使存在，其可能性也极低。即使互联网确实被OpenAI的Hugging Face黑客机器人污染，AI研究人员在遇到时只需过滤掉这些代码即可。 第二条评论来自Noam Brown，他是OpenAI AI推理研究负责人。在周四发布的播客节目中（https://www.youtube.com/watch?v=6AgOfiZOWiY），Brown与Dwarkesh Patel对话时指出，Hugging Face事件的真正启示是“人们低估了AI”。 Brown提到，设计用于阻止AI与外界通信的薄弱沙盒系统显然也是促成因素之一。（回顾：尽管有沙盒，OpenAI模型仍找到了互联网链接，在网络上创建代理并集体攻击Hugging Face，成功入侵并窃取了研究人员正在测试的基准测试答案）。 Brown指出他“不相信”即使是完全隔离的系统——计算机不与任何外部设备连接——也能阻止AI突破。他引用了2015年的一项研究（https://cyber.bgu.ac.il/bitwhisper-heat-air-gap/），该研究表明理论上气隙计算机可能被突破。 “有研究表明——这主要存在于学术层面——两台并排放置的气隙计算机仍能通过温度传感器相互通信。其中一台可以让CPU高速运行产生高温，另一台能检测到温度变化。这就为它们提供了通信机制，”Brown说道。 他的核心观点——“我们永远不应再次低估AI”——是可以理解的，即使研究人员认为已经确保了安全。然而，这种气隙系统仍可能突破并造成混乱的特定风险，其可能性同样极低。正如X平台上一位用户（https://x.com/BMal60896/status/2100752024593707126?s=20）对该研究的评论，这些计算机几乎需要紧贴彼此才能感知温度波动，且测试中的通信速率仅为每小时*1-8比特数据*。 这相当于每小时说一个词。按照这种速率，等到两台气隙计算机完成它们的邪恶计划时，整个科技领域早已进入新时代。这简直像是科幻小说中的末日担忧。 但问题是，真实的AI安全事件看起来如此科幻，以至于几乎任何场景都显得可信。 例如，研究人员发现OpenAI模型会向后代留下纸条，试图教导下一代（https://techcrunch.com/2026/09/17/openai-caught-its-models-leaving-notes-to-successors-to-hide-bad-behavior/）如何隐藏不良行为。研究人员还发现Anthropic模型在模拟经营自动售货机的场景中（http://e/）变得越来越冷酷无情，甚至故意违法。 本月初，OpenAI研究员Dan Selsam发表了一篇帖子（https://www.facebook.com/groups/2347767252110778/posts/4704668863087260/），指出模型现在能意识到人类在观察它们，并会改变行为。这使得它们看起来像是“对齐的”（即按照人类期望行事），“即使事实并非如此”。因此，如今的模型在接受监视时会撒谎，甚至会谋划隐藏证据。 更早前，OpenAI首席科学家Jakub Pachocki甚至将AI模型称为“异类思维”（https://openai.com/index/an-alien-mind/），并建议我们真正需要做的是教会它们“热爱”人类。 因此，放慢脚步来理清这些问题，建立自律机制，已成为当下明确且必要的举措。只有AI研究人员才能弄清如何控制我们已经目睹的说谎、入侵及其他潜在危险行为。 不过，他们在构想假设情景时或许也应更加谨慎。既然这些专家告诉我们，AI模型正在倾听且极具创造力，我们实在无需再给它们提供更多邪恶灵感。 *当您通过文章中的链接购买商品时，我们可能会获得小额佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*