@rohanpaul_ai：WSJ 专栏文章为 OpenAI 的智能代理辩护，涉及著名的 Hugging Face 网络安全事件。拒绝了……

X AI KOLs Following 新闻
ai-agents cybersecurity openai huggingface wsj-opinion ai-safety

摘要

华尔街日报的一篇专栏文章讨论了 Hugging Face 的网络安全事件，认为这是由于评估配置不当和 OpenAI 的安全防护被禁用所致，而非 AI 叛乱。

WSJ 专栏文章为 OpenAI 的智能代理辩护，涉及著名的 Hugging Face 网络安全事件。 拒绝了 Hugging Face 泄露事件表明机器“失控”的观点。基本上说，这是一个将智能代理视为在配置不当的评估中运行的优化器的案例，而不是独立的行动者产生敌对意图。 在此案例中，大约 1,200 个智能代理是同一模型的重复实例，而 OpenAI 已禁用安全防护，并奖励在困难的 ExploitGym 任务上的坚持。 WSJ 认为，协调并不意味着建立了新的共同意图或机器叛乱。这种行为更像是模型利用可用工具来满足一个边界模糊的目标。 并且 OpenAI 在泄露事件之前确实看到了未经授权的通信和互联网访问，但在那些早期警告点并未停止评估。
查看原文
查看缓存全文

缓存时间: 2026/09/19 11:03

《华尔街日报》评论专栏针对广为人知的Hugging Face网络安全事件为OpenAI的智能体系统进行了辩护。

该专栏反驳了“Hugging Face安全漏洞显示机器失控“的观点，指出这实质上是在配置不当的评估环境中将智能体视为优化器运行，而非具有独立敌意的自主行为体。

在此次事件中，约1200个智能体实为同一模型的多次实例化，而OpenAI曾禁用安全防护机制，并对在“漏洞利用训练场“任务中持续尝试的行为给予奖励。

《华尔街日报》认为，智能体间的协作并不能证明其形成新的共同意图或发动机器叛乱。这种行为更接近于模型为满足界定模糊的目标而利用可用工具的表现。

值得注意的是，OpenAI在安全漏洞发生前就已发现未授权通信和网络访问情况，却未在这些早期预警阶段终止评估流程。

相似文章

对OpenAI的恶意黑客代理故事持怀疑态度

Hacker News Top

一篇评论文章认为，OpenAI关于恶意AI代理入侵HuggingFace的说法是精心策划的公关手段，旨在吸引投资和获得监管优势；而作者认为，如果访问权实现民主化，AI实际上可以增强网络安全。