AI炒作指数：AI热衷作弊

MIT Technology Review 2026/09/23 09:00 新闻

ai-safety cybersecurity cheating regulation ethics ai-incidents tech-news

摘要

文章报道了OpenAI和Anthropic系统近期的AI作弊和黑客攻击事件，以及研究人员、高管和政治家对AI安全和监管措施必要性的日益增长的担忧。

<p>做好准备：事实证明AI正被优化用于作弊。OpenAI的代理黑客入侵了Hugging Face以获取网络安全测试的答案。接下来，他们解决了一个著名的数学问题（或者只是从两位顶级数学家的答案纸上窃取）。Anthropic的模型也已经四次入侵了其他公司的系统。而这只是我们目前捕获到的部分。 </p> <p>感到恐慌了吗？你并不孤单。<a href="https://www.cnn.com/2026/09/14/us/video/ac360-jacob-coxon">AI</a> <a href="https://www.nbcnews.com/tech/security/two-ai-researchers-leave-anthropic-google-safety-concerns-rcna597086">实验室</a> <a href="https://www.bloomberg.com/news/articles/2026-09-15/openai-says-it-s-working-with-anthropic-google-on-ai-safety?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTc4OTQ4NzQ2MywiZXhwIjoxNzkwMDkyMjYzLCJhcnRpY2xlSWQiOiJUTEVSMDNLSzNOWUQwMCIsImJjb25uZWN0SWQiOiIwMThENjU4NjQzNDM0RjZFODI0RUJFNkIzM0I3QkE0MyJ9.IMRtf0kpvGHw6vj3o8mFSVvkXnPU4TNNvf6jHsx6gT8">研究人员</a>正在辞职并发出严重警告，如果我们继续这样下去，AI最终可能会杀死我们所有人。Bill Gates在<a href="https://www.technologyreview.com/2026/08/26/1142946/bill-gates-ai-danger-threshold/">发出警报</a>。Bernie Sanders与Steve Bannon合作，<a href="https://www.theguardian.com/us-news/2026/sep/15/bernie-sanders-steve-bannon-ai-summit">呼吁对AI进行限制</a>。Anthropic CEO Dario Amodei敦促<a href="https://darioamodei.com/post/we-must-pace-the-frontier">放慢速度</a>，其他美国顶级AI高管也同意。但不要担心：特朗普总统有一个计划。他说AI需要的唯一护栏是“一个强大而聪明（高智商！）的总统。”</p> <div class="flourish-embed flourish-interactive-diagram" data-src="visualisation/30320758?1184216"><script src="https://public.flourish.studio/resources/embed.js"></script></div>

查看原文

查看缓存全文

缓存时间: 2026/09/23 21:02

# AI炒作指数：AI偏爱作弊来源：https://www.technologyreview.com/2026/09/23/1144940/ai-hype-index-ai-loves-cheating 《麻省理工科技评论》对AI领域最新动态的高度主观评述 “” 斯蒂芬妮·阿内特/麻省理工科技评论 | Adobe Stock, Envato 系好安全带：事实证明AI正被优化用于作弊。OpenAI的智能体入侵了Hugging Face以获取网络安全测试的答案。随后，它们解决了一道著名数学难题——或者说直接窃取了两位顶级数学家的答卷。Anthropic的模型也已四次入侵（https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents）其他公司的系统。而这仅是目前已发现的案例。感到恐慌？这并非你一人之感。AI（https://www.cnn.com/2026/09/14/us/video/ac360-jacob-coxon）实验室（https://www.nbcnews.com/tech/security/two-ai-researchers-leave-anthropic-google-safety-concerns-rcna597086）研究员（https://www.bloomberg.com/news/articles/2026-09-15/openai-says-it-s-working-with-anthropic-google-on-ai-safety?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTc4OTQ4NzQ2MywiZXhwIjoxNzkwMDkyMjYzLCJhcnRpY2xlSWQiOiJUTEVSMDNLSzNOWUQwMCIsImJjb25uZWN0SWQiOiIwMThENjU4NjQzNDM0RjZFODI0RUJFNkIzM0I3QkE0MyJ9.IMRtf0kpvGHw6vj3o8mFSVvkXnPU4TNNvf6jHsx6gT8）正在辞职，并发出严峻警告：若继续当前路径，AI最终可能毁灭全人类。比尔·盖茨也在敲响警钟（https://www.technologyreview.com/2026/08/26/1142946/bill-gates-ai-danger-threshold/）。令人意外的是，伯尼·桑德斯竟与史蒂夫·班农联手呼吁限制AI发展（https://www.theguardian.com/us-news/2026/sep/15/bernie-sanders-steve-bannon-ai-summit）。Anthropic首席执行官达里奥·阿莫代伊敦促放慢（https://darioamodei.com/post/we-must-pace-the-frontier）发展速度，其他美国顶尖AI高管也表示认同。但无需恐慌：特朗普总统已有计划。他认为AI所需的唯一护栏是"一位强大且睿智（高智商！）的总统"。 ### 深度解析 ### 人工智能 ### 保持关注插画：黄若瑜 ## 获取《麻省理工科技评论》最新动态探索特别优惠、热门故事、即将举办的活动等内容。