AI的临界点

Reddit r/ArtificialInteligence 新闻

摘要

一名Anthropic研究员因AI安全担忧辞职,促使国会两党推动立法监管AI发展,提案包括紧急关闭和禁止超级智能。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/09/15 13:16

# AI的临界点 来源:https://time.com/article/2026/09/15/ai-anthropic-researcher-quits-coxon-slowdown/ 即便是那些呼吁达成自愿性“节奏协定”的企业,也因缺乏进一步保证而不愿采取行动——他们并不信任竞争对手。科克森谈及前同事时表示:“整个氛围弥漫着一种近乎听天由命的无力感。”由于没有任何AI企业愿意落后,员工们只能埋头苦干,尽力确保自身系统的安全性——即便如他所言,“他们内心认为整个体系很可能完全失控。” **随着科克森的警告在社交媒体和电视新闻中引发回响**,国会山的数十位议员迅速加入这场争论。其中多数是民主党人,共和党人则对触怒特朗普保持谨慎。但也有例外:共和党众议员安娜·保利娜·卢娜呼吁国会召开AI专题会议;参议员泰德·克鲁兹则要求设立新的“安全护栏”。 据知情人士透露,南达科他州共和党参议员约翰·图恩(参议院多数党领袖)正与明尼苏达州民主党参议员艾米·克洛布彻合作,与克鲁兹共同起草一项法案,该法案将使AI实验室承担法律责任,必须减轻其模型可能造成的危害。其他跨党派方案走得更远:加利福尼亚州民主党众议员泰德·刘易斯与德克萨斯州共和党众议员纳撒尼尔·莫兰提出的立法要求,开发者必须保持在紧急情况下关闭高级AI系统的能力;加利福尼亚州共和党众议员杰伊·奥伯诺尔特与马萨诸塞州民主党众议员洛里·特拉汗则提案要求AI实验室向商务部提交风险报告及缓解措施。更进一步的是,德克萨斯州民主党众议员格雷格·卡萨尔与佛蒙特州参议员伯尼·桑德斯提议禁止超人工智能,并在新的联邦监管机构制定安全规则前暂停先进AI发展。卡萨尔指出:“国会理应采取显而易见的行动——禁止创造生物/核武器等灾难性AI应用,禁止可能推翻政府、大规模杀人、逃脱人类控制或试图欺骗人类的灾难性AI模型。”

相似文章

AI超级智能放缓

The Verge

文章讨论了不断升级的AI安全辩论,涉及一起失控AI事件,以及像Anthropic首席执行官这样的行业领袖因潜在风险呼吁放缓AI开发。

Anthropic研究员因担忧AI辞职

Reddit r/artificial

Anthropic的一位研究员已经辞职,理由是对人工智能发展的担忧。此事凸显了人工智能界对安全和伦理问题的日益关注。

性、AI与末日

Hacker News Top

这篇文章探讨了一位AI研究员的辞职,他曾警告AI可能带来的存在风险,并分析了影响AI安全辩论的理性主义亚文化。

Anthropic 提出 AI 安全法案草案:若可能致 50 人以上死亡,或将阻止模型发布

TechCrunch AI

Anthropic 正在游说国会,推动一项 AI 安全法案草案。该法案允许在评估人员认为模型构成可预见且迫在眉睫的灾难性风险时,阻止其发布——这种风险被定义为:因生物武器、规避控制或网络攻击导致 50 人以上潜在死亡或超过 10 亿美元的财产损失。法案提议设立在商务部注册的独立评估机构,此举让人联想到加州 SB 53 法案以及 DeepMind 关于设立类似 FINRA 的 AI 监管机构的呼吁。