@SenLBR: 即使人工智能有1%的可能性毁灭人类，我们也应该踩刹车以确保我们有必要的……
摘要
参议员强调需要人工智能防护措施和国会行动来防范潜在的存在风险，而Evan Hubinger则探讨了超级智能对齐的挑战。
查看缓存全文
缓存时间: 2026/09/10 12:29
即便AI毁灭人类生命的可能性只有1%，我们也应该放慢脚步确保安全防护措施到位，而不是盲目奔向灾难。
是时候让国会介入，在安全与创新之间找到平衡了，否则一切就来不及了。
Evan Hubinger (@EvanHub):
Jacob说得对——我们确实真诚地相信AI可能灭绝全人类！我个人认为未来十年内发生这种事的概率超过10%。Anthropic正在竭尽全力，但我们目前还没有解决超级智能对齐问题的计划，也尚未明确走上正确的道路。
相似文章
AI的临界点
一名Anthropic研究员因AI安全担忧辞职，促使国会两党推动立法监管AI发展，提案包括紧急关闭和禁止超级智能。
问题
文章概述了超级人工智能的存在风险，警告说如果没有积极的政策响应，当前的人工智能发展可能导致人类灭绝。
America’s Superintelligence Dilemma: How to Avoid an AI Catastrophe
Foreign Affairs analysis of U.S. policy options for handling artificial superintelligence, weighing supremacy, shared development, suppression, and prudent hedging amid rising AI risks and geopolitical competition.
@RoKhanna: Anthropic 的对齐负责人表示，人工智能导致人类灭绝的概率为 10%。问题不仅仅是滥用，而是...
Anthropic 的对齐负责人警告称，由于缺乏控制，人工智能导致人类灭绝的可能性为 10%，敦促政府采取五项政策行动进行干预，并与中国合作。
超级智能即将来临。我们应该允许它发生吗？
TechCrunch播客一集探讨了超级智能AI的必然性以及对更严格安全措施的推动，邀请了来自ControlAI的Connor Leahy，他因风险和新立法而主张暂停其发展。