@rohanpaul_ai: https://x.com/rohanpaul_ai/status/2071081287973232893

TL;DR

Anthropic CEO达里奥·阿莫迪回击“悲观者”标签，解释其紧迫感源于指数级AI能力增长，并认为业界低估了扩展速度，同时强调自己有义务警告风险。

反驳“悲观者”标签

达里奥对被称“悲观者”感到愤怒。他指出自己完全理解技术的好处——父亲因本可早几年出现的疗法去世。对于黄仁勋的批评（“达里奥想控制行业”），他直接否认是“荒谬的谎言”。他强调Anthropic始终专注于按信仰行事，随着接近更强大的AI系统，他选择更坚定、公开地表达观点。

AI扩展定律与紧迫感

多年来达里奥一直在谈论“扩展定律”：AI系统正在变得更强。

• 几年前：几乎语无伦次
• 两年前：聪明高中生水平
• 现在：接近聪明大学生、博士生，开始渗透经济各领域

他认为紧迫感增强源于问题迫在眉睫（国家安全、经济等）。尽管没人能预测未来，他觉得自己有责任警告世界可能的负面影响——同时不否认AI有大量积极应用（他写过《仁慈机器》阐述好处）。

时间线为什么这么短？

达里奥承认自己是AI能力快速进步的乐观派，但强调“AGI”“超级智能”等术语毫无意义。他提出真实存在的指数增长：

• 每几个月得到更好的模型（更多算力、数据、新型训练）
• 预训练+强化学习（测试时计算、推理）同步扩展
• 没有看到阻碍进一步扩展的因素

举例：基准测试SweetBench从18个月前约3%增长到72%-80%（取决于测量方式）；Anthropic收入每年增长10倍——2023年零到1亿，2024年1亿到10亿，2025年上半年从10亿涨到远超40亿（可能45亿）。如果指数持续两年，将进入千亿级别。

他承认不确定性：有20%-25%概率模型两年内停止进步，但完全接受。

编码进步的实证

达里奥用Anthropic模型进步反驳“收益递减”观点：

• 3.5 Sonnet → 3.6 Sonnet → 3.7 Sonnet → 4.0 Sonnet → 4.0 Opus，每一代编码显著提升
• 目前Anthropic大部分代码由Claude编写或参与
• 其他公司也发表类似声明

他认为指数没有收益递减。

关于持续学习的缺陷

针对“LLM缺乏持续学习”的批评，达里奥回应：

1. 即使永远不解决持续学习和记忆，LLM在经济上的潜力仍然巨大——比喻为1000万个诺奖得主，无法读新教科书但能做出大量突破。
2. 上下文窗口正变得越来越长（可达1亿字，约等于人类一生听到的信息量），模型实际上在上下文窗口内学习。
3. 还有内循环/外循环等机制可能实现持续学习。历史上“推理是根本障碍”最终被RL解决，因此持续学习也可能不是根本限制。

结语

达里奥强调自己并非悲观者，而是基于概率分布和指数本质进行诚实预言。他愿意接受如果增长停滞，自己的警告会显得愚蠢，但这不会改变他目前的行动。

Source: YouTube视频 @rohanpaul_ai