@DarioAmodei: 1/2 感谢Gavin进行了一场特别深入的交流。我通常不在社交媒体上花太多时间，但我想要…

1/2 感谢Gavin进行了一场特别深入的交流。我平时不太花时间在社交媒体上，但我想在这里参与讨论，因为它真正触及了一场重要对话的核心。

首先，关于监管，我认为“要么通过监管将其集中在少数选定的公司和政治家手中，要么广泛分布”是一种虚假的二元对立。我知道硅谷有一种惯用的简略说法，即监管=监管俘获=权力集中，但我一直认为这是对世界过于简单化的描绘。在这个圈子之外的许多人认为监管是约束企业权力、造福普通人的东西。我也不一定同意那种观点，相反我认为情况很复杂，确实取决于“监管”的具体内容。但特别是我认为，那些秉持“监管=监管俘获=权力集中”框架的人，往往低估了客观公平的制度程序所具有的分散权力的力量。一个粗略的类比是：正式的司法系统有时可能让人感觉沉闷和精英化，但在捍卫弱势个体权利方面，它比另一种选择——暴民正义——要做得好得多。在最佳状态下，制度可以将权力赋予理念而非个人，从而分散这种权力。

这就是为什么Anthropic在制定其政策建议时总是非常谨慎。我们竭尽全力提出的建议，旨在不利于（减缓）前沿AI公司发展的同时，有利于规模较小的竞争对手。加利福尼亚州的SB53（我们支持），甚至是备受诟病的SB 1047（我们态度矛盾），都完全豁免了所有收入或模型训练成本低于特定门槛的公司（SB 53的门槛是5亿美元，1047更低但我们在这一点上有异议）。最近，我们在CAISI和白宫倡导的测试流程，要求对前沿模型进行比非前沿模型更严格的测试——这实际上有利于挑战者。类似地，“Pacing the Frontier”信函的构想（或至少是Anthropic偏好的实施方式）设想调节最顶尖模型的发展速度，同时不限制那些正在追赶的模型。这损害了前沿实验室的商业利益，却帮助了挑战者，包括开放权重模型！

总的来说，我的观点是，AI在结构上就是一种倾向于集中权力的技术，其原因与监管无关（更多是与规模法则的极端影响有关）。开放权重在这方面有一些帮助，但远远不足以解决问题，因为它们只是将集中度部分转移到了拥有最多算力和芯片的主体手中（这些主体大致就是前沿实验室加上可能的硬件供应商）。相比之下，我认为正确的“游戏规则”可以同时做到：（a）应对AI的网络/生物/对齐风险，（b）在制度层面限制前沿AI公司的权力，（c）为开放权重模型留出空间，同时应对它们带来的特定风险。

顺便提一下，我不认为过去几个月的事件“未能导致[我]所偏好的监管路径得以实现”。据报道，特朗普政府采取的这种方法——对前沿模型进行部署前测试，并在开放权重模型接近前沿时也进行测试——是我非常支持的，尽管当然我需要看到具体细节才能确定。我也支持Demis Hassabis关于设立一个类似FINRA机构的想法。这与六个月前的情况形成鲜明对比，当时业内大部分力量仍在推动抢占所有州级监管，并且没有明显的联邦层面的应对方案。

2/2 其次，关于围绕AI的宣传信息。我不同意我的信息传递在负面程度上不成比例的说法。事实上，它在风险和益处之间相当平衡：我为每个方面都写了一篇重要文章，即使在讨论风险的采访中，我也确保经常提到其难以置信的益处，并提出可能的解决方案（最终出现在社交媒体上的我采访的短视频片段，往往不成比例地偏向负面，因为那能吸引点击）。事实上，我写《机器与优雅》（Machines of Loving Grace）一文，是因为我觉得AI行业没有足够描绘出这项技术如何能够从根本上让世界变得更好的鼓舞人心的图景。文章的大部分篇幅致力于反驳对AI在健康和生物学领域潜力的怀疑，并展示为什么我认为在未来大约5-10年内治愈大多数人类疾病实际上将成为可能——尽管这听起来可能很疯狂，对普通人甚至坦诚地说，对生物学家来说也是如此（我曾经就是生物学家之一）。而且，如果你读过我最近的文章（Policy on the AI Exponential），我讨论了如何简化FDA流程的具体建议，以确保海量的AI加速药物不会因监管流程而受阻。我对此深感紧迫：几年前，直接抗病毒药物（索磷布韦）被开发出来，能够治愈95%的丙型肝炎患者，这很可能本可以治愈我的父亲，而他却在那之前不久因该病去世。

我确实同意公众对AI持负面看法（并且这是一个大问题），但我不认为这主要是由我或其他任何AI领导者警告AI风险造成的。我认为这根本上是一场信任危机。我认为普通人不信任公司、政府或科技行业，并且总是怀疑我们在酝酿某种新的方式来坑害他们。这种不信任的原因可以追溯到几十年前，AI只是其最新的体现。我不认为一场光鲜亮丽、带有积极导向的营销活动（有些人主张Anthropic这样做）是赢回信任的方式——在现阶段，说AI将治愈癌症与其说是鼓舞人心，不如说是一个陈词滥调，而且大多数人认为这是一种欺骗。真正有效的是实际治愈癌症。我认为迄今为止，对包括Anthropic在内的AI公司最准确的批评是，我们尚未兑现造福世界的重大承诺。这完全是我们的问题，我认为这才是你应该批评的方向，而不是这些关于信息传递和营销的东西。

然而，我们正在尽力解决这个问题：Anthropic正在生物和医学领域迅速加大投入力度，我们希望能在未来几年内取得令人难以置信的成果，并在未来几个月内看到一些早期曙光。当我们真正取得实质性成就时，全世界都会听到，尽可能大声地听到，我向你们保证这一点。但在那之前，我不愿做出空洞的承诺，与此同时，我觉得有必要诚实地说出AI非常真实的风险以及如何应对它们。在道理上诚实是正确的，而在公众信誉和信任方面，它并不比那种忽视或转移人们对他们本能认为真实存在的风险的关注的方法差，实际上可能更好。