Dario Amodei 论 AI 监管与相关信息传播（5分钟阅读）

# 由 @DarioAmodei 在 Thread Reader App 上发布的推文串 来源：https://threadreaderapp.com/thread/2088758816376807762.html 1/2 感谢 Gavin 提出的深入交流。我平时不太花时间在社交媒体上，但我想在这里参与讨论，因为这确实触及了一个重要对话的核心。 首先，关于监管，我认为“要么通过监管将其集中在少数选定的公司和政客手中，要么广泛分散它”是一种错误的选择。我知道在硅谷有一种简化的说法，即监管=监管俘获=权力集中，但我一直认为这过于简化了世界的真实面貌。许多圈外人将监管视为一种约束企业权力、造福普通人的工具。我也不一定认同这种观点，我认为问题很复杂，具体取决于“监管”的内容。但特别是，那些持有“监管=监管俘获=权力集中”观点的人，往往低估了客观、公平的机构程序所具有的去中心化力量。一个粗略的类比是，正式的法院系统有时可能显得刻板且精英化，但在保护弱势个体权利方面，它比另一种选择——暴民正义——要做得好得多。当机构运作得最佳时，它可以将权力赋予理念而非个人，从而分散权力。 这就是为什么 Anthropic 始终非常谨慎地制定其政策提案。我们努力提出那些既能让前沿AI公司处于不利地位（减缓其发展），同时又能为规模较小的竞争者创造优势的提案。加利福尼亚州的 SB53（我们支持该法案），以及备受诟病的 SB 1047（我们对其态度矛盾），都完全豁免了收入或模型训练成本低于一定门槛的公司（SB53 的门槛是 5 亿美元，1047 更低，但我们对此表示反对）。最近，我们在 CAISI 和白宫倡导的测试流程，也涉及对前沿模型比非前沿模型进行更严格的测试——这为挑战者创造了差异化的优势。同样，“步伐协调”公开信所设想的（或者至少是 Anthropic 偏好的实施方案所设想的）是调节最顶尖模型的发展节奏，同时不限制那些正在追赶的模型。这损害了前沿实验室的商业利益，并帮助了包括开放权重模型在内的挑战者！ 总的来说，我的观点是，AI 从*结构*上就是一种倾向于集中权力的技术，其原因与监管无关（更多是关于扩展规律的极端影响）。开放权重模型对此有所帮助，但远非充分解决方案，因为它们只是将权力的集中稍微转移到了拥有最多算力和芯片的实体（大致是前沿实验室加上可能的硬件提供商）。相比之下，我认为正确的“道路规则”可以同时（a）应对 AI 的网络/生物/对齐风险，（b）在制度层面前沿AI公司的权力，（c）为开放权重模型留下空间，同时也能应对其带来的特定风险。 顺便说一句，我不认为过去几个月的事件“未能促成[我]偏好的监管路径”。据报道，特朗普政府正在采取的方法——对前沿模型进行部署前测试，并在开放权重模型接近前沿时也进行测试——是我非常支持的，当然我还需要看到具体细节才能确定。我也支持 Demis Hassabis 提出的关于成立类似 FINRA 机构的构想。这与六个月前大多数行业仍在推动全面阻止州监管且没有明确的联邦方案形成了对比。 > https://twitter.com/DarioAmodei/status/2088611616577253502 2/2 其次，关于 AI 的公众信息传递。我不认为我的信息传递过度负面。事实上，它在风险和收益之间保持着大致平衡：我各写了一篇主要文章，即使在我讨论风险的访谈中，我也确保经常提及 AI 带来的巨大好处，并提出应对风险的可能解决方案（在社交媒体上流传的我的访谈短片段往往不成比例地偏向负面，因为那样更吸引点击）。事实上，我写《充满爱意的机器》是因为我觉得 AI 行业没有描绘出一幅足够鼓舞人心的图景，来展示这项技术如何能从根本上改善世界。文章的大部分篇幅致力于反驳对 AI 在健康与生物学领域潜力的怀疑，并解释为什么我认为在大约 5-10 年内治愈大多数人类疾病实际上是可能的，尽管这对普通人、坦率地说甚至对生物学家（我曾经就是其中之一！）来说听起来可能很疯狂。而且，如果你读过我最近的文章《关于 AI 指数增长的政策》，我讨论了具体提案，旨在精简 FDA 流程，确保大量由 AI 加速研发的药物不会被监管流程所拖慢。我对此深有体会：我的父亲因丙型肝炎去世，就在直接抗病毒药物（索磷布韦）问世前几年，而该药物能治愈 95% 的患者，很可能也能治愈他。 我确实认同公众对 AI 持有负面看法（这是一个大问题），但我认为这主要不是由于我或其他任何 AI 领导人对 AI 风险的警告造成的。我认为这根本上是一场信任危机。我认为普通人不信任公司、政府或科技行业，并且总是怀疑我们在策划某种新方式来坑害他们。这种不信任的原因可以追溯到几十年前，而 AI 只是其最新的表现形式。我不认为一场光鲜亮丽、带有积极色彩的营销活动（有人主张 Anthropic 这样做）是赢回这种信任的方式——到目前为止，说 AI 能治愈癌症更像是陈词滥调而非鼓舞人心，大多数人认为这具有欺骗性。真正有效的方法是*真正治愈癌症*。我认为，对包括 Anthropic 在内的 AI 公司最准确的批评是，我们尚未兑现造福世界的重大承诺。这完全是我们的问题，我认为这才是你应该做出的批评，而不是所有这些关于信息传递和营销的东西。 然而，我们正在尽最大努力解决这个问题：Anthropic 正在生物和医学领域迅速加大投入，我们希望在未来几年看到令人难以置信的成果，并在未来几个月看到一些初步的曙光。当我们真正取得实际成果时，全世界都会尽可能大声地知道，我向你保证这一点。但在那之前，我不想做出空洞的承诺，同时我觉得有必要坦诚地谈论 AI 非常现实的风险以及如何应对它们。从原则上看，诚实是正确之举；从公众可信度和信任的角度看，它并不比那种忽视或转移人们对他们本能认为是真实的风险的注意力的做法差，甚至可能更好。