@johnschulman2：我们热爱开放权重，并计划继续发布开放权重模型和微调工具。但我们不是绝对主义者；滥…

X AI KOLs Following 新闻
open-weights ai-safety model-access fine-tuning research

摘要

约翰·舒尔曼讨论了开放权重AI模型的平衡方法，承认滥用风险是真实存在的，同时承诺继续发布模型，并呼吁对安全访问进行协作研究。

我们热爱开放权重，并计划继续发布开放权重模型和微调工具。但我们不是绝对主义者；滥用风险是真实存在的。以下是我们对安全前行之路的思考，以及实现这一目标所需的研究。来和我们一起做吧。
查看原文
查看缓存全文

缓存时间: 2026/08/03 13:46

我们热爱开放权重，并计划继续发布开放权重模型和微调工具。但我们并非绝对主义者；滥用风险是真实存在的。以下是我们对一条安全前行之路的思考，以及要实现它所需的研究。来和我们一起做这件事吧。

Thinking Machines (@thinkymachines): 不加区分地发布权重并不安全。把强大模型关在少数实验室里同样不安全。

我们认为这两者之间存在一条路径。我们尚未完全探明。我们的新文章涵盖了目前能看到的这部分：我们如何评估 Inkling，以及为什么访问权限应分阶段扩大。

相似文章

开放权重模型的权衡（9分钟阅读）

TLDR AI

对开放权重AI辩论的分析：支持者认为它使AI民主化，而批评者则指出滥用风险；多家大型科技公司签署了支持开放权重的公开信，而Anthropic和特朗普政府的部分成员仍保持谨慎。

开放权重与美国人工智能领导力

Lobsters Hottest

微软认为，开放权重的人工智能模型通过促进竞争、创新以及跨行业的广泛访问，对美国的人工智能领导力至关重要，同时承认了相关的风险。

Anthropic 与中文开放权重 AI 的争论

Reddit r/ArtificialInteligence

Alex Karp 认为，对企业来说，真正的 AI 安全意味着对数据和模型权重的控制，并批评 Anthropic 通过推出与客户竞争的产品来捕获下游价值的策略。文章将开放权重模型之争定位为商业问题而非安全问题。