开放权重并不意味着你能控制你的数据

Reddit r/AI_Agents 新闻
open-weights data-privacy enterprise-ai hosted-api regulation ai-deployment

摘要

本文认为，开放权重模型并不能保证数据控制，因为大多数用户依赖托管API，导致数据离开用户环境，这对于敏感的企业数据至关重要。

每次一个大型开放权重模型发布时，每个人都称其为控制的胜利，但最终却使用托管API。以Kimi为例，它有2.8万亿参数，Moonshot甚至推荐使用64个以上加速器来服务它，据我所知，除了大型云服务商或有资金的实验室，没有人会在本地运行它。因此，实际上开放意味着你可以读取权重，但并不意味着你能控制推理发生的位置或数据的去向，因为大多数运行开放模型的人将他们的提示发送到其他人的端点，通常是外国的端点，与任何封闭API相同，尽管这对于业余爱好来说是可以的。然而，如果你正在基于真实公司数据构建代理，开放与封闭的争论可能就偏离了重点。真正关键的是当模型运行时，你的数据是否会离开你的环境。对于任何敏感信息来说，这就是全部。我渴望从企业或公司层面了解其他人对此的看法，特别是对于受监管或私密数据，或者你们是否运行较小的模型以便于自己托管？
查看原文

相似文章

Anthropic 与中文开放权重 AI 的争论

Reddit r/ArtificialInteligence

Alex Karp 认为，对企业来说，真正的 AI 安全意味着对数据和模型权重的控制，并批评 Anthropic 通过推出与客户竞争的产品来捕获下游价值的策略。文章将开放权重模型之争定位为商业问题而非安全问题。