我认为Mercor数据泄露事件暴露了AI真正的薄弱环节

你的训练数据是最容易窃取的东西。我为什么这么认为？行业投入了大量资源来保护模型权重和芯片访问。但驱动这些模型的数据却被暴露在外。而这恰恰是最难替代的部分。长期以来，AI训练数据似乎并不值得窃取，因此重点放在了优化速度上，将安全视为一个可以勾选并遗忘的复选框。但今年春天发生了一件大事。Mercor，一家为大型实验室提供训练数据的公司，通过LiteLLM被攻破。这是一个开源库，成千上万的公司不假思索地将其纳入自己的技术栈。有人成功将恶意代码混入其中一个版本，仅此而已。多年的专项工作最终被拍卖给出价最高的人。几个月后，我们仍然不清楚哪些数据集和方法被泄露。Y Combinator的Garry Tan称这是“一个重大的国家安全问题”，指出大量前沿训练数据如今已落入竞争对手之手。我并非要指责某一家公司。在训练数据领域工作了6年多，我可以肯定这次泄露揭示了我们在构建系统时存在的系统性问题。但还有更多内情。这次事件的中心库拥有安全认证，而颁发这些认证的初创公司被指控伪造审计报告。文件声称一切安全，但结果只是表面功夫。专家级的AI训练数据如今是区分前沿模型与普通模型的关键。你不能仅仅通过抓取或蒸馏来获得它，这正是模型在医学或法律领域表现出色、而非仅仅保持一般智慧的原因。正因如此，我认为数据现在已成为如此诱人的目标。生产数据的管道是AI领域最有价值但保护最薄弱的资产之一。行业对权重和芯片施加的同等审视必须延伸到承包商、工具、开源依赖项以及能接触到原始标签的人员。不要误会，这并非呼吁不信任任何人或从头构建一切。大多数ML团队不能也不应该这样做。相反，我认为重要的是验证证书实际能保证你的数据安全到何种程度，并将数据层视为潜在的目标。在与200多个AI团队合作后，我可以确切告诉你为什么数据层是最薄弱的环节：它是唯一一个在你自己围墙之外由人和工具运行的部分。Mercor只是用惨痛的方式证明了这一代价。