使用 ml-intern 和 DeepSeek v4 Flash 训练了一个提示注入检测器，运行在浏览器中

使用 `ml-intern` + DeepSeek v4 Flash 训练了一个提示注入分类器。DistilBERT，F1 为 99%，ONNX int8，约 65 MB，可通过 Transformers.js v3 在浏览器中运行。你可以在这里试用：[https://huggingface.co/spaces/av-codes/prompt-injection-detector](https://huggingface.co/spaces/av-codes/prompt-injection-detector) \--- 我对提示注入和代理安全感兴趣已久，想看看专用机器学习代理与此类任务中的通用编码代理相比如何。大致过程如下：`ml-intern` 需要一个 HF token 并支持 OpenAI 兼容 API，因此我将其指向 OpenRouter（缺少 GPU 资源）。代理找到了现有数据集：[deepset/prompt-injections](https://huggingface.co/datasets/deepset/prompt-injections) 和 [Shomi28/prompt-injection-dataset](https://huggingface.co/datasets/Shomi28/prompt-injection-dataset)，这简化了事情，因为在此类任务中，构建数据集通常占 95% 的工作。对于 v1，我选择了针对 CPU 推理的 DistilBERT。经过几次参数扫描后，代理启动了完整运行，最终达到 F1 为 95.87%。我还尝试训练了一个 HRM-Text 模型，但代理没有弄清楚，而是设置了 TRM 运行（不同架构，无位置编码）。当我将其引导回 HRM 并给出[正确论文](https://arxiv.org/abs/2605.20613)时，训练脚本未针对我的硬件优化。我花费了 20 美元在 HF 远程训练上使用 T4，但它在第一个 epoch 后出错，因为代理没有遵循论文中的训练流程，使用了错误的优化器/参数，导致参数爆炸。对于 v2，我从 Bordair 找到了一个[更大的合成数据集](https://huggingface.co/datasets/Bordair/bordair-multimodal)并重新训练了 DistilBERT。这就是上面 Space 中的模型。令我惊讶的是： * DeepSeek v4 Flash 通过 API 的总成本不到 5 美元，用于所有代理运行 * 在顺利路径上，代理比预期更省心 * 它在非标准架构上失败 * 它自然倾向于 HF 堆栈，这对这个任务来说没问题，但值得了解 明显的不足：合成数据集意味着训练/测试拆分可能过于相似。这不是一个严谨的科学方法，但这是迄今为止我在使用代理工具时获得的最愉快的机器学习体验。HRM 运行仍在进行中。我很好奇其他人使用这些工具的经验。谢谢！