微调 Cactus Needle 2 可在特定任务上匹配 DeepSeek v4

嘿 LocalLlama，我是 Cactus 的 Henry！在训练 Needle 2 时，我严格规定不向模型暴露任何感觉像这些基准测试的数据样本。这看似过度，但基准测试容易过拟合，而在实际使用中效果不佳，尤其是因为我们量化到 2-bit。数字可能看起来亮眼，但现实世界的意图匹配会大打折扣。然而，我们开放了一个 Playground：https://cactuscompute.com/needle，供用户找出适合他们的方案，然后使用 Python 库 https://github.com/cactus-compute/needle 进行微调，前提是问题空间受限。微调完全在您的 Mac/PC 上几分钟内完成。为了展示这一点，当我们为每个任务微调后，Needle 2 在这些特定任务上超越了 DeepSeek v4 Flash。当然，通用模型承担着学习广泛语言分布的负担，这些结果必须在这一背景下解读。运行 Needle 2 的产品几乎总是这样做。我们已经看到 Needle 2 被微调用于各种任务，我们很想听听大家对此的看法。请设置良好的评估以避免过拟合。我们正在开发新的 Needle 微调算法，但会稍后推出。请分享保留意见和真诚的批评！