论文页面 - 评估 DeepSeek V4.1 Flash-1017 的失控风险与有害操控风险

来源: https://huggingface.co/papers/2610.35671

作者:

摘要

对 DeepSeek V4.1 Flash-1017 的独立安全评估显示，其相比前代版本有显著提升，已接近领先闭源模型的水平，同时建议部署过程级可观测性、增量安全测试以及私有基准测试。

随着前沿语言模型的能力和自主性日益增强，独立的第三方评估对于刻画其系统性安全风险 (https://huggingface.co/papers?q=systemic%20safety%20risks) 至关重要。闭源模型的发布通常伴随全面的系统卡片，而开放权重模型 (https://huggingface.co/papers?q=open-weight%20models) 在前沿风险方面则受到的审查较少。为填补这一空白，我们对 DeepSeek V4.1 Flash-1017 进行了独立安全评估。V4.1 Flash-1017 是 V4.1 Flash 的最新版本，采用了全新架构、扩展的训练规模和强大的智能体能力。我们参照欧盟《通用人工智能行为准则》，在 34 个基准上对该模型进行了评估，其中包括 5 个自研测试套件，涵盖评估完整性 (https://huggingface.co/papers?q=evaluation%20integrity)、失控 (https://huggingface.co/papers?q=loss%20of%20control) 和有害操控 (https://huggingface.co/papers?q=harmful%20manipulation) 等维度。按照 AEF-1 标准，我们将 V4.1 Flash-1017 与 V4.1 Flash、早期 DeepSeek V4 系列模型以及领先的闭源系统（GPT-6 Astra、GPT-5.6 Sol 和 Gemini 3.8 Flash）进行了对比。总体而言，V4.1 Flash-1017 在安全方面相比 V4 世代有显著提升，在多个维度上已接近或达到领先闭源基线的水平，但仍表现出值得关注的行为。基于我们的研究发现，我们提出三点关键观察与建议。第一，由于安全性可能在小幅更新中发生变化甚至倒退，开发者应将安全评估纳入增量发布流程。第二，仅凭最终轮次输出和终态检查无法可靠地检测失控行为，部署需要对推理轨迹 (https://huggingface.co/papers?q=reasoning%20traces) 和动作日志 (https://huggingface.co/papers?q=action%20logs) 均进行过程级可观测性监控。第三，由于公开基准容易引发较强的评估感知 (https://huggingface.co/papers?q=evaluation%20awareness) 并面临数据污染 (https://huggingface.co/papers?q=data%20contamination) 风险，开发私有基准 (https://huggingface.co/papers?q=private%20benchmarks) 对于实现可信的前沿模型评估至关重要。

查看 arXiv 页面 (https://arxiv.org/abs/2610.35671) 查看 PDF (https://arxiv.org/pdf/2610.35671) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.35671)

引用本文的模型 0

暂无模型引用本文

在模型 README.md 中引用 arxiv.org/abs/2610.35671 即可在此页面关联。

引用本文的数据集 0

暂无数据集引用本文

在数据集 README.md 中引用 arxiv.org/abs/2610.35671 即可在此页面关联。

引用本文的 Spaces 0

暂无 Space 引用本文

在 Space README.md 中引用 arxiv.org/abs/2610.35671 即可在此页面关联。

包含本文的收藏集 0

暂无收藏集包含本文

将本文添加到收藏集 (https://huggingface.co/new-collection) 即可在此页面关联。

方寸跃迁 AI（@FangcunLeap）： 我们是方寸跃迁（Fangcun AI），中国首家专注于前沿 AI 安全独立第三方评估与技术研究的实验室。

今天我们发布对 DeepSeek V4.1 Flash-1017 的评估报告，这是我们在长期第三方安全评估和