safety-classifiers

Anthropic 为其 Claude 模型 Fable 5 和 Opus 5 引入了测试版服务器端回退功能，该功能使用安全分类器和自动 API 重试来增强可靠性。

本文介绍了Regime-Conditional Verification (RCV)，这是一个轻量级包装器，通过估计预测正确性并检测分布偏移，无需重新训练即可调整用于大型语言模型的现成安全分类器。

Anthropic 提供了关于 Claude Fable 5 的网络安全分类器的详细信息，并介绍了一个与 Glasswing 合作开发的越狱严重性框架草案，旨在标准化关于 AI 越狱风险的沟通。该公司还启动了一个 HackerOne 项目，用于报告潜在的网络安全越狱行为。