jailbreaks

一篇综述论文，系统分析了多模态大语言模型不断演变的安全格局，涵盖了对抗性攻击、数据投毒、越狱和幻觉等新兴威胁，并回顾了更新后的安全策略。

特朗普政府对Anthropic CEO Dario Amodei感到不满，更倾向于与联合创始人Tom Brown讨论Claude Fable 5 AI模型的重新发布事宜，因为越狱风险导致出口管制持续有效。

TROPT是一个开源框架，统一了离散文本触发优化，标准化了在LLM越狱和模型可解释性等领域中的开发与执行。它包含超过15种优化器和30个配方，降低了采用和推进的门槛。