adversarial-generation

本文提出OSCToM，一种RL引导的方法，用于生成对抗数据以测试LLM中的嵌套信念冲突，在FANToM等基准上改进了心智理论推理。

SafeHarbor是一个用于LLM代理安全的新型框架，它利用分层记忆和自进化机制来平衡安全性与实用性，在良性任务和恶意任务上均实现了最先进的性能。