标签
本文介绍了SHADE，一个使用GRPO微调的强化学习框架，旨在逃避AI文本检测器，在对抗替代检测器时实现了高逃避率，但对未见过的评估分类器的迁移效果有限。
本文提出OSCToM，一种RL引导的方法，用于生成对抗数据以测试LLM中的嵌套信念冲突，在FANToM等基准上改进了心智理论推理。
SafeHarbor是一个用于LLM代理安全的新型框架，它利用分层记忆和自进化机制来平衡安全性与实用性，在良性任务和恶意任务上均实现了最先进的性能。