标签
介绍了一种基于信息几何和统计流形的多轮提示注入二阶早期预警信号。该方法利用从稳定性参数二阶导数导出的元速率，在阈值交叉前预测对抗轨迹，实现主动检测。
USAD提出了两种新的统计量：方差差异（Variance Discrepancy）和基于扰动的协方差差异（Perturbation-based Covariance Discrepancy），用于捕捉对抗样本的全局和局部不确定性模式，相较于基线方法实现了更优越的检测性能。
Arc Gate是一个AI代理安全工具，它追踪整个对话以检测跨多轮对话的对抗性行为漂移，与传统的逐条消息检查不同。作者正在寻找拥有真实代理工作流程的团队来测试它。
提出 Agent-ToM，一种基于心智理论推理的学习监控框架，通过推断信念和意图来检测自主LLM智能体中的隐蔽恶意行为，性能优于基线监控器。