标签
本文形式化了多代理AI系统中的认识论Sybil问题,即在不提供独立证据的情况下增加代理数量会导致推理质量下降,并提出了追踪证据谱系以改善聚合效果的方法。
TRACE是一个用于长周期LLM智能体轨迹的监控框架,它通过分诊-检查-判断(Triage-Inspect-Judge)循环来连接时间上相隔较远的动作证据,在规避性破坏检测任务上实现了高召回率和F1值。
Skill-RM 提出了一种统一的奖励建模框架,将奖励计算视为结构化的智能体任务,实现了动态证据聚合和跨多种应用的一致评估,优于传统的评判基线。