process-alignment

标签

Cards List
#process-alignment

COMPASS:面向安全搜索智能体的认知MCTS引导过程对齐

arXiv cs.AI · 2026-06-01 缓存

提出了COMPASS,一种认知MCTS引导的过程对齐框架,通过合成攻击轨迹并隔离风险动作来增强LLM驱动的搜索智能体的安全性,在更少的训练数据下实现了良好的安全-效用权衡。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈