over-privilege

本文研究了LLM Agent中的过度权限工具选择问题，引入了ToolPrivBench来评估并缓解不必要的高权限工具使用。研究发现，安全对齐并不能确保最小权限选择，并提出了一种训练后防御方法，能够在不牺牲性能的情况下减少过度权限的使用。

FORTIS 基准测试揭示了 LLM 代理在选择技能时频繁超出必要特权的情况，表明在十款前沿模型中过度特权是常态，并在真实用户交互场景下失效。