论文页面 - 能干却粗心：电脑操作智能体是否遵循情境完整性？

来源：https://huggingface.co/papers/2606.23189

摘要

电脑操作智能体经常在应用间暴露不适当的信息，这促使我们创建 AgentCIBench，以评估和缓解跨应用情境中的隐私风险。

电脑操作智能体 (Computer-use agents)（https://huggingface.co/papers?q=Computer-use%20agents）现在能够代表用户在多种个人应用（如电子邮件、日历和待办事项列表）中执行操作。这种跨应用访问虽然有用，却带来了一种常被忽视的隐私风险（https://huggingface.co/papers?q=privacy%20risk）：当智能体在一个情境中工作时，它可能拉取来自另一个情境、在当前情境中不合适的信息。为此，我们引入了 AgentCIBench（https://huggingface.co/papers?q=AgentCIBench），一个将这种风险转化为可执行、可确定性评分的评估框架。我们针对电脑操作智能体中的三种常见失败模式：视觉共位 (visual co-location)（https://huggingface.co/papers?q=visual%20co-location），即智能体拉取了与任务目标在用户界面中相邻的被禁止内容；任务模糊过度分享 (task-ambiguity overshare)（https://huggingface.co/papers?q=task-ambiguity%20overshare），即智能体在面对不明确的提示时倾泻大量个人状态信息；以及收件人不匹配 (recipient misalignment)（https://huggingface.co/papers?q=recipient%20misalignment），即智能体向不适合的收件人发送内容。我们评估了15个前沿智能体，发现失败率高得惊人：15个中有11个在超过50%的场景中发生泄露，平均泄露率67.9%；即使智能体在环境中端到端执行任务时，同样的失败仍然存在。我们发布 AgentCIBench（https://huggingface.co/papers?q=AgentCIBench）以鼓励开发更安全的电脑操作智能体 (computer-use agents)（https://huggingface.co/papers?q=computer-use%20agents），并将情境披露 (contextual disclosure)（https://huggingface.co/papers?q=contextual%20disclosure）测试定位为部署前的安全检查。

查看 arXiv 页面 (https://arxiv.org/abs/2606.23189) 查看 PDF (https://arxiv.org/pdf/2606.23189) 项目页面 (https://ukplab.github.io/arxiv2026-agentcibench/) GitHub1 (https://github.com/UKPLab/arxiv2026-agentcibench) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.23189)

在你的智能体中获取这篇论文：

hf papers read 2606.23189

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型0

没有模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2606.23189 以从此页面链接。

引用本论文的数据集0

没有数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.23189 以从此页面链接。

引用本论文的 Spaces0

没有 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2606.23189 以从此页面链接。

包含本论文的收藏0

没有收藏包含此论文

将本论文添加到一个收藏 (https://huggingface.co/new-collection) 以从此页面链接。