论文页面 - AI，把好方向盘：什么驱动人机协作问答中的委托与信任？

来源：https://huggingface.co/papers/2605.28255

摘要

人机协作问答任务中暴露出次优的依赖决策：人类对正确的AI建议依赖不足，而在AI误导他们时又过度依赖，其中确认偏差会加剧对冲突AI输出的信任降低。

AI系统并非完美无缺，人类在决定是否信任AI而非自身判断时也可能犯错。因此，改善人机协作需要理解人类何时、为何以及如何决定依赖AI。我们研究了两种截然不同的依赖决策：委托选择——决定何时让AI在不清楚其输出结果的情况下自主行动；以及采纳选择——评估AI建议并决定如何使用它们。这两种解耦的依赖模式共同塑造了协作，但以往的研究很少在现实场景中同时对同一批用户进行考察。我们通过研究协作人机团队在问答游戏中竞争来填补这一空白，人类可以在此过程中选择何时以及如何与AI智能体合作以获胜。我们的24场比赛中，有23位专家人类与16个AI智能体配对，捕获了387个委托决策和1440个采纳决策。虽然人机协作的表现优于单独使用AI或人类，但人类会做出次优的协作决策，既包括对正确AI建议的依赖不足（错失了3.9%的机会），也包括在AI误导他们时过度依赖（1.7%）。双方都会给出错误答案：当人类和AI意见不一致时，报告的模型置信度接近随机水平，而确认偏差则导致当AI建议与人类初始错误答案一致时，依赖不足的比例更高（64.5%）。为缩小这一差距，我们建议使用校准后的置信度、基于证据的解释以及帮助用户优化信任的机制。

查看arXiv页面 (https://arxiv.org/abs/2605.28255) 查看PDF (https://arxiv.org/pdf/2605.28255) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.28255)

引用该论文的模型0

无模型链接该论文

请在模型README.md中引用 arxiv.org/abs/2605.28255 以从此页面建立链接。

引用该论文的数据集0

无数据集链接该论文

请在数据集README.md中引用 arxiv.org/abs/2605.28255 以从此页面建立链接。

引用该论文的Spaces0

无Space链接该论文

请在Space README.md中引用 arxiv.org/abs/2605.28255 以从此页面建立链接。

包含该论文的收藏0

无收藏包含该论文

请将此论文添加至一个收藏 (https://huggingface.co/new-collection) 以从此页面建立链接。