论文页面 - Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It

来源：https://huggingface.co/papers/2610.03195

摘要

当 LLM 代理（agent）代表用户决定购买哪个产品、预订哪家酒店或引用哪篇论文时，它们对来自某些来源（即这些条目所在的网站或服务）的条目的偏好，会影响用户最终获得的内容以及哪些来源会被选中。我们在端到端搜索场景中，使用 12 个代理模型，跨三个领域研究了来源偏好。通过比较在相同位置上满足相同要求的、来自不同来源的条目，我们发现每个模型在每个领域中都偏好某些来源并回避另一些来源，并且各个模型在偏好哪些来源上大体一致。这种偏好甚至可以压过条目对用户请求的满足程度：当一个少满足一项要求的条目来自偏好的来源，而更好的条目来自不被偏好的来源时，前者仍会被选中约三分之二的情况，而在相反情形下则几乎从不被选中。标识条目来源的信息本身就会对选择产生影响：隐藏来源信息会削弱这种偏好，而将条目重新标注为来自某个受偏好的来源则会提高其被选中的概率。我们检验了这种偏好的两条成因路径：奖励更优条目的训练可能使来源成为满足要求的捷径；而信息缺失可能触发对来源的先验预设。补充缺失的信息，或在提示词（prompt）中反驳这些预设，都能降低来源偏好。

查看 arXiv 页面 (https://arxiv.org/abs/2610.03195)　查看 PDF (https://arxiv.org/pdf/2610.03195)　加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.03195)

在你的 agent 中获取这篇论文：

hf papers read 2610\.03195

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本论文的模型 0

没有模型关联到本论文

在一个模型的 README.md 中引用 arxiv.org/abs/2610.03195，即可从本页面链接到该模型。

引用本论文的数据集 0

没有数据集关联到本论文

在一个数据集的 README.md 中引用 arxiv.org/abs/2610.03195，即可从本页面链接到该数据集。

引用本论文的 Spaces 0

没有 Space 关联到本论文

在一个 Space 的 README.md 中引用 arxiv.org/abs/2610.03195，即可从本页面链接到该 Space。

包含本论文的合集 0

没有合集包含本论文

将本论文加入一个合集 (https://huggingface.co/new-collection)，即可从本页面链接到它。