赋予用户更大的系统控制权如何影响新闻过滤气泡？

# 赋予用户更大系统控制权如何影响新闻过滤泡沫？ 来源：https://arxiv.org/html/2607.15284 ###### 摘要 尽管推荐系统能帮助用户找到感兴趣的文章，但它们也可能通过呈现强化用户已有信念的内容，从而制造“信息过滤泡沫”。用户通常意识不到自己被系统置于信息过滤泡沫之中，即使意识到，也往往缺乏直接控制权。为解决这些问题，我们首先设计了一个政治新闻推荐系统，并为其增加了一个增强型界面，该界面会展示系统从用户行为中推断出的政治和主题兴趣。这使得用户能够调整推荐系统，以接收更多关于特定主题或呈现特定政治立场的内容。随后，我们进行了一项用户研究，将我们的系统与传统界面进行比较，发现这种透明化方法帮助用户意识到他们处于信息过滤泡沫中。此外，增强型系统对大多数用户而言推荐了不那么极端的新闻，但也让部分用户将系统推向了更极端的方向。同样，虽然许多用户将系统从极端自由/保守立场移至中间立场，但这却是以减少所展示文章的政治多样性为代价的。这些发现表明，尽管我们提出的系统提高了对信息过滤泡沫的认识，但它对新闻消费的影响取决于用户偏好，呈现出异质性。 ## 1 引言 个性化推荐系统能帮助用户发现感兴趣的内容并促进新连接（Guo等，2017 (https://arxiv.org/html/2607.15284#bib.bib206)；Tang等，2013 (https://arxiv.org/html/2607.15284#bib.bib204)），但新兴研究表明存在意想不到的副作用。这在推荐政治内容的系统中尤为突出，会导致“信息过滤泡沫”，即用户被推向同质化而非多样化的政治内容（Pariser，2011 (https://arxiv.org/html/2607.15284#bib.bib97)；Bakshy等，2015 (https://arxiv.org/html/2607.15284#bib.bib67)；Robertson等，2021 (https://arxiv.org/html/2607.15284#bib.bib47)；Liu等，2021 (https://arxiv.org/html/2607.15284#bib.bib49)）。近期研究试图量化信息过滤泡沫并通过算法加以缓解（Masrour等，2020 (https://arxiv.org/html/2607.15284#bib.bib36)；Liu等，2021 (https://arxiv.org/html/2607.15284#bib.bib49)；Shivaram等，2022 (https://arxiv.org/html/2607.15284#bib.bib45)）；然而，很少有研究探讨给予用户对推荐算法更大控制权的影响。我们设计并研究了一个具有两项增强功能的推荐系统：(1) **透明性**：系统展示推荐系统的当前状态，揭示从用户行为中推断出的政治和主题兴趣；(2) **交互性**：界面允许用户调整推荐系统，以接收更多特定主题或政治立场的内容。图1 (https://arxiv.org/html/2607.15284#S1.F1) 显示了增强型界面的示例，其中滑块可供用户调整以修改接收到的新闻内容。本文旨在理解这种界面与传统推荐系统所允许的有限交互类型相比，对系统行为和信息过滤泡沫的影响。我们特别关注系统如何影响推荐政治新闻文章的多样性以及用户参与度。为此，我们进行了一项包含102名用户的用户研究（从850名完成了人口统计调查和政治资格问卷的用户中招募），其中一半使用增强型界面（实验组），另一半使用更传统的推荐系统（仅可通过点赞或点踩文章进行交互的对照组）。我们计算每个会话开始和结束时顶部推荐文章属性的度量，以研究这种界面如何影响展示给用户的文章类型、这些文章如何随时间变化，以及系统推荐的准确性。通过分析这些系统中超过3000次用户交互的结果，我们得出以下观察结果： 参考图例图1：提供政治新闻推荐系统透明性和控制权的用户界面。

- **极端性**：在最初接触极端党派文章的用户中，实验组用户更有可能引导系统转向不那么极端的文章。另一方面，在最初接触不那么极端文章的用户中，实验组用户在一定程度上更有可能将系统导向极端文章。这些结果表明用户可能存在一个寻找极端性的“最佳平衡点”。
- **多样性**：对于实验组和对照组，用户都引导系统转向政治多样性较低的新闻。两组之间的最大差异出现在最初接触中等多样性文章的用户——这些用户中，对照组比实验组更倾向于将系统导向多样性更低的文章。
- **点赞率**：对于实验组和对照组，用户点赞的文章比例随时间增加，尤其是初始点赞率较低的用户。对于初始点赞率中等的用户，实验组能够比对照组更有效地调整系统以达到更高的系统准确性。
- **用户意识**：通过研究后问卷来了解用户对我们新型推荐系统界面的动机和偏好，我们观察到增强型界面的透明性提高了用户对推荐文章中缺乏多样性以及新闻推荐系统内部运作机制的认识。

本文其余部分结构如下：我们在§2 (https://arxiv.org/html/2607.15284#S2) 讨论相关文献和研究问题；在§3 (https://arxiv.org/html/2607.15284#S3) 详述我们的方法；随后在§4 (https://arxiv.org/html/2607.15284#S4.SSx1) 呈现用户研究的结果；然后在§5 (https://arxiv.org/html/2607.15284#S5) 讨论本工作的局限性以及未来研究的潜力；最后是结论部分。

## 2 相关工作与研究问题

基于Chesnais等 (1995 (https://arxiv.org/html/2607.15284#bib.bib13))、Kamba等 (1995 (https://arxiv.org/html/2607.15284#bib.bib12)) 和Claypool等 (1999 (https://arxiv.org/html/2607.15284#bib.bib20)) 在新闻推荐系统方面的开创性研究，Mitova等 (2023 (https://arxiv.org/html/2607.15284#bib.bib19)) 对新闻推荐系统进行了系统调查和研究，探讨它们如何影响记者/媒体机构（交付视角）和新闻读者（获取视角）。推荐系统带来的一个核心挑战是推荐项目的多样性不足（Kunaver和Požrl，2017 (https://arxiv.org/html/2607.15284#bib.bib8)）。造成多样性问题的原因包括：内容引入的偏差（例如，模型锁定特定关键词）、模型推荐内容进入其训练数据导致的反馈循环，以及流行度偏差（即推荐流行而非小众项目）。这些都是长期存在的问题，早在Smyth和McClave (2001 (https://arxiv.org/html/2607.15284#bib.bib7)) 以及Ziegler等 (2005 (https://arxiv.org/html/2607.15284#bib.bib15)) 的研究中就已涉及。推荐多样性不足会给用户带来负面体验，因为他们可能重复接触类似内容，而错过关于书籍、电影和消费品的小众内容。在新闻推荐领域，它还可能导致回声室和信息过滤泡沫（Pariser，2011 (https://arxiv.org/html/2607.15284#bib.bib97)），即用户被过度推荐与其意识形态或立场一致的新闻项目——尤其是政治新闻。当接触到与自身观点一致的政治内容时，人们通常倾向于更多相同的内容（Rodriguez等，2017 (https://arxiv.org/html/2607.15284#bib.bib116)）。这类推荐模型造成的反馈循环加剧了回声室效应（Pariser，2011 (https://arxiv.org/html/2607.15284#bib.bib97)；Bakshy等，2015 (https://arxiv.org/html/2607.15284#bib.bib67)；Liu等，2021 (https://arxiv.org/html/2607.15284#bib.bib49)），且对不同党派的影响各异（Tewksbury和Riles，2015 (https://arxiv.org/html/2607.15284#bib.bib32)）。

用户的反馈和参与度对于理解信息过滤泡沫背后的机制至关重要。Munson和Resnick (2010 (https://arxiv.org/html/2607.15284#bib.bib5)) 进行了一项用户研究，参与者被分配意识形态一致或不一致的推荐内容并要求评分。当推荐内容与其观点不一致时，用户满意度较低；然而，当列表包含大量可接受的内容时，反应差异很大：一些用户更满意，而另一些则不然，这表明有些人可能“厌恶挑战”，而另一些人则“寻求多样性”。类似地，Liu等 (2021 (https://arxiv.org/html/2607.15284#bib.bib49)) 构建了一个涵盖众多主题的政治新闻数据集，并使用基于内容和协同过滤的推荐系统进行模拟。最初接触极端新闻的用户随后被呈现更极端的新闻，被展示更极端新闻的用户具有更高的点赞率，并且推荐系统对新闻主题间观点多样化的用户预测准确性最低，通常导致推荐内容在跨主题时意识形态单一。这一点很重要，因为接触多样化的新闻内容可以有效减少新闻推荐中的信息过滤泡沫（Ookalkar等，2019 (https://arxiv.org/html/2607.15284#bib.bib31)）。

对抗信息过滤泡沫形成的必要性是明确的（Resnick等，2013 (https://arxiv.org/html/2607.15284#bib.bib6)），但方法各不相同。Li等 (2023 (https://arxiv.org/html/2607.15284#bib.bib4)) 采用算法方法并进行模拟，将泡沫定义为用户-项目二分图中具有许多内部连接但很少外部连接的社区。他们使用强化学习算法来决定应将哪些连接社区的边添加到图中以增加多样性。其他人，如Masrour等 (2020 (https://arxiv.org/html/2607.15284#bib.bib36))，提出基于算法公平性标准的解决方案，而另一些人则提出基于注意力的建模架构来减少新闻推荐中的政治同质化效应（Shivaram等，2022 (https://arxiv.org/html/2607.15284#bib.bib45)）。简而言之，现有关于该主题的研究在时间上是静态的，模拟用户可控的新闻推荐系统而非考察现实世界（Wang等，2022 (https://arxiv.org/html/2607.15284#bib.bib184)），缺乏适当的交互工具（Faridani等，2010 (https://arxiv.org/html/2607.15284#bib.bib22)；Munson等，2013 (https://arxiv.org/html/2607.15284#bib.bib52)），过于描述性（Harambam等，2019 (https://arxiv.org/html/2607.15284#bib.bib23)），或者关注非新闻情境（如社交媒体、电影/音乐推荐等）中的用户控制（Bhargava等，2019 (https://arxiv.org/html/2607.15284#bib.bib94)；Taijala等，2018 (https://arxiv.org/html/2607.15284#bib.bib185)；Jannach等，2016 (https://arxiv.org/html/2607.15284#bib.bib186)）。

### 研究问题

我们进行了一项政治新闻推荐系统的用户研究，其中**对照组**可以使用传统的交互机制（对新闻文章进行点赞/点踩）。而**实验组**还可以使用增强型用户界面（UI）（见图1 (https://arxiv.org/html/2607.15284#S1.F1)），能够调整他们最感兴趣的政治主题以及每个主题下文章的政治偏好。我们研究以下问题：
- **RQ1**：用户与政治新闻推荐系统的交互如何影响系统的推荐轨迹？
- **RQ2**：推荐系统轨迹的变化在对照组和实验组之间是否存在显著差异？

两个研究问题都基于现有文献从多个方面得到启发。首先，基于Liu等 (2021 (https://arxiv.org/html/2607.15284#bib.bib49)) 提出的新闻推荐系统模拟，我们知道用户会越来越多地被展示更极端、更不多样、更同质化的新闻文章。然而，“厌恶挑战”和“寻求多样性”的个体之间存在区别（Munson和Resnick，2010 (https://arxiv.org/html/2607.15284#bib.bib5)），这表明个人特征和偏好会影响人们接触观点的多样性。其次，人们愿意接受操纵推荐系统以增加接触多样化内容的可能性（Harambam等，2019 (https://arxiv.org/html/2607.15284#bib.bib23)）——事实上，通过透明化工具确实能够增加多样性（Munson等，2013 (https://arxiv.org/html/2607.15284#bib.bib52)）。内容多样性的增加会导致推荐内容的感知价值先上升后下降（Ziegler等，2005 (https://arxiv.org/html/2607.15284#bib.bib15)），即自我导航在线内容的能力并不会增加其多样性（Faridani等，2010 (https://arxiv.org/html/2607.15284#bib.bib22)）。

对于**对照组**，我们预计随着时间推移，他们会被呈现越来越极端和多样性更低的新闻，这与Liu等 (2021 (https://arxiv.org/html/2607.15284#bib.bib49)) 的研究一致。考虑到党派归属是人们参与在线内容的关键预测因素（Allen等，2022 (https://arxiv.org/html/2607.15284#bib.bib3)；Törnberg，2022 (https://arxiv.org/html/2607.15284#bib.bib82)），党派人士更执着于自身信念（Brewer，2005 (https://arxiv.org/html/2607.15284#bib.bib1)）因而更可能受既有信念驱动（Kahan，2015 (https://arxiv.org/html/2607.15284#bib.bib105)；Lodge和Taber，2000 (https://arxiv.org/html/2607.15284#bib.bib108)），并且鉴于党派归属与新闻极端性之间的联系（Tewksbury和Riles，2015 (https://arxiv.org/html/2607.15284#bib.bib32)；Levendusky和Malhotra，2016 (https://arxiv.org/html/2607.15284#bib.bib17)），我们预计消费较温和新闻的用户将出现最大转变。关于模型准确性（通过点赞率衡量），我们期望随着更多训练数据输入，模型会改进，点赞率随时间增加。尽管文献中既有“厌恶挑战”（偏好看到可接受新闻）也有“寻求多样性”（更愿意接受不同观点）的用户证据（Munson和Resnick，2010 (https://arxiv.org/html/2607.15284#bib.bib5)），但我们不认为简单的点赞/点踩机制足以让寻求多样性的用户将系统导向不那么极端和更多样化的文章。

对于**实验组**，我们预期结果会多样化。我们预计交互和透明化工具将使得实验组中“厌恶挑战”的个体能够比对照组更大地将系统推向极端，并使实验组中“寻求多样性”的个体能够将系统导向比对照组更不极端和更多样化的文章。然而，我们并不期望实验组的整体多样性一定更高。我们研究以下假设：
- **H1**：对于对照组，系统变得对用户更准确（点赞率上升），但系统也演化出更极端的文章。
- **H2**：对于实验组，更不极端的用户会将系统推向政治温和方向，而更极端的用户则将系统推向更大极端。
- **H3**：对于实验组，寻求多样性的用户将系统引导至更不极端的文章；而厌恶挑战的用户则将系统引导至更极端的文章。