生成引擎的机制设计：从利用走向双赢结果

# 生成引擎的机制设计：从利用到双赢均衡  
来源：https://arxiv.org/html/2608.11390 \paperurl =https://github\.com/cxcscmu/GameTheory\-GEO  
Zitian Guo  
所属单位：加利福尼亚大学圣迭戈分校  
Chenyan Xiong  
通讯作者：{chenxu2,cx}@andrew.cmu.edu, [email protected]  
所属单位：卡内基梅隆大学  

###### 摘要  
生成引擎正通过将引用打造为分配注意力、归因和下游价值的关键机制，重塑网络生态系统。这带来了一种战略性紧张：内容提供者有动力为获得模型引用而优化，而平台必须维护答案质量与可信归因。我们表明，这种紧张可能升级为“引用战争”。在重复模拟中，最先进的生成引擎优化（GEO）攻击会通过产生寻求引用的改写来适应常规防御，这些改写降低了文档质量并引入了无依据的论断。为研究该问题，我们将供应商–平台交互建模为具有部分监控的重复Stackelberg博弈。局部最优响应分析识别出引用竞争何时会接近一种惰性平稳结果。受此发现启发，我们提出了一种基于可验证内容奖励的平台–创作者机制VCR。该机制并非仅仅惩罚可疑改写，同时也对那些凸显可核查事实性内容的改写给予奖励，从而使创作者激励与答案可信度对齐。在三个基准上的实验表明，VCR始终取得最大的净防御–效用分数，平均比最强基线高出12.1个百分点，并在我们的经验等价准则下产生双赢结果。GitHub：https://github.com/cxcscmu/GameTheory-GEO。  

## 1 引言  
生成搜索正在将信息获取重塑为一个以引用为中介的生成引擎生态系统。在该生态系统中，大语言模型平台通过决定总结并引用哪些来源来分配注意力与归因[26 (https://arxiv.org/html/2608.11390#bib.bib26)]。引用因此成为新的可见性单位：它们不仅决定用户信任什么，还决定哪些内容供应商获得流量、声誉和下游价值。于是，内容提供者越来越有动力为获得模型引用而优化[1 (https://arxiv.org/html/2608.11390#bib.bib1),24 (https://arxiv.org/html/2608.11390#bib.bib24)]，而平台必须维护答案质量和可信归因[44 (https://arxiv.org/html/2608.11390#bib.bib44),12 (https://arxiv.org/html/2608.11390#bib.bib12)]。这在供应商的可见性诉求与平台的质量控制之间形成了战略性紧张。如何在这一生成引擎生态系统升级为引用战争之前对其建模并改善福利，已成为一个紧迫问题。  
生成引擎优化（GEO）[1 (https://arxiv.org/html/2608.11390#bib.bib1),43 (https://arxiv.org/html/2608.11390#bib.bib43),47 (https://arxiv.org/html/2608.11390#bib.bib47)]将这种紧张付诸实践：内容提供者改写文档，以提高被生成搜索引擎引用的概率。然而，现有研究大多将GEO视为一次性的供给侧优化问题。这忽略了生成引擎生态系统的一个关键特征：供应商优化与平台防御会反复交互。一旦引用成为可见性和下游价值的中介，GEO就可能从改进内容质量转向策略性地适应平台防御规则。随着时间推移，这种适应会推动供应商采取寻求引用的行为，从而扭曲归因、降低答案可信度，并损害生态系统福利。我们接下来用模拟实验来展示这一风险。  
参见图1说明：即使在标准防御下，重复的GEO利用也会同时损害创作者侧文档质量和用户侧答案效用。面板(a)：E-commerce上的五轮轨迹，改写质量和答案效用均低于无利用参考。面板(b)：一个有代表性的文档在五轮前后的对比，无依据论断以红色标出。  
图1 (https://arxiv.org/html/2608.11390#S1.F1)展示了在E-commerce上五轮供应商–平台交互中的这一风险。供应商运行AutoGEO[43 (https://arxiv.org/html/2608.11390#bib.bib43)]，平台则应用标准的提示警告防御来对抗GEO操纵。面板(a)显示系统逐渐偏离无攻击参考：早期轮次后改写质量变为负值，防御恢复迅速衰减，平台/用户效用始终低于干净基线。面板(b)解释了这种退化：重复的GEO适应累积了无依据论断和捏造细节，使最初轻微的编辑变成寻求引用的改写。这些结果表明，重复的GEO适应可能将供应商–平台生态系统推向一种不可取的平稳状态，在该状态下，稳健防御和诚实内容改进都无法持续。  
为了正式化这一问题，我们将平台–供应商交互建模为具有部分监控的重复Stackelberg博弈[40 (https://arxiv.org/html/2608.11390#bib.bib40)]。每一轮中，供应商观察平台当前的防御规则，并承诺采用某种GEO策略来改写其目标文档。平台随后只能观察到文档级别的前后对，并据此更新其答案时防御策略。该博弈抓住了生成引擎生态系统的关键不对称性：供应商可以直接适应平台规则，而平台必须推断改写究竟反映了真正的质量改进还是策略性操纵。  
在此设定下，我们在一个局部二次模型（第3.3节 (https://arxiv.org/html/2608.11390#S3.SS3)）中推导出两个结构性结果。第一，在源模型矩固定的情况下，随着潜在内容质量与操纵强度相关性增强，平台的最优响应防御会减弱。第二，当供应商效用基于引用水平而非边际引用收益时，高质量目标在平稳响应下可能更受青睐。二者共同揭示了默认博弈的一种失效模式：动态过程可能趋近一种惰性平稳结果，其中内容改进与操纵的梯度均已耗尽，额外交互只能产生很少的联合效用。  
受上述分析启发，我们提出了一种名为VCR（基于可验证内容奖励）的平台–供应商机制，使供应商激励与平台可信度对齐。关键思想是让防御具有激励相容性，而非纯粹惩罚性。除了惩罚可疑操纵外，平台还会对使源支持的事实性内容更加突出的改写给予奖励，并在应用防御前将该奖励与可疑度分数进行抵消。这样，表面化或自我宣传式的GEO编辑仍会被降权，而凸显可核查信息的实质性改写则会获得奖励。在局部模型中，这为理性供应商提供了与福利一致的优化方向，并改善了防御–效用联合结果。  
我们在三个基准[43 (https://arxiv.org/html/2608.11390#bib.bib43),1 (https://arxiv.org/html/2608.11390#bib.bib1)]上评估所提机制：商业搜索（E-commerce）、开放域事实查询（GEO-Bench）和研究型查询（Researchy-GEO）。跨数据集和答案引擎，VCR在我们的经验等价准则下产生双赢结果：它保护了平台/用户效用，同时保留了创作者曝光。它在每种设置下都取得最大的净防御–效用分数，平均比最强基线高出12.1个百分点，并且在直接的文档质量和答案质量点估计上也表现最强。代码已共享在https://github.com/cxcscmu/GameTheory-GEO。  
我们的主要贡献有三方面：  
- •我们将GEO–平台交互建模为具有部分监控的重复Stackelberg博弈，并对平稳引用竞争提供了局部最优响应分析。  
- •我们提出了一种基于可验证内容奖励的供应商–平台机制，将平台防御从纯粹的惩罚性过滤器转变为双向激励机制：奖励实质性内容，同时惩罚操纵。  
- •我们在三个基准、三个答案引擎和五个GEO攻击者上验证了所提机制，它始终取得最大的净分数。  

## 2 相关工作  
#### 供给侧可见性攻击。  
内容提供者长期以来一直在尝试操纵搜索可见性，从经典的链接垃圾、内容垃圾和文档操纵下的鲁棒排序[19 (https://arxiv.org/html/2608.11390#bib.bib19),18 (https://arxiv.org/html/2608.11390#bib.bib18),34 (https://arxiv.org/html/2608.11390#bib.bib34),4 (https://arxiv.org/html/2608.11390#bib.bib4),7 (https://arxiv.org/html/2608.11390#bib.bib7),16 (https://arxiv.org/html/2608.11390#bib.bib16)]，到更新的LLM时代攻击，如提示注入、RAG投毒和产品可见性操纵[37 (https://arxiv.org/html/2608.11390#bib.bib37),17 (https://arxiv.org/html/2608.11390#bib.bib17),27 (https://arxiv.org/html/2608.11390#bib.bib27),48 (https://arxiv.org/html/2608.11390#bib.bib48),50 (https://arxiv.org/html/2608.11390#bib.bib50),45 (https://arxiv.org/html/2608.11390#bib.bib45),11 (https://arxiv.org/html/2608.11390#bib.bib11),35 (https://arxiv.org/html/2608.11390#bib.bib35),24 (https://arxiv.org/html/2608.11390#bib.bib24)]。生成引擎优化（GEO）是这一供给侧问题的一种较新且日益重要的形式，创作者通过改写内容来增加被生成搜索引擎引用或归因的概率。此前的GEO工作定义了可见性指标，并研究了人工或自动改写策略[1 (https://arxiv.org/html/2608.11390#bib.bib1),43 (https://arxiv.org/html/2608.11390#bib.bib43)]。后续工作将GEO扩展到角色增强的意图建模[10 (https://arxiv.org/html/2608.11390#bib.bib10)]、潜在查询指令融合[49 (https://arxiv.org/html/2608.11390#bib.bib49)]、电商基准[3 (https://arxiv.org/html/2608.11390#bib.bib3)]以及更完整的搜索流水线评估[22 (https://arxiv.org/html/2608.11390#bib.bib22)]。其他扩展研究了多模态内容（如图像说明[9 (https://arxiv.org/html/2608.11390#bib.bib9)]）、结构特征[46 (https://arxiv.org/html/2608.11390#bib.bib46)]、智能体优化设置[47 (https://arxiv.org/html/2608.11390#bib.bib47)]、特征级目标[28 (https://arxiv.org/html/2608.11390#bib.bib28)]、可复用优化策略[42 (https://arxiv.org/html/2608.11390#bib.bib42),38 (https://arxiv.org/html/2608.11390#bib.bib38)]以及来源影响力基准[8 (https://arxiv.org/html/2608.11390#bib.bib8)]。这些工作为我们的供给侧威胁模型提供了动机；我们的关注点是GEO式优化在对抗自适应平台时如何表现。  
#### 平台侧防御。  
平台可以在流水线的不同节点进行防御。传统搜索系统使用垃圾检测、链接分析、降权和鲁棒排序[18 (https://arxiv.org/html/2608.11390#bib.bib18),7 (https://arxiv.org/html/2608.11390#bib.bib7),16 (https://arxiv.org/html/2608.11390#bib.bib16)]。LLM系统也使用提示级和检索级防御。基于引用的生成和RAG评估研究归因、事实支持和忠实性[25 (https://arxiv.org/html/2608.11390#bib.bib25),31 (https://arxiv.org/html/2608.11390#bib.bib31),15 (https://arxiv.org/html/2608.11390#bib.bib15),6 (https://arxiv.org/html/2608.11390#bib.bib6),30 (https://arxiv.org/html/2608.11390#bib.bib30),13 (https://arxiv.org/html/2608.11390#bib.bib13),2 (https://arxiv.org/html/2608.11390#bib.bib2)]。指令层次结构要求模型优先处理可信指令而非不可信的检索文本[41 (https://arxiv.org/html/2608.11390#bib.bib41)]。稳健RAG工作研究针对对抗性或损坏段落的防御，包括怀疑性提示、稳健聚合和