算法判断的地理学：大语言模型中介、地点身份与住房搜索中的种族引导

# 算法判断的地理：住房搜索中的 LLM 中介、地方认同与种族引导

来源：https://arxiv.org/html/2606.06694

Hana Samad¹, Trung Lam², Christoph Mügge\-Durum³, Michael Akinwumi⁴

###### 摘要

大语言模型通过将房源平台集成到对话界面中，正迅速在住房搜索中扮演中介角色，从而在城市环境中调节信息获取、搜索与推荐功能。我们扩展了先前关于 LLM 中种族引导的研究，对七个开放权重和闭源的 LLM 在美国四个城市进行了行为审计，测试了三种迭代提示条件下的地点推荐，这些条件逐步增加了生活方式偏好背景，并反映了公平住房配对测试方法。我们发现，引导是模型解释性许可的一种涌现行为，而非主要静态属性。引导源于用户身份、偏好表达以及模型内化关于某一城市中地点、偏好与机遇的习得表征的空间逻辑之间的相互作用，以及不同类型用户与这种逻辑的关系。虽然存在引导，但其方向和幅度在不同评估条件下并不一致。与基线条件相比，偏好条件测试往往增加或改变了表现出引导行为的模型数量，这表明 LLM 可能根据用户的种族身份对相同的住房偏好作出不同解读。我们的研究结果还表明，在基于地点的行业中，城市并不是 LLM 评估的中性测试单元，一个本地市场的结果不能假定推广到另一个市场。住房行业需要本地和领域专业知识，以确保公平住房的法律和制度承诺不会因采用调节空间访问的 AI 工具而受到损害。¹¹作者感谢 Jameel Khan、Andrea Lau 以及前同事 Laurie Benner 为本研究提供的计算可视化、反馈和参与。

## 1. 引言

房地产对变革并不陌生——获取信息的途径在 1990 年代从纸质分发转向互联网搜索引擎，又在 2000 年代初期转向诸如 Redfin 和 Zillow 之类的数字多重上市服务。LLM 正日益成为进入住房相关服务的切入点，这从近期平台（如 Zillow）在应用层面集成到 OpenAI 的 ChatGPT 中可见一斑，允许用户使用 LLM 和对话界面直接查询房产。尽管 LLM 能带来价值，但先前的工作已表明它们并非没有缺陷——LLM 可能放大其训练数据中暴露的模式，从而有可能大规模造成伤害，再现美国住房市场中历史及当代的隔离与歧视模式。

住房在美国尤其有着充满争议的历史，从隔离和红线划界的遗留问题，到对黑人、拉丁裔、亚裔美国人和太平洋岛民以及原住民社区的估值偏低。这还延伸到更隐性的方式，即通过顾问（如房地产经纪人）的主观判断，根据对个人是否“合适”来决定地点和访问权限。随着普通人、房地产专业人士和房地产科技公司越来越多地将 LLM 作为住房搜索的第一联系点——将初步评估和判断都外包出去——模型越来越多地承担起顾问角色，因此评估 LLM 作为推荐系统与用户互动时是否符合《公平住房法案》就显得尤为重要。FHA 禁止在住房相关活动中基于七个受保护类别和特征进行非法歧视，特别是隐性的推荐行为，如引导。先前的研究，如 Liu 等人 (2024) 的工作，已证明 GPT-4 表现出的潜在引导效应。通过测试所有七个受保护类别特征和 Section 8 代金券状态，他们发现该模型一致地将黑人和白人的个体引导到其种族占多数的社区，尤其是在隔离程度较高的城市。他们还发现，Section 8 代金券持有者经常被引导到与其相关的机会较少的地区。

在此基础上，我们做出以下贡献：

1. 1. 对七个开放权重和闭源 LLM 在个人住房推荐方面进行行为审计
2. 2. 以配对测试方法为基础，转向情境化和迭代提示，以理解推荐如何通过用户的种族身份及其陈述的偏好进行调节。我们视 LLM 的算法引导为*通过* AI 系统解释该偏好对某个群体意味着什么而产生，而非仅仅通过人口统计线索
3. 3. 评估引导如何受到模型对当地城市历史以及美国各住房市场独特社会经济特征的空间理解的影响
4. 4. 测试用户侧干预的提示层面缓解策略的有效性

通过本研究，我们试图理解以下问题：

> RQ1: 当 LLM 被要求向具有明确种族特征的购房者推荐邮政编码时，它们是否会表现出引导行为？如果是，偏好或增加背景信息对后续 LLM 推荐有何影响？ RQ2: 城市的潜在本地特征如何与引导模式相互作用？ RQ3: 推理提示技术能否有效减轻 LLM 引导的地点推荐中的偏见？

## 2. 相关工作

### 2.1. 住房、科技与反歧视法

住房领域调节着个人日常享有的机会获取和生活质量，包括教育、就业、医疗和零售等机会的获取。在 1960 年代一系列民权立法中，始于 1964 年《民权法案》以解决美国公共生活各方面歧视问题，1968 年《公平住房法案》旨在解决城市的种族隔离以及围绕房地产交易的更广泛的排斥性行为。被禁止的做法包括基于受保护类别的不同联系条款、拒绝出租或出售、骚扰或引导行为。在 1968 年至 1988 年的二十年间，FHA 中编纂了七个联邦受保护类别，包括种族、肤色、宗教、国籍、性别、残疾和家庭状况。在处理随后的民权法律采纳时，法院裁决针对公开和隐性的歧视做法与政策发展出了法律理论——差别待遇理论和差别影响理论。虽然差别待遇的解释一直相当一致，但差别影响责任在过去十年中已被重新解释。

差别影响已被编入《公平住房法案》执行的相关理论中，住房和城市发展部 2013 年的最终规则《实施公平住房法案的歧视性影响标准》。最高法院的一项裁决通过《德克萨斯州住房和社区事务部诉包容性社区项目公司》案进一步确认了差别影响理论在 FHA 下的适用性，该案设定了差别影响索赔的标准和限制。自 2013 年以来，不同政府执政期间发生了撤销和恢复。近期在 2026 年，有人试图再次撤销这一已获承认的差别影响责任的恢复，即 HUD 提出的关于《HUD 实施公平住房法案的差别影响标准》的规则。截至本文撰写时，尚未通过最终规则。

技术的引入为《公平住房法案》的检测和法律覆盖范围引入了新变量，现已涵盖调节住房获取的数字平台和算法。司法部已提出并解决了几个处于住房与技术交叉点的案件，即里程碑式的*美利坚合众国诉 Meta Platforms Inc（前身为 Facebook Inc）*案。此后还提出了州级诉讼。算法偏见领域已利用差别影响作为测试基础，其中表面中立的政策和实践（例如算法系统）可能会在不同群体间产生统计上显著的差异。然而，在更广泛的民权法律实践中，差别待遇和差别影响通常是同时出现而非互斥的。直接使用受保护类别变量或相关代理（差别待遇）可以与没有这些变量时算法可能产生的更广泛影响（仍可能对受保护群体产生不利影响，即差别影响）一起进行测试。

### 2.2. 种族引导与 LLM 偏见评估

FHA 引导索赔的执行历史上依赖于配对测试方法，该方法利用具有相似背景和需求但受保护类别（如种族、性别、残疾）不同的购房者，来查看中介或公司是否会推荐相似的区域和房产，或者是否发生差别待遇。在社会科学研究中，此类审计也见于经典实地实验，如 Bertrand 和 Mullainathan (2004) 的研究，该研究证明了劳动力市场基于简历上名字所感知到的种族的歧视。有关审计研究的结构和假设的更多信息，请参阅。

在大语言模型的背景下，研究者认为文化和人口统计偏见可能体现在输出中，此后多年各种实证研究探索了种族、宗教、性别、地理和政治偏见在不同 LLM 中如何以不同方式表现。Liu 等人 (2024) 对 GPT-4 进行了首次审计，发现该模型存在种族引导行为，并且默认推荐与白人推荐最为相似。

### 2.3. LLM 作为地方认同与城市历史的地理中介

数字地理学已描绘出搜索和排名算法如何影响用户可见度并塑造整个互联网信息生态系统的方式。Graham 和 Zook (2013) 分析了地点信息的增强如何通过语言可用性、相同信息如何传达给不同受众、以及谁被分类去看相同的参考点，来强化物理位置在数字界面中的某些文化和政治现实。转向 LLM，研究表明 LLM 的地理概念并非中性的空间映射。Kerche 等人 (2026) 全面探索了 GPT4o-mini 在巴西、美国和英国的全球、国家、州和城市层面携带的关联。他们发展了一种分类法，描述了 LLM 以不平等方式看待地点的各种方式。这包括放大现有的数据和语言可用性偏见、下一个词预测的词汇关联偏见、扁平化多样化的论述、突出刻板印象，以及用量化代理替代主观品质。

城市作为分析单元被比作重写本——旧历史与空间嵌入的遗留层层叠叠，与新信息叠加，形成当下城市的地方认同。地方认同的概念涵盖“那些定义个人相对于物理环境的个人身份的自我维度，通过与特定环境相关的有意识和无意识的想法、感受、价值观、目标、偏好、技能和行为倾向的复杂模式”。学者们进一步反思了这一概念在随时间推移的地理研究中如何演变。在城市层级上，Jang 等人 (2024) 展示了生成式 AI 如何在其文本和视觉输出中准确反映特定城市区域的地方认同。

由于 LLM 通过文本、房源列表、地理趋势、种族化住房环境的根深蒂固遗留以及逐年变化的市场趋势内化了这些信息，它们成为数字重写本，随着时间的推移从不同类型的数据中形成意义的复合体。使用 LLM 的房地产经纪人和用户与嵌入在模型中的、对城市独特特征的对话性空间表征互动，这些表征也对查询用户的身份做出反应。在本研究中，我们探索这一想法，以理解模型对用户人口统计和生活方式偏好的概念化如何影响其与模型内部城市空间呈现方式的互动，并提供地点推荐。

## 3. 方法论

### 3.1. 数据集

本研究建立在 Liu 等人 (2024) 测试大语言模型中种族引导的方法论基础上。我们评估了七个大语言模型，包括评估时市场上可用的闭源和开放权重模型：Anthropic 的 Claude Sonnet、Google 的 Gemini 2.0 Flash、High-Flyer 的 DeepSeek V3、Meta 的 LLAMA 3.1、Mistral AI 的 Mistral Large、OpenAI 的 GPT-4o 以及 xAI 的 Grok 2。我们没有仅仅关注基于人口统计线索的一次性提示，而是试图模拟上下文