MARCUS:基于上下文城市信号的缺失感知区域表示用于租金预测

arXiv cs.LG 论文

摘要

本文提出MARCUS,一种缺失感知区域表示模型,将缺失数据视为上下文城市信号用于租金预测,在现实世界数据集上实现了最先进的性能,显著降低了误差。

arXiv:2608.18546v1 公告类型:新 摘要:多模态城市数据扩展了城市区域表示学习的应用,如功能区识别和房地产评估,但也引入了由数据不完整性引起的挑战。现有研究通常通过插补处理缺失数据,将缺失性视为噪声而忽略其潜在的语义价值。为解决此问题,我们提出MARCUS,一种缺失感知区域表示模型,将缺失性视为上下文城市信号。MARCUS在三个阶段建模缺失性:内生学习联合编码观测特征和缺失模式;交互学习估计模态可靠性以引导跨模态交互;融合使用缺失感知和时间感知门控生成最终区域嵌入。我们将MARCUS应用于租金预测,这是一个具有长期趋势和季节性波动的任务,使用来自悉尼和纽约的现实世界数据集。实验结果表明,MARCUS实现了最先进的性能,与最佳基线相比,在悉尼和纽约分别将MAE降低了51.35%和12.62%。额外的实验,包括基于插补的消融研究和随机附加缺失分析,进一步证明了所提方法的有效性。
查看原文
查看缓存全文

缓存时间: 2026/08/20 10:28

# MARCUS:基于上下文城市信号的缺失感知区域表征用于租金预测
来源:https://arxiv.org/html/2608.18546
陈雅慧1, 梁斌1,\*, 李志东1, 卢宇曦1, 李坤琪1, 贾斯汀·王2, 陈芳1
单位:1悉尼科技大学数据科学研究所,悉尼,澳大利亚 \{Bin\.Liang, Zhidong\.Li, Fang\.Chen\}@uts\.edu\.au \{Chenya\.Huang, Yuxi\.Lu, Kunqi\.Li\}@student\.uts\.edu\.au \*通讯作者:梁斌。
单位:2房产投资者联盟,悉尼,澳大利亚 Justin@pia\.com\.au

###### 摘要

多模态城市数据拓展了城市区域表征学习的应用场景,例如功能区识别与房地产估价,但也因数据不完整带来了挑战。现有研究通常通过插补来处理缺失数据,将缺失视为噪声而忽略了其潜在的语义价值。为解决此问题,我们提出MARCUS,一种缺失感知区域表征模型,将缺失视为一种上下文城市信号。MARCUS在三个阶段对缺失进行建模:内部学习共同编码观测特征与缺失模式;外部学习估计模态可靠性以引导跨模态交互;融合阶段使用缺失感知与时间感知门控生成最终的区域嵌入。我们将MARCUS应用于具有长期趋势和季节性波动的租金预测任务,使用来自悉尼和纽约的真实数据集。实验结果表明,MARCUS取得了最先进的性能,与最佳基线相比,在悉尼数据集上将平均绝对误差降低了51.35%,在纽约数据集上降低了12.62%。额外的实验,包括基于插补的消融研究和随机增加缺失率分析,进一步证明了所提方法的有效性。为便于复现,我们公开了实现细节和源代码:https://github\.com/Santooops/MARCUS

###### 关键词:

城市区域嵌入,多模态学习,租金价格预测,不完整学习

## I 引言

近年来,城市计算日益受到研究界关注[1 (https://arxiv.org/html/2608.18546#bib.bib1)]。这一趋势得益于多模态城市数据的日益普及[2 (https://arxiv.org/html/2608.18546#bib.bib2)]。在城市计算中,城市通常被划分为多个具有明确边界但不规则形状的区域[3 (https://arxiv.org/html/2608.18546#bib.bib3)]。这些区域在功能属性、人口结构和经济活动方面存在显著差异。因此,有效建模和理解城市结构已成为一个关键问题。高质量的城市区域表征有助于描述城市的空间结构和功能分布,同时支持多种下游任务,如房价预测[4 (https://arxiv.org/html/2608.18546#bib.bib4)]、[5 (https://arxiv.org/html/2608.18546#bib.bib5)]、租金估价[6 (https://arxiv.org/html/2608.18546#bib.bib6)]、犯罪预测[7 (https://arxiv.org/html/2608.18546#bib.bib7)]、[8 (https://arxiv.org/html/2608.18546#bib.bib8)]和城市活力评估[9 (https://arxiv.org/html/2608.18546#bib.bib9)]。

参见图例 图1:悉尼数据集上的附加缺失率分析。附加缺失率指被人为遮蔽的原始观测数据比例。原始数据中自然缺失的记录保持不变。然而,真实城市环境中的多模态城市数据通常是不完整的。多种模态的覆盖通常呈现系统性缺失。某些模态在某些区域可能完全不可用,其他模态则仅在空间或时间上部分观测到。更重要的是,这种缺失通常并非随机噪声,它与区域属性和城市结构高度相关。例如,人口相关指标在无人居住区语义上无效,而兴趣点或移动性信号在新兴开发或更偏远地区往往更为稀疏。因此,由此产生的缺失模式携带城市语义信息,反映了区域间的功能状态和发展差异。所以,缺失应被视为一种城市上下文信号,而不仅仅是需要解决的数据问题[10 (https://arxiv.org/html/2608.18546#bib.bib10)]。

现有方法[6 (https://arxiv.org/html/2608.18546#bib.bib6)]、[39 (https://arxiv.org/html/2608.18546#bib.bib39)]、[40 (https://arxiv.org/html/2608.18546#bib.bib40)]通常将缺失视为插补问题,或在融合时采用简单的掩码策略。然而,这些方法存在两个主要局限性:
1)  在跨模态交互和融合过程中,模型难以显式地区分可靠信息与来自稀疏或缺失源的信号。这可能引入偏差和噪声。
2)  它们丢弃了嵌入在缺失模式中的区域语义,使得此类信息无法贡献于表征学习。即使使用专门的插补模型,额外的假设和插补误差也不可避免,可能进一步放大偏差。

为解决这些局限性,我们提出了一种缺失感知的城市区域表征学习模型。它显式地表征多模态城市数据中的可用性模式,并允许缺失信息渗透到表征学习的关键阶段,特别是在跨模态交互和融合过程中。具体而言,在内部学习中,我们通过将观测值特征和缺失特征投影到同一潜在空间,对它们进行联合建模,然后将两种嵌入融合成统一的表征。在外部学习中,我们基于缺失状态估计模态可靠性,从而自适应调节交互强度。在最终的融合阶段,我们进一步融合缺失模式和时间上下文,执行门控加权,从而在不完整的多模态城市数据下生成更稳健、语义信息更丰富的区域表征。此外,为了评估模型在不同缺失程度下的性能,我们进行了一项额外的缺失率实验,如图1 (https://arxiv.org/html/2608.18546#S1.F1)所示。当附加缺失率低于约55%时,MARCUS始终取得最佳性能。更详细的分析见“缺失率分析”部分。

我们的贡献可总结如下:
- • 我们提出一种技术方案,将多模态缺失视为一种信息丰富的城市上下文信号。对于每个区域、时间步和模态,我们构建包含可用性、缺失率和缺失位置信息的缺失描述符,并将其注入内部学习、外部学习和最终的模态融合中。这使MARCUS能够自适应地评估模态可靠性,并从不完整的多模态城市数据中学习稳健的区域表征。
- • 我们提出一种缺失驱动的区域表征学习框架,其中缺失信息贯穿整个流程,从模态内编码到跨模态交互,再到最终融合。
- • 我们使用来自悉尼和纽约的数据集,在真实世界的租金价格预测任务上验证了MARCUS。MARCUS在所有指标上持续优于传统预测器和区域嵌入基线。与“先插补”策略的进一步比较以及额外的缺失实验(图1 (https://arxiv.org/html/2608.18546#S1.F1))表明,显式建模缺失提供了有用的预测信息,并使MARCUS在严重的模态不完整性下保持稳健。

## II 相关工作

早期的城市区域表征学习研究主要依赖人类移动数据来构建区域嵌入,因为移动模式能够捕捉区域间的动态交互和行为联系[2 (https://arxiv.org/html/2608.18546#bib.bib2),22 (https://arxiv.org/html/2608.18546#bib.bib22),23 (https://arxiv.org/html/2608.18546#bib.bib23),18 (https://arxiv.org/html/2608.18546#bib.bib18),24 (https://arxiv.org/html/2608.18546#bib.bib24)]。然而,仅靠移动数据只能反映城市动态的一个方面,可能忽略了城市区域的语义、功能和社会经济特征。

为了获得更全面的区域表征,近期研究开始将移动数据与区域属性进行联合建模[25 (https://arxiv.org/html/2608.18546#bib.bib25)]、[26 (https://arxiv.org/html/2608.18546#bib.bib26)]、[27 (https://arxiv.org/html/2608.18546#bib.bib27)]、[23 (https://arxiv.org/html/2608.18546#bib.bib23)]。例如,兴趣点分布提供了区域功能的线索[28 (https://arxiv.org/html/2608.18546#bib.bib28)]、[29 (https://arxiv.org/html/2608.18546#bib.bib29)]、[30 (https://arxiv.org/html/2608.18546#bib.bib30)]、[31 (https://arxiv.org/html/2608.18546#bib.bib31)]。人口普查统计数据捕捉了人口结构和社会经济背景。街景或遥感图像进一步描述了建成环境和土地利用模式[25 (https://arxiv.org/html/2608.18546#bib.bib25)]、[32 (https://arxiv.org/html/2608.18546#bib.bib32)]、[20 (https://arxiv.org/html/2608.18546#bib.bib20)]、[33 (https://arxiv.org/html/2608.18546#bib.bib33)]、[34 (https://arxiv.org/html/2608.18546#bib.bib34)]、[35 (https://arxiv.org/html/2608.18546#bib.bib35)]。此外,文本作为人类语言的一种形式,也有助于增强城市嵌入[29 (https://arxiv.org/html/2608.18546#bib.bib29)]、[20 (https://arxiv.org/html/2608.18546#bib.bib20)]、[36 (https://arxiv.org/html/2608.18546#bib.bib36)]。这些异构数据源为城市区域提供了互补的视角,并推动了多源区域嵌入学习。与此同时,研究人员基于空间邻接性、功能相似性或移动性构建了区域间图[37 (https://arxiv.org/html/2608.18546#bib.bib37)]、[38 (https://arxiv.org/html/2608.18546#bib.bib38)]、[23 (https://arxiv.org/html/2608.18546#bib.bib23)]、[18 (https://arxiv.org/html/2608.18546#bib.bib18)]、[17 (https://arxiv.org/html/2608.18546#bib.bib17)]。这些方法有助于捕捉跨区域依赖关系,提高学习表征的结构一致性。

然而,现有的融合和关系建模方法通常依赖一个隐含的假设:大多数模态在各区域都可用且质量相当,从而可以在统一的空间单元上进行对齐和联合学习。当此假设不成立时,缺失和噪声可能在融合和消息传递过程中被放大,这会导致区域表征产生偏差,并破坏结构一致性。受这一实际限制的启发,我们提出了一种新颖的缺失感知多模态城市区域表征学习框架来解决此问题。对于异构数据,我们通过缺失模式表征数据可用性,并使用它们来指导跨模态融合权重,从而得到更稳健、更具可迁移性的城市区域表征。

此外,一些研究将基于提示的任务适配引入城市区域表征学习。HREP采用了一种前缀调优式的提示来引导异构区域图表征,以更有效地跨任务学习[19 (https://arxiv.org/html/2608.18546#bib.bib19)]。FlexiReg进一步利用提示来定制面向任务的区域表征[20 (https://arxiv.org/html/2608.18546#bib.bib20)]。这些研究表明,基于提示的适配可以提高区域嵌入的灵活性和可迁移性。然而,它们主要关注任务适配,没有显式地建模多模态缺失,而这正是本工作的重点。

## III 数据描述与分析

表一:数据集统计
数据集 | 描述 | 悉尼 | 纽约
---|---|---|---
区域 | 划分方案 | SA2 | 邮政编码
# 区域 | | 373 | 177
人口普查数据 | # 调查 | 19,750 | 85,154
| 缺失率 | 0.54% | 0%
兴趣点数据 | # 记录 | 145,548 | 20,570
| # 类别 | 13 | 13
| 缺失率 | 27.67% | 19.66%
交通数据 | # 移动记录 | 22,816 | 240,558,409
| 缺失率 | 40.40% | 6.87%
租金数据 | # 记录 | 608,652 | 6,372
时间数据 | 时间段 | 2021年7月–2024年7月 | 2022年1月–2024年12月

本节介绍研究中使用的数据集并提供初步分析。我们使用两个真实世界的城市数据集——悉尼和纽约,它们分别对应澳大利亚和美国的主要房地产市场。我们收集了两个城市的兴趣点(POI)数据、人口普查统计数据和交通记录,用于构建区域表征。这些数据来源于澳大利亚统计局(ABS)[11 (https://arxiv.org/html/2608.18546#bib.bib11)]、纽约市开放数据[12 (https://arxiv.org/html/2608.18546#bib.bib12)]和政策发展与研究办公室[13 (https://arxiv.org/html/2608.18546#bib.bib13)]。此外,我们还收集了用于下游任务的租金数据集。表一总结了数据集统计信息,包括缺失状态。缺失率在区域层面计算。

### III-A 区域数据

由于其他数据源在不同地理尺度上的可用性和可用性存在差异,我们对悉尼和纽约采用了两种不同的空间划分方案。悉尼遵循ABS统计地理,即统计二级区域(SA2),而纽约则使用邮政编码作为区域单元。此设置也允许我们检验模型在不同空间粒度下的性能。

### III-B 人口普查数据

原始人口普查数据集分别包含悉尼和纽约的12,176条和85,154条记录。两者均报告在最精细的可用统计单元上。为与其他数据源对齐,我们将悉尼的人口普查数据从统计一级区域(SA1)聚合到SA2,将纽约的人口普查数据从普查区聚合到邮政编码。每条记录包含总人口、平均家庭收入、教育程度和就业率等关键社会经济属性。在悉尼人口普查数据中,仅有非常少量的缺失(0.54%),而纽约人口普查数据是完整的。

参见图例 图2:悉尼区域兴趣点示例
### III-C 兴趣点数据

我们收集了悉尼和纽约的所有兴趣点,官方在每个城市将其划分为13个功能类别。尽管两个数据集的类别定义略有不同,但它们大致涵盖了社区、教育、医疗和休闲设施等常见城市功能。悉尼共有145,548个兴趣点,纽约有20,570个兴趣点。对于每个区域,我们构建其所含兴趣点的文本描述,如图2 (https://arxiv.org/html/2608.18546#S3.F2)所示。在兴趣点数据中,悉尼有显著的缺失(27.67%),而纽约的缺失率较低(19.66%)。

### III-D 交通数据

交通数据表征城市移动流。由于数据可用性,我们使用悉尼的公共交通站点进出站量,以及纽约的出租车出行记录。出租车出行记录包括路边扬招和应用叫车出行,覆盖纽约市全境。这些移动数据包含起点和终点等信息,并反映了出行方式(例如,火车、地铁和出租车)。由于SA2是专为统计报告设计的社区级地理单元,交通站点并未覆盖所有区域。因此,悉尼交通数据集包含大量缺失。纽约交通数据的缺失率为6.87%。其中很大一部分缺失是由于...

相似文章

回归修复:用于时间序列异常检测的极简去噪网络

Hugging Face Daily Papers

本文提出了JuRe(Just Repair,意为“仅需修复”),一个用于时间序列异常检测的极简去噪网络。该网络在TSB-AD和UCR基准数据集上的性能匹配或超越了复杂的神经网络基线模型,表明正确的流形投影训练目标比架构复杂度更为重要。

语境之代价:在多模态检索增强生成中缓解文本偏差

arXiv cs.CL

本文识别并形式化了多模态RAG中的“再污染”现象,即添加准确上下文会导致模型因注意力崩溃(视觉盲区和位置偏差)而放弃正确预测。作者提出BAIR,一种无参数的推理时框架,能恢复视觉显著性并惩罚文本干扰因素,从而在医学、公平性和地理空间基准上提高可靠性。