WearableQA:一个基于真实世界可穿戴数据的健康推理基准

Hugging Face Daily Papers 论文

摘要

WearableQA 是一个用于评估大型语言模型在真实世界可穿戴健康数据上推理能力的基准,它使用从纵向测量中衍生的多选题。

最近可穿戴传感技术的进步实现了生理和行为信号的连续监测,但现有基准很少评估AI系统是否能对真实用户的纵向可穿戴记录进行推理。我们推出WearableQA,这是一个基准,包含4084道10选项多选题,这些题目基于200名真实用户的可穿戴时间序列、血液生物标志物和人口统计数据构建,每位用户最多有500天的每日测量数据。WearableQA保留了真实的可穿戴数据分布,包括设备噪声和个体间变异性。为了评估不同的推理能力,我们引入了16种问题类型,沿两个互补轴组织:数据推理与健康推理,区分对纵向测量的计算与生理学解释;以及单信号推理与跨信号推理,将对单个信号的推理与多个信号的整合分开。为了大规模构建可靠的问题,我们采用了一个双重依据框架,将文献依据的生理学发现与统计验证的人群依据的生理学模式结合起来。这使得能够捕捉在真实世界可穿戴数据中观察到的有意义的关系。对14个专有和开源LLMs的评估表明,WearableQA有效地区分了模型能力,性能范围从19.6%到72.9%,相对于10%的随机基线。此外,WearableQA远未解决:大多数模型的准确率低于60%。总体而言,WearableQA为评估LLMs在真实世界可穿戴数据上的推理提供了一个现实且诊断性的基准。
查看原文
查看缓存全文

缓存时间: 2026/09/10 06:09

论文页面 - WearableQA:基于真实世界可穿戴数据的健康推理基准测试

来源:https://huggingface.co/papers/2609.05405

摘要

WearableQA 是一个基于真实纵向可穿戴数据构建的多选题基准测试,旨在评估大语言模型在数据维度和健康维度的推理能力。

近年来可穿戴传感技术的进步实现了生理与行为信号的持续监测,但现有基准测试很少评估人工智能系统能否基于真实用户的纵向可穿戴记录进行推理。我们提出了 WearableQA,该基准测试包含 4,084 道十选项多选题,数据源自 200 名真实用户的可穿戴设备时间序列数据、血液生物标记物和人口统计信息,每位用户最多包含 500 天的日常测量数据。WearableQA 保留了真实的可穿戴数据分布特性,包括设备噪声和个体差异性。为评估不同的推理能力,我们设计了 16 种问题类型,沿两个互补维度进行划分:数据推理与健康推理(区分对纵向测量值的计算与生理学解释);单信号推理与跨信号推理(区分对单一信号的推理与多信号整合推理)。为大规模构建可靠的问题,我们采用了双重验证框架(https://huggingface.co/papers?q=dual-grounding%20framework),结合文献验证的生理学发现与统计验证的群体生理特征模式,从而能够捕捉真实世界可穿戴数据中的有意义关联。对 14 个专有及开源大语言模型(https://huggingface.co/papers?q=LLMs)的评估表明,WearableQA 能有效区分模型能力,性能跨度从 19.6% 到 72.9%(基准随机概率为 10%)。此外,WearableQA 尚未被完全攻克:大多数模型准确率低于 60%。总体而言,WearableQA 为评估大语言模型在真实世界可穿戴数据上的推理能力提供了兼具真实性与诊断价值的基准测试。

查看 arXiv 页面 (https://arxiv.org/abs/2609.05405) 查看 PDF (https://arxiv.org/pdf/2609.05405) GitHub6 (https://github.com/facebookresearch/WearableQA) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.05405)

通过工具获取此论文:

hf papers read 2609\.05405

尚未安装最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型

0

暂无关联此论文的模型

在模型 README.md 中引用 arxiv.org/abs/2609.05405 即可从本页关联。

引用此论文的数据集

1

facebook/WearableQA 查看器 • 6 天前更新 • 20.4k • 10 (https://huggingface.co/datasets/facebook/WearableQA)

引用此论文的 Spaces

0

暂无关联此论文的 Space

在 Space README.md 中引用 arxiv.org/abs/2609.05405 即可从本页关联。

包含此论文的收藏

0

暂无包含此论文的收藏

将此论文添加到收藏夹 (https://huggingface.co/new-collection) 即可从本页关联。

相似文章

介绍 HealthBench

OpenAI Blog

OpenAI 推出了 HealthBench,这是一个用于评估医疗保健环境中人工智能系统的新基准。该基准由来自 60 个国家的 262 名医生共同创建,包含 5,000 个逼真的健康对话和医生编写的评分标准,用于评估模型在有意义、可信和可改进的指标上的性能。

重探语义处理的痛点:语言模型的语义推理基准测试

arXiv cs.CL

研究人员推出了 SemanticQA 基准测试,旨在评估语言模型在包含习语、名词复合词及动词结构等语义短语处理任务上的表现。结果显示,不同架构与规模的模型在语义推理任务上的性能存在显著差异。