人类认知与行为的小型基础模型

arXiv cs.AI 论文
foundation-models cognitive-science psychology scaling-laws behavioural-data fine-tuning

摘要

本文研究在人类行为数据上微调的小型基础模型是否可以作为认知代理，发现规模在分布内影响甚微，但较大模型在分布外具有更好的泛化能力。

arXiv:2608.05224v1 公告类型：新 摘要：在人类行为数据上微调的大型语言模型已成为通用认知代理，但这所需的规模，以及这些模型是处理任务结构还是利用统计捷径，仍是未解问题。我们在Psych-101上训练了来自四个架构家族的十四个模型，参数规模从1.35亿到140亿不等。Psych-101是一个包含来自160个实验的1070万次试验级选择的数据集。在分布内，规模几乎无关紧要。各模型落在一个狭窄的区间内，仿佛触及了天花板；0.6B到1B参数就足以在留出参与者上匹配70B基线。在分布外，这个区间展开为明显更陡峭的扩展梯度，较大模型在新任务结构上的泛化明显占优。为了确定这些模型使用哪些信息，我们运行了两项诊断。我们在27个实验中逐步剥离四个提示通道——任务指令、实验刺激、结果反馈和选择历史——并打乱试验顺序。遮蔽刺激和反馈的内容会破坏75.7%的学习信息，并将模型推至随机水平以下，表明仅凭选择历史无法解释其表现。排列试验顺序揭示了在独立试验任务上的不变性，但在试验顺序由先前反应决定的任务上则具有敏感性。因此，小型认知微调模型有望作为心理学实验的噪声天花板估计器，尽管其范围仍受限于训练中见过的范式。
查看原文
查看缓存全文

缓存时间: 2026/08/07 07:46 

# 人类认知与行为的小型基础模型
来源：https://arxiv.org/abs/2608.05224
查看 PDF（https://arxiv.org/pdf/2608.05224）

> 摘要：在人类行为数据上微调的大型语言模型已成为通用认知代理，但所需模型规模，以及这些模型是处理任务结构还是利用统计捷径，仍是未解问题。我们在 Psych-101 上训练了四个架构族、从 135M 到 14B 参数规模的十四个模型；Psych-101 是一个包含来自 160 个实验的 1070 万次试验级选择的数据集。在分布内，规模几乎无关紧要。各模型的表现落在一个狭窄区间内，仿佛触顶；0.6B 到 1B 参数便足以在保留参与者上匹配 70B 基线的表现。在分布外，这个区间则呈现出明显更陡峭的扩展梯度，较大模型在处理新任务结构的泛化上明显占优。为确定这些模型使用了哪些信息，我们运行了两项诊断。我们在 27 个实验中逐步剥离四个提示通道——任务说明、实验刺激、结果反馈和选择历史——并置换试验顺序。遮蔽刺激和反馈内容会破坏 75.7% 的学得信息，并将模型推向低于随机水平，这表明仅凭选择历史无法解释模型表现。置换在试验相互独立的任务上显示出不变性，但在试验顺序由先前反应决定的任务上则显示出敏感性。因此，小型认知微调模型有望成为心理实验的噪声上限估计器，尽管其适用范围仍受限于训练中所见的范式。

## 提交历史

来自：Nick Oh [查看电子邮件](https://arxiv.org/show-email/c75a6385/2608.05224) **\[v1\]** 2026年8月5日（周三）11:34:20 UTC（1,957 KB）

相似文章

人类认知与行为的小型基础模型

Hugging Face Daily Papers

本文在Psych-101数据集上训练了14个小语言模型（参数规模从1.35亿到140亿），该数据集包含来自160个实验的1070万次逐试次人类选择。研究发现，小型模型足以匹配分布内数据，而大型模型在分布外泛化方面表现更好。诊断结果表明，遮蔽刺激和反馈会破坏大部分已学信息，表明仅凭选择历史是不够的。

On the use of foundation models in cognitive science

arXiv cs.CL

This perspective paper from arXiv articulates a four-stage inferential framework for evaluating foundation models as cognitive and developmental models, emphasizing that behavioral alignment alone is insufficient and must be embedded within theoretical commitments and contrastive evaluation.

fMRI基础模型的扩展性研究

arXiv cs.LG

本文对fMRI基础模型进行了一项扩展性研究，揭示了模型性能取决于预训练数据规模、模型规模和训练时长的组合，而不仅仅是计算资源。

BehaviorBench：面向行为科学任务的基础模型基准测试

arXiv cs.CL

本文介绍了BehaviorBench，一个用于评估基础模型在行为科学任务（包括行为预测、战略决策、主体特征推断和行为知识应用）上表现的综合基准。它还介绍了Be.FM-1.5，一个经过微调的模型，实现了出色的分布对齐，突显了通用模型与行为适应模型之间的差距。