论文页面 - LLMs能理解序列结构吗？关于推理与生成的受控研究

来源：https://huggingface.co/papers/2610.04977

摘要

大语言模型（LLMs）正越来越多地被用作交互式智能体和模拟器，但目前仍不清楚它们是否能够超越表层动作频率，恢复潜在的序列结构。这一区分对于行为模拟至关重要，因为在行为模拟中，动作往往受先验上下文影响，而非仅仅由边际频率决定。我们通过受控的双人石头-剪刀-布交互以及单人随机n-gram续写任务来研究这一问题。在这些实验中，我们测试了LLMs是否能够识别潜在策略、遵循简单的马尔可夫规则，以及维持高阶条件依赖关系。我们的框架将分布匹配与条件规则遵循进行了区分。结果表明，更长的上下文并不能提升识别能力，正确识别并不保证忠实模拟，而高阶依赖会显著降低规则恢复的效果。因此，表面的行为保真度可能掩盖了错误的生成机制。

查看 arXiv 页面 (https://arxiv.org/abs/2610.04977) 查看 PDF (https://arxiv.org/pdf/2610.04977) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.04977)

在你的智能体中获取此论文：

hf papers read 2610.04977

还没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.04977 即可从此页面链接。

引用此论文的数据集 0

暂无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.04977 即可从此页面链接。

引用此论文的 Spaces 0

暂无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.04977 即可从此页面链接。

包含此论文的合集 0

暂无合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。