@yoheinakajima：有趣的是，我们通过剪掉推理过程来获得决策模型，仿佛决策是在推理之前做出的……

X AI KOLs Following 新闻
reasoning-models decision-making ai-research llm-training opinion

摘要

Yohei Nakajima 思考道，决策模型本质上是通过剥离推理链条得到的，这似乎假设了决策先于推理——质疑这种思路是否反映了推理实际运作的方式。

有趣的是，我们通过剪掉推理过程来获得决策模型，仿佛决策是在推理发生之前就已做出的。
查看原文

相似文章

推理模型并非只是思考更久，其运作轨迹也不同

arXiv cs.CL

本文通过分析代码、数学和SAT领域中的隐藏状态轨迹几何特征，探究经推理训练的语言模型是否仅仅分配更多计算资源（更长的思维链），还是遵循了性质不同的内部轨迹。在纠正生成长度的影响后，他们发现经推理训练的模型展现出独特的轨迹几何特征——在代码领域最为明显——这表明推理训练改变了计算展开的方式，而不仅仅是计算量的多少。

剖析 Hierarchical Reasoning Models：机制研究

arXiv cs.LG

本文对 Hierarchical Reasoning Models (HRM) 进行机制分析，以理解其在潜在空间中的内部推理过程，采用因果干预和稀疏自编码器等技术，在数独和 ARC-AGI-2 等任务上展开研究。

推理模型难以控制其思维链，但这其实是好事

OpenAI Blog

OpenAI的研究人员研究了推理模型是否能故意隐藏其思维链以逃避监控，发现当前模型即使知道自己被监控，也难以控制自己的推理过程。他们推出了CoT-Control，一个包含超过13,000个任务的开源评估套件，用于衡量推理模型中思维链的可控性。