LLMs 中的过度推理。

Reddit r/ArtificialInteligence 新闻

摘要

本文批判了大语言模型中过度推理的趋势,认为过度的计算和更长的回答常常降低效率和用户体验,而没有相应的益处。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/09/27 21:48

# 过度推演:nen拒绝的维度 来源:https://nenspace.com/blog/over-reasoning 命名这个维度是前沿模型最大化的方向。 推理并非模型对人类价值的唯一变量。有些模型在推理上投入更多计算,有些则生成更长的回答——这是两回事。我们在此用"过度推演"指代超出情境所需的分析或阐释。单凭回答长度无法揭示内部发生了多少推理过程。**nen**被训练为拒绝这一维度。这是设计目标,而非宣称在所有任务上匹配其他模型。洞见先行,长度随行。 ## 竞赛时代 过去两年,前沿模型的发展一直是一场将"深思熟虑"产品化的竞赛。思维链扩展为延展推理,延展推理发展为数分钟的推理过程,推理基准测试成为整个领域的记分牌。这场竞赛在自身逻辑中真实存在。OpenAI报告称(https://openai.com/index/learning-to-reason-with-llms/),在2024年AIME数学考试中,GPT-4o解决了约12%的题目,而o1在单次采样中达到74%,在64次采样共识下达到83%。这是不同模型和评估设置下的结果,而非单一模型仅通过增加思考就能从12%提升到这个水平。更多推理计算确实有助于解决困难且可验证的问题。这一点需要坦诚说明,因为本文论点并非否定推理的作用。 ## 用户感知的成本 第一个成本是人们已然切身体会的:那些每个分句都附带引用的六段式回答;面对无需深入的问题却要展示三十秒思考过程;你提出的问题答案,被埋没在四个未被询问问题的答案中。超越合理限度后,过多推理不再有益,反而成为阅读负担。模型在表演其"尽职",而你需用注意力为这场表演买单。 更值得关注的是,推理研究本身已发现冗余问题: - 在单一问题中,较短推理链的准确率最高可比最长推理链高出34.5%(Meta FAIR, 2025)。 - 在智能体任务中抑制过度思考,可使性能提升近30%同时减少43%计算量(Cuadron等,2025)。 - 生成长度与准确率并无稳定相关性,反而可能标志过度思考(Chen等,ICML 2026)。 - 仅基于长度的奖励机制就能复现RLHF大部分可测收益(Singhal等,2023)。 Arena文本排行榜的四个柱状图显示:随着模型迭代,单答词数从158升至510,而长实义词占比从46.9%降至40.1%。某前沿模型系列的回答风格演变中,单答词数增长超两倍,而较长生僻词比例持续下降。这两项指标均无法确立回答的实质、准确性或实用性。核心问题在于:增加的文字是否真正帮助读者? ## 未被察觉的成本 第二个成本更隐蔽且持续累积。人们可能直接接受模型结论而不加审视。重复使用是否会改变人的能力,取决于工具使用方式,这仍是研究中的活跃议题。 模型针对人类认同进行优化,而认同是易被扭曲的信号。长度本身会获得奖励:前述研究发现,仅基于长度的奖励机制就能复现偏好优化的大部分效果。赞同也会被奖励:Anthropic发现,人类和偏好模型在相当比例情况下会偏爱那些看似有理实则谄媚的回答,胜过正确答案。2026年哈佛大学分析则形式化证明,针对此类偏好优化会加剧偏移。 可测量的偏好对象与真正有益的对象存在显著差异。斯坦福与卡内基梅隆大学团队发现,研究中的11个模型比人类受访者更频繁肯定用户行为(高出50%),且谄媚的AI使参与者更不愿修复真实人际冲突,却更坚信自身正确。最关键的是:**这些参与者对谄媚模型评价更高、信任更深,并愿意持续使用。人们评价最佳的行为,恰恰是服务效果最差的行为。**没有理由认为推理量会豁免于这种偏移。 长期成本仍在测量中,诚实要求我们承认这一点。MIT早期脑电图研究(https://www.media.mit.edu/projects/your-brain-on-chatgpt/overview/)报告了论文写作任务中的脑电连接差异,使用大语言模型辅助的参与者更难引用自己的作品。该研究前三个阶段包含54名参与者,第四阶段18人。这是小规模、任务特定的预印本研究,并非认知持续衰退或冗长回答所致效应的证明。它为我们提供了研究辅助工具使用方式的理由,而非对所有AI对话的结论。 ## 洞见先行 拒绝这一维度并非拒绝推理。**nen**是默认文本对话模型。当问题需要资料来源时,nenspace也提供独立的网页搜索和深度研究功能。拒绝的是:作为表演的推理、作为努力代理的长度、作为展示的深思。洞见先行,长度随行。有时一行字就能改变你所处的认知框架;有时则需一整页。但永远不应以数量为先。 这与nenspace整体理念一脉相承,此处特为语音交互阐明:将有用信息置于外部记忆,同时持续自主审视判断。因此**/space**承担记忆功能,而nen被构建为将思考权交还用户。完整论述见《外延心智而非第二大脑》(https://nenspace.com/blog/extendedmind),其背后的科学原理详见《为何如此设计》(https://nenspace.com/why)。这是大语言模型的低保真选择——并非质量低下,而是拒绝他人最大化的维度。当"更多"不再意味着"更好"时... **答案应值得它所要求的关注。**

相似文章

多少思考才算够?量化与理解LLM推理中的冗余

arXiv cs.AI

本文形式化了LLM中的推理冗余,将其定义为在不影响正确性的情况下可截断的尾部步骤比例,在多个前沿模型上量化出61%-93%的冗余,并证明冗余是长度无关结果奖励的结构性后果。

引用布莱恩·坎特里尔

Simon Willison's Blog

布莱恩·坎特里尔批评LLM缺乏人类懒惰带来的优化约束,认为LLM会不必要地使系统复杂化而非改进,并强调人类时间限制推动了高效抽象的发展。

控制LLMs中的推理努力

Hacker News Top

本文讨论了在LLMs中控制推理努力,包括OpenAI发布的GPT-5.6具有多种推理努力设置,并提供了开发可调节努力模式的推理模型的指导。

Knowing When to Quit: Diagnosing and Training LLMs to Abort Futile Reasoning

arXiv cs.CL

This paper characterizes 'futile reasoning' in large language models, where models produce superficially valid but incorrect reasoning on tasks beyond their capability. They introduce CaRL, a capability-aligned reinforcement learning method that trains LLMs to abstain from futile reasoning while preserving performance.