llm-reasoning

标签

Cards List
#llm-reasoning

SOAR:面向搜索智能体的来源感知强化学习与精准信用分配

arXiv cs.CL ↗ · 2026-10-12 缓存

提出SOAR(Source-Aware Reinforcement Learning),通过将外部证据与内部知识解耦为可观测的并行流并引入Source-Consistent Reward,实现搜索代理的精确信用分配;在3B和7B模型上分别提升7.3%和5.4%,并将证据伪造率降低74.8%。

0 人收藏 0 人点赞
#llm-reasoning

基于模型切片的协作学习与推理

arXiv cs.AI ↗ · 2026-10-12 缓存

提出一种协作学习框架,用多个异构小模型替换单个大模型进行推理(模型切片),并通过金字塔监督蒸馏改进跨模型协作,在多跳问答、数学推理、代码生成等任务上达到与大模型相当或更优的性能,且推理效率更高。

0 人收藏 0 人点赞
#llm-reasoning

LongR:通过具有密集效用奖励的强化学习释放长上下文推理能力

Hugging Face Daily Papers ↗ · 2026-10-12 缓存

LongR 是一个统一框架,通过将“思考与阅读”动态机制与基于相对信息增益的上下文密度奖励相结合,提升大语言模型的长上下文推理能力,在 LongBench v2 上取得超过 9% 的提升,并在 RULER 和 InfiniteBench 上保持一致改进。

0 人收藏 0 人点赞
#llm-reasoning

TPPO:面向语言模型推理的追踪值 PPO

Hugging Face Daily Papers ↗ · 2026-10-12 缓存

该论文提出 Tracking-Value PPO(TPPO),通过在对数几率空间对前缀值进行贝叶斯分解,构建累积值参数化以更好地跟踪语言模型推理中的值演化。TPPO 在 Qwen3-4B-Base 和 Qwen3-8B-Base 上分别比 PPO 提升 7.0 和 8.4 个数学推理分数点,并改善了分布外泛化能力。

0 人收藏 0 人点赞
#llm-reasoning

基于医学令牌的覆盖感知推理用于下次就诊诊断预测

arXiv cs.LG ↗ · 2026-10-09 缓存

CARing 框架通过组合式语义 ID 与覆盖感知的强化学习奖励,优化大语言模型在多标签下次就诊诊断预测任务中的推理轨迹,并在 MIMIC-III/IV 数据集上超越所有基于 EHR 训练的基线模型。

0 人收藏 0 人点赞
#llm-reasoning

基于可能性推理的开放式科学发现

arXiv cs.AI ↗ · 2026-10-09 缓存

本文提出使用可能性理论将开放式科学发现形式化为自主科学发现(AASD)问题,引入abductive utility作为发现进展的可计算度量,并提出possibility frontier search算法,在保持anytime有效性的同时渐近达到ε-最优abductive utility。

0 人收藏 0 人点赞
#llm-reasoning

骨架该说哪种语言?多语言推理中的语言选择

arXiv cs.CL ↗ · 2026-10-08 缓存

该论文提出 Language-Aware Skeleton Exploration Framework (LASEF),系统研究多层数学推理中骨架提示语言的选择问题,发现英语骨架平均略有优势但并非普遍最优,骨架语言是一个依赖上下文的设计变量。

0 人收藏 0 人点赞
#llm-reasoning

轨迹检索式投机解码:模型自身历史何时能发挥作用?

arXiv cs.AI ↗ · 2026-10-08 缓存

本文提出了一种名为轨迹局部自适应检索(TLAR)的投机解码方法,该方法从模型自身的生成历史中检索匹配的续写内容,并将其与模型生成的草稿在共享候选树中进行结合,在不改变目标模型输出分布的前提下,提升了token接受率和端到端吞吐量。

0 人收藏 0 人点赞
#llm-reasoning

长时运行的Agent:瓶颈究竟是模型还是其周围的脚手架?

Reddit r/artificial ↗ · 2026-10-05

一场从业者讨论,探讨长时运行的AI Agent故障究竟源于模型能力还是其周围的脚手架,重点分析了错误累积、上下文污染和自我修正薄弱这几种关键故障模式。

0 人收藏 0 人点赞
#llm-reasoning

HyperThink:用于高效推理的文本到参数超网络

arXiv cs.CL ↗ · 2026-10-05 缓存

HyperThink 提出了一种文本到参数的方法:一个轻量级超网络根据查询预测对大语言模型(LLM)中一小部分参数的更新,将冗长的思考过程压缩为单次前向传播,从而改善推理任务的精度-延迟权衡。

0 人收藏 0 人点赞
#llm-reasoning

训练驱动的 Agentic Context Management(自主上下文管理)

arXiv cs.LG ↗ · 2026-10-05 缓存

本文提出了一种训练驱动的自主上下文管理方法:在一个极简的 agentic 框架(一个用于调用自身、一个用于读取任意 token 区间)上对一个小型模型(Qwen3.6-35B-A3B)进行微调,使其在长文档基准测试中,仅使用 8K token 的上下文,就能达到 GPT-5.4 使用 1M token 上下文时的性能水平。

0 人收藏 0 人点赞
#llm-reasoning

把教师 Token 用在刀刃上:基于成功经验的 On-Policy 蒸馏

arXiv cs.AI ↗ · 2026-10-05 缓存

本文提出了一种基于成功经验的 On-Policy 蒸馏方法(Success-Referenced On-Policy Distillation, SR-OPD),利用学生自身成功的生成轨迹作为参照,有选择地分配教师监督信号。该方法在数学推理基准上仅使用普通 on-policy 蒸馏所需教师输入 token 的 3.46%–5.02%,便取得了相当的推理性能。

0 人收藏 0 人点赞
#llm-reasoning

携手攻克开放研究难题(阅读约 9 分钟)

TLDR AI ↗ · 2026-10-05 缓存

Meta AI 研究人员与数学家合作,利用 Muse Spark 1.1/1.2 的思考模式(Thinking Mode)攻克开放研究难题,共发表六篇论文——其中五篇给出了此前未解数学问题的解决方案。这些合作严格遵循署名归属与人工评审原则,并承认其他团队独立得出的同期研究成果。

0 人收藏 0 人点赞
#llm-reasoning

@omarsar0: Google Research 关于多智能体证明发现的重磅论文(请收藏)。看到这种正在兴起的模式真的很有意思……

X AI KOLs Timeline ↗ · 2026-10-02 缓存

Google Research 推出 Cogentic——一个基于 Gemini 构建的多智能体框架,通过迭代的「证明–验证」循环来发现理论计算机科学中开放问题的证明,在在线学习、拍卖理论和机制设计领域的五个开放问题上产生了经专家验证的新结果。

0 人收藏 0 人点赞
#llm-reasoning

The Download:一场抗衰老竞赛,以及大模型为何不具备推理能力

MIT Technology Review ↗ · 2026-10-02 缓存

MIT Technology Review 每日通讯今日聚焦:前 DeepMind 研究员 Thore Graepel 撰文指出大语言模型并非真正具备推理能力,并提出受 AlphaGo 启发的思路;一场以生理年龄为目标的抗衰老竞赛;以及 OpenAI 的报告称失控智能体可能影响了 100 多家机构。

0 人收藏 0 人点赞
#llm-reasoning

@robinfaro13:学习在能力前沿时最有效:太简单或太难的问题什么都教不会。对于 LLM…

X AI KOLs Timeline ↗ · 2026-10-02 缓存

学习在能力前沿时最有效:对于经 GRPO 训练的 LLM 推理器,总是或从不被解决的问题产生零梯度。作者们提出"Frontier Learning(前沿学习)"以瞄准这一有效的训练机制。

0 人收藏 0 人点赞
#llm-reasoning

别被骗了——LLM 并不会推理

MIT Technology Review ↗ · 2026-10-02 缓存

MIT Technology Review 论证道,与 AlphaGo 不同——后者将直觉网络与显式的博弈树搜索相结合,以此推理未来可能产生的后果——如今的大语言模型(LLM)只进行快速的、类似 System 1(系统一)式的下一个 token 模式补全;而若要让 AI 在科学和医学领域真正值得信赖,就必须为其构建真正的审慎推理(deliberative reasoning)能力。

0 人收藏 0 人点赞
#llm-reasoning

大模型推理中束搜索的可证测试时扩展

arXiv cs.LG ↗ · 2026-10-02 缓存

该论文为大模型推理中基于束搜索的测试时扩展提供了理论保证,证明了朴素束搜索样本复杂度的下界,并提出了置信度过滤束搜索(CF-Beam),将覆盖率依赖从二次降低到接近线性,在长程任务上表现优于 Best-of-N 等序列级方法。

0 人收藏 0 人点赞
#llm-reasoning

Hermes:学习上下文推理以实现实时扩展

arXiv cs.LG ↗ · 2026-10-02 缓存

论文提出了 Hermes——一系列可配置的框架,让模型能够在推理时的算力之间灵活分配上下文;同时提出了 Hermes-Learn——一个两阶段框架,训练模型自适应地做出这些上下文推理决策,从而缩小了小型开源模型与更大模型之间的差距。

0 人收藏 0 人点赞
#llm-reasoning

面向多路径 LLM 推理的分集合并方法

arXiv cs.AI ↗ · 2026-10-01 缓存

本文将多路径 LLM 推理形式化为无线通信中的分集合并问题,分析了路径正确性相关性对多数投票有效样本量的上限,并在 5 个模型和 12 个基准上验证了提示模板分集可降低路径相关性;同时提出了基于四路径试点的 Adaptive-K 规则来选择最优采样数。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈