标签
论文提出了 OnQ 流水线,通过同策略蒸馏与候选级动态 KL 恢复低比特量化大语言模型的推理能力,在 Qwen3 系列的 2/3 比特量化模型上取得了九项基准测试的最优平均成绩,其中 Qwen3-8B 在 2 比特量化下的平均成绩提升了 10.26 分。
该论文提出了分层掩码扩散语言模型(HMDLM),将位置级优先级层次结构引入掩码扩散语言模型,在 LM1B 和 WikiHow 上实现了更低的困惑度,并且相较于现有扩散基线模型,提高了数独求解准确率。
该论文提出 RE-ZS-CoT 框架,通过整合领域专家角色来增强大语言模型的零样本链式推理,并在 20 个 LLM 和 7 个基准上评估,最高提升达 44 个百分点。
KRAFTON AI 发布 Raon-1 mini 预览版,这是一个从零训练的 30B-A4B 混合专家(MoE)语言模型,具备强大的韩语对话与智能体任务能力,支持 262K 长上下文并采用 Apache 2.0 许可。
Perplexity 以 Apache 2.0 协议发布了 pplx-decider-v1.2 和 pplx-decider-flash-v1.2,声称在 Artificial Analysis 决策指数上,其成本比 GPT 6 Luna(低推理模式)低10倍,而决策质量相同。新版本还比 Jev 便宜2.5倍。
一对父子利用新发布的 hark.com 半自主地连续数日迭代笔记本,最终在 ARC Prize 中斩获奖牌,并展示了 AI 如何降低入门门槛。
论文发现语言模型在组合多个任务时错误率显著上升,且无法完全用独立错误累积解释,而是源于隐式的思考预算分配——组合任务时每个任务获得的推理 token 减少,导致长推理任务更脆弱;通过按脆弱性分组可减少 43% token 用量并保持准确率。
该论文针对上下文 ASR 提出一种上下文引导推理框架,在转录前先生成基于音频的描述,以评估热词候选的相关性;通过监督微调与定向轨迹注入来增强 GRPO,在提升转录质量和罕见实体识别的同时,保持对无关候选的鲁棒性。
该论文提出了研究进度图(Research Progress Graph, RPG),一种将研究构想的迭代演化记录为带时序标注的认知状态与推理转移的表示方法,并发现现有35个研究智能体均只是RPG的不完整实现,主张研究智能体应从生成静态构想转向显式建模构想演化轨迹。
EDMA提出了一种基于逻辑熵的多模态问答方法,将答题过程形式化为熵减迭代,并量化各模态对答案的贡献,在多个MMQA基准上显著优于Chain-of-Thought等基线。
本文从理论和实证角度解释了为何推理时框架(脚手架)优于蒸馏出的学生模型:即使从平凡的 AC0 基础组件出发,框架也能计算 NL-完全问题的闭包,而在标准复杂性假设下,任何固定深度的前向传播都无法复制这种表示能力。作者验证了通过扩大模型规模、简化任务或延长思维链可以缩小这一差距,包括在竞赛数学和智能体框架上的表现。
该论文评估了单一 LLM 基线与三种多智能体拓扑在临床任务中的表现,发现协作能提升任务指标,但并不必然降低幻觉,且模型本身而非拓扑结构决定了幻觉的变化方向。
论文提出 Activation-Space Exploration (ASE),通过聚类正确与错误回答的激活差异构建潜空间探索向量库,以多样化 RLVR 训练中的 rollout;在 Qwen3-1.7B 和 Qwen3-8B 上较 GRPO 分别提升 4.87 和 1.87 个百分点的 Mean@8。
我们提出了 CulturalRiddles,一个涵盖 62 种文化(45 个国家、51 种语言)的基准,包含由人类创作的、根植于文化背景的谜语,需要溯因推理和组合推理能力。即使是前沿大模型在某些社群上也仅能达到最高 22% 的准确率,凸显了文化理解方面的不足。
Agnes AI 发布 agnes-3.0-qwen,一款面向 agentic 编码、工具调用与科学推理的多模态推理模型,采用混合线性/全注意力 MoE 架构(约180B 参数、512 专家),支持 1M token 上下文与可调推理强度,并以开源权重形式发布。
Continuity Research 发布 Tess-4.5-27B,一个基于 Qwen3.8-27B 微调的 27B 开源权重模型,主打本地单卡运行的工程与智能体能力,BenchLocal 成绩与基座持平但推理 token 少 25%,并附带多 token 预测草稿头以提升本地推理速度。
该论文研究扩散语言模型智能体之间能否通过压缩的连续隐藏向量进行因果性通信,发现去噪状态的传递能显著影响接收方推理,且单次晚时传递的效果优于多次重复交换。
Ask-to-Distill 提出了一种优化合成问题的框架,通过将教师与学生之间的分布差异作为代理信号,在无需参考答案的情况下提升同策略蒸馏的效果,在数学推理、代码生成和智能体任务上优于未优化的问题集和真实问题库。
MMEnterprise-Bench 是一个包含 1,613 个问题的新基准,基于不断演化的多模态工作场所记录,用于评估企业智能体在证据推理、冲突消解和不可回答性识别方面的能力。对 10 个专有和开源多模态 LLM 的评估表明,即使是最强的模型也在跨来源和时间冲突上表现不佳。
PAR(Progress-Aligned Recurrence,进度对齐循环)将循环语言模型的每次循环迭代与任务的一步操作对齐,并对隐状态进行重缩放以防止漂移,从而在 swap-S5 状态追踪任务上实现 16 倍长度外推,0.5B 参数模型达到 95.5% 的准确率,远超 RLT 和 CoT 基线。