@askalphaxiv: “Probabilistic Tiny Recursive Model” 本文通过在测试时添加高斯噪声使Tiny Recursive Models随机化…

X AI KOLs Timeline 论文

摘要

本文介绍了一种方法,通过在测试时添加高斯噪声并进行并行推理,使Tiny Recursive Models随机化,在不重新训练的情况下,在PPBench和Sudoku-Extreme上取得了显著的性能提升。

“Probabilistic Tiny Recursive Model” 本文通过在测试时添加高斯噪声、运行并行推理,并利用已有的Q头选择最佳答案,使Tiny Recursive Models随机化。无需重新训练,无需任务特定技巧,其PPBench从62.6%跃升至91.2%,Sudoku-Extreme从87.4%跃升至98.75%。
查看原文

相似文章

恰到 Q 处:通过自生成轨迹恢复量化下的推理能力

arXiv cs.CL

论文提出了 OnQ 流水线,通过同策略蒸馏与候选级动态 KL 恢复低比特量化大语言模型的推理能力,在 Qwen3 系列的 2/3 比特量化模型上取得了九项基准测试的最优平均成绩,其中 Qwen3-8B 在 2 比特量化下的平均成绩提升了 10.26 分。

分层掩码扩散语言模型

arXiv cs.CL

该论文提出了分层掩码扩散语言模型(HMDLM),将位置级优先级层次结构引入掩码扩散语言模型,在 LM1B 和 WikiHow 上实现了更低的困惑度,并且相较于现有扩散基线模型,提高了数独求解准确率。

KRAFTON/Raon-1-mini-preview · Hugging Face

Reddit r/LocalLLaMA

KRAFTON AI 发布 Raon-1 mini 预览版,这是一个从零训练的 30B-A4B 混合专家(MoE)语言模型,具备强大的韩语对话与智能体任务能力,支持 262K 长上下文并采用 Apache 2.0 许可。