@ayhozade: 神经网络能通过去噪学习思考吗？很高兴分享 Thinking with Looped Flows！我们训练循环推理……
摘要
一种名为 'Thinking with Looped Flows' 的新方法，通过局部去噪目标训练循环推理，在循环模型中达到了 ARC-AGI 基准测试的最先进的性能。
神经网络能通过去噪学习思考吗？很高兴分享 Thinking with Looped Flows！我们使用局部去噪目标训练循环推理。这是一种新的推理方法，在循环模型中达到了 ARC-AGI-1 和 2 上的 SoTA。与 @chandavidlee、@FEijkelboom、@nmboffi、@ismaililkanc、@jw9730 合作。1/
相似文章
@yingfan_bot: 关于Looped Transformers的新论文！隐式推理速度快，但在大规模下难以达到CoT级别的准确性。能否lo…
一篇关于Looped Transformers的新论文发现，循环填充骨干网络为隐式推理提供了并行工作空间，使其能够像显式思维链（CoT）一样进行监督，并同时实现了速度和准确性。
@YouJiacheng：简而言之：YOCO 以 RNN 为解码器（且 RNN 通过 SWA 增强）。
介绍了 Recurrent Looped Transformer（RLT），一种具有无限推理深度的新型 AI 架构，在实现安全超级智能的背景下进行讨论。
DiscoLoop: 循环离散嵌入与连续隐藏状态的多跳推理
DiscoLoop 提出了一种循环架构，该架构同时携带离散嵌入通道和连续隐藏状态通道，用于改进 Transformer 在多跳推理中的表现，在合成任务上实现了近乎完美的准确率，在真实语言建模中表现更优。
推理降噪器：对推理轨迹进行降噪以检测大型推理模型中的幻觉
介绍了ReDe框架，该框架通过过滤无关和重复步骤来对推理轨迹进行降噪，从而改进大型推理模型中的幻觉检测，在TruthfulQA上达到了高达87.32的AUROC。
基于归一化流的潜在推理
提出NF-CoT，一种使用归一化流来建模LLMs中连续思维的潜在推理框架，保留了自回归优势，并以更低的成本实现了更好的代码生成性能。