@LiorOnAI: 一种针对最普遍推理模型故障模式的开源修复方案。今年最大的AI趋势之一并非…

X AI KOLs Timeline 工具
open-source reasoning-models fine-tuning doom-loops failure-modes antidoom

摘要

Liquid AI 发布了 Antidoom，这是一种开源方法，通过微调推理模型来打破重复的token循环（末日循环），在 Qwen3.5-4B 上无需重新训练或强化学习即可将故障率从约23%降至1%。

一种针对最普遍推理模型故障模式的开源修复方案。 今年最大的AI趋势之一并非更大的模型，而是系统性地消除故障模式。 推理模型有时会陷入重复相同token序列的困境（如“等等...”、“所以...”、“或者...”），直到耗尽上下文窗口。 Antidoom 找到启动循环的那个单一token，并微调模型使其在该位置更倾向于选择替代的下一个token。它不需要从头重新训练模型、使用强化学习或教给模型新知识。 在 Qwen3.5-4B 上，末日循环从22.9%降至1%，基准测试分数也得到提升，因为模型不再在产生原本就能生成的答案之前陷入死循环了。
查看原文
查看缓存全文

缓存时间: 2026/07/07 23:38

一款用于修复推理模型最常见失败模式之一的开源方案。

今年AI领域最大的趋势之一并非更大规模的模型，而是系统性地消除失败模式。

推理模型有时会陷入重复相同token序列的循环（例如：“等等……”、“那么……”、“另一种思路……”），直至耗尽上下文窗口。

Antidoom通过定位触发循环的起始token，并微调模型在该位置偏好替代的下一个token。该方法无需从头重训练模型、无需强化学习，也无需教授模型新知识。

在Qwen3.5-4B上，毁灭循环的发生率从22.9%降至1%，由于模型不再在产出它本就具备能力生成的答案之前被困住，基准评分也随之提升。

Liquid AI (@liquidai): 今天我们发布Antidoom，这是一款开源方法，用于消除推理模型中的常见失败模式：毁灭循环。

前后的毁灭循环发生率及评估分数全面上升：

早期LFM2.5-2.6B检查点：10.2% → 1.4%

Qwen3.5-4B：22.9% → 1%（贪婪

相似文章

利用Final Token Preference Optimization减少Doom循环

Hacker News Top

Liquid AI推出了Antidoom方法，该方法使用Final Token Preference Optimization来减少小型推理模型在推理过程中的重复性Doom循环，将循环率从10.2%降至1.4%，同时提升了评估分数。

通过纠正少数决策令牌即可恢复推理能力

arXiv cs.AI

本文表明，基础LLM与大型推理模型之间的推理差距集中在少量早期规划令牌上。本文提出一种基于分歧的令牌干预方法，仅用推理模型的输出替换这些关键令牌，即可使基础模型的表现几乎与推理模型持平。