doom-loop

标签

Cards List
#doom-loop

@Raman_bansal_: 如果你训练过LLM,你可能见过doom loop——LLM无休止地重复同一个token或句子,……

X AI KOLs Timeline · 2天前 缓存

一篇Substack文章解释了LLM中的doom loop问题——模型会无休止地重复token,并介绍了Liquid AI提出的Final Token Preference Optimization(FTPO)方法,用于在微调过程中检测并修复此类循环。

0 人收藏 0 人点赞
#doom-loop

@helloiamleonie:与@liquidai团队一起编写这些工程博客真是太有趣了!这是我们一直在做的:Reas…

X AI KOLs Following · 2026-07-07 缓存

这篇文章解释了推理模型中的“末日循环”,即模型重复诸如“Wait”之类的令牌,直到上下文填满,并介绍了FTPO(最终令牌偏好优化)作为训练时的修复方法。相关的Antidoom工具显著降低了末日循环率(例如,在Qwen3.5-4B上从22.9%降至1%)。

0 人收藏 0 人点赞
#doom-loop

@maximelabonne: 新的训练技术来减少 doom loops!我们将其应用于 LFM2.5-2.6B (SFT checkpoint) 和 Qwen3.5-4B。通过减少 doom…

X AI KOLs Following · 2026-07-07 缓存

Liquid AI 发布了 Antidoom,一种用于减少推理模型中 doom loops 的开源方法,应用于 LFM2.5-2.6B 和 Qwen3.5-4B,显著降低了 doom-loop 率并提高了评估分数。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈