标签
OpenAI 与 Microsoft 的高管在法庭文件中承认,LLMs 建立在被盗内容之上,并且正在摧毁网络,从而制造出一种“厄运循环”,威胁内容创作者的经济基础。
文章描述了人工智能工具在求职申请和申请人追踪系统中如何形成一个循环,导致求职者和雇主都依赖AI,从而引发效率低下、系统被操纵以及招聘过程中信任的崩溃。
一篇Substack文章解释了LLM中的doom loop问题——模型会无休止地重复token,并介绍了Liquid AI提出的Final Token Preference Optimization(FTPO)方法,用于在微调过程中检测并修复此类循环。
这篇文章解释了推理模型中的“末日循环”,即模型重复诸如“Wait”之类的令牌,直到上下文填满,并介绍了FTPO(最终令牌偏好优化)作为训练时的修复方法。相关的Antidoom工具显著降低了末日循环率(例如,在Qwen3.5-4B上从22.9%降至1%)。
Liquid AI 发布了 Antidoom,一种用于减少推理模型中 doom loops 的开源方法,应用于 LFM2.5-2.6B 和 Qwen3.5-4B,显著降低了 doom-loop 率并提高了评估分数。