LLaDA

标签

Cards List
#LLaDA

揭示状态:状态适应在 Masked Diffusion Language Models 中何时重要

Hugging Face Daily Papers ↗ · 6天前 缓存

本文研究了在推理过程中状态适应(state adaptation)对于 masked diffusion language models(MDMs)何时真正重要,将推理过程组织为五个维度,并表明选择性适应(利用轻量级检测器识别高机会状态)能够捕获大部分 oracle 收益——例如,在 LLaDA-8B 的受限 JSON 填充任务上,仅适应 10% 的状态便捕获了 56.9% 的机会收益。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈