decoding

标签

Cards List
#decoding

思考先于约束:面向大型语言模型的统一解码框架

Hugging Face Daily Papers ↗ · 2026-05-28 缓存

提出了一种名为 In-Writing 的新型混合解码框架,该框架在触发词之后才施加约束,将自由形式推理与结构化生成相结合,从而在分类和推理任务中提升准确性。

0 人收藏 0 人点赞
#decoding

当信心误导:面向扩散语言模型的后缀锚定与锚邻域置信度调制

Hugging Face Daily Papers ↗ · 2026-05-27 缓存

研究人员提出一种名为“后缀锚定置信度调制”的无训练方法,通过解决EOT标记和过早解码的问题,改进扩散语言模型中基于置信度的解码。

0 人收藏 0 人点赞
#decoding

@xuanchi13: 潜在vs像素的争论没有抓住要点。GPT Image 2 展示了用户注意到的:像素级保真度。潜在模型...

X AI KOLs Timeline ↗ · 2026-05-26 缓存

NVIDIA 推出了 PiD,一种 Pixel Diffusion Decoder,用其替换潜在扩散模型中的传统 VAE/RAE 解码器,实现快速高分辨率解码,速度提升高达 6 倍,并改进了视觉保真度。

0 人收藏 0 人点赞
#decoding

@davideciffa: 如果你拥有Nvidia RTX 4090,--ddtree-budget 36是最佳配置,可在解码过程中带来2.5倍速度提升…

X AI KOLs Timeline ↗ · 2026-05-24 缓存

一条推文推荐Nvidia RTX 4090使用--ddtree-budget 36,声称在Qwen3.6_27B解码时实现2.5倍加速。

0 人收藏 0 人点赞
#decoding

通过协作逐步多教师解码蒸馏长链思维推理

Hugging Face Daily Papers ↗ · 2026-05-04 缓存

CoRD是一个协作多教师解码框架,通过预测困惑度评分和束搜索合成推理轨迹,实现了大型推理模型的高效蒸馏,具有高质量输出和泛化性能。

0 人收藏 0 人点赞
#decoding

No-Worse Context-Aware Decoding:在上下文条件生成中防止中性退化

arXiv cs.CL ↗ · 2026-04-21 缓存

本文提出了一种名为 NWCAD(No-Worse Context-Aware Decoding)的解码阶段适配器。该方法旨在防止“中性退化”问题,即大语言模型(LLM)在处理无信息量上下文时,错误覆盖原有正确答案。NWCAD 采用双流架构设计,并通过门控机制实现对无上下文解码的安全回退。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈