sampling

标签

Cards List
#sampling

基于注意力折扣的自适应采样器用于掩码扩散语言模型

arXiv cs.CL ↗ · 2026-06-10 缓存

本文介绍了ADAS,一种无需训练的重排序规则,用于并行掩码扩散解码。它利用注意力对强烈关注不确定位置的token进行折扣,从而在低NFE设置下提升推理和代码任务的性能,且运行时开销极小。

0 人收藏 0 人点赞
#sampling

@lateinteraction: 非常酷的工作!!

X AI KOLs Timeline ↗ · 2026-05-29 缓存

Guowei Xu 讨论了 Best-of-N 和树搜索方法在 LLMs 处理困难推理问题时的局限性,指出验证信号稀疏且候选答案仍处于模型的分布范围内。

0 人收藏 0 人点赞
#sampling

面向奖励引导扩散的分层变分策略

arXiv cs.LG ↗ · 2026-05-22 缓存

提出了面向奖励引导扩散的分层变分策略框架,在降低推理成本的同时实现高质量采样。在超分辨率等任务上展现了优异的质量-速度权衡。

0 人收藏 0 人点赞
#sampling

无损抗蒸馏采样

arXiv cs.LG ↗ · 2026-05-20

本文提出无损抗蒸馏采样(LADS),一种新颖的采样方案,通过关联不同账户的响应来对抗多账户蒸馏,同时为单个良性用户保留精确的统计保真度。理论分析和实验表明,LADS会降低蒸馏学生在图像、数学和代码生成上的性能。

0 人收藏 0 人点赞
#sampling

用于优化离散扩散语言模型的漂移目标

arXiv cs.CL ↗ · 2026-05-20 缓存

本文提出TokenDrift,一种漂移目标方法,通过将分类预测提升至连续语义空间进行反对称漂移,从而优化离散扩散语言模型。在固定去噪步数下,该方法显著提升了生成质量。

0 人收藏 0 人点赞
#sampling

别拦我:基于耗散黎曼力学的损失最小值采样

arXiv cs.LG ↗ · 2026-05-18 缓存

本文介绍了DiMS,一种动态系统采样器,能保证从神经网络最小损失解的子流形中精确采样,从而在贝叶斯推断中实现更好的不确定性量化。

0 人收藏 0 人点赞
#sampling

POMDP策略合成:通过学习融合采样与模型检测

arXiv cs.AI ↗ · 2026-05-15 缓存

本文提出了一种新颖框架,通过整合采样、自动机学习和模型检测,为部分可观察马尔可夫决策过程(POMDPs)合成有限状态控制器。该方法为现有形式化合成工具难以解决的阈值安全问题提供了形式化保证。

0 人收藏 0 人点赞
#sampling

采样更多,获得更少:校准是大语言模型多样性的瓶颈

arXiv cs.CL ↗ · 2026-05-13 缓存

本文引入了一种有效性-多样性框架,将大语言模型中的多样性崩溃归因于解码过程中的排序和形状校准偏差,并在 14 种语言模型上进行了验证。

0 人收藏 0 人点赞
#sampling

在OpenTelemetry中通过回溯采样优化尾部采样

Hacker News Top ↗ · 2026-04-18 缓存

VictoriaMetrics在KubeCon EU 2026上介绍了回溯采样,这一新方法与传统OpenTelemetry尾部采样相比,显著降低了流量、CPU和内存开销。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈