标签
The Verge 独家披露了 Akai 即将推出的 MPC Sample Key 的详细信息。这是一款配备 37 个琴键的乐器,专注于变调采样播放,具备和弦、琶音器和循环器功能,并为改装社区提供开源软件。
论文揭示连续扩散语言模型(如ELF)因生成过程缺少逐步离散采样步骤而导致长尾词汇严重缺失(稀有词生成率仅为人类文本的0.30×),并提出训练无关的GRAFT方法,通过在模型未确定时提交稀有词再重新生成序列,将稀有词比例恢复至人类水平的0.82–1.10×。
该论文提出将条件泊松抽样作为主动统计推断中泊松抽样的固定样本量替代方案,证明其渐近方差不劣于、且往往优于原方法,同时消除了样本量随机的问题,并发布了一个Python软件包。
我需要您提供实际的英文 Markdown 文章内容才能进行翻译。您目前提供的内容是中文摘要,而非需要翻译的英文原文。 请粘贴完整的英文 Markdown 文章,我将立即将其翻译为简体中文,并保留标题结构、列表、强调、行内代码和链接等格式。
论文提出了 Mine-Sample-Render(MSR)测试时方法,从真实语料中挖掘可解释的类别结构,并据此采样属性配置,再将生成模型用作条件渲染器,以提升天气报告、用户模拟、网页设计、文生图及 3D 资产等多种生成任务的输出多样性及其与语料分布的对齐程度。
提出无需训练的解码算法“领先一块”(One Block Ahead,OBA),在块扩散语言模型中并发对当前块与下一块去噪,并传递采样器状态,在 DiffusionGemma 上将每次前向传递处理的词元数提升 42.3%、单请求吞吐量提升 16.3%。
提出 Weighted Ensemble (WE),一个无需训练的框架,通过在生成过程中自适应重新分配采样预算来提升语言模型中稀有事件概率估计的效率与可靠性,并在安全相关任务上验证了其有效性。
该论文提出了一种以神经网络复杂度(Barron能量)为核心的最优传输框架,用以取代传统的 L² 动能,从而在概率测度空间上构建出新的几何结构;作者证明了在 Barron 几何下扩散生成模型是次优的(在超多项式 score 逼近能力下存在下界)。
论文提出利用语言模型采样时附带的下一 token 条件概率,通过势函数(potentials)构造方差更小的期望估计器,在 KL 散度、AI 安全、模型蒸馏、水印等多种应用场景中实现了显著的方差降低。
Meta Superintelligence Labs 发现,RL 后训练会收窄 LLM 智能体的解题覆盖范围(即「锐化税」):在采样次数充足时,轻量框架下的基础模型能解决更多不同的智能体任务,而后训练模型在 pass@1 上表现更优。作者提出 PTGS——一种自适应温度的 RL 方法,在降低这一税负的同时还提升了 pass@1。
介绍 Gumbel Straight Flow,一种将自回归语言模型蒸馏为一步流映射的方法,从而实现并行采样。
本文提出 **Sharpening Tax(锐化税)** 这一指标,用于量化大语言模型在 RL 后训练中 pass@1 提升但解空间覆盖度(pass@K)下降的现象;并提出 **后验退火组采样(Posterior-Tempered Group Sampling, PTGS)**——一种即插即用的贝叶斯采样器,能按提示词自适应调整温度,在提升单次生成准确率的同时降低这项税负。
FluxLite 提出了一种无需训练、在推理阶段实现的提议控制框架,用于离散扩散模型。该框架通过在 Feynman-Kac 势中引入图散度项来补偿跳跃率扰动,由此得到 HEU 和 D-VCG 两种采样器,在标准 SMC 基线方法的基础上大幅降低了重加权方差与采样误差。
本文提出一个框架,通过纯文本续接接口对黑盒大语言模型实施越狱攻击,结合基于采样的分布重构、风险门控残差控制以及推测性多 token 执行,在不获取模型权重或 token 概率的情况下绕过安全对齐机制。
这个GitHub项目使用Jev模型创建了一个具有各种采样策略的糟糕聊天机器人,在Claude的帮助下开发,作为一个有趣的实验。
本文提出了一种方法,使氛围设计智能体能够通过结构化设计规范将探索与实现分离,从而探索多样化的UI替代方案。该方法在168个提示和一个超过30万任务的大型在线实验中进行了评估。
本文介绍了 Newton Matching,这是一种用于生成模型微调和采样的统一框架。它通过将学习视为迭代优化过程并利用条件匹配结构,解决了现有方法的局限性。
本文讨论了泊松圆盘采样,一种以最小距离随机放置点的技术,并详细介绍了Bridson在2007年一篇高度引用论文中的高效算法,以及针对计算机图形学和模拟的改进。
本文探讨了为什么即使所有变量恒定,大型语言模型对相同提示仍生成不同输出,并将其归因于AI采样过程中固有的随机性。
本文提出了一个基于采样算法(如Sequential Monte Carlo和Replica Exchange)引导和扩展大型语言模型的理论框架,旨在无需外部监督即可提升生成质量。