标签
DecodeShare提出了一种方法，用于识别LLM在解码时隐藏状态中跨任务一致共享的低维子空间，并表明干扰该子空间对决策性能的损害程度超过同等待遇下干扰随机或预填充派生的子空间，这对激活引导具有启示意义。
介绍了Deco-G，一种解码框架，将LLM中的格式遵循与问题求解相分离，通过格式估计模块在不削弱推理能力的前提下确保合规。在数学推理、事件抽取和LLM作为评判者的任务中取得了更高的准确性。
一篇博文详细介绍了在优衣库T恤上发现并解码一个经过混淆的bash脚本的过程，该T恤是Akamai“Peace for All”活动的一部分，执行脚本后会显示一条隐藏的彩蛋信息。
TACG 是一种无需训练的扩散语言模型解码器，通过轨迹感知信号决定何时提交 token，在代码和数学基准测试中提高了准确性和效率。
一项分析对比了大语言模型推理中的预填充与解码阶段，探讨在本地大语言模型部署中，预填充在投资回报率方面是否未被充分重视。
Fable 5 展示了令人印象深刻的能力，能够解码用户输入每个单词首字母的简写，准确重建原始信息。
Set Diffusion 引入了一类新的语言模型，通过在灵活位置、灵活长度的令牌集合上分解令牌生成，在自回归模型和扩散模型之间进行插值。这使得解码速度更快，令牌排序更灵活，在推理、摘要和无条件生成任务上实现了更好的速度-质量权衡。
提出双置信对比解码（DCCD），一种无需训练的检索增强生成方法，通过结合文档级和词元级置信信号处理多文档场景中的上下文内部冲突，并引入事实冲突问答基准DRQA。
加州大学伯克利分校的朱莉·埃利博士因破译斑胸草雀的核心词汇而获得2026年科勒-多利特尔奖。她通过结合观察、机器学习和行为实验，识别出11种不同的叫声。她的工作标志着跨物种交流的重要一步。
本文提出FADE，一种无需训练的方法，通过削弱关键层的FFN输出来减少语言先验主导性，从而缓解大型视觉语言模型中的幻觉，并在多个基准测试中证明了有效性。
本文重新将掩码扩散语言模型解码解释为连续干净状态预测，引入了一个基于流的框架，其中令牌根据置信度连续异步更新，在仅使用25%的解码预算下，达到了LLaDA性能的97%。
本文提出多块扩散语言模型（MBD-LMs），将单块扩散扩展为并发多块解码，并采用优化训练策略如多块教师强制（Multi-block Teacher Forcing）和优化的块缓冲区解码算法。实验表明，每次前向传递的令牌数增加，基准测试准确率提升。
一条推文列出了16种推理优化技术，用于实现低于一秒的LLM响应，包括KV缓存、推测解码、FlashAttention和各种并行化方法。
介绍了 Speculative Refinement (SpecRef)，一种无需训练的混合解码策略，它通过熵引导的选择性掩码，从自回归草稿中热启动掩码扩散语言模型。在六个基准测试上的评估表明，代码基准测试混淆了结构发现与逻辑正确性，识别出了一种精炼张力现象，并显示评估协议可能产生不同的模型排名。
huff12是一个针对Apple Silicon处理器优化的12流Huffman解码器，旨在通过并行流处理来提高解码性能。
本文提出 TIE，一种面向 Masked Diffusion Language Models 的知识融合框架，通过追踪置信度动态来识别可靠解码轨迹，并在模型间迭代传输部分去噪序列，从而提升推理任务的生成质量。
宣布发布 Luce KVFlash，这是一个在 Lucebox 中以 256k 上下文运行模型的工具，无需担心 KVCache 和 OOM，通过推测预填充和动态卸载，在长上下文场景下解码速度提升高达 2.9 倍。
LatticeBridge 提出了一种扭曲序贯蒙特卡洛解码器用于结构化序列生成，通过将问题视为稀有事件推断来提升约束满足，在CommonGen、E2E NLG和WikiBio上优于贪心搜索和束搜索基线。