diffusion-llm

标签

Cards List
#diffusion-llm

@AdinaYakup:新型扩散大语言模型 https://huggingface.co/Diffuspace/Clover-35B-A3B-Preview… - 35B/A3B - 128k 上下文 - 在 GB… 上达到 680 token/秒

X AI KOLs Following ↗ · 2026-10-28 缓存

DiffuSpace 发布了 Clover-35B-A3B-Preview,这是一款开源的块扩散语言模型,采用 350 亿参数的 MoE 骨干网络(约 30 亿激活参数),支持 128K 上下文,在 GB300 上的生成速度达 680 token/秒,在 SWE-bench Verified 上得分为 73.6%,并采用 Apache 2.0 许可证。

0 人收藏 0 人点赞
#diffusion-llm

Mercury 3

Product Hunt ↗ · 2026-10-21 缓存

Mercury 3 是目前发布的最强扩散式大语言模型,宣称以 1,000+ tokens/s 的速度运行,比竞争对手快 4–8 倍,并在性能上超越 GPT-6 Luna 和 Claude Haiku 5.5,实现 40 倍扩展而不降低速度。

0 人收藏 0 人点赞
#diffusion-llm

Mercury 3 [Inception Labs] - 以 1000 tokens/秒匹配 Luna/Haiku

Reddit r/singularity ↗ · 2026-10-19 缓存

Inception Labs 发布 Mercury 3,这是迄今最强的扩散式 LLM,在多项基准上超越 GPT-6 Luna 和 Claude Haiku 5.5,同时以 1000+ tokens/秒的速度快 4-8 倍。模型规模比 Mercury 1 大 40 倍以上,支持 100 万 token 上下文,并以极具竞争力的价格面向生产环境开放。

0 人收藏 0 人点赞
#diffusion-llm

[研究] 扩散式 LLM 在单张 RTX 5090 上实现每秒 2,788 个 token — ORL 正式亮相(完全开源)

Reddit r/LocalLLaMA ↗ · 2026-10-16

研究人员提出 ORL(On-Policy Residual Learning)与自研推理引擎 dlmrt,使扩散语言模型在单张 RTX 5090 上达到 2,788 tokens/s,8×B200 上达 7,708 tokens/s,端到端吞吐提升最高 6.9 倍且质量不降,模型、训练代码与推理引擎全部开源。

0 人收藏 0 人点赞
#diffusion-llm

AutoIndexer:通过在编辑链上训练因果模型实现灵活顺序解码

arXiv cs.CL ↗ · 2026-10-12 缓存

AutoIndexer提出了一种通过“编辑链”训练因果生成模型的新解码机制,使模型能像文本编辑器一样,在生成后通过插入、替换和删除灵活修改先前的输出,同时在标准大语言模型基准测试中不损失性能。

0 人收藏 0 人点赞
#diffusion-llm

FastGuide:加速扩散大语言模型的奖励引导

arXiv cs.CL ↗ · 2026-09-30 缓存

FastGuide 是一种自适应的并行与自回归混合解码方法,通过复用奖励模型反向传播计算、利用 KV 缓存和稀疏注意力重计算来加速扩散大语言模型的梯度奖励引导,在三个奖励基准上实现最高 4.4× 加速同时保持相近生成质量。

0 人收藏 0 人点赞
#diffusion-llm

Mercury 2.5

Hacker News Top ↗ · 2026-09-08 缓存

Inception Labs 推出了 Mercury 2.5,这是一款基于扩散技术的语言模型,在智能、速度和成本效益方面均有提升,适用于搜索、语音和编程等生产环境。

0 人收藏 0 人点赞
#diffusion-llm

@StefanoErmon: 今天我们很高兴宣布 Mercury 2.5。它是目前市场上最强大的扩散大语言模型。它是智能方面40%的飞跃…

X AI KOLs Timeline ↗ · 2026-09-08 缓存

Mercury 2.5 被宣布为最强大的扩散语言模型,智能方面比 Mercury 2 提升 40%,在 NVIDIA GPU 上运行速度超过每秒 1,100 个令牌,并针对生产进行了优化,具有低延迟和低成本。

0 人收藏 0 人点赞
#diffusion-llm

Answer First, Reason Later: Commitment Order in Diffusion LLMs

arXiv cs.CL ↗ · 2026-08-07 缓存

This paper investigates why diffusion LLMs fail at reasoning tasks: unconstrained token commitment freezes answers early and collapses to answer-only outputs. The authors identify commitment order as the root cause and propose a training-free, frontier-gated decoding intervention that recovers performance while preserving parallel decoding.

0 人收藏 0 人点赞
#diffusion-llm

DC-Leap: 通过草稿引导的连续跳跃解码实现dLLMs的无训练加速

arXiv cs.AI ↗ · 2026-07-24 缓存

提出DC-Leap,一种无训练框架,通过引入动态连续验证和草稿引导解码来加速扩散大语言模型,在保持生成质量的同时实现高达105倍的加速。

0 人收藏 0 人点赞
#diffusion-llm

@mr_r0b0t: 开放权重的大好一周!inclusionAI刚刚发布了LLaDA2.2-flash100B MoE扩散LLM,专为代理打造,莱文斯坦编辑(Levenshtein E…

X AI KOLs Following ↗ · 2026-07-23 缓存

inclusionAI发布了LLaDA2.2-flash,一个面向代理的100B MoE扩散LLM,具有莱文斯坦编辑(Levenshtein Editing)、128K上下文和高达2.3倍的吞吐量提升,在τ²-Bench和PinchBench等代理基准测试中取得了优异成绩,采用Apache 2.0许可证。

0 人收藏 0 人点赞
#diffusion-llm

Dynamic-dLLM:动态缓存预算与自适应并行解码,实现扩散大语言模型的无训练加速

arXiv cs.CL ↗ · 2026-06-26 缓存

本文提出 Dynamic-dLLM,一种无训练框架,通过动态分配缓存更新预算和校准解码阈值来加速扩散大语言模型,在 LLaDA 和 Dream 等模型上实现超过 3 倍的加速,同时保持性能。

0 人收藏 0 人点赞
#diffusion-llm

向自我未来学习:面向扩散大语言模型的自策略知识蒸馏

arXiv cs.CL ↗ · 2026-06-17 缓存

介绍了 d-OPSD,这是首个面向扩散大语言模型的自策略知识蒸馏框架,采用后缀条件和步骤级别监督,在推理基准上优于 RLVR 和 SFT 基线。

0 人收藏 0 人点赞
#diffusion-llm

利用移动NPU的高效端侧扩散大语言模型推理

arXiv cs.LG ↗ · 2026-06-15 缓存

本文提出了llada.cpp,一种NPU感知推理框架,用于在智能手机上加速扩散大语言模型(dLLM)。它引入了三种技术——Multi-Block Speculative Decoding、Dual-Path Progressive Revision和Swap-Optimized Memory Runtime——以使dLLM推理与移动NPU特性对齐,实现了相比CPU基线17-42倍的延迟降低。

0 人收藏 0 人点赞
#diffusion-llm

TIDE:基于I/O感知专家卸载的高效无损MoE扩散LLM推理

Hugging Face Daily Papers ↗ · 2026-05-19 缓存

TIDE 是一种用于扩散大型语言模型的无损推理系统,它利用专家激活的时间稳定性来减少 I/O 开销和计算,在单 GPU-CPU 系统上实现高达 1.4-1.5 倍的吞吐量提升。

0 人收藏 0 人点赞
#diffusion-llm

PSD: 通过并行推测解码推动扩散大语言模型的帕累托前沿

arXiv cs.CL ↗ · 2026-05-18 缓存

本文介绍了一种无需训练的框架——并行推测解码(PSD),它通过同时提升空间和时间效率来加速扩散大语言模型的推理,每次前向传递最多可处理5.5×的token数,且质量与贪婪解码相当。

0 人收藏 0 人点赞
#diffusion-llm

@DivyanshT91162: 自回归大语言模型可能正在被取代 有人构建了dLLM——一个开源库,可以将任何自…

X AI KOLs Timeline ↗ · 2026-05-16 缓存

dLLM是一个开源库,可将任何自回归大语言模型转换为扩散大语言模型,实现并行解码和更快的文本生成。

0 人收藏 0 人点赞
#diffusion-llm

为什么没有顶级 LLM 提供商投资扩散型 LLM?

Reddit r/singularity ↗ · 2026-05-11

本文探讨了为何在 Mercury 2 等近期技术取得进展的背景下,主流 LLM 提供商仍未大力投资扩散型 LLM。文章分析了阻碍该技术更广泛采用的潜在底层缺陷或硬件瓶颈。

0 人收藏 0 人点赞
#diffusion-llm

$R^2$-dLLM:通过时空冗余削减加速扩散大语言模型

arXiv cs.CL ↗ · 2026-04-22 缓存

R²-dLLM 引入时空冗余削减技术,在保持生成质量的同时将扩散 LLM 的解码步数最多压缩 75%,直击部署瓶颈。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈