acceleration

标签

Cards List
#acceleration

加速MiniMax-H3(阅读时间12分钟)

TLDR AI ↗ · 2026-08-28 缓存

本文基准测试了MiniMax-H3视频生成在8×H200 GPU上使用SGLang Diffusion的加速效果,通过SSIM衡量质量,最高实现6.24倍速度提升。

0 人收藏 0 人点赞
#acceleration

Alibaba PAI/MiniMax-H3 加速 LoRAs

Hugging Face Models Trending ↗ · 2026-08-26 缓存

Alibaba PAI 发布了 LoRA 检查点,用于通过并行解码蒸馏加速 MiniMax-H3 视频生成,从而在 8 步内实现高效推理。

0 人收藏 0 人点赞
#acceleration

TileMix:用于LLM推理加速的以分块为中心的混合精度注意力

arXiv cs.AI ↗ · 2026-08-19 缓存

TileMix引入了一种以分块为中心的混合精度注意力机制,以加速大型语言模型中的长上下文预填充,通过将分数分块组路由到FP16或INT8路径来平衡准确性和效率。

0 人收藏 0 人点赞
#acceleration

CForce:通过一致性强制提升dLLMs的并行解码

arXiv cs.CL ↗ · 2026-08-17 缓存

本文介绍了Consistency Forcing(CForce),一种针对扩散大语言模型的蒸馏技术,通过将早期阶段的预测与后期阶段对齐来提升并行解码,从而改善速度-质量权衡。

0 人收藏 0 人点赞
#acceleration

larryvrh/MiniMax-H3-Turbo-Lora

Hugging Face Models Trending ↗ · 2026-08-05 缓存

这是 MiniMax-H3 的早期预览版 LoRA,支持在 4 步采样(而非约 20 步)内联合生成视频和同步音频,采样速度约提升 5 倍,并附带 ComfyUI 自定义节点和三个 bf16 检查点。

0 人收藏 0 人点赞
#acceleration

马克·扎克伯格表示美国应加速AI发展而非限制

Reddit r/singularity ↗ · 2026-07-29

马克·扎克伯格主张美国应加速人工智能发展而不是施加限制,强调在全球AI竞争中保持竞争力的重要性。

0 人收藏 0 人点赞
#acceleration

掌控前沿节奏

Reddit r/singularity ↗ · 2026-07-28 缓存

本文探讨了人工智能能力快速加速可能超越社会理解和控制能力所带来的风险,以及需要通过治理工具有意识地掌控前沿整体进展的必要性。

0 人收藏 0 人点赞
#acceleration

并行解码蒸馏加速图像与视频生成

Hugging Face Daily Papers ↗ · 2026-07-28 缓存

并行解码蒸馏(PDD)是一种基于轨迹的蒸馏方法,通过每次网络评估预测多个去噪步骤来加速图像与视频生成,在 LTX-2.3、Wan14B 和 Qwen-Image 等模型上仅需 4-8 次函数评估即可达到最优性能。

0 人收藏 0 人点赞
#acceleration

@alvinfoo: 加速是真的。更多的玩家,更多的算力,更紧密的反馈循环。大多数发布是迭代式的,而非革命性的…

X AI KOLs Timeline ↗ · 2026-07-27 缓存

这条推文观察到,在更多玩家和算力的推动下,AI 模型发布的速度正在加快,迭代改进的累积效应将塑造未来几年。

0 人收藏 0 人点赞
#acceleration

DC-Leap: 通过草稿引导的连续跳跃解码实现dLLMs的无训练加速

arXiv cs.AI ↗ · 2026-07-24 缓存

提出DC-Leap,一种无训练框架,通过引入动态连续验证和草稿引导解码来加速扩散大语言模型,在保持生成质量的同时实现高达105倍的加速。

0 人收藏 0 人点赞
#acceleration

@rohanpaul_ai: 空间推测解码(SSD)通过并行预测图像行,将自回归图像模型的速度提升高达13.28倍

X AI KOLs Timeline ↗ · 2026-07-14 缓存

空间推测解码(SSD)通过使用小型辅助网络并行预测整行像素,加速了自回归图像模型,实现了高达13.28倍的加速,同时保持了基准性能。

0 人收藏 0 人点赞
#acceleration

DominoTree:基于Domino的条件树结构草稿用于投机解码

arXiv cs.CL ↗ · 2026-07-10 缓存

DominoTree引入了一种无训练的最佳优先草稿树用于投机解码,利用Domino的条件(非分解)修正,在Qwen3模型上实现了高达6.6倍的自回归解码加速,并且在所有评估方法中取得了最高的平均接受长度。

0 人收藏 0 人点赞
#acceleration

Dynamic-in-Few-Step: 统一动态计算与少步蒸馏的高效视频生成

arXiv cs.AI ↗ · 2026-07-09 缓存

本文提出了一种针对视频扩散模型的后训练加速框架,将动态结构稀疏化与少步蒸馏相结合,在保持生成质量的同时实现了显著加速。

0 人收藏 0 人点赞
#acceleration

DeLS-Spec: 解耦的长短上下文用于并行推测性草拟

arXiv cs.CL ↗ · 2026-07-09 缓存

DeLS-Spec通过在DFlash上添加轻量级局部头,将推测性解码中的长上下文和短上下文建模解耦,无需完全重新训练即可实现一致的加速。它仅需要对局部头进行标准的下一个词元预测训练,并在Qwen3基准测试中提高了接受长度。

0 人收藏 0 人点赞
#acceleration

x-Prediction 即一切:通过端点可解码性实现无需训练加速生成

arXiv cs.LG ↗ · 2026-07-08 缓存

本文介绍了截断跳跃采样(Truncated Jump Sampling, TJS),这是一种无需训练的方法,通过利用端点可解码性加速扩散模型和流匹配模型的生成,将神经函数评估次数减少20-70%,同时在多个模型上保持接近匹配的质量。

0 人收藏 0 人点赞
#acceleration

OTCache:扩散模型中基于最优传输的几何感知缓存

arXiv cs.LG ↗ · 2026-07-01 缓存

OTCache是一个无需训练的框架,利用最优传输预测扩散模型的缓存调度,在FLUX.1、Qwen-Image和HunyuanVideo上实现了高达4.7倍的加速,同时提高了生成保真度。

0 人收藏 0 人点赞
#acceleration

BlockPilot: 实例自适应策略学习用于基于扩散的投机解码

Hugging Face Daily Papers ↗ · 2026-06-30 缓存

BlockPilot 提出了一种实例自适应策略,用于预测基于扩散的投机解码的最优块大小,从而以最小的开销实现显著的加速。

0 人收藏 0 人点赞
#acceleration

@Sumanth_077:训练大型LLM曾经慢得令人痛苦,但现在不同了!4个加速微调的开源库…

X AI KOLs Timeline ↗ · 2026-06-28 缓存

一条推文,重点介绍了四个开源库(Unsloth、LLaMA Factory、DeepSpeed、Axolotl),这些库通过内存和速度优化加速大型语言模型的微调。

0 人收藏 0 人点赞
#acceleration

ResilPhase:即插即用的相位映射与抗噪宏轨迹外推,用于扩散加速

arXiv cs.AI ↗ · 2026-06-26 缓存

ResilPhase是一个免训练的扩散模型加速框架,将加速推理重述为ODE空间中的稳定宏轨迹外推,通过无导数重心拉格朗日外推和有界相位映射,在高加速比下实现最先进的保真度。

0 人收藏 0 人点赞
#acceleration

@songhan_mit: 我们开发了一种基于智能体的原生方法来加速生成式AI,延续了KDA(内核设计智能体)在更高层次上的成功…

X AI KOLs Following ↗ · 2026-06-25 缓存

Enze Xie 宣布推出 Sol Video Inference Engine,这是一个基于智能体的原生、无需训练的全栈加速器,用于视频扩散,能够自动调整缓存、稀疏注意力、令牌剪枝、量化和内核融合,在像 64B Cosmos3-Super 和 22B LTX-2.3 这样的大模型上实现了 >2 倍的端到端加速。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈