@xenovacom：Opus 4.7 刚写了一个定制 WebGPU 内核，用融合 LinearAttention 算子把 Qwen3.5 推理速度提升最高 13 倍！智能内核…
摘要
Opus 4.7 自动生成定制 WebGPU 内核，通过融合 LinearAttention 将 Qwen3.5 推理加速最高 13 倍，现已随 Transformers.js v4.2.0 发布。
查看缓存全文
缓存时间: 2026/04/23 14:07
Opus 4.7 刚刚编写了一个自定义 WebGPU 内核，通过融合 LinearAttention 操作，让 Qwen3.5 的运行速度提升高达 13 倍！智能内核优化才是未来。现已上线 Transformers.js v4.2.0！
P.S. 我已将所有旧演示更新到这一新版本，尽情享用！
相似文章
@ngxson: Qwen3.6-27B 在 WebGPU 上 100% 运行。速度不是最快，但仍然不错
一位开发者演示在浏览器中完全通过 WebGPU 运行 Qwen3.6-27B AI 模型，尽管速度并非最优。
@cniongolo: 我不确定大家是否已经意识到，你实际上可以在双 GPU 上运行 Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-MTP-GGUF…
演示了在双路 Nvidia RTX PRO 6000 Blackwell GPU 上，使用 Hugging Face Inference 运行自定义 Qwen 模型（Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-MTP-GGUF），达到每秒约 195 个 token 的处理速度。
@googlegemma：“代理内核优化是端侧推理的未来” @xenovacom 使用 Fable 5 编写内核，将……
Xenova 使用 Fable 5 编写优化内核，在 M4 上的 WebGPU 中为 Gemma 4 实现了每秒 255 个 token 的速度，展示了用于端侧推理的代理内核优化。
@TeksEdge: 已解决！Qwen3.6-27B-FP8 现已在 Intel Arc Pro B70 上运行！LocalMaxxing 展示了 4× Arc Pro B70 32GB 的有效运行，速度约 5…
Qwen3.6-27B-FP8 模型现已在 Intel Arc Pro B70 GPU 上运行，速度约 50 tok/s，并修复了 vLLM 的一个 bug，这标志着 Intel GPU 本地 AI 推理的一个重要里程碑。
@MiaAI_lab: Nvidia又做到了！@NVIDIAAI的Qwen 3.6 27B NVFP4比Unsloth的Qwen 3.6 27B NVFP4在D…上快了约41%
Nvidia优化后的Qwen 3.6 27B NVFP4模型在DGX Spark上相比Unsloth版本，单次推理速度快41%，并发推理速度快23-25%。