generation-speed

标签

Cards List
#generation-speed

哈佛大学和UIUC的研究人员发现第三个预训练轴:样本效率提升6.2倍,GenAI生成速度提升250倍

Reddit r/singularity · 2026-07-31

来自哈佛大学和UIUC的研究人员发现了第三个预训练轴,将样本效率提高了6.2倍,并将GenAI生成速度提高了250倍。

0 人收藏 0 人点赞
#generation-speed

在 V100 上使用 Qwen3.6 27B 实现每秒 1000 tokens 生成

Reddit r/LocalLLaMA · 2026-05-25

在 V100 GPU 上,使用 Qwen3.6 27B 模型,通过 128 个并发请求实现了每秒 1000 tokens 的生成速度,单用户下为 80 t/s。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈