acceptance-length

标签

#acceptance-length

接受长度越高，文本越慢：Ling在单台Spark上的n=1/2/3 MTP测试

Reddit r/LocalLLaMA ↗ · 5天前

对Ling-3.0-flash的基准测试显示，在多令牌预测中，更高的接受长度会降低文本吞吐量，其中n=1是所评估工作负载中最高效的设置。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈