decode-tokens

标签

Cards List
#decode-tokens

极高的解码速度(tok/s)真的有用吗?

Reddit r/LocalLLaMA · 2天前

讨论:对于Qwen 3.5 397B或GLM-5.2等大模型,极高的解码速度(1k-10k tok/s)是否能解锁新的应用场景,还是更适合用来加载更大的模型。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈