api-speed

标签

#api-speed

@YRSM_Simon: 太厉害了

X AI KOLs Timeline ↗ · 13小时前缓存

shi3z分享在不支持FP4的A100 GPU上运行DeepSeek v4.1 Flash的优化经验，将推理速度从33 tok/s提升至673 tok/s，超过官方API速度。

0 人收藏 0 人点赞