branch-pruning

标签

Cards List
#branch-pruning

ParaTempo: 基于时间置信度的高效并行推理

Hugging Face Daily Papers · 2026-08-17 缓存

ParaTempo 是一个无需训练的异步并行推理框架,它使用时间置信度来动态管理推理分支,在数学和科学推理基准测试中降低延迟和token使用量,同时保持准确性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈