async-copy

标签

#async-copy

又一次大型张量修复 b9820

Reddit r/LocalLLaMA ↗ · 2026-06-27

通过在 ggml 后端中减少分割计算期间的同步来提升性能，新增异步 CUDA 复制功能，并让同步放宽机制在多个后端中更通用。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈