inference-kernels

标签

Cards List
#inference-kernels

@PyTorch: LightSeek (@lightseekorg) TokenSpeed 为 Thinking Machines Lab 的 Inkling 模型提供 Day-0 优化的 FP4 推理支持…

X AI KOLs Following · 2026-07-15 缓存

LightSeek 的 TokenSpeed 为 Thinking Machines Lab 的 Inkling 模型提供 Day-0 优化的 FP4 推理支持,支持 NVIDIA 和 AMD 加速器,基于 PyTorch 并与 vLLM 合作。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈